110万首诗揭示:LLM竟是“懒惰诗人”,词汇韵脚严重闲置!
Language Models are Lazy Poets: Creative Mode Collapse at Scale
arXiv CL (cs.CL) 重要 #创意生成#模式坍缩#评测基准 🕐 今天 12:00

📖 AI 总结

该研究针对大语言模型在创意写作中的“模式坍缩”问题,以诗歌为切入点进行了迄今规模最大的实证调查。作者覆盖15种诗歌形式、248个主题标签和16个开源模型,生成超过110万首诗,构建了目前最大的LLM生成诗歌语料库。核心发现是:LLM在词汇量和押韵能力上储备充足,但实际使用严重不足,过度依赖少量词汇、开头短语和韵脚,呈现出“懒惰诗人”的特征。研究还发现,词汇同质化程度因模型和诗歌形式而异,且可观察到的押韵词汇与模型规模存在相关性。该工作填补了特定文本体裁下大规模模式坍缩调查的空白,为理解LLM创造力的同质化倾向提供了量化依据。

🔑 关键词速览

模式崩溃 (Mode Collapse)指生成模型输出多样性不足、反复产生相似结果的现象。
大型语言模型 (LLM)基于海量文本训练、具备强大语言生成能力的深度学习模型。
开放权重模型 (Open-weight Model)模型参数公开可下载、允许本地部署和研究的预训练模型。
词汇同质化 (Lexical Homogenization)不同生成文本在词汇选择上趋于一致、缺乏多样性的现象。
诗歌形式 (Poetic Form)诗歌的结构体裁,如十四行诗、俳句等具有特定格律和韵式的类型。
infoAI 公众号二维码

📱 每天一份 AI 前沿日报

关注公众号,每天 09:00 推送 · 不错过任何重磅