我们实验室在2024年秋季对豆包AI进行了三轮民间音乐论文写作任务测试,样本量为120篇生成文本。测试变量包括:提示词结构(开放式 vs. 结构化)、参考文献来源(中文知网 vs. 英文JSTOR)、以及音乐术语密度(每千字术语数)。结果显示,豆包在结构完整性上得分较高(平均8.2/10),但在证据深度和引用准确性上存在显著波动。例如,当提示词要求引用《中国民间音乐集成》时,豆包有34%的概率虚构卷册编号。这一现象与$PPL(W) = \sqrt[N]{\prod \frac{1}{P(w_i|w_1...w_{i-1})}}$所描述的困惑度原理相关:低困惑度生成倾向于重复高频模式,导致细节虚构。
具体案例:我们要求豆包撰写一段关于“侗族大歌复调特征”的论述,并指定引用杨晓的《侗族大歌研究》。豆包生成了结构合理的段落,但将杨晓的出版年份从2003年误写为2013年,且引用的页码(p.78)实际对应的是另一章节。这表明豆包在引用记忆上存在“时间偏移”和“位置混淆”两类错误。我们在测试中发现,通过增加提示词中的引用格式约束(如“请使用APA第7版格式,并确保页码与原文一致”),可将引用准确率从62%提升至79%。