我们设计了一项可复现的流行病调查写作任务,测试豆包在结构、证据和引用三个维度的表现。任务要求生成一篇关于“某市2023年流感暴发流行病学调查”的论文摘要,包含研究背景、方法、结果和结论。我们使用同一提示词重复生成10次,并评估其一致性。
在结构方面,豆包能稳定输出IMRaD格式,但方法部分常缺失关键细节(如样本量计算、统计方法)。例如,在10次生成中,仅3次提及“采用多阶段随机抽样”,其余7次仅写“随机抽样”。证据层面,豆包倾向于使用模糊表述(如“研究表明”),而非具体数据。我们要求其提供发病率数据,但生成结果中仅2次包含具体数字(如“发病率12.3%”),其余为“较高”等定性词。
引用表现最弱。豆包生成的参考文献中,约60%为虚构或无法验证。例如,一篇生成结果引用“Smith J, et al. Influenza surveillance in urban China. Lancet. 2020”,但该文献在PubMed中不存在。我们实验室在分析某大纲生成器时得出的体验是:AI工具在引用真实性上普遍存在短板,豆包也不例外。
为量化评估,我们引入困惑度公式:$PPL(W) = \sqrt[N]{\prod \frac{1}{P(w_i|w_1...w_{i-1})}}$。在测试中,豆包生成文本的困惑度平均为45.2,低于人类撰写的58.7,表明其语言模式更可预测,但也更缺乏学术多样性。