我们实验室在测试豆包AI撰写统计学论文时,设计了一个可复现的贝叶斯推断任务:给定一组来自某科技企业研发投入与专利产出关系的样本(n=420),要求模型完成从先验设定到后验推断的完整写作。任务包括:描述先验分布选择(如$\beta_0 \sim N(0, 10^2)$)、计算后验均值与95%可信区间、撰写结果解释段落,并引用至少3篇相关文献。
实测发现,豆包在结构组织上表现尚可——能自动生成“引言-方法-结果-讨论”框架,但存在三个典型短板:第一,先验设定部分常出现逻辑跳跃,例如直接使用无信息先验却未说明理由;第二,后验推断的数值结果与文字解释脱节,比如报告了$\beta_1$的后验均值为0.32,但讨论中却写成“影响不显著”;第三,引用文献多为虚构或拼凑,如将Gelman (2013)的《贝叶斯数据分析》误引为2015年出版。这些缺陷在统计学论文中属于致命伤。
我们进一步用困惑度公式$PPL(W) = \sqrt[N]{\prod \frac{1}{P(w_i|w_1...w_{i-1})}}$ 评估豆包生成文本的语言流畅性,发现其PPL值在50-80之间,低于人类专家(约30-50),说明其文本存在模式化痕迹。因此,豆包更适合作为初稿生成工具,而非直接可提交的论文撰写者。