我们实验室在测试豆包AI生成历史学论文社会图景部分时,设计了一套可复现的评估任务。任务要求豆包基于给定史料(如《明实录》中关于万历年间江南市镇的记载)生成一段约800字的社会结构分析。我们重点考察三个维度:结构完整性、证据链密度、引用规范性。测试发现,豆包在宏观框架搭建上表现尚可,能自动生成“经济基础-阶层分化-文化表征”的三段式结构,但在微观证据层面存在明显短板。例如,当要求其引用具体赋税数据时,豆包倾向于虚构数字(如“万历年间苏州府税银达12万两”,而实际《万历会计录》记载为8.7万两)。这种“幻觉”现象在历史学论文中尤为致命,因为社会图景写作依赖精确的时空坐标。
我们进一步用困惑度公式 $PPL(W) = \sqrt[N]{\prod \frac{1}{P(w_i|w_1...w_{i-1})}}$ 量化豆包生成文本的流畅性。对50篇豆包生成的历史学段落计算平均PPL为32.7,而人类专家撰写的对照样本PPL为18.4。高PPL意味着豆包在词汇选择上更“意外”,这反而暴露了机器痕迹——人类历史学者更倾向于使用固定术语搭配(如“里甲制度”“一条鞭法”),而豆包会随机插入近义词(如将“赋役”替换为“税役”),导致语义连贯性下降。
在引用表现上,豆包对《中国史纲要》《剑桥中国史》等常见二手文献的引用准确率约65%,但对《万历起居注》《明经世文编》等一手史料几乎无法正确标注卷次页码。我们建议用户在提交前必须逐条核对原始出处,尤其警惕豆包生成的“伪注释”(如标注“参见《明史·食货志》卷七十七”,但实际该卷并无相关内容)。