我们实验室近期设计了一套可复现的史料考证任务,用以评估豆包在历史学论文写作中的结构、证据和引用表现。测试样本包含420份来自明清经济史领域的原始文献片段,要求豆包完成三项子任务:史料真伪鉴别、关键信息提取、以及参考文献格式生成。结果显示,豆包在结构完整性上得分较高(平均8.2/10),但在证据链的严谨性上存在明显短板——约34%的生成内容包含逻辑跳跃或未经核实的推论。例如,在分析《清实录》中一条关于赋税改革的记载时,豆包直接引用了二手研究中的结论,而未标注原始出处,这在高水平学术写作中是致命缺陷。
我们进一步用困惑度公式 $PPL(W) = \sqrt[N]{\prod \frac{1}{P(w_i|w_1...w_{i-1})}}$ 量化豆包生成文本的流畅性。实测发现,豆包在长段落中的困惑度波动较大(标准差达12.3),表明其局部连贯性不足。相比之下,经过人工润色的段落困惑度稳定在5.8左右。这一差异提示:豆包更适合作为初稿生成工具,而非最终输出。