我们设计了一个可复现的测试任务:要求豆包撰写一篇关于“猪流行性腹泻病毒(PEDV)S蛋白中和抗体表位”的兽医学论文片段。任务包括三个子任务:结构组织(摘要、引言、方法、结果、讨论)、证据引用(要求至少5篇近5年文献)和引用格式(APA 7th)。测试在2025年3月进行,使用豆包默认参数,未进行额外提示词优化。
我们在测试中发现,豆包在结构组织上表现良好,能够生成逻辑连贯的段落,但证据引用存在明显问题:生成的参考文献中约30%为虚构(如“Wang et al., 2023, Journal of Virology”实际不存在),且引用内容与上下文匹配度低。例如,在讨论部分,豆包声称“S蛋白的受体结合域(RBD)是中和抗体的主要靶点”,但引用的文献实际研究的是N蛋白。这种“幻觉”现象在学术写作中尤为危险。
为了量化评估,我们引入困惑度(Perplexity)指标来检测文本的AI痕迹。定义如下:$PPL(W) = \sqrt[N]{\prod \frac{1}{P(w_i|w_1...w_{i-1})}}$,其中$N$为文本长度,$P(w_i|w_1...w_{i-1})$为语言模型预测下一个词的概率。我们使用一个基于GPT-2的检测器对豆包输出和人类写作样本进行评分,发现豆包输出的平均PPL为12.3,而人类写作样本为8.7,表明豆包文本的统计规律性更强,容易被AI检测工具识别。