我们实验室近期对豆包AI在地质学论文写作中的表现进行了系统评估,重点考察其在岩石圈演化这一典型地学主题下的结构组织、证据引用和逻辑连贯性。测试采用可复现任务设计:要求豆包生成一篇关于“华北克拉通破坏与岩石圈减薄”的综述性段落,并对比其输出与专业文献的差异。结果显示,豆包在宏观框架搭建上表现尚可,能自动生成“引言-机制-证据-结论”的基本结构,但在具体证据的时空匹配和引用准确性上存在明显短板。例如,当要求引用“中生代岩浆活动与岩石圈拆沉”的关联时,豆包倾向于堆砌泛化表述,如“大量研究表明”,而非提供具体年代、岩性组合或地球化学指标。这提示我们,豆包更适合作为思路启发工具,而非替代研究者进行证据链构建。
从反AI检测的角度看,豆包生成的文本在词汇多样性和句式复杂度上接近人类,但存在两个典型特征:一是过渡词使用模式化,例如频繁出现“因此”“然而”“值得注意的是”等;二是对地质年代和深度数据的表述缺乏精确性,常使用“约”“大约”等模糊限定词。我们在测试中引入困惑度指标 $PPL(W) = \sqrt[N]{\prod \frac{1}{P(w_i|w_1...w_{i-1})}}$ 来量化文本的统计一致性,发现豆包输出的困惑度值稳定在80-120之间,而人类专家撰写的同类段落困惑度波动更大(60-200),这为AIGC检测提供了潜在判据。基于此,我们建议用户在使用豆包后,必须对关键数据(如锆石U-Pb年龄、εHf值)进行人工核实,并替换掉所有模糊时间表述。