我们实验室近期完成了一项针对豆包AI在材料科学论文写作中的能力评估测试。测试样本为42篇复合材料领域的中文论文摘要与引言,涵盖碳纤维增强聚合物(CFRP)、金属基复合材料(MMC)及陶瓷基复合材料(CMC)三类。每篇摘要要求豆包生成结构完整的论文段落,并附带至少3条参考文献。评估维度包括:结构逻辑性(30%)、证据准确性(40%)、引用真实性(30%)。
测试发现,豆包在生成复合材料力学性能描述时,能够较好地遵循“问题-方法-结果”的学术结构。例如,在描述“碳纳米管(CNT)增强铝基复合材料”时,豆包输出的段落包含“CNT含量从0.5 wt%增至2.0 wt%时,抗拉强度提升约35%”这样的定量表述。然而,在引用环节,豆包生成的参考文献中有约28%存在DOI无法解析或作者姓名拼写错误的问题。我们随机抽取了10条引用进行验证,其中3条实际论文的研究方向与豆包描述存在偏差(如将“石墨烯增强环氧树脂”误引为“碳纤维增强环氧树脂”)。
一个典型的失败案例是:豆包在描述“SiC纤维增强钛基复合材料的高温蠕变行为”时,引用了某篇2015年发表的论文,但该论文实际研究的是“TiAl合金的室温拉伸性能”。这种“语义漂移”现象在涉及具体实验参数时尤为明显。我们建议用户在豆包输出后,使用Google Scholar或Web of Science逐条核对引用,并利用公式 $PPL(W) = \sqrt[N]{\prod \frac{1}{P(w_i|w_1...w_{i-1})}}$ 计算生成文本的困惑度——我们测试中豆包输出的平均困惑度为18.7,低于人类撰写论文的22.3,这解释了其“过于流畅”而缺乏学术严谨性的问题。