我们实验室近期完成了一项针对豆包AI在化学论文催化机理写作中的能力评估。测试任务设定为:给定一个典型的催化反应体系——钯催化交叉偶联反应(Suzuki反应),要求豆包生成包含反应机理、过渡态结构、能垒计算以及文献引用的完整章节。我们选取了2023年发表的3篇高被引论文作为基准,对比豆包输出的结构完整性、证据链逻辑和引用准确性。
测试发现,豆包在生成催化循环的基本步骤(如氧化加成、转金属化、还原消除)时表现尚可,但在描述过渡态几何构型时出现了明显错误。例如,豆包将氧化加成步骤的过渡态描述为“四元环结构”,而实际文献中该过渡态为三元环结构(Pd-C-Br角为68°)。这一偏差源于豆包对立体化学信息的理解不足。此外,豆包引用的文献中有2篇为虚构DOI,1篇作者姓名拼写错误。我们使用$PPL(W) = \sqrt[N]{\prod \frac{1}{P(w_i|w_1...w_{i-1})}}$计算了豆包生成文本的困惑度,平均值为12.3,低于人类撰写论文的15.8,表明其语言模式过于平滑,缺乏学术论文特有的信息密度。
基于此,我们建议用户在提交前必须使用人工复核清单(见下文)逐项检查。豆包更适合作为初稿生成工具,而非最终输出。