我们实验室近期设计了一项可复现任务,用以评估豆包在机械工程动力学仿真论文写作中的表现。任务要求豆包基于一个给定的多体动力学模型(例如,一个四连杆机构的运动学与动力学分析),生成包含问题陈述、方法、结果与讨论的完整章节。我们特别关注三个维度:结构完整性、证据支撑与引用可信度。
在结构方面,豆包能够自动生成符合学术规范的章节框架,包括摘要、引言、模型描述、仿真设置、结果分析与结论。然而,在证据支撑上,我们发现豆包倾向于使用泛化的描述而非具体数据。例如,在描述仿真结果时,它可能写出“仿真结果显示机构运动平稳”,但缺乏具体的角速度曲线或关节反力数值。我们要求豆包补充具体数值,它能够生成类似“在输入转速为100 rpm时,连杆角速度波动范围为±5 rad/s”的语句,但需要人工提示。
引用可信度是另一个关键问题。豆包生成的参考文献列表常包含虚构条目或过时的文献。例如,在一次测试中,它引用了“Smith, J. (2020). Dynamics of Multibody Systems. Springer”,但经查证,该文献并不存在。我们建议用户在使用豆包生成引用后,务必通过Google Scholar或Scopus进行验证。
为了量化评估,我们引入困惑度(Perplexity)作为文本流畅性的指标。对于豆包生成的文本,我们计算其困惑度:$PPL(W) = \sqrt[N]{\prod \frac{1}{P(w_i|w_1...w_{i-1})}}$,其中$N$为词数,$P(w_i|w_1...w_{i-1})$为条件概率。测试结果显示,豆包文本的困惑度约为15.2,低于人类专家文本的18.7,表明其流畅性较高但可能缺乏多样性。