我们实验室在测试豆包AI撰写天文学论文时,选取了星系演化这一细分领域。星系演化涉及恒星形成率、暗物质分布、反馈机制等复杂变量,对论文的结构严谨性和证据链完整性要求极高。我们设计了一个可复现任务:要求豆包基于给定数据集(包含420个星系样本的红移、恒星质量、金属丰度等参数)生成一篇关于星系恒星形成主序关系的论文。结果显示,豆包在结构组织上表现尚可,能自动生成摘要、引言、方法、结果和讨论等标准章节,但在证据引用和逻辑推理上存在明显短板。例如,在讨论恒星形成率与气体含量的关系时,豆包未能正确引用经典文献(如Kennicutt 1998),而是生成了虚构的引用。这提示我们,豆包更适合作为初稿生成工具,而非最终论文的独立撰写者。
我们进一步分析了豆包在数学公式处理上的能力。在星系演化中,恒星形成率密度与红移的关系常用公式 $\psi(z) = \psi_0 (1+z)^\beta$ 描述。豆包能正确输出该公式的LaTeX形式,但在解释参数物理意义时出现偏差,例如将$\beta$误述为与暗物质晕质量直接相关,而实际中$\beta$主要反映宇宙学演化效应。这种错误在学术论文中不可接受。因此,我们建议用户在使用豆包生成公式后,务必对照原始文献进行人工复核。