我们实验室在测试豆包(Doubao)生成天文学论文时,选取了引力波探测这一细分方向。任务要求:撰写一篇关于LIGO首次探测到GW150914的论文摘要,包含信号特征、置信度及后续科学意义。豆包输出的结构基本完整,但存在两个典型问题:一是对引力波波形$h(t) = \frac{4G}{c^4 d_L} \ddot{Q}_{ij}$中的四极矩公式引用错误,将$\ddot{Q}_{ij}$写成了$Q_{ij}$;二是参考文献中混入了arXiv上不存在的预印本编号。这表明豆包在公式细节和引用验证上存在明显短板。
我们在测试中发现,豆包对标准论文框架(IMRaD)的遵循度较高,但证据链的严谨性不足。例如,在描述信噪比时,豆包直接给出“信噪比约为24”而未说明计算依据。相比之下,人类研究者会明确写出$\rho = \sqrt{4 \int_0^\infty \frac{|\tilde{h}(f)|^2}{S_n(f)} df}$并引用具体文献。因此,豆包更适合作为初稿生成工具,而非最终输出。