我们实验室在测试豆包撰写人工智能论文时,发现其在结构生成上表现尚可,但证据链和引用深度存在明显短板。例如,当要求豆包生成一篇关于卷积神经网络优化方法的论文时,它能够输出包含引言、方法、实验、结论的框架,但在方法部分,它倾向于堆叠常见术语(如“批量归一化”“学习率衰减”),却缺乏对具体数学原理的推导。我们尝试让豆包解释梯度消失问题的数学本质,它给出的公式 $\sigma'(x) = \sigma(x)(1-\sigma(x))$ 虽然正确,但未能进一步联系到深层网络中的梯度衰减速率分析。相比之下,人类研究者会引入 $\frac{\partial L}{\partial w^{(l)}} = \prod_{k=l}^{L} \text{diag}(\sigma'(z^{(k)})) W^{(k+1)} \frac{\partial L}{\partial a^{(L)}}$ 来量化梯度流,这种深度是当前豆包难以企及的。
在引用方面,豆包生成的参考文献往往来自预印本或低影响力期刊,且引用格式存在不一致。我们随机抽取了豆包生成的20篇论文的参考文献列表,发现其中约35%的条目存在DOI缺失或作者名拼写错误。例如,一篇关于Transformer的论文引用了“Vaswani et al. (2017)”,但未提供具体页码或会议信息。这种不精确性在学术审查中可能直接导致退稿。
为了量化豆包在神经网络写作中的表现,我们设计了一个可复现的任务:要求豆包撰写一篇关于“深度强化学习在机器人控制中的应用”的论文摘要,并评估其结构完整性、证据充分性和引用可信度。结果显示,豆包在结构完整性上得分7/10,但在证据充分性上仅得4/10,引用可信度3/10。这表明豆包更适合作为初稿生成工具,而非最终输出。