在计算机科学论文中,算法框架的写作通常涉及伪代码描述、复杂度分析、收敛性证明等结构化内容。我们实验室在测试豆包AI生成算法框架时,发现其对于经典算法(如快速排序、梯度下降)的伪代码生成准确率较高,但在处理变体算法(如带约束的随机梯度下降)时,常出现变量未定义或循环边界错误。例如,在一次测试中,我们要求豆包生成一个用于异构数据联邦学习的聚合算法框架,其输出的伪代码中出现了 $\theta_{t+1} = \theta_t - \eta \nabla f_i(\theta_t)$ 的更新公式,但未指定 $i$ 的采样分布,导致后续收敛性分析无法直接引用。
为了量化评估,我们设计了一个包含420个算法框架样本的测试集,涵盖排序、图遍历、优化算法三类。豆包在结构完整性(平均得分7.2/10)和证据引用(平均得分5.8/10)上表现不一。具体而言,在引用部分,豆包倾向于生成看似合理但实际不存在的参考文献,例如“Smith et al. (2020) proposed a variant of Adam optimizer”,经查证该文献并不存在。这提示用户在提交前必须进行严格的引用复核。
从能力边界看,豆包适合生成算法框架的初稿,尤其是标准化的描述性部分,但涉及创新性推导或特定领域约束时,需要人工干预。我们建议用户将豆包输出视为“草稿”,并利用后续的复核表进行系统性检查。