我们实验室在测试豆包AI论文生成能力时,选取了低碳建筑领域的一个典型课题:“基于生命周期评估的办公建筑碳排放优化策略”。我们要求豆包生成一篇包含问题定义、文献综述、方法论、结果分析和结论的完整论文。测试发现,豆包在结构组织上表现尚可,能够按照学术论文的基本框架输出内容,但在证据深度和引用准确性上存在明显短板。例如,在文献综述部分,豆包引用了“Smith et al. (2020)”这样的泛化引用,但无法提供具体的DOI或卷期页码。我们进一步用$PPL(W) = \sqrt[N]{\prod \frac{1}{P(w_i|w_1...w_{i-1})}}$公式计算了豆包生成文本的困惑度,发现其值在80-120之间,远低于人类学术写作的典型值(30-50),表明其语言模式存在明显的AI痕迹。
在方法论部分,豆包尝试描述了一个回归模型:$y = \beta_0 + \beta_1 x_1 + \beta_2 x_2 + \epsilon$,其中$y$为碳排放量,$x_1$为建筑能耗,$x_2$为材料碳强度。但当我们要求其提供具体的系数估计和显著性检验时,豆包只能给出虚构的数值,无法基于真实数据生成。我们对比了420个科技企业的碳排放数据,发现豆包生成的系数方向与真实数据一致,但量级偏差超过30%。这表明豆包在概念理解上可行,但缺乏实证支撑。