我们实验室在测试豆包处理金融学实证分析任务时,发现其核心能力集中在结构化文本生成与基础统计描述上。例如,给定一个研究问题“企业杠杆率对股价波动的影响”,豆包能快速输出包含OLS回归、异方差检验等标准步骤的框架。但当我们要求其复现一篇具体论文(如Fama-French三因子模型在中国市场的适用性)时,豆包生成的引用常出现虚构DOI或混淆作者姓名。在一次测试中,它引用了“J. Finance, 2023, 78(2): 1-30”,但该卷期实际对应的是另一主题。这表明豆包在文献引用可信度上存在显著短板。
从能力边界看,豆包适合生成实证分析的“骨架”——即结构完整的段落,但无法保证证据链的严谨性。例如,在分析420家科技企业2018-2022年面板数据时,豆包自动选择了固定效应模型,却未检验Hausman统计量是否显著($H = (\hat{\beta}_{FE} - \hat{\beta}_{RE})' [Var(\hat{\beta}_{FE}) - Var(\hat{\beta}_{RE})]^{-1} (\hat{\beta}_{FE} - \hat{\beta}_{RE})$)。我们手动复核发现,该数据集的Hausman检验p值为0.23,应使用随机效应模型。这一案例说明,豆包在计量方法选择上缺乏自适应判断。