我们实验室在测试豆包AI撰写社会学论文时,选取了“老龄化挑战”这一典型议题。任务要求包括:构建理论框架(如社会分层与健康不平等)、引用至少5篇近5年核心期刊文献、提供实证数据(如某市社区养老调查)。豆包在结构生成上表现尚可,能自动输出摘要、引言、文献综述、方法、结果、讨论等章节。但在深度上,我们发现其文献引用存在虚构风险——例如,它曾生成一篇“Wang et al. (2022) 关于中国农村空巢老人抑郁倾向”的文献,经查证该文献并不存在。这提示我们:豆包适合作为大纲生成器,但不可替代人工文献检索。
在证据呈现方面,豆包倾向于使用模糊表述(如“许多研究表明”),而非具体统计量。我们要求它分析某省420份社区养老问卷数据,它仅给出“满意度中等”的结论,未能计算卡方值或回归系数。相比之下,我们实验室在分析某大纲生成器时得出的体验是:若输入结构化数据(如CSV表格),豆包能生成描述性统计,但无法执行假设检验。因此,我们建议用户将豆包输出视为草稿,需人工补充统计模型,例如:$y = \beta_0 + \beta_1 \text{age} + \beta_2 \text{income} + \epsilon$。