我们实验室在分析豆包AI生成地缘政治论文时,设计了一套可复现的测试任务。任务包括:撰写一篇关于“南海地缘战略”的3000字论文,要求包含至少5个学术引用、一个理论框架(如现实主义或地缘政治学)以及一个案例比较。我们选取了20个样本,由三位政治学博士独立评分(1-10分),评估结构完整性、证据相关性和引用准确性。
结果显示,豆包在结构完整性上平均得分7.2,但证据相关性仅为5.8。具体而言,豆包能生成清晰的引言、文献综述和结论,但引用来源多为维基百科或非学术网站,且存在虚构引用(如“Smith, 2020”实际不存在)。在理论应用上,豆包倾向于堆砌术语而非深入分析。例如,在解释“马汉的海权论”时,它直接复制了百度百科的定义,未结合南海具体案例。
我们进一步测试了豆包对复杂地缘政治变量的处理能力。给定一个假设模型:$y = \beta_0 + \beta_1 x_1 + \beta_2 x_2 + \epsilon$,其中$y$为冲突强度,$x_1$为资源稀缺度,$x_2$为联盟数量。豆包无法正确解释回归系数,甚至将$\epsilon$误写为“误差项”但未说明其统计意义。这表明豆包在定量分析上存在明显短板。
一个具体案例是:我们要求豆包分析“北极航道的地缘政治影响”,它引用了“2023年北极理事会报告”,但该报告实际发布于2021年,且内容被断章取义。这种错误在学术写作中不可接受。