在学术写作辅助工具中,豆包(Doubao)因其便捷性受到关注。我们实验室近期设计了一项可复现的教学干预写作任务,要求豆包生成一篇关于“翻转课堂对大学生自主学习能力影响”的教育学论文大纲及部分正文。任务明确要求包含:问题提出、文献综述、研究假设、方法设计、预期结果与讨论、参考文献六个模块。我们使用统一的提示词模板,并控制输出长度在2000字左右。
测试发现,豆包在结构完整性上表现良好,能够自动生成各模块标题,并填充一定内容。然而,在证据链的连贯性上存在明显短板。例如,在文献综述部分,豆包引用了“Smith (2020)”和“李华 (2021)”等虚构文献,且未提供真实DOI或期刊信息。我们进一步用$PPL(W) = \sqrt[N]{\prod \frac{1}{P(w_i|w_1...w_{i-1})}}$计算其困惑度,发现豆包生成文本的困惑度平均为45.2,低于人类写作的60-80区间,表明其语言模式过于平滑,缺乏学术写作中常见的句式变化和逻辑转折。
此外,豆包在引用格式上存在不一致问题。例如,同一段落中同时出现APA和MLA格式的混合使用。我们随机抽取了20篇豆包生成的教学干预论文,发现其中15篇存在引用格式错误,12篇引用了不存在的期刊。这表明豆包在学术规范方面仍需人工严格复核。