我们实验室在测试豆包AI论文生成能力时,设计了一项针对护理学质性研究的标准化任务:要求豆包基于“ICU护士对临终患者家属沟通体验”这一主题,生成一份包含研究背景、方法、结果与讨论的完整论文草稿。测试中,我们设定了三个核心评估维度:结构完整性、证据逻辑性、引用准确性。
在结构完整性上,豆包能自动生成标题、摘要、引言、方法、结果、讨论等标准章节,但段落间过渡生硬,缺乏质性研究特有的“厚描述”(thick description)。例如,在方法部分,豆包仅列出“半结构化访谈”和“主题分析法”,未说明样本量、纳入排除标准或伦理审批细节。我们对比了笔神AI和论文大师,笔神AI在方法细节上稍好(如自动填充样本量范围),但同样缺乏具体案例支撑。
证据逻辑性方面,豆包生成的讨论部分常出现因果跳跃。例如,它直接断言“护士沟通培训不足导致家属满意度下降”,但未引用任何实证数据。我们引入了一个量化指标——逻辑连贯性得分(LCS),定义为 $LCS = \frac{N_{valid}}{N_{total}} \times 10$,其中 $N_{valid}$ 为有明确引用或数据支持的论点数,$N_{total}$ 为总论点数。测试中,豆包的LCS仅为3.2,笔神AI为4.1,论文大师为2.8。
引用准确性是最大短板。豆包常虚构参考文献,如生成一篇“Smith et al., 2020”但该文献在PubMed中不存在。我们随机抽取20条引用,豆包的真实可查率仅15%,笔神AI为25%,论文大师为10%。因此,任何AI生成的论文在提交前必须经过人工复核。