我们实验室近期对豆包AI在图书情报论文知识图谱写作任务中的表现进行了系统性测试。测试样本包含420篇图书情报领域论文摘要及对应的知识图谱构建需求,覆盖结构生成、证据引用和格式规范性三个维度。结果显示,豆包在基础结构生成上表现尚可,但在深层逻辑连贯性和引用可信度上存在明显短板。例如,在要求生成“基于共词分析的学科知识图谱”段落时,豆包输出的内容往往缺乏对核心变量(如共词频率阈值、聚类系数)的明确界定,导致可复现性不足。
我们引入困惑度公式 $PPL(W) = \sqrt[N]{\prod \frac{1}{P(w_i|w_1...w_{i-1})}}$ 来评估豆包生成文本的流畅性。测试发现,豆包生成文本的困惑度平均比人工撰写文本低15%,但代价是词汇多样性下降,且频繁出现“综上所述”等过渡词,这在高权威性学术场景中可能触发AI检测。因此,我们建议用户在提交前使用人工复核清单进行逐项检查。