我们实验室近期组织了一次针对豆包(Doubao)在图书情报领域数据治理论文写作中的能力测试。测试样本为42篇已发表的中文核心期刊论文摘要与数据治理章节,要求豆包基于给定标题和关键词生成完整段落。结果显示,豆包在结构完整性上表现尚可,但在证据链深度和引用准确性上存在明显短板。例如,在生成“数据清洗对图书馆元数据质量的影响”段落时,豆包引用了“Smith et al. (2020)”这一虚构文献,且未能区分不同清洗策略的适用场景。我们在测试中发现,豆包对中文专业术语的把握优于英文,但遇到“数据血缘”“元数据管理”等复合概念时,容易产生语义漂移。总体而言,豆包适合作为初稿生成工具,但距离直接用于学术发表仍有较大差距。
为了量化豆包的表现,我们引入困惑度(Perplexity)指标来评估生成文本的流畅性与信息密度。对于一段长度为N的文本W,其困惑度定义为 $PPL(W) = \sqrt[N]{\prod_{i=1}^{N} \frac{1}{P(w_i|w_1...w_{i-1})}}$。我们计算了豆包生成文本的平均困惑度为85.3,而人类专家撰写的对照文本平均困惑度为42.1。较高的困惑度表明豆包在局部词序选择上不够自然,存在冗余或跳跃。这一发现与我们在其他AI写作工具上的测试结果一致:当前主流大模型在长文本逻辑连贯性上仍有提升空间。