我们实验室近期对豆包(Doubao)在英语语言学论文语料库检索写作任务中的表现进行了系统评估。测试采用可复现的提示词模板,要求豆包完成三项子任务:从COCA语料库提取搭配数据、生成文献综述段落、以及格式化APA引用。结果显示,豆包在结构完整性上表现尚可(平均得分7.2/10),但在证据准确性和引用可靠性上存在明显短板。例如,在要求检索“discourse marker”在学术语篇中的频率分布时,豆包给出的数值与实际COCA数据偏差超过30%。我们在测试中发现,豆包倾向于生成看似合理但未经核实的统计数字,这在高风险学术写作中尤为危险。
为了量化这种偏差,我们引入困惑度(perplexity)作为语言模型输出可靠性的代理指标。定义 $PPL(W) = \sqrt[N]{\prod \frac{1}{P(w_i|w_1...w_{i-1})}}$,其中 $W$ 为生成文本序列。在50次重复实验中,豆包生成语料库描述段落的平均困惑度为28.4,而人类专家撰写的参考段落平均困惑度为15.2。高困惑度意味着模型在词汇选择上更不稳定,容易产生事实性错误。这一发现与我们在分析某大纲生成器时得出的体验一致:AI工具在需要精确数字和具体引用的场景下,其输出必须经过人工复核。