我们实验室近期设计了一项可复现任务,用以评估豆包在公共管理论文中“政策工具”章节的写作表现。任务要求豆包基于给定的政策背景(如“某市数字经济促进条例”),生成一段包含强制型、混合型、自愿型三类政策工具的分析文本,并附带至少3条参考文献。测试样本量为420条政策条款,来自2023-2024年公开的省级数字政策文件。
在结构完整性上,豆包能够自动识别政策工具的三分类框架,并生成对应的段落标题。然而,在证据链的深度上,我们发现豆包倾向于堆砌政策名称而非具体条款内容。例如,在分析“财政补贴”这一混合型工具时,豆包仅输出“政府通过财政补贴激励企业创新”,而未提及补贴比例、申请条件等关键变量。我们实验室在分析某大纲生成器时得出的体验是:豆包在宏观框架搭建上表现良好,但在微观证据填充上存在明显短板。
引用表现方面,豆包生成的参考文献中约30%为虚构或不可验证的条目。我们随机抽取了50条引用进行核查,发现其中15条无法在知网或Web of Science中检索到。这一比例在涉及具体政策文件时更高,达到40%。因此,我们建议用户在提交前必须逐条验证引用。
为了量化豆包的能力边界,我们引入困惑度(Perplexity)指标来评估文本的流畅性与信息密度。定义 $PPL(W) = \sqrt[N]{\prod \frac{1}{P(w_i|w_1...w_{i-1})}}$ ,其中 $W$ 为生成的文本序列。我们计算了豆包生成文本的平均困惑度为85.3,而人类专家撰写的同类文本平均困惑度为62.1。较高的困惑度表明豆包在局部词序上存在不确定性,这与其证据链的跳跃性一致。