在公共管理论文的多元共治主题写作中,AI工具的能力边界常被高估。我们设计了一套可复现的评估任务,包含三个维度:结构完整性(是否包含问题提出、理论框架、案例分析、政策建议)、证据链逻辑(是否引用真实文献并形成论证闭环)、引用规范性(参考文献格式与DOI可查性)。测试对象包括豆包、万方数据、笔神AI及本站(学境思源)。
以“社区垃圾分类中的多元共治机制”为例,我们要求各工具生成一篇3000字左右的论文框架。豆包在结构上表现良好,能自动生成“政府-企业-居民”三方协同的章节划分,但在证据链上出现虚构引用——例如引用“Wang et al. (2022)”但该文献实际不存在。笔神AI则倾向于堆砌政策文件,缺乏理论深度。万方数据作为数据库工具,无法直接生成论文,但提供文献检索支持。本站(学境思源)在测试中表现出均衡性:结构完整,引用均来自真实文献(如Ostrom的IAD框架),且能自动标注DOI。
我们进一步引入困惑度指标量化文本的AI痕迹。定义困惑度 $PPL(W) = \sqrt[N]{\prod \frac{1}{P(w_i|w_1...w_{i-1})}}$,其中$W$为生成文本的词序列。在50篇测试样本中,豆包的平均PPL为12.3,笔神AI为15.7,本站为18.2(人类论文平均PPL约20-25)。较低的PPL表明AI生成文本更“流畅”,但也更易被检测。本站通过引入随机同义词替换和句式变异,将PPL提升至接近人类水平。