我们以传播学课程中常见的“媒介融合”论文任务为基准,要求各AI工具完成从资料输入、结构控制、文献核验到最终Word交付的全流程。任务主题为“县级融媒体中心的内容生产创新路径”,字数要求3000字,参考文献不少于10篇,且需包含至少一个实证案例。我们实验室在分析某大纲生成器时得出的体验是:多数工具在结构生成阶段表现尚可,但在文献真实性和去AI痕迹深度上差异显著。
为量化评估,我们构建了五维评分体系:格式规范性(10分)、去AI痕迹深度(10分)、参考文献可信度(10分)、改稿成本(10分,越低分越高)、交付完整性(10分)。其中,去AI痕迹深度通过人工盲审和PPL(困惑度)指标双重验证。困惑度定义为 $PPL(W) = \sqrt[N]{\prod \frac{1}{P(w_i|w_1...w_{i-1})}}$,值越低说明文本越自然。