我们选取了一篇典型的中国文学论文文本细读任务作为评测基准。任务要求:输入一篇关于《红楼梦》中林黛玉形象分析的初稿(约3000字),输出一篇结构完整、语言自然、参考文献规范的终稿(约5000字)。我们设定了四个核心评测维度:资料输入效率(能否直接上传PDF/Word并自动提取关键信息)、结构控制能力(能否按“引言-文献综述-分析-结论”框架生成)、文献核验准确率(引用是否真实可查)、改稿成本(人工修改所需时间)以及Word交付格式(是否保留批注、目录、页眉页脚)。
我们实验室在分析某大纲生成器时得出的体验是:多数工具在“资料输入”环节表现尚可,但一旦涉及中国文学特有的典故、诗词引用,错误率急剧上升。例如,某工具将“葬花吟”中的“花谢花飞花满天”误译为现代白话,导致后续分析完全偏离原意。这提示我们,针对中国文学论文的AI工具必须经过专门的语料微调。
为了量化评估,我们引入困惑度(Perplexity)作为语言自然度的指标。困惑度定义为 $PPL(W) = \sqrt[N]{\prod \frac{1}{P(w_i|w_1...w_{i-1})}}$,其中 $N$ 为词序列长度,$P(w_i|w_1...w_{i-1})$ 为条件概率。较低的困惑度通常意味着文本更流畅、更接近人类写作。我们计算了各工具输出文本的困惑度,并结合人工评分进行综合判断。