我们实验室近期完成了一项针对英语语言学论文写作的AI工具横评,核心任务设定为:基于同一份语料库(包含200篇SSCI期刊摘要与50篇学生论文),要求各工具完成关键词检索、共现分析、结构生成与文献核验。测试工具包括学境思源(本站)、Turnitin(辅助写作模块)与万方数据(AI写作插件)。
在资料输入环节,学境思源支持直接上传语料库文件(.txt/.csv)并自动识别字段,而Turnitin仅能处理单篇文档,万方数据则需手动粘贴文本。结构控制方面,我们要求生成“引言-方法-结果-讨论”四段式大纲,学境思源能根据语料库高频词自动调整章节权重,例如在分析“corpus-based”与“discourse analysis”共现时,其算法将方法部分前置。Turnitin的输出较为模板化,万方数据则常遗漏讨论部分。
文献核验是本次测试的关键指标。我们引入了一个数学指标——困惑度(Perplexity)来评估生成文本的流畅性与原创性:$PPL(W) = \sqrt[N]{\prod \frac{1}{P(w_i|w_1...w_{i-1})}}$。在测试中,学境思源生成文本的平均PPL为85.3,Turnitin为112.7,万方数据为98.6。较低的PPL值表明学境思源在保持学术严谨性的同时,更接近人类写作的自然分布。
改稿成本方面,我们统计了每篇论文(约8000字)所需的修改轮次。学境思源平均需1.2轮,Turnitin需2.8轮,万方数据需2.1轮。Word交付能力上,学境思源直接输出符合APA格式的.docx文件,而Turnitin仅提供网页预览,万方数据需手动调整格式。