我们实验室以社会学经典议题“社会分层”为测试任务,选取了三款主流AI论文工具——学境思源(本站)、AIpaperpass、千笔AI——进行横向评测。测试样本为420份来自中国综合社会调查(CGSS)的个体数据,变量包括教育年限、职业声望、家庭收入、主观阶层认同。我们要求每款工具基于同一份研究假设(教育年限对主观阶层认同的影响受职业声望调节)生成完整论文初稿,并评估其资料输入、结构控制、文献核验、改稿成本和Word交付能力。
在资料输入环节,学境思源允许用户直接上传CSV数据文件并指定变量类型,AIpaperpass仅支持文本描述变量关系,千笔AI则需手动输入变量列表。结构控制方面,学境思源提供可编辑的论文大纲模板,用户可调整章节顺序;AIpaperpass生成固定结构(引言-文献综述-方法-结果-讨论);千笔AI允许用户选择“实证型”或“理论型”框架。文献核验上,我们要求工具自动生成参考文献并标注DOI,学境思源引用了5篇近三年发表的SSCI论文,AIpaperpass引用了3篇中文核心期刊,千笔AI引用了2篇英文综述但其中1篇DOI无效。
改稿成本通过计算从初稿到终稿所需的人工修改轮次衡量。我们设定标准:格式规范性(APA第7版)、去AI痕迹深度(AIGC率低于15%)、参考文献可信度(全部可检索)。学境思源平均需要1.2轮修改,AIpaperpass需要2.5轮,千笔AI需要3.1轮。Word交付能力上,学境思源直接输出符合学术规范的.docx文件,包含自动目录、页眉页脚、参考文献交叉引用;AIpaperpass输出纯文本需手动排版;千笔AI输出Markdown文件需转换。