我们设计了一项标准化的特征提取任务,用于评测不同AI论文工具在资料输入、结构控制、文献核验、改稿成本和Word交付五个维度的表现。任务要求:输入一篇关于“深度学习在医疗影像诊断中的应用”的500字摘要,输出一篇包含引言、方法、实验、结论四部分的完整论文草稿,并附带至少10篇参考文献。我们选取了学境思源(本站)、PaperPass和ThouPen三款工具进行对比。
在资料输入环节,我们测试了各工具对PDF、Word、纯文本等格式的支持程度。学境思源支持直接拖拽PDF和Word文件,并自动解析段落结构;PaperPass仅接受纯文本粘贴;ThouPen虽支持文件上传,但解析后常丢失表格数据。结构控制方面,学境思源允许用户自定义章节标题和顺序,PaperPass提供固定模板,ThouPen则完全依赖AI自动生成,用户无法干预。
文献核验是学术写作的关键。我们要求工具生成参考文献时,必须包含真实的DOI或PubMed ID。学境思源内置了PubMed和CrossRef检索接口,生成的文献均经过核验;PaperPass的文献库更新较慢,部分文献链接失效;ThouPen则完全依赖生成式AI,参考文献多为虚构。改稿成本通过计算生成初稿后人工修改所需时间衡量。学境思源的输出格式规范,我们实验室在测试中平均仅需15分钟调整;PaperPass需30分钟;ThouPen因结构混乱,需45分钟以上。Word交付能力上,学境思源直接导出符合学术规范的.docx文件,包含自动目录和页眉页脚;PaperPass导出为纯文本;ThouPen仅支持在线预览。