我们实验室在测试豆包处理英语语言学论文时,设计了一个可复现的语义指向任务。任务要求模型分析一个包含歧义结构的句子,例如“The man saw the woman with a telescope”,并判断介词短语“with a telescope”是修饰“saw”还是“the woman”。我们使用了420个类似样本,涵盖结构歧义、指代消解和量化域三种类型。豆包在结构歧义任务上的准确率为78.3%,但在指代消解任务上降至62.1%,尤其在处理长距离依赖时表现不稳定。例如,句子“John told Bill that he should leave”中,豆包倾向于将“he”指代为主句主语John,但实际语料中Bill作为先行词的比例达34%。这表明豆包在语义指向的精细推理上存在边界,需要人工复核。
我们进一步测试了豆包生成论文中语义指向分析段落的能力。给定一个包含量化歧义的句子“Every student read a book”,豆包生成的解释往往遗漏了“a book”的窄域解读(即每个学生读不同的书),而只强调宽域解读。在引用文献方面,豆包会虚构参考文献,例如它引用了一篇不存在的论文“Smith, J. (2020). Quantifier scope in English. Journal of Linguistics, 56(2), 123-145.”。这提醒我们,在提交前必须核对所有引用。