我们实验室在测试豆包AI处理法学论文司法案例写作任务时,设计了一套可复现的评估流程。以2024年某省高院发布的30个典型合同纠纷案例为样本,要求豆包生成一篇包含案例摘要、争议焦点归纳、法律适用分析和判决结果评述的短文。结果显示,豆包在结构完整性上得分较高,但证据引用和逻辑推理存在明显短板。例如,在分析“违约金调整”问题时,豆包引用了《民法典》第585条,但未区分“实际损失”与“预期利益”的司法实践差异,导致结论偏向形式化。我们进一步用困惑度公式 $PPL(W) = \sqrt[N]{\prod \frac{1}{P(w_i|w_1...w_{i-1})}}$ 评估其语言流畅性,发现豆包在专业术语衔接处的困惑度比人类作者高约23%,表明其深层语义连贯性不足。
在引用可信度方面,豆包倾向于生成看似合理但实际不存在的文献。我们随机抽查了10篇豆包生成的法学论文参考文献,发现其中3篇的期刊名称、作者或卷期信息存在虚构。例如,一篇标注为《法学研究》2023年第2期的文章,实际该期并未收录该主题论文。这种“幻觉”现象在司法案例写作中尤为危险,因为案例编号、判决日期等细节错误可能误导研究结论。因此,我们建议用户将豆包定位为“初稿生成器”,而非最终答案提供者。