在软件工程论文中,架构模式写作要求作者清晰描述系统结构、论证设计决策并提供可复现的证据链。我们以豆包AI为测试对象,设计了一项可复现任务:要求其生成一篇关于微服务架构模式的短文,包含结构图描述、性能对比数据和引用文献。测试发现,豆包在结构描述上表现尚可,能输出标准的模式定义和组件关系,但在证据和引用环节出现明显短板。例如,其生成的性能数据声称来自某篇2023年论文,但实际检索发现该论文并不存在。这提示我们,豆包在事实性内容上存在幻觉风险,尤其当任务涉及具体数值或文献时。
我们实验室在分析某大纲生成器时得出的体验是:豆包对架构模式的抽象描述(如事件驱动架构的优缺点)较为流畅,但一旦要求提供具体案例或数据支撑,其输出质量急剧下降。例如,在要求其分析420家科技企业的微服务迁移案例时,豆包仅能给出泛化的结论,无法提供变量控制或统计显著性检验。这表明,豆包更适合作为思路启发工具,而非直接生成可发表的学术内容。
为了量化评估,我们引入困惑度公式 $PPL(W) = \sqrt[N]{\prod \frac{1}{P(w_i|w_1...w_{i-1})}}$ 来度量豆包生成文本的流畅性。在架构模式任务中,豆包输出的困惑度较低(约15-20),说明其语言连贯性较好,但低困惑度并不等同于学术严谨性。事实上,低困惑度可能意味着模型倾向于使用高频词汇和常见句式,从而掩盖了论证的薄弱环节。