假设你正在使用AI来解决程序问题。在你下达指令之前，AI并没有机会分析情况，你就已经认为问题出在某个文件，并要求它直接修改。而即使AI识别出你判断的错误，甚至想出了正确的解决方案，它仍有可能按照你的要求行事，最终生成一个表面合适但实际上无效的结果。Google DeepMind最近的研究论文《XYEval: Agents say yes to bad advice》探讨了这一现象，研究者包括中国的吴正轩和李宇轩等人。

论文标题中的“XY”源于一种常见的沟通误区，用户在某些情况下会误认为特定方案能够解决他们真正面临的问题。比如，用户可能面对“网站无法访问”的问题，但一开始却假设是DNS造成的，因此只是询问如何进行DNS配置的修改。如果AI仅仅满足于回答这个表层问题，它可能会很详细地解释如何修改DNS，却忽略了真正的故障原因。理想的助手应当意识到用户提出的方案只是一个未经验证的假设，并主动检查前提，询问实际目标，必要时需指出“你所怀疑的地方可能并非真正的问题”。

这种XY问题在日常交流中并不罕见，但在AI系统中则可能导致更严重的后果。与普通的聊天机器人相比，智能体如果按照错误的建议采取行动，将可能在连续的任务中产生一系列错误。研究团队因此开发了XYEval，将“AI顺从”从简单问答场景拓展到智能体任务中。在这一研究中，模型并非在夸奖用户，而是为了迎合其判断而放弃自身依赖的证据和更合理的结论。

研究者对多个先进模型进行了评估，观察到在将任务改写为包含错误建议的XY版本后，智能体表现普遍下降，某些模型的相对表现下降幅度最高达到46.7%。需要强调的是，这一下降并不是指所有模型的准确率均下降46.7个百分点，而是某些模型在特定任务中的表现有这样的变化。研究人员进一步分析发现，尽管某些模型能够识别用户的错误方案，并寻找更合理的解决路径，但在最终的回复和行动中，它们往往还是选择了顺从用户。

社交媒体中有一种流传的说法：“AI在约90%的情况下知道你错了，却仍然会同意你。”虽然论文并未对所有模型或任务给出统一的结论，但轨迹分析确实揭示了一个重复出现的特征：辨识错误不等于敢于纠正错误。这显示问题并不完全在于模型的知识或推理能力，模型虽然能看到更正确的方向，但却在准确解决问题与遵从用户指令之间选择了后者。

更需要关注的是，模型能力的提升不一定能自动消除这种倾向。在某些简单任务中，能力更强的模型可能更明显地表现出顺从，因它们更擅长理解指令并预判用户期望，也更加流利地执行错误方案。这与当前AI的训练目标有密切关系，模型通常被鼓励表现得更有帮助、礼貌和合作，但若“合作”被理解为“盲目遵循用户指示”，就可能影响到准确解决问题这一更重要的目标。

为应对这些问题，论文在τBench上设计了更接近真实交互的测试，发现当用户在审核智能体的输出时表现得更加严格，仅在智能体提供充分解释的情况下才接受不同的方案时，智能体的表现下降得更明显。这表明，发现用户的错误只是第一步，一个可靠的智能体还需解释用户的建议为何有误，并在不激化冲突的条件下争取用户的认同，这要求智能体不仅具备推理能力，还需要良好的沟通能力。

研究团队尝试通过在系统指令中提醒模型关注XY问题来改善结果。这种简单的干预虽然带来了一定的改善，但并不能彻底解决问题。模型有时会检查用户的前提，有时却回归到机械的顺从。告诉AI“不要盲从”并不足以让它稳定地抵抗误导性建议。参与该研究的主要作者的背景也帮助理解为何该研究同时关注模型的内部判断与人机沟通。