研究揭示智能体交互中用户对静默缺陷的漏检机制

在将复杂任务执行权移交给 AI 智能体的过程中，人类角色转向监督，但用户往往难以识别何时需要更深入的审查，导致看似合理的错误输出被接受。针对这一现象，一项结合形成性研究与受控实验的研究发现，用户在面对智能体生成的“静默缺陷”时表现出极高的信心，却未能通过有效检查发现这些问题，仅在事后回顾时才意识到疏忽。 该研究首先通过 N=12 的形成性研究观察到，用户倾向于在未进行彻底评估的情况下接受貌似可信的输出。为了系统性地验证这一行为模式，研究人员开展了一项 N=36 的被试内对照实验。参与者使用一个能生成正确输出、静默缺陷或可见故障的智能体完成编程任务。研究综合了任务结果、交互日志、眼动追踪、生理信号以及自我报告数据，从感知、行为和实际效果三个维度考察用户的监督能力。 实验结果显示，当智能体产生没有明显报错提示的“静默缺陷”时，参与者最常出现高置信度下的漏检。具体表现为，用户仅执行通用的表面检查，未能生成具有诊断价值的证据来验证代码逻辑，甚至有时误解了已有的缺陷证据。相比之下，当故障以可见形式呈现时，用户的监督行为更为有效。这种差异表明，缺乏显式错误信号会削弱用户的警惕性，使其依赖启发式判断而非系统性验证。 这项研究强调了单一维度的监督评估不足以反映真实风险，提出需要从感知信心、实际检查行为和最终有效性多个层面共同分析。其结论支持未来在人机协作系统中开发能够根据任务难度和用户状态进行校准的重新介入机制，旨在帮助用户在关键时刻及时恢复深度注意力，从而弥补自动化执行带来的认知盲区。