AI弃权对建议接受度的差异化影响研究

AI咨询系统通常被设计为始终提供回应，但近期出现了一种名为“AI弃权”的设计范式，即在建议质量存疑时保留意见以提升整体指导质量。尽管大量工作致力于优化模型何时应弃权，但关于用户如何响应此类系统的研究尚显不足。一项预注册实验通过让参与者在重复的财务决策中接受两种不同建议机制（选择性建议或每次决策均建议）的辅助，揭示了同一AI弃权机制对用户产生的差异化效应。 研究发现，AI弃权对高感知专业知识用户和低感知专业知识用户的影响截然不同：它增加了高专业知识用户的建议接受度，而倾向于降低低专业知识用户的接受度。这种差异源于用户在反复协调AI建议与自身判断时所面临的认知负担。对于高专业知识用户，AI弃权似乎减轻了这种认知负担，从而提高了他们对建议的接纳程度。此外，AI弃权还缓解了专家用户在多次交互中观察到的建议接受度下降趋势。 探索性证据进一步表明，在建议能改善决策的情境下，AI弃权增加了适当的接受度，进而提升了自认为专家用户的下游决策准确性。这表明AI弃权机制是AI咨询系统的一阶设计属性，必须根据系统所服务的用户群体进行校准。该研究强调了在设计智能体或AI辅助工具时，不能仅关注算法层面的弃权逻辑，还需深入理解不同用户特征下的心理与行为反应，以实现更有效的用户体验优化。