跳到正文
arXiv· Ivy Pham, Akshay Swaminathan, Sebastian Garcia, Jaimie Lim, Gloria Ye, Divyanjali Verma, Alan Pham, Chastin Chung, Shreya Shah, Shaked Azzam, Sharang Phadke, Ivan Lopez, William Wang, Angelina Wang, Nigam H. Shah·· 14 小时前精选AI 评分80

印度危机热线AI副驾驶部署研究:效率提升与技能萎缩及真实性担忧并存

Benefits and Barriers to Human-AI Teaming for Crisis Counseling

文章摘要

一项针对印度WhatsApp危机热线中面向咨询师的人工智能副驾驶(copilot)系统的混合方法研究,提供了大规模真实世界部署的证据。该研究覆盖2025年3月至10月期间,分析了108名咨询师的27,778条副驾驶消息编辑记录、20次访谈、8次影子观察及56份问卷调查数据。系统允许咨询师请求、编辑并发送AI生成的回复建议。

调查数据显示出较高的接受度:98.2%的咨询师认为该系统有帮助,89.3%表示愿意继续使用,80.4%报告了效率提升。访谈进一步揭示了具体价值,包括句子脚手架支持、共情措辞优化、压力减轻、遗漏细节捕捉以及整体工作效率的提高。然而,障碍同样存在,23.2%的受访者指出输出重复,17.9%反映缺乏上下文,10.7%表达了对真实性的担忧。尽管69.6%的受访者报告技能得到增强,但访谈中也浮现出对技能萎缩的隐忧。在实际操作中,咨询师频繁采纳副驾驶的建议,但通常会进行编辑以移除提问、调整语气或个性化风格。

在寻求人际连接的危机咨询场景中,AI辅助工具虽能显著降低认知负荷并提升沟通效率,但可能引发咨询师技能萎缩、过度依赖及对治疗真实性的担忧,提示设计需在操作支持与维持深度人类参与之间寻求平衡。该研究结论强调,在危机咨询这类高度依赖人类情感连接的环境中,AI工具的设计若仅侧重于征求对完整草稿的批准或编辑,可能会过度权衡效率而牺牲持续的人类参与度。未来的系统设计需更审慎地考量如何在不损害临床技能和真诚治疗关系的前提下,提供有效的操作支持。

推荐理由

揭示危机干预中AI辅助在提升效率的同时可能削弱治疗性人际连接,为平衡操作支持与临床技能保留提供实证依据。

来源:arXiv · arxiv.org