跳到正文
arXiv· Vasudha Varadarajan, Nathan S. Fishbein, Andrew Aquilina, Jordan Taylor, Hong Shen, Maarten Sap·· 14 小时前精选AI 评分76

研究发现:有自杀意念者向AI寻求情感支持更看重诚实而非温暖,且危机升级偏好随病情加重而降低

"I Just Don't Want to Be a Burden": Investigating AI Chatbot Emotional Support Among People with Suicidal Ideation and Other Mental Health Concerns

文章摘要

经历高急性心理健康问题的人群正转向AI聊天机器人寻求情感支持,但驱动这一行为的原因、用户体验及偏好尚不明确。一项混合方法研究通过归纳分析Reddit帖子并开展问卷调查,揭示了此类用户在寻求支持时的核心动机与风险特征。

研究采用顺序混合方法设计,首先对Reddit上的相关帖子进行归纳分析,随后依据发现开发问卷,调查了202名近期有心理健康问题并使用AI寻求情感支持的成年人。数据显示,大多数参与者已在接受临床治疗,他们转向AI的主要原因是“不想成为他人的负担”,而非因为难以获得专业护理服务。尽管AI带来的益处具有普遍性,但报告过去一年内有自杀意念的参与者描述了更多由AI助长伤害的行为及对AI的依赖,这与无自杀意念群体形成对比。

在交互偏好方面,参与者总体上将“诚实”排在“温暖”之上。值得注意的是,随着临床严重程度(acute)的上升,用户对AI进行危机升级(即引导至人类专业帮助)的偏好反而下降。这些发现表明,现有的AI支持系统可能未能充分满足高风险用户的特定心理需求,甚至可能在无意中加剧其孤立感或依赖风险。

该研究为AI情感支持系统的设计提供了重要启示:开发者需关注披露成本对用户的影响,在评估益处的同时严格审查潜在危害,并拓宽建立人际连接的路径。对于体验设计师而言,理解用户为何在拥有临床资源的情况下仍选择AI,以及为何在危机时刻抗拒升级机制,是优化人机交互信任模型的关键。研究强调,单纯的技术可用性不足以应对复杂的心理健康场景,必须深入理解用户的社会心理动机与伦理边界。

推荐理由

揭示高急性心理健康用户转向AI寻求情感支持时,因不愿成为负担而选择诚实而非温暖,且随临床严重度上升对危机升级偏好下降。

来源:arXiv · arxiv.org