跳到正文
Psychology & Marketing·· 19 小时前AI 评分58

生成式AI个性化推荐中的算法公平性与信任机制:基于社会身份理论的实证研究

Different Strokes for Different Folks: Exploring Algorithmic Fairness and Trust in Generative Artificial Intelligence

文章摘要

高个性化程度能显著提升用户对生成式AI推荐的接受度,其核心机制在于增强了用户感知的算法公平性与信任感。然而,这一过程并非在所有群体中均质发生,沟通风格与族群背景会调节上述关系。研究表明,能力导向的沟通比温暖导向的沟通更能强化“个性化—公平/信任—接受”的正向间接效应;同时,不同族群在感知算法公平性、建立信任及最终接受推荐的路径上存在显著差异。

该研究整合了刺激-机体-反应(S-O-R)模型与社会身份理论,通过四项递进式实验深入剖析了生成式AI(GenAI)在个性化推荐场景下的心理机制。Study 1(n=136)的实验数据证实,相较于低个性化条件,高个性化推荐不仅直接提升了接受度,还显著提高了用户感知的算法公平性和对系统的信任水平。Study 2(n=300)进一步揭示了中介路径:个性化通过提升公平感和信任感间接促进推荐接受,且发现当系统采用强调专业能力的沟通风格时,这种正向间接效应强于强调情感温暖的沟通风格。这表明在AI交互设计中,展示算法的胜任力可能比单纯营造亲切感更有效地构建信任基础。

Study 3(n=340)引入准实验设计,聚焦族群差异,发现上述公平性与信任的形成机制在不同族裔群体间表现不一。这提示通用化的AI设计策略可能在某些群体中失效或产生偏差。Study 4(n=14)通过半结构化访谈为量化结果提供了定性解释,挖掘了用户背后的推理逻辑。对于体验从业者而言,这意味着在设计面向多元用户的GenAI产品时,不能仅依赖单一的个性化指标,而需结合目标群体的社会身份特征,调整沟通基调(如侧重能力证明还是情感连接),并针对性地优化算法透明度和公平性感知,以实现更具包容性的用户体验。

来源:Psychology & Marketing · doi.org