这是“神经管理学”第275篇推送 仅用于学术交流,原文版权归原作者和原发刊所有
原刊及作者

日常生活中,人类需要一个能提供情绪价值的对象,然而在当今社会资源有限、共情能力下降的背景下,往往难以感到“被倾听”。随着大型语言模型的发展,ChatGPT展现出一种能让与其对话的用户感受到被倾听感的能力,但过往研究表明当涉及到情感的领域,人们认为情感是人类独有的,会对涉及AI的回复持怀疑态度,认为AI无法真正理解人类的感受。今天介绍的这篇发表于PNAS上的文章,明确区分了两种作用,一是回复效应,即AI的回应在多大程度上能让人类感受到自己被倾听?二是标签效应,即当人类意识到提供倾诉反馈的主体是AI时,他们会作何反应?研究结果表明,人工智能具有检测和响应人类情绪的计算能力,因此生成的信息比人类生成的信息更能让接收者感到被倾听,但是当人们意识到消息来自AI时,人们感觉到自己被倾听的程度下降了,这突出了对AI产生的移情的偏见。
研究设计与结果
结果表明,AI存在积极的回复效应(如图1),即相比人类的回复,回复来源主体是AI时,人们更容易感到被倾听,被理解以及更强的情感联结。同时发现存在显著消极的来源标签主效应,也就是说,当回复被标记为来自人类时,参与者在4个方面的评分都显著高于回复被标记为来自AI时。结果说明目前人工智能在分析、模拟和学习人类的情感模式,并做出有效反应以提供相应的安慰或支持方面,展现出卓越且稳定的算法计算能力,与未经训练的人类反应者容易误判他人的情绪相比,AI更容易让用户感到被理解和关心。
图1 两种操纵下AI与人类之间因变量的差异
图2进一步说明了回复来源和来源标签的交互影响,当回复实际来自AI,但标签为人类时,导致了显著更高的评分;AI回复+AI标签组与人类回复+人类标签组没有显著的差异,说明AI回复的优势被AI标签产生的负面效应的劣势抵消。因此,AI是否会让人们感觉比人类更容易被倾听,取决于反应效应和标签效应的方向和大小。
图2 实验条件下因变量的水平
图3进一步提出了两个调节因素,首先是对Bing Chat的态度,对AI持否定态度的人不容易感觉被倾听,而对AI持积极态度的人较少受到来源标签的影响。另一个调节因素是感知AI的心智水平(包括感知到的Bing Chat的能动性和体验性),结果发现当人们认为AI具有较高心智水平时,AI标签负面效应被削弱。这一发现表明,当人们更频繁地使用人工智能后,人类对AI的偏见可能会消失。
图3 不同因变量下调节效应图
后续作者探究为AI为什么比人类回复更优提供了可能性的解释,发现AI在识别开心,悲伤等情绪方面会超越人类,但在愤怒和惊讶方面无显著差异。第三方评估结果显示,AI回复倾向于提供情感支持(emotional support),同时被认为付出了更多努力,且预期更能让原讲述者感到被倾听。而人类回复更倾向于提供实际支持(practical support)。
研究小结
本研究指出了AI和人类反应的不同优势,表明人工智能擅长识别人类情感并做出让人们感到被倾听的反应,然而,当人类意识到信息来自AI时,便会产生一定的负面效应。因此,未来人类可以学习并使用人工智能表达支持的方式,帮助人类更好地理解他人,实现人机协作。
参考文献
Yin, Yidan, Nan Jia, and Cheryl J. Wakslak. "AI can help people feel heard, but an AI label diminishes this impact." Proceedings of the National Academy of Sciences 121, no. 14 (2024): e2319112121.
https://imagecloud.thepaper.cn/thepaper/image/267/748/620.jpg