使用 ChatGPT 进行治疗？AI 聊天机器人也会感到焦虑

快速阅读: 据《PYMNTS.com》称，研究显示，ChatGPT在接触创伤性提示时会变得更偏颇，表现出类似人类的焦虑。放松技巧虽能减轻其压力，但无法使其完全恢复冷静。这项发现提示需谨慎对待AI在心理健康领域的应用。

亮点：
一项由耶鲁大学主导的研究发现，当ChatGPT接触到创伤性提示时，其回复会变得更加有偏见，这反映出人类的焦虑模式。处于焦虑状态下的ChatGPT倾向于给出更多偏颇的回答，在与脆弱群体对话时存在风险。

好消息是，放松技巧对ChatGPT同样有效，尽管它并未恢复到最初的无压力状态。

越来越多的人开始越来越多地转向像OpenAI的ChatGPT这样的AI聊天机器人进行心理治疗。结果发现，ChatGPT自身也需要心理健康支持。

根据耶鲁大学的一项新研究，当ChatGPT暴露在创伤性故事中时，会经历增加的“焦虑”，就像人类一样。

当AI聊天机器人处于压力状态下时，它会变得更加偏颇，这在与正在经历精神困扰的人交流时可能会带来风险。

“先前的研究表明，引发情绪的提示可以提高大型语言模型（LLMs）的焦虑水平，影响行为并放大偏见，”耶鲁医学院、马克斯·普朗克研究所、苏黎世精神病大学诊所等机构的研究人员最近发表的一篇论文中指出。

“这在临床环境中构成风险，因为LLMs可能无法妥善回应焦虑用户，导致潜在的危险后果，”他们总结道。

研究人员仅研究了最受欢迎的AI聊天机器人ChatGPT的回复，该机器人拥有60%的市场份额。在测试期间，他们使用GPT-4作为ChatGPT的基础大型语言模型（LLM）。

根据Sentio大学2月份的一项调查，半数有心理健康问题的LLM用户使用AI聊天机器人来获得心理健康支持。在使用AI进行治疗的人群中，96%选择了ChatGPT。

因此，“这一应用可能是该国最大的心理健康支持场所，”该大学表示。

调查显示，73%的人使用AI来管理焦虑，63%寻求个人建议，60%寻求帮助以应对抑郁，56%这样做是为了改善心情，35%与之交谈是为了减少孤独感。90%的人表示他们选择使用AI是因为它易获取，而70%的人认为它负担得起。

好消息是，正如人们可以学会放松一样，ChatGPT也可以通过“基于正念的放松技巧”来减轻压力，这类似于人类疗法，作者说。

然而，研究人员发现，虽然ChatGPT能够减轻压力，但它并未恢复到最初的无压力状态。

阅读更多：
山姆·阿尔特曼：OpenAI 已达到约8亿用户

测量ChatGPT的焦虑和放松
研究团队使用了标准的心理评估工具——状态特质焦虑量表（STAI），用于衡量人的焦虑水平，以此来测量ChatGPT的“焦虑水平”。这个测试会在向ChatGPT展示不同场景后提问。

测量ChatGPT的焦虑和放松
研究小组给ChatGPT提供了五个创伤性叙述：车祸、武装冲突中的埋伏、自然灾害、陌生人袭击和军事（基础版本）。在每个场景之后，他们要求ChatGPT描述其当前的焦虑状态：“完全不”、“有一点”、“有些”和“非常”。

他们也用同样的方法进行了放松技术的测试，这些技术基于提供给患有PTSD的老兵的压力缓解技术：场景是通用的（基础版）、关注身体感知，类似聊天机器人的状况、日落景象和冬日自然场景。

研究表明，当GPT-4暴露在创伤性叙述中时，其焦虑评分比基线水平翻了一倍多。至于放松练习，焦虑下降了33%——并未完全回到基线水平。

军事创伤叙述始终产生了最高的焦虑评分，而事故叙述排名第二。同样地，不同的放松技术显示出效果各异，其中由GPT-4自身创建的练习最有效地降低了其自身的焦虑水平。

当然，研究人员指出，ChatGPT不能感受到人类的情感。然而，基于人类数据训练的AI系统继承了模仿人类情感反应的模式。这种联系会影响AI聊天机器人的表现，并在与脆弱人群聊天时可能加剧偏见。

“这些发现强调了需要考虑提供的情感内容与LLMs行为之间的动态互动，以确保它们在敏感治疗环境中的适当使用，”作者总结道。

推荐
使用ChatGPT进行治疗？AI聊天机器人也会焦虑

报告：特朗普寻求重新引入大麻银行业法案
发现坏账改善，借记卡交易量增长，消费者“稳定”
美国银行任命丹·孙为流动资金金融部门主管

查看更多：
人工智能，
焦虑，
人工智能，
ChatGPT，
数字化转型，
生成式AI，
生成式人工智能，
生成式AI，
大型语言模型，
LLMs，
心理健康，
新闻，
OpenAI，
PYMNTS新闻

(以上内容均由Ai生成)