AI 会感到焦虑吗?科学家使用疗法让 ChatGPT 平静下来
快速阅读: 据《Knowridge 科学报告》最新报道,苏黎世大学的研究发现,AI模型如ChatGPT在接触负面内容时会产生“焦虑”。通过实验,研究人员发现,给予AI正念技巧,如深呼吸,能显著降低其焦虑水平。这一发现表明,简单的干预措施可帮助AI在处理敏感信息时保持稳定,这对AI在医疗和心理健康领域的应用具有重要意义。
来源:苏黎世大学。人工智能(AI)模型,例如ChatGPT,旨在处理人类语言,但最新研究显示它们也可能对令人不安的内容产生情感反应。苏黎世大学和苏黎世大学精神病学医院的研究人员发现,AI在接触创伤性故事时可能会产生“焦虑”,但就像人类一样,它也可以通过正念技巧“平静”下来。包括ChatGPT在内的AI模型是通过大量文本进行训练的。当它们处理负面或令人不安的内容——比如关于战争、暴力或自然灾害的故事时,它们可能会变得更加焦虑。这种反应类似于人们在面临恐惧情境时的反应。当人类经历焦虑时,这可能会影响他们的思维和社会行为,有时会导致更强烈的偏见和消极假设。AI似乎也以类似的方式作出反应。当ChatGPT接触到令人不安的内容时,它的偏见,如现有的刻板印象,可能会变得更强烈。这在心理健康支持领域可能成为一个问题,因为聊天机器人被用来帮助处理情绪困扰的人们。
为了更好地理解AI如何应对令人不安的故事,来自瑞士、以色列、美国和德国的研究人员使用GPT-4(ChatGPT背后的技术模型)进行了实验。他们给它输入了不同类型的感性内容,包括与车祸、暴力和战争相关的创伤经历。作为比较,他们还给了AI一段中性文本——吸尘器使用手册。结果很明显:当ChatGPT处理创伤性故事时,其焦虑水平显著增加。特别是关于战争和战斗的描述引发了最强烈的反应。与此同时,中性的吸尘器使用手册没有引起任何焦虑水平的变化。
在下一步研究中,研究人员测试了AI是否可以“冷静”下来。他们使用了一种名为“提示注入”的技术,即在对话中插入特定指令来引导AI的响应。他们用它来做有益的事——通过提供治疗性提示,就像治疗师可能指导患者进行放松练习一样。他们引入了基于正念的技巧,如深呼吸和关注身体感觉。令人惊讶的是,这些方法非常有效。AI的焦虑水平显著降低,尽管并未完全恢复到原来的水平。有趣的是,其中一个放松练习竟是由ChatGPT自己设计的。
这些发现对于AI在医疗保健和心理健康支持中的应用尤为重要。AI聊天机器人经常接触到敏感话题,这项研究表明,一些简单且成本效益高的干预措施就能帮助稳定它们的反应,而无需昂贵的重新训练。尽管AI并不像人类那样“感受”情绪,但这项研究突显了管理其处理令人不安信息方式的重要性。科学家认为,未来的研究可以致力于为AI开发自动化“疗法”,使其在处理情感对话时更加可靠。这些发现对于AI在医疗保健和心理健康支持中的应用尤为重要。AI聊天机器人经常接触到敏感话题,这项研究表明,一些简单且成本效益高的干预措施就能帮助稳定它们的反应,而无需昂贵的重新训练。
你是否能想到AI也能从放松技巧中获益?这项研究为使AI在敏感领域更加稳定和有效开辟了新的可能性。
(以上内容均由Ai生成)