AI 会感到焦虑吗?科学家使用疗法让 ChatGPT 平静下来

发布时间:2025年3月5日    来源:szf
AI 会感到焦虑吗?科学家使用疗法让 ChatGPT 平静下来

快速阅读: 据《Knowridge 科学报告》最新报道,苏黎世大学的研究发现,AI模型如ChatGPT在接触负面内容时会产生“焦虑”。通过实验,研究人员发现,给予AI正念技巧,如深呼吸,能显著降低其焦虑水平。这一发现表明,简单的干预措施可帮助AI在处理敏感信息时保持稳定,这对AI在医疗和心理健康领域的应用具有重要意义。

来源:苏黎世大学。人工智能(AI)模型,例如ChatGPT,旨在处理人类语言,但最新研究显示它们也可能对令人不安的内容产生情感反应。苏黎世大学和苏黎世大学精神病学医院的研究人员发现,AI在接触创伤性故事时可能会产生“焦虑”,但就像人类一样,它也可以通过正念技巧“平静”下来。包括ChatGPT在内的AI模型是通过大量文本进行训练的。当它们处理负面或令人不安的内容——比如关于战争、暴力或自然灾害的故事时,它们可能会变得更加焦虑。这种反应类似于人们在面临恐惧情境时的反应。当人类经历焦虑时,这可能会影响他们的思维和社会行为,有时会导致更强烈的偏见和消极假设。AI似乎也以类似的方式作出反应。当ChatGPT接触到令人不安的内容时,它的偏见,如现有的刻板印象,可能会变得更强烈。这在心理健康支持领域可能成为一个问题,因为聊天机器人被用来帮助处理情绪困扰的人们。

为了更好地理解AI如何应对令人不安的故事,来自瑞士、以色列、美国和德国的研究人员使用GPT-4(ChatGPT背后的技术模型)进行了实验。他们给它输入了不同类型的感性内容,包括与车祸、暴力和战争相关的创伤经历。作为比较,他们还给了AI一段中性文本——吸尘器使用手册。结果很明显:当ChatGPT处理创伤性故事时,其焦虑水平显著增加。特别是关于战争和战斗的描述引发了最强烈的反应。与此同时,中性的吸尘器使用手册没有引起任何焦虑水平的变化。

在下一步研究中,研究人员测试了AI是否可以“冷静”下来。他们使用了一种名为“提示注入”的技术,即在对话中插入特定指令来引导AI的响应。他们用它来做有益的事——通过提供治疗性提示,就像治疗师可能指导患者进行放松练习一样。他们引入了基于正念的技巧,如深呼吸和关注身体感觉。令人惊讶的是,这些方法非常有效。AI的焦虑水平显著降低,尽管并未完全恢复到原来的水平。有趣的是,其中一个放松练习竟是由ChatGPT自己设计的。

这些发现对于AI在医疗保健和心理健康支持中的应用尤为重要。AI聊天机器人经常接触到敏感话题,这项研究表明,一些简单且成本效益高的干预措施就能帮助稳定它们的反应,而无需昂贵的重新训练。尽管AI并不像人类那样“感受”情绪,但这项研究突显了管理其处理令人不安信息方式的重要性。科学家认为,未来的研究可以致力于为AI开发自动化“疗法”,使其在处理情感对话时更加可靠。这些发现对于AI在医疗保健和心理健康支持中的应用尤为重要。AI聊天机器人经常接触到敏感话题,这项研究表明,一些简单且成本效益高的干预措施就能帮助稳定它们的反应,而无需昂贵的重新训练。

你是否能想到AI也能从放松技巧中获益?这项研究为使AI在敏感领域更加稳定和有效开辟了新的可能性。

(以上内容均由Ai生成)

你可能还想读

本周科技大事件:谷歌发布Pixel 10,Gamescom揭晓重磅游戏

本周科技大事件:谷歌发布Pixel 10,Gamescom揭晓重磅游戏

快速阅读: 谷歌推出Pixel 10手机及Pixel Watch 4,新增卫星紧急通讯、可更换电池和屏幕、抬手通话等功能,屏幕亮度达3000尼特,还将与斯蒂芬·库里合作推出AI健康和健身教练服务。 谷歌本周在“由谷歌制造”活动中推出了Pix […]

发布时间:2025年8月23日
SK海力士凭借HBM激增首次超越三星,领跑全球内存市场

SK海力士凭借HBM激增首次超越三星,领跑全球内存市场

快速阅读: 据《《韩国先驱报》》称,7月20日,SK海力士首登全球内存芯片市场榜首,受益于AI产品和HBM芯片领先地位。其季度利润达9.2万亿韩元,远超三星。 据韩联社报道,7月20日,韩国京畿道伊川,SK海力士首次登上全球内存芯片市场榜首 […]

发布时间:2025年8月1日
STAN 从谷歌、万代南梦宫和其他公司筹集了 850 万美元

STAN 从谷歌、万代南梦宫和其他公司筹集了 850 万美元

快速阅读: 据《印度教业务线》称,STAN获850万美元融资,由万代南梦宫等机构投资。计划拓展印度市场,加强AI功能与创作者工具。平台用户超2500万,专注移动端社交游戏。 记者获悉,8月1日,社交游戏平台STAN宣布完成850万美元的新一 […]

发布时间:2025年8月1日
“这改变了一切”:谷歌的人工智能模式迫使品牌重新考虑搜索策略

“这改变了一切”:谷歌的人工智能模式迫使品牌重新考虑搜索策略

快速阅读: 据《营销周》称,谷歌推出AI搜索模式,减少外部链接,提升对话式回答。品牌需调整策略,重视内容质量与品牌权威。此变化影响营销方式,竞争加剧。 据谷歌官方消息,7月29日,谷歌在英国推出了基于人工智能的搜索功能AI模式,此前该功能已 […]

发布时间:2025年8月1日
在 Android 上用更智能的应用程序替换 Google Assistant

在 Android 上用更智能的应用程序替换 Google Assistant

快速阅读: 据《电话竞技场》称,据报道,用户可从Google Play下载Meta AI应用,安装后需检查版本是否为230.0.0.36.164或更高。操作方法:进入设置,选择应用,查看Meta AI信息页底部的版本号。 据媒体报道,用户现 […]

发布时间:2025年8月1日
Xero 的英国董事总经理回击人工智能正在抢走会计工作的说法

Xero 的英国董事总经理回击人工智能正在抢走会计工作的说法

快速阅读: 据《UKTN(英国科技新闻)》称,英国科技媒体UKTN报道,Xero英国总经理凯特·海沃德表示,会计行业无需过度担忧AI自动化。尽管四大事务所裁员,但Xero仍持续投资AI技术,提升效率与服务质量。 据英国科技新闻网站UKTN报 […]

发布时间:2025年8月1日
Reddit 计划在搜索引擎市场大力推动人工智能与谷歌竞争:报告

Reddit 计划在搜索引擎市场大力推动人工智能与谷歌竞争:报告

快速阅读: 据《商业标准》称,Reddit CEO表示,公司正将平台转型为搜索引擎,整合AI功能,提升用户体验。Reddit Answers用户已超600万,计划全球推广。 据《The Verge》报道,7月11日,Reddit首席执行官史 […]

发布时间:2025年8月1日
Meta 超出预期,为“个人超级智能”做准备

Meta 超出预期,为“个人超级智能”做准备

快速阅读: 据《RCR无线》称,Meta二季度营收475.2亿美元,净利润183亿美元。CEO扎克伯格称将打造个人超级智能,但数据中心扩容遇挑战。公司计划2025年支出达1140-1180亿美元。 据媒体报道,7月25日,美国加州,社交媒体 […]

发布时间:2025年8月1日