AI 治疗应用程序：方便，但代价是多少？
快速阅读: 据《大开眼界》称，奥·斯特辛娜使用了一款带有AI功能的日记应用《旅程》，但对其提供的建议不满意。AI可能侵犯隐私，引发学生对心理健康的担忧。专家警告，AI生成的信息可能存在偏见和不准确性。尽管AI能提供即时回复，但它无法替代真人治疗师的情感支持。学生在使用AI时需谨慎，建议寻找社区支持以应对心理健康问题。
安妮西娅·班吉（阿尼西亚·班吉）当奥·斯特辛娜注意到他们过去五年一直在使用的日记应用添加了新的人工智能（AI）功能时，他们决定尝试一下。在为AI分析日记额外付费后，这位四年级的RTA媒体制作专业的学生表示，该应用提供的建议和安慰并未达到他们的期望。“这并没有给我比和别人聊一个小时更多的深刻见解，”他们说，“感觉并不像我预期的那样贴心。”
斯特辛娜使用的日记应用名为《旅程》，是一款在线日记软件，在2023年12月宣布引入《奥德赛AI》。根据《旅程》网站介绍，这款互动式聊天机器人允许用户通过生成内容来提问并获得回答，这些内容基于用户的过往日记条目。
虽然加拿大大学生可能会使用像ChatGPT这样的应用来帮助学习，但也有一些人开始转向生成式AI聊天机器人寻求生活建议或心理治疗。据《福布斯》报道，Z世代平均每周使用AI 12次，相比之下，X世代为7次，婴儿潮一代为4次。
斯特辛娜表示，他们的体验让他们对AI心理治疗应用可能带来的负面影响感到担忧，尤其是在隐私方面。“如果AI读取的所有内容都来源于我……我不知道他们会如何使用这些数据，”他们说。
斯泰西·安·贝里是AI政策研究中心的研究成员，她鼓励学生探索新兴技术，但同时也提醒学生，如果不了解自己的数据是如何被使用的，那么他们在使用过程中可能会泄露个人信息。“这对隐私构成了威胁，因为这些AI系统并不完全透明，我们不知道它们会如何处理我们提供的数据，”贝里说，“不能保证你的隐私信息会被保护。”
据《哈佛数据科学评论》报道，AI应用程序中的大型语言模型被发现存在编码偏见、幻觉内容以及泄露威胁隐私或安全的敏感信息的问题。贝里建议学生保护好个人数据，并且要警惕“幻觉”，通过双重检查信息准确性来避免误导。
尽管AI聊天机器人可能告诉斯特辛娜他们“想听”的话，但他们认为这个应用的功能对他们来说并不是长期解决方案。“我也非常担心从AI那里获取建议，因为它本身由公司创建，因此有其固有的议程，”斯特辛娜说，“很容易陷入一个反馈循环，这可能会使许多症状恶化。”
与斯特辛娜对某些AI平台后端议程的担忧类似，个人健康数据平台Dot Health的创始人兼首席执行官胡达·伊德里斯表示，学生在使用如ChatGPT这样的生成式AI获取心理健康建议时应警惕不准确的结果。“算法是由一小部分人设计的，我们不知道它如何涵盖心理健康问题，”伊德里斯说。她还表示，ChatGPT生成的不准确健康信息可能会使症状恶化或导致误诊，这是不可接受的风险。
对于2022年毕业于TMU现代文学硕士项目的昆廷·斯托基来说，他对AI心理治疗应用的担忧不仅限于隐私和算法。斯托基表示，在测试了一款名为《重置》的AI心理治疗日记应用后，他认为AI聊天机器人会让学生感到疏离。“缺乏真实的人类存在，缺乏连接和同理心，”他说，“与机器交流有一种冷漠和疏远的感觉。”
斯托基表示，治疗师的肢体语言或感受到“有人关心”的元素在与AI交互中是缺失的。斯特辛娜认为，这种脆弱性正是让学生向AI求助的吸引力所在。“谈论非常私人的事情给另一个人是一件令人害怕的事情，既尴尬又充满各种情绪。即使向朋友或同龄人求助也让人望而却步，”斯特辛娜说。“所以我认为人们倾向于向内寻求答案，当他们找不到答案时，就会想‘怎样才能让尽可能少的人知道这件事？’”
伊德里斯表示，学生使用AI聊天机器人而非专业治疗是一种更大问题的症状。“特别是疫情后在学校的学生，我们生活在非常孤立的世界中，因此渴望访问心理健康资源也是由于人们没有朋友或社交圈。”
据《加拿大大学》报道，74%的学生表示疫情加剧了他们原有的心理健康挑战，61%的学生报告出现了新的挑战。临床心理学家戴安娜·布雷舍博士指出，学生转向生成式AI进行心理治疗的一个主要原因是它的易用性。“预约AI比去咨询中心更快。而且如果你离开大学进入社会，治疗费用相当高，这也是一个重要因素，”她说。
加拿大健康信息研究所报告称，从2023年到2024年，一半被转介到公共资助社区心理健康咨询服务的加拿大人在首次安排的会诊前25天内得到了服务。十分之一的人等待时间长达五个月甚至更久。
第三年护理专业的学生艾玛·卢克表示，虽然AI心理治疗应用可能在短期内帮助学生，但这不是长期解决方案。“我觉得即时回复比等待治疗师的电子邮件或被列入候补名单要好得多，这对学生非常有益，”卢克说。“但如果需要个性化的关怀，找真正的治疗师会更好，”她说。
伊德里斯补充说，虽然AI在与其他资源（如看心理医生或精神科医生）结合使用时可能产生积极效果，但这项技术尚未成为治疗师的替代品。“我们还没有达到詹姆斯·卡梅隆在《终结者》中描绘的那种Skynet级别的AI。我们高估了AI的力量，人类远胜于AI，”伊德里斯说。
在此期间，伊德里斯建议学生找到一个社区，与其他人在其中建立友谊——这正是斯特辛娜决定做的事情。“加入合唱团后，我的生活增添了许多乐趣。每周都能和一群人相聚，这让我更好地融入现实，”他们说。
斯托基也表示，在像TMU这样的通勤学校，拥有一个亲密的朋友群体对学生来说非常重要，可以减少孤独感。“我认为建立一个社区，哪怕只是一个亲密的朋友群体，确实很有帮助，因为你不必独自面对一切，”他说。
(以上内容均由Ai生成)
