处理在线治疗中人工智能的法案，众议院委员会推进健康保险

快速阅读: 《伊利诺伊州每日先驱报》消息，伊利诺伊州议员鲍勃·摩根推动两项法案，限制AI在在线心理治疗和服务覆盖决策中的应用。一法案禁止AI辅助心理健康治疗，另一法案要求人工审核AI做出的保险覆盖决定，以保障消费者权益。这两项法案分别在相关委员会获得通过。

伊利诺伊州议员鲍勃·摩根，一位来自迪尔菲尔德的民主党人，在本月早些时候于伊利诺伊州众议院发言。摩根正在推动两项法案，旨在对人工智能在在线治疗服务中的使用以及在决定个人健康保险覆盖范围的决策过程中的人工智能使用施加限制。

首府新闻报道显示，伊利诺伊州的立法者日益关注人工智能在医疗保健中的应用。作为共和党人的众议员鲍勃·摩根，正在发起两项法案，分别针对在线心理健康服务中的人工智能使用，以及在健康保险覆盖范围决策中的人工智能使用设定限制。

“无论我们是否喜欢，人工智能已经存在，”摩根在给首府新闻的一封电子邮件中说道，“在健康保险领域，风险实在太高，不能让不受控制的自动化决定可能关乎一个人能否获得救命治疗或面临经济破产。”

摩根的一项法案——第1806号众议院法案，聚焦于在线心理健康服务中人工智能的应用——本周三在众议院卫生保健许可委员会以一致通过的形式通过。如果该提案生效，将禁止持证的心理健康专业人士在治疗或心理咨询中使用人工智能提供支持。

摩根提到，美国社会工作者协会收到了越来越多的投诉，这些投诉来自使用在线服务的用户，他们表示在会议期间不知道自己正在与人工智能聊天机器人互动。“人工智能进入心理健康护理领域带来了明显的，且无疑严重的风险，可能导致危险甚至危及生命的后果，”他在委员会听证会上指出。“显然，人工智能无法行使道德判断或识别一个人是否处于危机之中，也无法依据非语言线索和情感语气调整回应——这些都是我们在培养医疗专业人员时必须注意的关键点。”

摩根的另一项法案——第35号众议院法案，则改变了健康保险公司使用人工智能做覆盖范围决定的方式。该法案周二在众议院保险委员会以11票赞成、6票反对的结果通过。摩根解释说，这项法案的目的是“防止不正当的不利决定”针对消费者采取。若HB35成为法律，健康保险公司将被禁止仅依赖人工智能来拒绝、减少或终止患者的覆盖范围。相反，那些由人工智能做出的决定必须由有权推翻它们的真实人员进行“有意义的审核”。

摩根表示，目前每个主要的健康保险公司都在某种程度上使用人工智能，其结果有时有益，有时则不然。他说，保险公司未经真实人员监督就使用人工智能为消费者做出覆盖决定便是其中一种有害方式。

“如今，保险公司正利用人工智能决定我们的健康保险索赔，”他在委员会会议上说道，“我们完全不知道这会带来什么，以及它将如何被用来伤害我们和我们的索赔。”

去年年底，ProPublica发布了一份调查报告，研究对象是EviCore公司，该公司被许多美国主要保险公司广泛使用。报告显示，EviCore用于决定消费者覆盖范围的人工智能算法具有较高的拒赔率。

“我们已经看到一些全国性保险公司因为依赖人工智能算法拒绝救命护理而面临集体诉讼，”摩根在给首府新闻的邮件中提到，并引用了近年来针对信诺、哈曼纳和联合健康集团的相关诉讼案例。2023年对联合健康集团提起的一项诉讼上个月才作出裁决，《健康金融》报道指出，七项指控中有五项被驳回。

摩根的法案旨在遏制这种做法。“通过确保对人工智能驱动的决定进行人工审核，我们可以维护影响数百万民众的系统中的公平、问责和消费者保护，”他在一封电子邮件中写道，“这不是拒绝创新，而是确保技术服务于人民，而不是反过来。”

HB35受到三个机构的反对，包括伊利诺伊商会、美国健康保险专业人士和美国公民自由联盟伊利诺伊分会。同时，该法案得到了另外10个机构的支持，包括伊利诺伊州医学协会、伊利诺伊药剂师协会和国家社会工作者协会伊利诺伊分会。

(以上内容均由Ai生成)