伊利诺伊州立法者考虑与 AI 相关的几项措施

快速阅读: 《政府技术》消息，伊利诺伊州正考虑多项法案应对人工智能影响，涵盖教育、医疗、保险等领域。教师和立法者呼吁制定指导方针，平衡技术创新与监管，确保人工智能的安全和公平应用。

据美联社报道，大约一年半前，水晶湖南方中学数学教师莎拉·默曼听说一名学生通过基于人工智能的社交平台认识了他的女朋友时感到担忧。这一发现引发了她与班级就人工智能展开更深入的讨论，这让她意识到自己对这项新技术知之甚少。“尽管我在人工智能方面看到了巨大潜力，但伊利诺伊州在这方面仍有空白，”默曼上周在州议会众议院的一个委员会听证会上说，该听证会讨论了旨在为教师和学校管理者使用人工智能制定指导方针的立法。“在不得不开始自行决定如何在课堂中应用人工智能的一年半后，我依然没有官方指导可循。”我们必须思考如何构建系统，通过其高度智能来激发我们最好的一面，而不是让它削弱我们。”

西北大学计算机科学教授兼人工智能硕士项目主任克里斯蒂安·汉密尔顿说，“有些人会非常谨慎地使用这些工具，而有些人则不然。”由民主党掌控的立法机构正处于两年任期的开端，正在考虑一些法案，以应对人工智能在教育、医疗保健、保险、选举等领域对居民的影响，并延续上一届大会的工作。去年，州长JB普利兹克签署了一项立法，规定如果雇主使用人工智能导致员工受到歧视，则构成民事权利侵犯。他还签署了一项措施，禁止使用人工智能制造儿童色情内容，非法持有此类人工生成图像将被视为重罪。2023年，他签署了一项法案，规定任何人如果以性暗示方式篡改他人图像，将承担民事责任。

随着技术变得越来越普及，立法者和倡导者表示，法规需要定期调整。“在过去几年里，它已经爆炸式增长，并且扩展到了我们的经济的许多领域和部门，”芝加哥民主党参议员罗伯特·彼得斯去年共同主持了一个人工智能立法工作组，他说：“这将迅速发展。有时它极其复杂，有时比你想象的更简单，具体取决于我们谈论的内容。”

来自锡卡莫尔的共和党众议员杰夫·凯彻表示，毫无疑问，这项技术具有好处，例如它可以用于提供准确的医学诊断。但教育工作者等需要谨慎对待课堂中使用的任何人工智能。与此同时，凯彻表示，他担心过度监管。“在商业领域，我真的担心如果我们以我们认为是明智的方式限制人工智能的发展，我们将抑制创新和人工智能对未来创造性的能力，”他说。

12月，由立法者、普利兹克政府官员和教育工作者组成的特别工作组发布了一份报告，详细说明了人工智能带来的部分风险。该报告讨论了生成式人工智能的出现，这是一种可以创建文本、代码和图像的技术子集。ChatGPT、DALL-E 和 Gemini 是一些行业用于自动化任务的工具，这些任务以前由人类完成。报告特别指出，一种有争议的人工智能现象“深度伪造”已被用来影响选举结果。深度伪造是指将人脸、身体或声音的视频或静止图像进行数字修改，使其看起来像另一个人。

该小组引用了去年的一段音频深度伪造，当时前总统乔·拜登听起来像是在自动语音电话中告诉新罕布什尔州选民不要投票。该报告称，在过去两年结束于今年1月初的伊利诺伊州立法会议上，虽然提出了三项解决这一问题的法案，但没有一项获得通过。其中一项法案由众议员阿卜德尔纳赛尔·拉希德发起，将禁止分发虚假竞选材料，如果分发者知道所分享的信息是虚假的，并且是在选举前90天内分发的。该法案还将禁止某人分享材料，如果这样做是为了“损害候选人的声誉或选举前景”，并通过故意让选民相信错误信息来改变选票行为。

该法案得到了超过30名民主党联合发起人的支持，它不会完全禁止虚假材料。但它要求竞选活动在其媒体中包含免责声明，告知公众材料“已被技术手段篡改，并描绘了未曾发生过的言论或行为”。拉希德在本届立法会议上重新引入了该法案，该法案在上一届会议中从未被付诸表决。

“我们有责任保护人们不受此类虚假材料的侵害，”来自布里奇维尤的民主党人拉希德说，他也是人工智能特别工作组的另一位联席主席。“一旦选民得知这是人工智能生成的内容，应立即对其真实性产生质疑。”

TechNet是一家倡导人工智能中心企业和其它科技公司的组织，在致拉希德的一封信中表示，它支持打击利用人工智能传播“蓄意误导的竞选内容”。但该组织还提到，人工智能或许有助于解决“我们时代面临的重大挑战”，如更准确地预测天气、对抗网络威胁和发展新的医疗治疗方法。TechNet还对拉希德的法案可能不公平地惩罚互联网服务提供商及类似平台表达担忧，认为这不应针对实际负责制造虚假信息的竞选活动。

伊利诺伊州美国公民自由联盟对该法案提出第一修正案相关担忧。美国公民自由联盟律师丽贝卡·格伦伯格表示，不清楚哪些深度伪造需要披露为人工智能生成的，该法案可能会要求在“充分裁定确定其确实是一种不可接受的深度伪造”之前就删除此类言论。“这是有问题的，因为有人可能会声称‘深度伪造’并下达删除命令，而我们甚至不知道言论是否存在问题，这可能会在选举的关键时刻压制言论，”她说。

拉希德支持的第二项与人工智能相关的法案将禁止州政府机构在没有“持续有意义的人类审查”的情况下使用任何基于算法的决策系统，如果这些系统可能影响个人的公民自由或获得公共援助的能力。该法案旨在防止算法偏见，这也是特别工作组报告试图解决的另一个威胁。

报告称：“生成式人工智能系统中存在偏见的主要原因有两个：它们训练的数据集往往反映了历史和社会偏见，负责训练和设计这些系统的人员自身也携带了隐性偏见。” “这些系统现在被用于许多高风险决策领域，例如招聘过程、贷款定价和抵押贷款批准——这些决定从根本上影响个人的机会和生活质量。”

“通过自动化这些流程，生成式人工智能系统可能会延续或加剧现有的偏见和歧视，将系统性不平等更深地嵌入决策框架中。”

在医疗保健领域，众议员鲍勃·摩根提出了一项法案，规定在伊利诺伊州开展业务的保险公司不得仅因使用人工智能系统而拒绝、减少或终止覆盖范围。“无可否认，人工智能已经在我们的健康保险中发挥作用，但我们对此却一无所知，”民主党人摩根说，他是来自迪尔菲尔德的代表。“这是州政府多年努力的一部分，以确保医生和（医疗保健专业人士）参与其中。”

伊利诺伊州生命与健康保险委员会对摩根提出的法案表示顾虑，认为它可能会适用于所有类型的保险，而不仅仅是健康保险，并阻碍人工智能在保险业务中的积极应用。“我们认为提出的条款可能会限制人工智能在识别护理空白和降低支付方行政成本等其他索赔处理功能中的使用，”保险委员会主席劳拉·明泽在一份声明中说。

摩根还提出了一项法案，禁止个人或企业宣传或提供心理咨询服务，除非这些服务是由持牌专业人员提供的。该法案还限制了这些专业人员使用人工智能，例如禁止他们使用该技术做出“独立的治疗决策”。

摩根说，该措施旨在防止人工智能聊天机器人冒充心理健康提供者为需要治疗的患者提供服务。“这与我们已经有的法律是一致的，即如果有人要自称是医疗保健专业人员，就必须是医疗保健专业人员。但在这种情况下，人工智能在扮演人类角色时未明确表明其非人类身份，”摩根说。“它正在向人们提供建议，关于他们的医疗保健，他们的行为健康。我们将制止这种情况。”

伊利诺伊州社会工作者协会立法事务主管凯尔·希尔曼表示，由于对心理健康治疗的污名化以及心理健康专业人员的短缺，一些人转而求助于基于人工智能的心理健康服务。“我确信，那些还未准备好迈出这一步的人可能会考虑这种选择。但这种做法并不安全，”希尔曼谈到基于人工智能的治疗方案时说，“我们绝不会将其视为身体健康的解决方案。例如，‘我的腿受伤了，我要打电话给一个人工智能聊天医生，询问如何缝合伤口。’……这不是我们可以做的事。”

人工智能在塑造教育政策方面也正在受到关注。一项拟议中的立法要求州教育部成立一个教学技术委员会，该委员会将帮助为人工智能和其他技术创新提供指导、监督和评估，这些技术将在学校课程和其他政策中得到整合。该委员会将由教师、学区成员、人工智能应用专家、校长和其他学校管理人员组成。

“教师和管理人员都专注于眼前的学生成长，支持眼前的学生成长，因此确实需要一些领域的专家来审视这个问题，这也是这项法案试图做到的，”民主党众议员格雷斯莱克的劳拉·费弗·迪亚斯说，“我们需要担忧哪些潜在风险？”

在上周的众议院教育政策委员会听证会上，高中数学教师穆尔曼强调了让学生、教师及其他学校人员了解人工智能的重要性和必要性，同时也要认识到其潜力，她提及了一个虚拟辅导项目，该项目帮助学生“参与他们感到困难的科目，而我对这些科目没有知识或背景。”

卡门塔教育首席执行官兼前教育部电子学习主任约翰·松伯格同意穆尔曼关于人工智能价值的观点，并警告说花时间学习人工智能的教师不应受到严格规定的限制。

“我们正见证一场由人工智能驱动的前所未有的变革，它有可能为每个学生提供加速的个性化学习，”松伯格在听证会上作证说，“试图严格规范人工智能在教育中的应用注定会失败。目前，创新的教育工作者正在规避过时的体系，利用他们知道能增强教学和学生学习的人工智能工具。与此同时，其他人则因缺乏可信赖的指导而犹豫是否使用人工智能。”

去年12月的立法工作组报告向决策者提出了多项建议，以应对生成式人工智能的存在，包括考虑措施保护各个行业工人免于被取代，同时为劳动力做好人工智能创新的准备。其中一项建议呼吁州政府投资培训计划，帮助工人过渡到人工智能创造的新角色，重点是数字技能。另一项建议呼吁决策者确保消费者能够掌控自己的个人数据，并保护他们免受个人数据被擅自出售或共享。

“部署生成式人工智能工具的公司应被强制提供强有力的隐私保障，确保敏感的个人信息既不与第三方共享，也不用于盈利，”报告称。

西北大学教授汉密尔顿指出所谓的“人工智能事件数据库”，可以在网上找到，记录了技术出问题的情况——以新闻报道作为来源。他说，目标应该是始终寻找方法使其更安全、更好。

“我们应该做的是我们对电力所做的。当电力出现时，它非常危险……人们不断死亡，所以我们决定‘让我们让它变得安全’。没有人认为‘哦，让我们不要使用电力’，”汉密尔顿说，“这就是我们应该致力于的。人们会说人工智能就是新时代的电力。”

(以上内容均由Ai生成)