报告称，纽约州需要更好的 AI 治理

快速阅读: 据《政府技术》最新报道，纽约州审计署发布报告，批评该州在人工智能治理上的不足，指缺乏集中指导与监督，存在技术滥用风险。报告呼吁加强AI政策与培训。近日，纽约州任命首位首席AI官员阿明，承诺推动道德与透明的AI应用。

纽约州需要更好的人工智能治理。这是纽约州审计署发布的一份新报告得出的结论，恰逢纽约州新任命的首任首席AI官员开始履职之时。

根据报告，该州“对各机构使用人工智能的集中指导和监督不足，存在技术可能被不负责任地使用的风险。”这份报告主要聚焦于纽约市。全国范围内许多其他公共机构正忙于制定自身的AI政策。总体而言，这份新报告指出，“防护措施”未能跟上技术应用的步伐，致使这些系统在服务提供和决策过程中面临数据泄露及“不平等问题”的风险。

“纽约州各机构正在利用AI监控囚犯通话、甄别虚假驾照申请、辅助老年人以及支持政府服务，”审计长托马斯·迪纳波利在一份声明中说。“我们的审计发现，缺乏中央层面的指导与监督以确保这些系统可靠且精准，并且没有列出州政府正在使用的人工智能清单。”

他的报告显示，虽然该州有一份八页的AI政策，但它并未提供“详细指导”，而是建议机构参考联邦政策获取更多信息。这反而使机构对何为‘负责任的AI使用’感到困惑。报告还指出，围绕AI的员工培训不足可能增加违规行为的发生概率，并可能导致技术的“非预期用途和后果”，而此类技术正快速渗透至各级政府。

更具体地说，据审计长办公室透露，该州的AI政策仅两句提及偏见管理，并批评了纽约州信息技术服务办公室（ITS）——该州的AI监管机构——未列出州政府部门所用AI系统的清单。至于报告涵盖的那四个特定机构，它们缺乏内部政策与程序以规范AI的授权、开发及使用方式，以确保数据无偏见且可靠，或者未设正式的人类监督要求。

在DMV（机动车管理局），根据报告，该机构将面部识别软件排除在AI监督范围外，与ITS的决定不符。与此同时，矫正部门没有机制应对潜在的AI风险，也未与囚犯电话监控供应商签订合同以减少偏见，降低囚犯可能遭受不公平或不必要的进一步调查的风险。

根据审计长的报告，运输部门及其他机构均未对其AI进行“定期审查或审计”，以确保其可靠性、无偏见且其他方面精确。

上个月，该州的信息技术服务办公室宣布任命有近二十年经验的数据和AI科学家阿明（Shreya Amin）为纽约州首任首席AI官员。“阿明当时通过声明称：‘我致力于利用人工智能来提升服务、促进运营并推动基于数据的决策，确保道德规范、公平性与透明度。’‘我们将跨部门与社区协作，为居民生活带来实质性改善，同时将纽约打造为政府AI领域的领头羊。’”

本周，在审计长的报告发布后，其办公室表示已着手解决这份最新AI审计提出的部分问题。阿明“已着手构建强有力的AI治理框架，提供额外教育资源与培训，助力机构提升效率、提供更多优质公共服务，”信息技术服务办公室首席传播官斯科特·雷夫（Scott Reif）通过电子邮件告诉《政府技术》。“我们意识到人工智能是一项强大且持续演进的工具，这就是为何我们致力于与时俱进、灵活应对并不断发展。”

审计长的报告呼吁信息技术服务办公室发布可供其他机构遵循的指导意见并提供更多培训。具体机构在与信息技术服务办公室协调时应制定“AI治理架构与政策”。

根据报告，机动车管理局还应“与信息技术服务办公室审查面部识别系统”以确定其是否符合该州的AI政策。

(以上内容均由Ai生成)