费城议会探讨AI技术监管与伦理挑战

快速阅读: 费城市议会讨论AI技术广泛应用及其潜在风险，涵盖软件开发、交通管理、警务等领域，强调需建立道德使用框架，防止侵犯隐私和公民权利。

费城市政府机构使用了多种所谓的人工智能工具来完成各种任务，从编写软件和开具停车罚单，到操控警用无人机和在刑事调查中进行人脸识别。官员们表示，这些系统的广泛使用是本周三市议会听证会的一个重要发现，该听证会探讨了人工智能领域的广阔且可能令人担忧的世界，以及城市如何管理其在政府内外日益增长的使用。

听证会的大部分讨论集中在人工智能系统可能带来的危害上，比如泄露机密数据、产生错误、侵犯公民权利、表现出偏见、助长歧视、被用来针对移民，或是在医疗和警务等领域做出敏感决定时没有人类参与。市议员吉姆·哈里蒂提到了汤姆·克鲁斯主演的电影《少数派报告》，其中警方在罪犯尚未犯罪之前就逮捕他们，并表示他担心为了安全而放弃任何自由。市议员尼古拉斯·奥罗克认为，像费城这样的城市必须单独确保人工智能系统仅以道德的方式使用。

费城市议会于10月15日在PhillyCAM举行了一场关于人工智能技术的听证会。（PhillyCAM供图）

“我们不能再依赖大哥大、州政府、联邦政府等。地方必须自己照顾自己，我们必须保护自己。”他在听证会上说，这次听证会在社区媒体中心和工作室PhillyCAM举行。市官员作证称，标记为人工智能的软件程序多年来一直在使用，最终惠及居民。然而，一些与会者指责他们轻描淡写了警察局对人工智能的接受，并且在建立防止其滥用的保护措施方面行动过于缓慢。

“这项技术发展得非常快，”市议员鲁·兰多，一位律师兼听证会组织者说道，“我们有一个似乎不太愿意执行现有法律的美国最高法院。真正取决于我们的是确保我们设置好防护栏，确保我们不会在过去几年中延续歧视、延续不平等，并确保我们照顾好费城的所有人。”

寻找坑洼、处罚超速

市首席信息官梅丽莎·斯科特在创新和技术办公室工作，她表示，政府和公司几十年来一直在使用一类称为机器学习工具的人工智能系统。这些工具包括能够检测模式、预测服务需求、识别欺诈、路由311请求、查找计算机安全日志中的可疑活动和改进搜索结果的软件。

近年来的新事物是生成式人工智能——经过大量在线文本、图片和其他媒体训练的系统，然后可以用简单的英语回答问题、创建新图像或生成其他内容，斯科特说。

市机构使用了一些生成工具，例如GitHub Copilot，它根据用户的建议生成软件代码；微软的Copilot，该公司文字处理和其他程序中的人工智能功能；Salesforce使用的Einstein GPT，这是一家制造311系统的公司；以及其他几种斯科特在听证会上列出的工具。

兰多表示，交通局还使用人工智能系统评估坑洼和道路障碍，费城停车管理局使用人工智能开具罚单。城市中的半自动化票据系统包括红灯摄像头、最近安装在宽街上的超速摄像头，以及针对阻碍公交车道的汽车的车载摄像头。

在市机构开始使用类似Microsoft Copilot的产品之前，斯科特的团队会进行风险分析，检查系统输出的数据，查找错误和偏见，并确保员工接受培训以识别不正确的信息。她说，城市还在为城市员工创建一个关于公开可用的生成式人工智能工具（如ChatGPT和Google Gemini）的培训项目，以便他们了解保护城市数据的必要性。

“假设你在为城市工作，然后回家继续在家工作。我不能阻止你将这些信息上传到Gemini，然后这些信息就会进入世界的生态系统。”她说，“我们必须培训你，并让个人承担责任，让他们知道这是违反规定的。不允许将城市数据上传到这些在线工具中。”

城市计划于明年年初成立跨部门的人工智能治理委员会，审查政策、跟踪技术发展、与专家合作，确保人工智能的使用“与我们的价值观、法律义务以及市民和员工的期望保持一致。”市长切雷尔·帕克的首席法律顾问克里斯汀·布雷说。当被哈里蒂等人问及社区成员是否能在治理委员会中发挥作用时，布雷表示，关于如何将社区、AI专家和其他城市的官员纳入监督过程的讨论正在进行中。

在听证会上，斯科特提到据她所知，市内并未在执法中使用人工智能。这一言论引发了当地科技活动人士的批评，他们指出，市内实际上多年来一直在使用车牌识别等技术。此外，斯科特和布雷未能具体说明市内如何在技术采购过程中检查偏见，也无法确定谁将担任治理委员会的成员，活动人士对此表示不满。“今天市内的不回答令人震惊且失望，”人民科技项目组织总监德弗伦·华盛顿说，“但我们清楚地表达了我们的声音：我们希望有公园和图书馆、学校和工作机会，而不是那些让生活变得更糟、却让亿万富翁变得更富有的黑箱AI。”

费城市议会成员鲁·兰多、以赛亚·托马斯和吉米·哈里蒂参加了在PhillyCAM举行的关于人工智能技术的听证会。2025年10月15日。（PhillyCAM提供）

随后，费城警察局确认，它确实使用了AI系统，并正在考虑部署更多的AI系统。“警察局是市政府更大生态系统的一部分，其使用技术和数据完整性遵循标准实践，就像市内每个机构和部门一样。”市长办公室提供的声明中称。例如，该部门通过州警司法网络（JNET）和特拉华谷情报中心使用AI驱动的面部识别和图像分析技术进行“有限且合法授权的调查”。警察局指令“要求特定案件的正当理由和主管批准，禁止一般监控或人群监视。”

警察局通过安全软件提供商Genetec运营125个车牌识别摄像头，并且大多数巡逻车辆都配备了Axon Fleet 3系统，具备车牌识别功能，尽管该功能尚未激活。“这些系统使用AI来识别车牌并与执法数据库匹配。其使用受部门政策监管，以确保调查完整性和数据安全。”该部门表示。警察局最近开始使用Skydio X10无人机，这些无人机“使用机载AI支持自主飞行功能，如避障、低光导航、精确着陆和预编程飞行路径。”该AI“严格限于飞行安全和导航，不包括面部识别或身份匹配功能。”无人机任务由持证飞行员监控。Skydio X10无人机制造商将其宣传为“由最先进AI操控的无人机。”

此外，警察随身摄像头具有内置转录功能，可将音频转换为文本。这些转录不用于任何预测报告编写或自动决策，根据警察局的说法。官员们表示，警察局多年来一直在探索AI系统。例如，2013年，警察局试用了Hunchlab，这是一种旨在预测犯罪区域的预测警务工具，目前没有此类系统在使用中。目前正在评估实时语言翻译工具和Axon Dedrone系统以追踪未经授权的无人机，但这些工具尚未用于警察行动。虽然市内在其他部门测试微软Copilot的生成式AI，但该系统“无法访问敏感的执法系统或数据。”“警察局正处于评估AI工具的早期阶段，任何未来的使用都将接受严格的法律、道德和操作审查。”

官员表示，市内不会与美国移民和海关执法局（ICE）合作使用AI来识别和拘留移民。警察局随后确认，它不与ICE、国土安全部或任何联邦机构在与移民执法相关的AI倡议上进行合作。

该部门还表示，在明夏于林肯金融球场举行的足球比赛之前，未曾与特朗普政府就基于人工智能的反无人机计划进行任何协议或讨论。

市长切雷尔·帕克通常拒绝直接回答有关移民和海关执法局大规模驱逐行动的问题，尽管官员们表示，自她上任以来，费城作为庇护城市或“欢迎”城市的立场未变，即限制与联邦移民机构的合作。

尽管市方保证将仅以适当且经过严格审查的方式使用人工智能，但技术专家在听证会上指出，其他城市和县已经尝试利用此类工具进行大规模监控和预测警务。他们敦促市议会制定严格的规定，确保公众问责、监督及公民基本权利的保护，并禁止或退役有害的人工智能。

“这并非奥威尔式的幻想，而是由人工智能崛起引发的公民和人权危机。”乔治城大学法律中心的民权律师、非营利组织TechTonic Justice的高级律师克莱伦斯·奥科说，“费城必须把握这一关键时刻，通过将公民和人权置于人工智能和数字政策基础之上，树立新的国家标准。”

➡️ 更多来自Billy Penn

费城周边的恐怖电影放映活动让你进入惊悚氛围

费城FIFA世界杯志愿者中心在时尚区开放

地方检察官候选人德根谴责选民冷漠，呼吁居民投票

选民登记和邮寄选票截止日期即将到来

姐妹主导的费城播客正在改变自然保护主义的氛围

这家费城非营利组织培训学龄学生完成全程或半程马拉松