Danny De Gracia：我们的数字身份不能任由 AI 摆布

快速阅读: 据《檀香山民用节拍》最新报道，文章讨论了人工智能带来的伦理和法律问题，特别是数字身份和隐私的风险。作者呼吁制定严格法规保护数字权利，防止出现类似中国社会信用体系的情况，并建议夏威夷和联邦政府采取措施保障公民权益。

人工智能的普及引发了严重的伦理和法律问题。去年，州参议院交通与文化和艺术委员会在审议参议院第2314号法案时引发了巨大争议。该法案提议创建一个数字身份试点项目。理论上，统一的数字身份会让夏威夷居民的生活更加便利，但在缺乏相关法律保护的情况下，多位证人合理地表达了反对意见，称其可能成为所谓的“社会信用评分体系”，类似于中国共产党所采用的体系。中国的体系是一种公民可信度评分体系，源于其大规模监控的“网格化社会治理系统”。它结合了金融、社交和司法评级，实际上是中国政府通过给予或拒绝如银行和住房等资源来奖励或惩罚公民的一种方式。

尽管参议院的交通委员会在公众压力下否决了这项善意的措施，但世界最终将朝着“大型科技公司”——即对数字服务的私有化控制以及人工智能的普及——如果不提供法律保护可能会创造出一种事实上的社会信用体系的方向发展。AI已经在隐形封禁方面显现问题。甲骨文创始人拉里·埃里森在九月份的一次公司会议上提出建议，未来“公民将表现得最好，因为我们一直在记录和报告所有发生的事情。”如果你认为这种微观管理可能会让人感到烦扰，埃里森接着建议甚至警察也会受到AI的监督，如果他们做错了事情会立即被标记出来。

在总统唐纳德·特朗普就职典礼上，几位科技富豪的到场引起了人们的广泛关注，人们想知道他们可能会对新政府产生什么影响。重要的是要注意到，虽然政府可能不会直接限制个人，但如果私人和政府实体都使用相同的技术，掌控技术的人也就掌控了民众和政府。

人工智能何时会从信息汇总者演变为决策者？

目前，如果你是使用Meta旗下的Facebook产品的人，并且已经使用了很多年，你可能会注意到支持社交媒体平台的人工智能如此不稳定，以至于会对多年前被认为的违规行为施加惩罚，而且通常无法直接向人类上诉这些惩罚。在我的情况下，我超过16年前因错误而受到处罚，至今仍无法使用Facebook广告，因为受到了处罚。我们已经可以看到人工智能在社交媒体上隐形封禁的问题——也就是说，限制谁能看到什么内容。这可能会提升极端分子的知名度，他们主张去人性化或虐待某些人口群体，同时阻止那些不那么病毒式但更理性的用户出现在社交网络上。

想象一下，如果我们的社会被彻底数字化并由人工智能控制，由私营公司或个人运营，你会受到服务限制并且无法上诉任何事情。这就是为什么IBM在20世纪70年代常常给员工进行培训演示，其中包含一句话：“计算机永远不能承担责任，因此计算机绝不能做出管理决策。”

快进到现在。根据行政命令成立的所谓政府效率部门现在有了“软件现代化计划”和“数据收集和同步”的任务。《经济时报》上个月报道说，埃隆·马斯克甚至想用人工智能做出遣返和签证决定。为了完全透明和披露，我订阅了马斯克的X社交媒体服务，并且经常使用他提供的Grok AI服务来协助学术研究和数据分析。我也在过去写过关于AI好处的文章，如果运用得当的话。但让我担心的是，在这种情况下，如果我们没有人为设置的制衡机制来防止私营公司对我们实施事实上的社会信用评分，我们可能会无意中迎来一个我们被禁止乘飞机、贷款或其他任何事情的未来。

数字身份面临风险

想象以下噩梦般的未来场景，一个人的数字身份处于人工智能的掌控之中：

如果你的手机麦克风“听到”你说了一些不合时宜的话，然后把你列为反社会或危险人物，并禁止你使用某些在线服务，比如数字银行，怎么办？如果AI控制的摄像头看到一个看起来很像你的人犯罪，然后把你列入黑名单，禁止你在某些商店购物，你的信用卡和借记卡会被直接拒绝，或者保安会在你一进门就被通知停止你，怎么办？如果你年轻时在网上发表评论或上传视频，完全符合言论自由权利，后来一家控制AI的私营公司不喜欢这些内容，所以在你成年后申请大学时，AI会“降权”你，当你尝试申请时，AI会筛选你的申请，怎么办？

如果恶意人士入侵AI网络并提高或降低人们的数字身份，我们该如何上诉？这里有一个我知道会引起我们当选官员注意的问题：如果AI“偏好”某个候选人并压制某人的在线可见性，会发生什么？如果恶意人士入侵AI网络并提高或降低人们的数字身份，我们该如何上诉？

这些都是如果我们现在不采取行动可能面临的潜在恐怖之一。如果我们可以有强有力的法规保护数字权利，夏威夷不应害怕数字身份。我们应该带头在当地制定宪法修正案或一套数字防火墙法，禁止使用社会信用评分或将居民赋予上诉任何私人或公共AI对其作出的决定的权利。

在联邦层面，我们的国会代表团应提议一项宪法修正案，明确第四修正案包括数字身份的安全保障。美国和夏威夷应当拥抱AI作为推动人类进步的有用工具，但我们应该警惕那些未民主化且不受政府严格监管的人工智能。

注册我们的免费早间新闻通讯，让我们每天都能以更明智的态度面对生活。

(以上内容均由Ai生成)