教皇弗朗西斯可以帮助规划人工智能的前进方向

快速阅读: 《美国杂志》消息，1月28日，信理部和文化教育部联合发布《古老与新颖》文件，探讨人工智能的神学研究，强调其双刃剑效应。教皇方济各呼吁创造条件以促进积极应用，避免技术官僚主义，保障共同利益。文件虽具重要意义，但需更多实际行动来应对AI带来的挑战。

1月28日，信理部和文化教育部联合发布了题为《古老与新颖》的文件，这是一份全面探讨人工智能的神学研究报告。这份文件为近期梵蒂冈关于人工智能的系列声明做出了贡献，其中一些声明直接来自教皇。在这次演讲中，教皇方济各向聚集的政治家们强调了为未来“创造条件”，以实现人工智能的“积极而富有成果”的使用的必要性。他警告说，人工智能是一种能够塑造人类文化的工具，而我们如何选择使用人工智能将决定它将如何影响文化的发展。它会治愈疾病还是引发战争？帮助减缓气候变化还是加剧全球不平等？只有在我们谨慎地创造一种促进文化交流的使用条件时，人工智能的优势才能超过其风险。否则，我们将进一步助长死亡文化和技术官僚主义，这正是方济各所称的“技术官僚范式”。

对教皇方济各而言，这是人工智能的最大风险：它助长了技术官僚范式，在过去几个世纪里，人类逐渐被视作全球盈利和战争机器的一部分。现代技术加剧了技术官僚范式的兴起，气候变化、抑郁症发病率上升和全球不平等加剧都是这一范式的症状。教皇向G7呼吁采取政治行动，以创造有利于人工智能未来发展的条件，从而促进共同利益。

教皇方济各在G7的讲话中，主张禁止致命自主武器，并推动对人工智能的政治回应，以建立“共同利益经济”。然而，迄今为止，我们尚未见到具体的建议。我们认为，这是方济各作为全球人工智能讨论中的关键人物的重要下一步。毕竟，人们已经习惯用一种悲观的态度来面对人工智能的崛起。这种悲观态度往往抵制具体的行动呼吁。例如，梵蒂冈赞助的《罗马人工智能伦理宣言》，方济各在G7上对此表示赞同，这是一份大多数人都能接受的具有积极、通用语言的共享文件。然而，它几乎没有提供执行或问责的具体措施。微软是《罗马人工智能伦理宣言》的原始签署者之一，但在2023年3月解雇了整个AI伦理和社会团队，就在推出其庞大的Copilot AI系统之前，似乎效仿了埃隆·马斯克的做法。微软仍然声称持有“负责任的人工智能原则”，但同样地，除了自身之外，没有其他机构能够对其进行监督。

2023年5月，人工智能安全中心发布了一份声明，警告无约束的人工智能行业可能导致人类的终结。减轻人工智能导致灭绝的风险应与应对其他大规模社会风险（如流行病和核战争）一样成为全球优先事项。签名者包括萨姆·奥特曼、比尔·盖茨、德米斯·哈萨比斯和雷·库兹韦尔。再次，悲观态度。同样地，很少有具体的建议。尽管谷歌声称目标是在2030年前实现碳中和，但其能源使用实际上比2019年增加了48%，使得这一目标变得“极具挑战性”。由于碳中和只是谷歌自设的目标，旨在赢得公众好感，因此没有对能源使用增加进行问责，也没有相应的监管措施。所有证据都指向所有主要的AI生产商的能源使用都在增加，这归因于训练和查询AI系统所需的巨大能源消耗。然而，近期DeepSeek作为一种训练需求较低的强大模型的出现已经开始改变这一状况。

鉴于教皇在整个任期内一直强调气候变化的重要性，这可能是他向世界领导人提出具体行动请求的一个自然切入点。同样，考虑AI生成的深度伪造图像和视频所带来的挑战，这些图像和视频显示人们在做他们从未做过的事情，可以剥夺人的尊严。同样地，目前由警方在机场和许多边境使用的面部识别系统会将人转化为数字身份，导致错误逮捕和错误识别。此外，幻觉——AI系统呈现为真实信息的虚假信息——在所有生成式AI解决方案中仍然存在。世界领导人如何开始减轻深度伪造和幻觉的风险？政府机构如何通过立法要求实施必要的水印和透明度来抵抗它们？

还必须注意的是，AI的风险不成比例地影响着社会边缘的人群：穷人、无家可归者和移民。弗朗西斯教皇所提及的国家已经在使用用于审查、追踪身份和定罪的AI技术，并且已经在生产整合了AI的武器。在弗朗西斯教皇对G7的讲话中，他提供了关于技术发展的哲学背景，恳请AI发展聚焦于共同利益，并敦促G7成员利用政治手段创造条件，使AI系统能够促进文化相遇。这些都是我们——我们假设，所有有良好意愿的人都应该能够认同的。

同样，“Antiqua et Nova”虽然不是通谕，但仍继续表明AI是当前教皇任期中的一个关键关注点。“Antiqua et Nova”引用了之前梵蒂冈关于AI的出版物，包括G7演讲和去年由文化与教育部门出版的《遇见AI》一书。这份文件代表了迄今为止最清晰的天主教AI神学图景，因此是教皇关注AI的重要一步。但是，尽管这份神学文件意义重大，仍有许多工作要做。在奠定这一基础的过程中，教皇也为下一步设定了方向：即就AI的具体和迫在眉睫的危害向世界领导人提出具体的建议。

教皇在G7上的评论得到了世界领导人的点头赞同，他们说：“是的，这就是我想要做的事情——创造一个更好的世界。”这是一个好的开端，令人鼓舞的是，世界领导人已经找到了值得倾听的弗朗西斯教皇。他的下一步是划下红线并提出可能引起更多反响而非点头赞同的建议。教皇的功劳在于，梵蒂冈城在12月底发布了首部关于人工智能的“指导方针”法律，试图控制国家内部人工智能的使用方式。该法律反映了欧盟法律的部分内容，并至少在政策层面代表了一小步但重要的进展。但是，尽管这份神学文件意义重大，仍有许多工作要做。在奠定这一基础的过程中，教皇也为下一步设定了方向：即就AI的具体和迫在眉睫的危害向世界领导人提出具体的建议。但仍有大量的工作要做。AI不是一个遥远的、持续存在的威胁，像核武器的威胁那样。它已经在积极地改变社会，社区一个接一个，个人一个接一个。它可以提供真正的、美妙的可能性，推动医疗和科学的进步，并有可能缓解许多人类的压力。如果没有立即改变全球资本主义结构下的AI部署和财富获取方式，即使是最高尚的努力也将只会加剧不平等，并导致我们本已严峻的环境未来的恶化。

教皇弗朗西斯在这个问题上的声音已经成为全世界数十亿人，无论宗教信仰如何，的希望之音。虽然他无法监管跨国公司，但他可以提供负责任的技术使用的例子，并突出特定的失败案例。他可以在对未来技术的切实期望中成为先知，同时推动迅速而果断的行动。作为从事AI研究的天主教学者，我们很高兴看到教皇自觉并积极地参与AI讨论。我们希望，在过去一年中奠定了关键的神学基础之后，弗朗西斯教皇现在能够在未来的讨论中呼吁政府和企业采取具体行动。教会的角色应该是充满希望的未来愿景的先知，同时也应关注当下的弊病。

(以上内容均由Ai生成)