教宗方济各的最后警告

快速阅读: 据《Coda 故事》最新报道，梵蒂冈关注人工智能伦理，警告勿将其神化。教皇方济各被警示算法传播谎言的风险，强调技术应辅助生活而非主宰人类。这一立场体现于其发布的《罗马人工智能伦理宣言》与《Antiqua et Nova》文件中。

无论谁成为下一任教皇，他不仅将继承天主教会的领导权，还将继承一种极为先进的技术应用方式——这种方式在很多方面超越了许多国家的政府。尽管硅谷将人工智能描绘成一种近乎带有宗教色彩的力量，能够“拯救人类”，但梵蒂冈的生命科学院在2020年2月发表了《罗马人工智能伦理宣言》，认为“人工智能系统必须被构想、设计和实施为服务于和保护人类及其生活的环境”。

今年1月，梵蒂冈发布了名为《Antiqua et Nova》的文件——这是迄今为止关于人工智能最全面的声明之一——警告我们有危险将人工智能崇拜为上帝或偶像。我在与剑桥分析公司的举报人克里斯托弗·威利合作制作我们的Audible播客系列《Captured》时，第一次对梵蒂冈的人工智能观点产生了兴趣。在我们为期一年的调查中，我们发现硅谷的人工智能先驱们采用了准宗教的语言来描述他们的产品和抱负——一些科技领袖明确将自己定位为创造新神的先知。

在我们的报道中，我们记录了布莱恩·约翰逊等人字面意义上谈论“创造上帝为超级智能”，亿万富翁投资者讨论如何通过人工智能“实现永生”，以及创始人谈论建造无所不知、无所不能的机器，这些机器将使我们摆脱痛苦并推动我们进入乌托邦。一位创始人告诉我们，他们的目标是通过脑机接口将“所有人类知识植入每个人”——换句话说，让我们都变得全知全能。

诺贝尔奖得主玛丽亚·雷萨最近告诉我，她曾警告教皇方济各关于设计用于传播谎言和虚假信息的算法的危险。“方济各理解谎言的影响，”她说。她向教皇解释了Facebook如何摧毁了菲律宾的政治格局，平台的参与算法让虚假信息像野火一样蔓延。“我说——‘这实际上是一种奖励谎言的激励结构。’”

据雷萨称，硅谷的人工智能传教士正在掌控一种因傲慢而无法看到他们推出的技术对孩子不安全的权力。她说，这是一种“掌握在那些因傲慢而无法看到他们推出的技术对孩子不安全的男人手中的权力”。

梵蒂冈始终懂得如何利用技术、工程和壮观场面来激发虔诚和行使权力——只需走进圣彼得大教堂就能明白这一点。我采访了一位即将前往罗马向教皇致敬的梵蒂冈牧师。他告诉我梵蒂冈为何如此深刻地理解人工智能日益增长的力量。“我们非常清楚，某些结构可能会变成神明，”他说，“最终，技术应当是辅助生活的工具，而非人类的终点。”

该故事的一个版本出现在本周的Coda Currents通讯中。在此处注册。

(以上内容均由Ai生成)