专家探讨AI生物武器风险与治理挑战

快速阅读: 丹尼尔·古德温和作者前往墨西哥城参加海伦娜峰会，会议聚焦生物安全、心理健康和人工智能等议题，探讨AI的伦理和技术挑战，及对社会的影响。

丹尼尔·古德温和我在墨西哥城机场下了同一架飞机，前往海伦娜峰会。我们乘坐一辆大型黑色美国SUV，沉浸在关于人工智能的力量和局限性的讨论中，几乎没注意到这座世界第五大城市（人口2180万）正在展开的壮丽画卷，只是偶尔瞥见其迷人的美景和传奇的底层社会。我暗自决定，一定要以认真游客的身份再回来。毕竟，弗里达·卡罗和迭戈·里维拉都来自这里。经过大约两个小时的市区行驶，我们才驶上通往山区的高速公路。

我们正前往一个叫瓦勒德布拉沃的地方，那里将举行一场由名为海伦娜的特殊慈善组织召集的约50位专家会议，探讨生物安全、心理健康和人工智能等关键挑战。我们的东道主是贝尔纳多和卢兹玛·戈麦斯及其大家庭，他们开放了他们的牧场、热情的心以及壮观的户外艺术收藏，这可能是世界上最壮观的艺术展示之一。这是我第一次体验墨西哥的热情好客，这种温暖让我想起了开普敦人民在最佳状态下的待客之道！

瓦勒德布拉沃位于墨西哥城西南部的山林雨区，海拔1826米（世界第六高；参考：亚的斯亚贝巴海拔2355米，约翰内斯堡1735米，丹佛1609米），靠近阿万达罗湖。这里的景色令人叹为观止，高海拔也让人感到呼吸急促。晴朗的日子里，早晨阳光明媚，午后则会下起大雨，这让我想起约翰内斯堡的夏季雷暴，特别是雨水浸湿大地时那股浓郁的气味。我们在户外遮盖处开会，勤勉的支持团队应对着变幻莫测的天气。

与会者包括人工智能专家、《财富》500强公司的首席执行官、诺贝尔奖得主、非政府组织领导人和顶尖学者，他们共同探讨了如何在“飞行途中”干预系统，以确保超级智能的安全，同时不牺牲自由开放社会的核心价值观。“飞行途中”是因为人工智能不再只是一个产品或工具，它已成为我们信息生成基础设施的一部分，日益普及，发展速度甚至超过了摩尔定律。我们正在努力治理人工智能，担心这可能根本无法实现。

科学界预期，人工智能的空前进展将在生物科学、化学和材料科学领域产生深远影响。这些进展有望显著改善健康和福祉（例如，人工智能加速诊断、监测和疫苗研发），也有助于环境保护和气候（例如，人工智能指导设计新型电池，使风能和太阳能等间歇性能源更加实用；促进大规模碳捕获催化；可能带来替代碳密集型混凝土生产的方法，后者目前占全球排放量的8%）。

然而，特别是在生物科学领域，风险可能等于甚至超过收益。疫苗制造研发的进步可能会使生物武器的制造变得更加容易，这也是为什么推动分散疫苗研发的联盟——流行病预防创新联盟——在其发现工作中并行建立了生物安全计划。人工智能辅助合成化合物的设计可以直接释放到环境中，恢复退化的土壤，提高农业生产力和粮食安全，但也可能对生态系统造成不利影响。

当然，上述特定任务的人工智能应用是一回事，而构建“人工通用智能”（AGI），即某种形式的大脑，则是另一回事。主要国家和公司目前正在加速推动构建AGI，担心谁先到达这一目标就能获得永久的主导地位。为了避免混乱，我们可能需要集中控制、全球监控和限制谁能构建AGI，但这增加了形成压迫性监控国家的风险。相反，保持人工智能的开放性和分散性可以保护个人自由，但也增加了事故或滥用的风险。

海伦娜峰会的参与者还探讨了所谓的“隔离大流行”，即虚拟现实的虚假吸引力、阿片类药物和酒精的易获取性所导致的严重社会孤立和绝望感。在美国，这种情况尤为严峻，尤其是在年轻人中。根据美国疾病控制中心2021年的数据，42%的高中生报告有持续的悲伤或绝望感。更令人担忧的是，22%的人在过去一年中曾认真考虑过自杀，10%的人尝试过。

面对这些挑战，我们需要解决四个方面的问题：

我们如何将争取成为“通用人工智能”首个实现者的竞赛转变为国际共享项目？鉴于全球大国之间的深刻互不信任，要让关键参与者优先考虑全球安全而非胜利，需要什么条件？

能否在通用人工智能中构建一个道德指南（技术界称之为“对齐”）？谁有资格来构建它？目前构建通用人工智能的人是否有权为全人类定义“善”？这样的结果是否可能实现？

我们作为一个文明是否足够明智以应对我们正在创造的力量？如果人工智能最终接管了思考和发明的工作，人类是否会失去目标和雄心，还是会因此解放出来追求更高的目标？

在一个任何媒体都可以被完美伪造的世界里，什么是共同现实的基础？当无法信任所见、所听或所读时，我们如何应对日常生活？在完美伪造的时代，是否有可能重建集体真理？

解决这些挑战的答案部分是技术性的，但最终将需要民主领导才能提供的意愿、智慧和关怀。美国历史学家小阿瑟·施莱辛格，20世纪60年代肯尼迪总统的顾问，写道：“民主治国的任务是使制度和价值观足以跟上历史加速的步伐，以便社会有机会控制科学和技术释放的能量。民主领导是促进和服务于自由共同体创新的艺术。”（《美国历史的周期》，第422页）

海伦娜峰会产生了非凡的巧合。我遇到了安德鲁·祖克曼，他的纳尔逊·曼德拉的照片出现在我与卡德·阿斯马尔和大卫·奇德斯特合编的《曼德拉自述》（波士顿，利特尔布朗公司，2003年和2017年版）的封面上。再次见到拉里·戴蒙德非常愉快，上次见面大约是在30年前，当时我们在建设南非的民主。还有丹尼尔·古德温，一位致力于社会公益的工程师、科学家和企业家。我们的友谊始于从墨西哥城机场前往瓦勒德布拉沃的路上，后来又延续到了回波士顿的旅程中。

(以上内容均由Ai生成)