Anthropic联合创始人：我们可能未充分关注AI的社会影响

快速阅读: Anthropic联合创始人杰克·克拉克警告，若政府不加强AI技术监管，可能引发经济崩溃或生物武器等灾难性后果。AI技术需基于人类价值观设计，避免违背社会利益。克拉克呼吁提高透明度，防止AI公司独自决定技术发展。

政府需要加强对人工智能技术在社会各领域的应用监督，否则可能面临灾难性后果，包括经济崩溃或有人利用其制造生物武器。这是Anthropic联合创始人兼政策主管杰克·克拉克发出的严厉警告。他表示，迅速发展的AI技术既有可能带来巨大的社会利益，也可能带来危险的后果，除非政界和监管机构更加重视。

克拉克说：“我非常担心我们没有给予足够的关注。最让我害怕的是，这一切都通过公司开发和部署产品而发生，而没有更广泛的社会讨论。这是我最担心的事情。”

Anthropic是一家生产Claude的AI技术初创公司，但该公司自认为是一家致力于人类长期福祉的技术企业。在接受英国记者刘易斯·古道尔的《新闻代理人》播客采访时，克拉克认为AI系统需要以人类价值观为基础设计，使这些系统像我们关心它们一样关心我们。

对于AI是否需要关心人类的问题，克拉克表示：“如果这些系统没有扎根于人类社会或不了解人类的需求，那么它们很容易无意或恶意地做出违背我们利益的行为。”

Anthropic正在分析和绘制其系统所体现的价值观，确保这些系统是有帮助而非欺骗性的。克拉克说：“如果你在构建机器的过程中犯了一系列错误，或者故意制造恶意机器——这并不是前沿公司的目标，但也可能发生——这将是一个严重的问题。”

克拉克呼吁加强透明度和政府监督，警告AI公司不应独自决定如何构建这些工具并研究其后果。他认为，AI技术革命将对经济和社会产生比工业革命和其他历史上的技术进步更大的影响。

据普华永道、麦肯锡和世界经济论坛的报告，预计到2050年，人工智能将根本性地改变全球劳动力市场，多达60%的工作岗位将被取代或需要适应。广告业已经经历了巨大变革，AI技术被用于创建广告、规划和购买媒体以及建模和测量工具。

克拉克认为，与以往的技术进步不同，AI的发展曲线更为陡峭，尚未开始趋于平缓，社会需要为AI首席执行官达里奥·阿莫迪所警告的“白领血洗”做好准备。“在一代人的时间内发生的科技革命与多代人的变化截然不同，我们必须以不同的方式应对。”克拉克说，“因此，确实存在大规模就业影响的可能性。”

但这并不意味着前景一片黯淡。劳动力的充裕可以释放经济空间，更加关注和重视教育、辅导、社会护理和护理等以人为中心的职业。“在西方世界，教师、护士和老人护理人员的数量不足，而且他们的薪酬通常很低。”克拉克说，“但要实现这一点，需要在政策上进行重大调整，以应对技术带来的变化，从而真正积极地改变经济。”

克拉克对政府能够提供正确的基础设施和政策设置，以确保AI技术的透明度和监督持乐观态度。他以英国安全研究所和新冠疫情应对措施为例，说明政府可以在必要时迅速采取行动，为公共利益服务。

尽管如此，克拉克认为AI技术和监管已经到了一个十字路口。一条路通向一个积极的未来，改善公共服务、医疗保健和教育，并提供更高的生活水平。另一条路则有两个糟糕的结果。一个是政治失败，让科技公司赚取巨额利润并在公共生活中扮演重要角色，类似于社交媒体公司，然后人们会问：“我们怎么让这种情况发生？” 更糟糕的是末日情景：“技术失控，被某个疯狂的人滥用，导致极其可怕的事故。”

超过30,000名广告行业专家参与了这一讨论。

B&T订阅服务提供最新广告和媒体新闻，直接发送至您的邮箱。