AI 老板们感受到了高风险的压力

快速阅读: 《商业内幕》消息，谷歌深思维的德米斯·哈萨比斯和Anthropic的达里奥·阿莫迪在采访中表达了对人工智能发展的责任感和担忧。他们一致认为应建立监管机构监督AI项目，并强调国际合作的重要性。两人担心AI的中长期风险，包括技术滥用和自主系统失控等，并呼吁社会更好地规划应对措施。

谷歌深思维和Anthropic的首席执行官在最近的一次采访中表示，他们感受到了责任的重压。这些高管倡导建立监管机构来监督人工智能项目。两位人工智能领袖一致认为，人们应该更好地理解和准备应对高级人工智能带来的风险。当被问到是否担心“变成罗伯特·奥本海默那样”，谷歌深思维的首席执行官德米斯·哈萨比斯说这让他夜不能寐。“我总是担心这类情景。这就是为什么我睡不好觉，”他在接受《经济学人》主编赞尼·敏顿-贝多斯采访时与Anthropic的首席执行官达里奥·阿莫迪共同说道。“我几乎每次做决定都感觉像是走在刀刃上——比如，如果我们不够快地开发，那么专制国家可能会占上风，”阿莫迪说。“如果我们开发得太快，那么像德米斯所提到的以及我们写过的那些风险，就可能成为现实。”

“无论如何，我会觉得这是我的错，因为我们没能做出完全正确的决定，”这位Anthropic的首席执行官补充道。哈萨比斯表示，虽然人工智能在短期内看起来有些过誉，但他担心其中长期后果仍未得到充分重视。他提倡一种平衡的观点——认识到人工智能带来的“前所未有的机遇”，特别是在科学和医学领域，同时更加敏锐地意识到伴随的风险。“我谈论的两大风险是坏人重新利用这种通用技术进行有害活动——我们如何使好人能够使用而限制坏人的使用？第二，是自主系统失控或价值观、目标设定不当的风险。这两点至关重要，我认为全世界都需要关注这一点。”

阿莫迪和哈萨比斯都主张建立一个监管机构来管理人工智能项目，哈萨比斯指出国际原子能机构可以作为一个潜在的模式。“理想情况下，这应该是类似联合国的组织，但由于地缘政治的复杂性，这似乎不太可能，”哈萨比斯说。“所以，我一直在为此担忧，我们只是尽我们所能，在我们的范围内和影响力内采取行动。”

哈萨比斯认为国际合作至关重要。“我希望，就像过去我经常谈到的那种为高级人工智能设立的类似于欧洲核子研究组织（CERN）的合作模式一样，基本上是一个国际研究合作，针对我们还需要采取的最后几步，以构建第一个高级人工智能，”哈萨比斯说。

两位领导人都敦促更好地理解他们预期的人工智能变革力量，并且社会开始相应规划。“我们正处于一个充满巨大挑战的时代，对权力平衡将产生重大影响，”阿莫迪说。“如果有人把一个新国家投入世界——比今天任何活着的人都聪明的1000万人——你会问：‘他们的意图是什么？他们在世界上实际会做什么，尤其是如果他们能够自主行动的话？’”

《商业内幕》向Anthropic和谷歌深思维寻求评论时，两家公司尚未作出回应。“我也同意德米斯的看法，即这样的决策超出了任何一个人的能力范围，”阿莫迪说。

(以上内容均由Ai生成)