前 OpenAI 员工和 AI 专家要求总检察长阻止营利性转换

快速阅读: 《硅角度》消息，一封由前OpenAI员工与30位AI专家联署的公开信呼吁加州和德拉瓦州总检察长阻止公司转型为“盈利性公益公司”。信中警告AI若落入错误之手可能加剧不平等与虚假信息，甚至威胁人类存亡。OpenAI回应称调整架构旨在让更多人受益，并确保非营利部分同步发展。

前OpenAI员工与30位人工智能专家共同发布了一封联名信，呼吁加利福尼亚州和特拉华州的总检察长阻止公司将自身重组为“盈利性公益公司”。诺贝尔奖得主、前谷歌大脑负责人杰弗里·辛顿与人工智能先驱者尤舒亚·本吉奥和斯图尔特·罗素一道，联合11名OpenAI员工，包括4名现任（匿名）及7名前任员工，敦促公司避免从事可能不道德的商业行为。签名者中还包括前谷歌DeepMind员工拉马纳·库马尔和现DeepMind研究员、前Anthropic员工尼尔·南达，他们与埃隆·马斯克一道，后者也表示，从非营利模式转变为营利模式并非他帮助资助的使命，这导致他发起了一场诉讼。鉴于马斯克还拥有另一家竞争性的人工智能公司，他的动机受到质疑。因此，今天辛顿说：“我很高兴有人在努力促使OpenAI坚守其使命，而这一努力并不涉及埃隆·马斯克。”

信中，签名者指出，人工智能的益处“前所未有”，但警告称，如果落入错误之手，人工智能可能会加剧“现有的不平等、操纵和虚假信息”，甚至可能致使人类灭绝。他们引用了多位专家、人工智能公司和政府分别表达的关于这一潜在存在危机的担忧。

“人工智能公司有强烈的财务动机来规避有效监管，我们认为现有的公司治理结构不足以改变这一点。”信中补充道。目前，OpenAI估值高达3000亿美元。信中作者们认为，因“广泛的保密协议”，当前和前任员工在表达担忧时受到限制。他们表示，公司几乎无须向政府或公众分享信息，使得具有变革意义的技术掌握在少数人手中。“我们认为不能完全指望他们主动分享这些信息，”他们说道。

对此，OpenAI回应称，任何对公司架构的调整都将旨在让更广泛的公众从人工智能中获益。它补充道：“这一架构将继续确保，随着营利性公司取得成功并增长，非营利性部分也会同步发展，从而实现我们的使命。”

照片来源：Unsplash

硅谷立方联合创始人约翰·富里尔的信息：

您的支持对我们很重要，它帮助我们保持内容免费。只需点击一下，就能支持我们提供免费、深入且相关的内容的使命。

加入我们的YouTube社区

加入包括超过15,000名#Cube校友专家的社区，其中包括亚马逊CEO安迪·贾西、戴尔科技创始人兼CEO迈克尔·戴尔、英特尔CEO帕特·格尔辛格等众多杰出人物和专家。

“立方体是我们行业的关键合作伙伴。你们确实是我们活动的一部分，我们非常感谢你们的到来，我知道人们也非常欣赏你们创造的内容。”

——安迪·贾西

谢谢您！

(以上内容均由Ai生成)