前 OpenAI 员工和 AI 专家要求总检察长阻止营利性对话

快速阅读: 《硅角度》消息，逾40人联名致信，呼吁阻止OpenAI转型为营利性公益公司，担心其被私人利益驱动。信中强调AGI应服务于全人类而非私利，OpenAI回应称调整架构旨在让更多人受益。

前OpenAI员工与30位人工智能专家共同发布一封联名信，呼吁加利福尼亚州和特拉华州的总检察长阻止该公司重组为“营利性公益公司”。诺贝尔奖得主、前谷歌大脑负责人杰弗里·欣顿与人工智能先驱者 Yoshua Bengio 和 Stuart Russell 联手，其中包括11名OpenAI员工——其中有四名现任员工（匿名）和七名前任员工——敦促公司避免从事可能不道德的商业行为。签署人中还包括曾效力于谷歌DeepMind的拉马纳·库马尔和现为DeepMind研究员、曾任Anthropic员工的尼尔·南达。他们加入了埃隆·马斯克的行列，后者也表示，从非盈利模式转变为盈利模式并非他所资助的使命，这促使他提起诉讼。鉴于马斯克还拥有另一家人工智能公司，他的个人动机存在疑点。因此，今天欣顿表示：“我很高兴有人在努力确保OpenAI坚持其使命，而这一努力并不涉及埃隆·马斯克。”

信中写道，人工通用智能（AGI）的发展不应由一家以赚钱为目的的公司掌控。AGI是指当人工智能在智力上达到或超过人类时的概念，他们认为这不应是为了私人利益，而是为了所有人的福祉。OpenAI的成立初衷正是如此——“致力于为人类的利益构建安全且有益的人工通用智能”。2017年，当OpenAI首席执行官山姆·阿尔特曼在伦敦讲话时，他重申了这一点，表示“我们永远不会为了股东的利益做出决策。我们只对全人类负责。”

信中提到，人工智能带来的好处“前所未有”，但警告称，若落入错误之手，人工智能可能会加剧“现有的不平等、操纵和虚假信息传播”，甚至可能导致人类灭绝。他们引用了多位专家、人工智能公司及政府分别对此潜在的重大问题表达的关切。

信中补充道：“人工智能公司有强烈的财务动机来规避有效的监管，我们认为现有公司治理结构不足以解决这一问题。”目前，OpenAI估值已达3000亿美元。信中同时指出，由于“广泛的保密协议”的约束，当前和前任员工在谈论他们的担忧方面受到限制。他们表示，公司几乎没有压力向政府或公众分享信息，这使得这项改变世界的技术掌握在少数人手中。“我们认为不能完全指望他们主动分享信息，”他们说。

对此，OpenAI回应称，任何对公司架构的调整都将旨在确保更广泛公众能从人工智能中受益。它补充说：“这种架构将持续确保，随着盈利部分的成功与发展，非盈利部分也能同步成长，使我们能够实现使命。”

照片来源：Unsplash

硅谷立方联合创始人约翰·富里尔的消息：您的支持对我们至关重要，让我们能够持续提供免费内容。只需一键即可支持我们提供免费、深度且相关的内容的使命。加入包含超过15,000名#Cube校友专家的社群，加入包括亚马逊CEO安迪·贾西、戴尔科技创始人兼CEO迈克尔·戴尔、英特尔CEO帕特·格尔辛格等众多名人和专家的社区。

“立方体是行业的重要合作伙伴。你们确实是我们的活动的一部分，我们非常感谢你们的到来，我知道人们也非常欣赏你们创造的内容。”——安迪·贾西

谢谢您！

(以上内容均由Ai生成)