OpenAI 前员工恳求法院阻止它试图做的事情

快速阅读: 《未来主义》消息，十年前，OpenAI由山姆·阿尔特曼和埃隆·马斯克创立，致力于造福人类。如今，OpenAI正从非营利组织转型为盈利企业，引发争议。前员工和专家呼吁阻止此转变，认为这可能削弱其人道主义承诺。马斯克已于2019年退出。

大约十年前，科技大亨山姆·阿尔特曼和埃隆·马斯克创立了开放人工智能研究所（OpenAI），并承诺开发人工智能技术以造福全人类。然而，随着人工智能市场的增长，OpenAI高管们的野心也在不断扩大（马斯克于2019年退出该项目，转而运营自己的AI公司xAI）。如今，这家最初作为透明的非营利性技术组织起步的企业正在快速转变为典型的硅谷创业公司——出现了对公司进入私人市场的批评声音，甚至有内部告密者站出来反对。

本周早些时候，一群前OpenAI员工、法学教授、活动家和诺贝尔奖得主致信加利福尼亚州和特拉华州的总检察长，恳请他们阻止OpenAI转变为私营企业。尽管近年来OpenAI的许多业务已转向商业模型（如ChatGPT，它对高性能版本收取订阅费用），但该公司正计划彻底转型为一家盈利企业。“OpenAI未来可能研发出可能导致我们所有人丧生的技术，”前OpenAI员工尼桑·斯蒂内森说道，他指的是该公司追求通用人工智能（AGI）的目标，即机器智能达到或超越人类能力的假设点。“这一点值得肯定，OpenAI由一个有责任造福人类的非营利机构控制。这种责任意味着不能放弃这种控制。”

目前，大多数AI行业的巨头都以商业形式运作，而非非营利组织。通过这一转变，OpenAI只是加入了竞争激烈的行列——但内部人士表示，这种重组将使公司及其领先技术超出其最初推动其崛起的人道主义承诺。前OpenAI员工托多尔·马克洛夫指出，作为一个非营利组织，OpenAI的董事们有法律义务遵循公司的章程，其中目前包括“确保通用人工智能造福全人类”的目标。他现在在Anthropic工作，该公司受一个五人长期利益信托机构监管。“公共利益公司的董事们无需承担这样的信托责任，”马克洛夫解释说关于OpenAI的转型。“他们可以选择平衡这种责任与股东利益，但并非必须如此……只要他们没有违法，你就无能为力。”

阿尔特曼因2023年的某些不当行为被逐出OpenAI，其中包括隐瞒ChatGPT发布的事实，并未经公司共同组建的安全委员会批准就批准了ChatGPT 4.0的改进。这一事件仅持续五天后阿尔特曼便被重新任命，但这仍是这位科技大亨名声上的污点。OpenAI是否允许作为公共利益公司继续存在取决于这两个州的总检察长。这是否最终重要是另一个问题；通用人工智能（AGI）技术目前仍是遥不可及的梦想，而越来越多的研究显示，至少基于当今的技术，这是不可能的——这使得盈利模式下OpenAI的AGI威胁被严重夸大。

更多关于AI的内容：山姆·阿尔特曼承认对ChatGPT说“请”和“谢谢”是在浪费数百万美元的计算资源。

分享这篇文章。

(以上内容均由Ai生成)