Sam Altman 承诺在 OpenAI 努力实现 AGI 时更加开放

快速阅读: 据《硅角度》称，OpenAI CEO Sam Altman在其博客文章中表示，公司正努力确保全球每个人都能利用通用人工智能实现目标和拓展创造力。为此，他们考虑实施如“计算资源配额”等措施。Altman强调，通用人工智能的开发需巨额资金，但使用成本将快速下降。同时，OpenAI承诺将更多关注个人赋能，并可能在开源方面采取更开放的态度。

OpenAI首席执行官山姆·阿尔特曼在他个人博客上发表了一篇长文，阐述了他所在的公司如何确保“地球上每个人”都能利用通用人工智能来实现目标并拓展创造力。他表示，这一计划的一部分包括一些听起来奇怪的想法，比如给每个人一个“计算资源配额”，以确保人工智能的益处能够广泛分布。阿尔特曼称：“技术进步的历史表明，我们关心的大多数指标（健康结果、经济繁荣等）在平均和长期来看都会变得更好，但增加平等似乎不是技术决定的，正确处理这些问题可能需要新的思路。”

“特别是，资本与劳动力之间的权力平衡很容易出现问题，这可能需要早期干预。”阿尔特曼将通用人工智能定义为“能够在许多领域以人类水平解决日益复杂问题的系统”，并声称他们接近于创建这样的系统。他的说法可能会引发担忧，认为这最终可能导致许多行业的大量失业。阿尔特曼承认，其到来需要“大量的人类监督和指导”以避免这种破坏。然而，他坚持认为通用人工智能系统“不会有最大的新想法”，并且它将在某些方面“非常出色，但在其他方面却出乎意料地糟糕”。当这些系统大规模运行时，通用人工智能的真实价值才能得以体现。

阿尔特曼表示，他设想了数百万个超大规模AI系统，它们可以解决“所有知识工作领域的问题”。阿尔特曼承认，这样的系统不会便宜。他表示，迄今为止AI行业的发展表明，有可能投入“任意数量的资金”，并获得连续且可预测的性能提升。这就是为什么据说OpenAI正在洽谈一个令人瞠目的400亿美元融资轮，仅在三个月前完成了66亿美元的融资。该公司还承诺，与甲骨文公司等合作伙伴一起，通过美国前总统唐纳德·特朗普的Project Stargate项目投资高达5000亿美元建设数据中心。然而，阿尔特曼坚持认为，尽管人工智能开发需要巨额资金，但使用成本大约每12个月降低十倍。因此，虽然构建更强大的AI系统需要资金，但这项技术将变得更加普及。

中国AI初创公司深探有限公司及其他公司的兴起似乎支持了这一观点，也表明开发和训练强大的AI系统可能会变得更加负担得起。但阿尔特曼坚持认为，要实现通用人工智能需要巨大的投资。如果OpenAI能够创建一个通用人工智能级别的系统，那么毫无疑问，公司将不得不做出一些“重大决策”，并引入一些可能不受欢迎的“限制”，以确保安全。阿尔特曼说，此前，OpenAI曾承诺，一旦有其他价值一致且注重安全的项目更接近于创造真正的通用人工智能，它将停止竞争并开始协助这些项目，以确保其安全发展。但这一承诺是在OpenAI仍致力于非营利地位时作出的。如今，公司正试图重组为一家希望到2029年实现1000亿美元年收入的盈利公司。

因此，阿尔特曼表示，公司现在的工作重点是“更多地关注个人赋能”，同时努力防止这些系统被专制政府用于“通过大规模监控来控制民众”，并防止“自主权的丧失”。阿尔特曼表示，这种做法可能意味着OpenAI必须对AI系统的开放性做出更多承诺。最近，他承认OpenAI在开源方面站在了历史的对立面，将最强大的AI系统的代码库和训练数据严格保密。“我们中的许多人预计，我们需要给予人们比以往更多的技术控制权，包括更多地开源，并接受安全和个人赋能之间需要权衡。”

(以上内容均由Ai生成)