Sam Altman 承诺在 OpenAI 努力实现 AGI 的过程中更加开放

快速阅读: 据《硅角度》称，OpenAI首席执行官萨姆·奥特曼在其博客文章中表示，公司将确保“地球上每个人”都能利用强人工智能实现目标并拓展创造力。他提出为每个人分配“计算预算”，以促进强人工智能的广泛使用。奥特曼强调，强人工智能系统将带来巨大效益，但也需谨慎处理，防止失业和社会不平等问题。OpenAI计划创造数百万个强人工智能系统，并承诺在开源方面采取更开放的态度。

OpenAI首席执行官萨姆·奥特曼在个人博客上发表了一篇文章，阐述了他的公司如何确保“地球上每个人”都能利用强人工智能来实现目标并拓展创造力。该计划的一部分包括一些听起来有些古怪的想法，比如给每个人分配一个“计算预算”，以确保强人工智能的益处能广泛惠及大众。奥特曼写道：“技术进步的历史影响表明，我们关心的大多数指标（健康结果、经济繁荣等）平均来看和长期来看都会变得更好，但增加平等似乎不是技术决定的，这可能需要新的想法。”他特别指出，资本与劳动力之间的力量对比很容易失衡，这可能需要早期干预。奥特曼将强人工智能定义为“能够在许多领域以人类水平解决日益复杂问题的系统”。他声称，我们已接近创建此类系统。他的说法可能会引发担忧，认为这最终可能导致许多行业的大规模失业。奥特曼承认，其到来需要“大量的人员监督和指导”以避免这种破坏。然而，他坚持认为，强人工智能系统“不会提出最具创新性的新想法”，并且它将在某些方面表现出色但在其他方面表现糟糕。当我们将这些系统运行在巨大的规模时，强人工智能的实际价值才能真正体现出来。奥特曼表示，他设想了数百万个超大规模的强人工智能系统，可以处理“每个知识工作领域的难题”。奥特曼承认，这样的系统成本不菲。他指出，人工智能行业迄今为止取得的进步表明，有可能花费“任意多的资金，并获得持续且可预测的性能提升”。这就是为什么人们说OpenAI正在就一项令人瞠目的400亿美元融资进行谈判，仅在三个月前，该公司刚刚完成了66亿美元的融资。该公司还承诺，与甲骨文公司等合作伙伴一起，在美国总统唐纳德·特朗普的“星门项目”下投资高达5000亿美元用于数据中心建设。然而，奥特曼坚持认为，尽管强人工智能开发需要巨额资金，但使用它的成本大约每12个月就会降低十倍。因此，虽然构建更强大的强人工智能系统需要资金，但这项技术将变得更加普及。中国人工智能初创企业深寻有限公司和其他企业的崛起似乎支持了这一论点，也表明开发和训练强大的强人工智能系统可能会变得更负担得起。但奥特曼坚持认为，要实现强人工智能，需要大量的投资。如果OpenAI能够创造出强人工智能级别的系统，公司无疑将不得不做出一些“重要决策”，并引入一些“限制”，这些措施可能不太受欢迎。奥特曼说。此前，OpenAI曾承诺，一旦有其他价值一致且注重安全的项目更接近于创造真正的强人工智能，OpenAI将停止竞争并开始协助这些项目，以确保其安全发展。但这一承诺是在OpenAI仍致力于非营利状态时作出的。如今，该公司正试图转型为一家有望在2029年实现1000亿美元年收入的盈利公司。因此，奥特曼表示，公司目前的使命更加关注“个体赋能”，同时努力防止这些系统被专制政权通过大规模监控手段“控制民众”并防止“自主性的丧失”。奥特曼说，这种做法很可能意味着OpenAI必须对强人工智能系统更加开放。最近，他承认OpenAI在开源方面“站在了历史的对立面”，将其最强大的强人工智能系统的代码库和训练数据严格保密。“我们中的许多人预计需要给予人们比过去更多的技术控制权，包括更多地开源，并接受安全和个人赋能之间需要权衡，”奥特曼说。照片来源：TechCrunch/Flickr

(以上内容均由Ai生成)