中国推出自主人工智能代理 Manus：受到欢迎还是令人恐惧？

快速阅读: 据《数字日记》最新报道，名为“曼努斯”的新AI代理程序在中国开发，因其自主能力受到关注，但也引发了数据隐私和AI安全的担忧。Croppa.ai公司CEO梅尔·莫里斯指出，代理型AI虽具潜力，但自主行动能力也带来风险，需要加强监管。总的来说，曼努斯展示了吸引人的功能，但并未超越现有AI模型，且关于AI安全和治理的辩论将继续。

图片：© 法新社

一款名为“曼努斯”的新人工智能代理程序在中国开发，因其在简历分类和股票分析等任务中的自主能力而引起关注，引发了关于数据隐私和中美之间AI竞争的关注和担忧。曼努斯AI在其网站上表示，其名称取自拉丁语中“手”的意思，是一个“将你的想法转化为行动的通用人工智能代理”。

《数字日报》就曼努斯及其对整个AI行业的影响采访了Croppa.ai公司的首席执行官梅尔·莫里斯。据莫里斯称，确实存在一些需要关注的问题：“曼努斯的演示展示了作为重要一步的代理型AI的潜力。然而，赋予像曼努斯这样的自主AI代理独立行动的能力引发严重担忧。”

代理型AI使用复杂的推理和迭代规划来自主解决复杂、多步骤的问题。莫里斯解释说：“我们已经见证了众多生成式AI和所谓的推理模型产生有缺陷输出的例子。如果给予它们在高风险任务上的自主权——比如买卖股票——这些缺陷可能导致混乱。在几分钟内比较股票的基本面和交易活动与成功应对市场的复杂性是截然不同的。”

莫里斯还指出技术发展：“代理型AI代表了重大进展。AI设计、构建和执行代码的能力大大增强了其功能。值得注意的是，对DeepSeek R1的研究表明，它能同时用英语和中文进行推理。”这可能使AI模型发展出一种人类难以理解的语言。“这既令人着迷又令人不安。”

这些变化是否会成为一股积极的力量？正如莫里斯指出的那样，这取决于许多方面：“AI和自主代理仍有许多未知领域，尤其是未披露语言中的独立推理风险。在部署、仪器和监控方面的警觉至关重要。这些问题亟需得到解决。”

这意味着：“我们需要理解我们的AI代理在做什么，如何得出结论，并建立监督或干预机制。”

总体而言，各种形式的AI都涉及类似的讨论和担忧，莫里斯总结为：“尽管曼努斯展示了吸引人的功能，但它并不是超越现有AI模型如双子座或OpenAI研究产品的革命性突破。关于数据隐私和暴露于云端服务器的担忧依然存在，加上对曼努斯与中国关系的担忧。这些因素将进一步加剧关于AI安全和治理的持续辩论。”

(以上内容均由Ai生成)