微软 AI 主管警告：AI 不应模仿人类，需设“安全围栏”

快速阅读: 微软AI部门主管苏莱曼发表博文，强调AI应以人为本，创造更通人性的AI，但需谨慎设计，防止“AI精神分裂”。他认为AI不应模仿人类，应设“安全围栏”保护人类。

IT之家 8 月 25 日消息,微软人工智能部门主管穆斯塔法・苏莱曼上周(8 月 19 日)发布博文,谈及 AI 的现状和未来。

苏莱曼表示,他此生的使命就是让世界更好, 创造安全且有益的 AI 。如今微软的目标是用 AI 赋能人类,专注于将 Copilot 打造成负责的技术,帮助人们获得更高的创造力。

他想创造出“更通人性”的 AI,和真实世界紧密联系,并加深人与人之间的信任和理解。但这种设计也存在诸多挑战,最重要的是需要非常谨慎的思维, 且微软会围绕着“以人为本”的价值观来指引其行为 。

文中苏莱曼还担忧起 AI 的现状, 他认为现在许多人已经开始相信 LLM(IT之家注:大语言模型)是具有意识的实体 , 以至于他们会依感觉为“AI 权利”、“AI 福利”甚至“AI 公民身份”发声 ,且这些症状在没有心理疾病的人中也会出现, 他将这种行为形容成“AI 精神分裂” 。

苏莱曼认为 AI 应以人为本,不应让 AI 来“模仿人类”,AI 业界必须紧急设置一个“安全围栏”来保护人类,并明确哪些东西不应去造, 只有这样 AI 才能被关进制度的笼子 , 真正为世界创造价值 。

外媒 WindowsReport 对此认为,苏莱曼的担忧并非天方夜谭,毕竟本月初 OpenAI 停用 GPT-4o 模型时就遭到了用户强烈反对, 他们认为这个 AI 模型就像是他们的伴侣 ,并恳切它能“回归”。

此外,OpenAI 的 CEO 山姆・奥尔特曼也承认, AI 提供的情感依附比以往任何技术都强 ,他还认为 AI 技术强的“能让人类自我毁灭”。

广告声明:文内含有的对外跳转链接(包括不限于超链接、二维码、口令等形式),用于传递更多信息,节省甄选时间,结果仅供参考,IT之家所有文章均包含本声明。

(以上内容均由Ai生成)