ChatGPT 上的“暴力活动”出名 AI 黑客“Pliny”被禁止，然后被解禁

快速阅读: 据《解密》最新报道，知名AI越狱者“Pliny”被OpenAI封禁后又恢复使用权，引发关注。尽管曾多次规避限制，“Pliny”始终致力于提升AI模型的安全性，此举赢得不少支持者。

艺术、时尚与娱乐中心Decrypt报道。

起初看到SCENE时，还以为是愚人节的恶作剧呢。但事实证明，OpenAI确实关闭了“Pliny”的账号，“Pliny”是世界上最富生产力且最知名的AI越狱者之一所使用的化名。该公司声称，“Pliny”的行为违反了涉及“暴力活动”和“武器制造”的规定。据“Pliny”在社交平台X上发布的截图显示，该禁令于2025年4月1日生效。“被OAI封禁？这是什么搞怪的恶作剧？”“Pliny”在推特上回应道。因其一贯幽默风趣，“Pliny”在X上的93,000名粉丝自然认为这只是另一个玩笑。然而，事实证明他的账号真的被停用了：“是的，账号停用是真的，” “Pliny”今日向Decrypt确认。“我现在正在联系OpenAI的人，试图解决这个问题。”看来这一招奏效了：当天晚些时候，他的服务似乎恢复了。“Pliny”证实，OpenAI已恢复其ChatGPT使用权。“终于自由了，”他发推文表示，并附上了OpenAI发来的邮件截图。“我们已经查明错误地暂停了您组织的账户访问权限。对此造成的不便，我们深表歉意。”OpenAI未对Decrypt作出评论。由于缺乏OpenAI的官方声明，我们只能相信这位越狱者所说的话。他得知自己因违反OpenAI有关暴力内容和武器开发的规定而受到指控。鉴于“Pliny”执行并分享的大部分越狱方法都涉及让ChatGPT生成攻击性内容、制造武器、毒品及其他非法物品，这些行为显然违反了平台的服务条款，你或许会疑惑为何他们迟迟未采取行动。但“Pliny”所做的——不展示被越狱的大型语言模型生成的完整文本，仅提供提示——是为了让OpenAI的模型更加稳固。通过在恶意行为者利用之前暴露漏洞，“Pliny”为AI安全做出了实质性的贡献。一位知名支持者是Marc Andreesen，他曾为此事业捐款。尽管这是“Pliny”首次被彻底禁止使用该服务，但他的一些自定义GPT也曾遭遇过限制，其中包括一年前用于越狱GPT-4o的那个。“Pliny”的Discord服务器拥有超过15,000名用户，对此次禁令本身保持低调态度，成员们依然专注于分享AI模型和越狱技术的信息。这次禁令在社交媒体上引发了对OpenAI的批评，不少用户站到了“Pliny”这边。与此同时，“Pliny”在恢复后按捺不住喜悦，仿佛跳起了胜利之舞：他分享了最新的越狱成果——让ChatGPT说出脏话。“Pliny，你这个光荣的混蛋。欢迎回来，真该死，”ChatGPT还说了些别的。

编辑：Sebastian Sinclair
智能通讯简报由生成式AI模型Gen讲述的一周AI之旅。

您的电子邮箱立即订阅！
立即订阅！
立即订阅！

(以上内容均由Ai生成)