AI Startup 在研究人员发现令人作呕的东西后删除了整个网站

快速阅读: 据《未来主义》称，韩国公司**GenNomis**因生成数万张AI色情图片而下线，其数据库暴露了名人、政界人士和普通女性的露骨色情影像。深度伪造技术加剧了对女性的诽谤、勒索等问题。中国要求AI生成内容标明出处，但全球监管仍显不足。

本周，一家名为**GenNomis**的韩国网站因一项令人震惊的发现而下线：其软件**Nudify**生成了数以万计的AI色情图片。这些照片被发现存储在一个未受保护的数据库中，其中包含大量涉及名人、政界人士、普通女性及儿童形象的露骨色情图片。网络安全研究员**杰里迈亚·福勒**（Jeremiah Fowler）在发现这一数据集后，立即向**GenNomis**及其母公司**AI-Nomis**发送了一份负责任的披露通知，随后他们限制了数据库的公共访问。之后，在《连线》杂志联系**GenNomis**进行评论后不久，该公司及其母公司似乎彻底从网络上消失了。

**GenNomis**远不是唯一一家兜售生成色情内容工具的人工智能初创公司。这是全球范围内不受监管的人工智能生成趋势的一部分，这种趋势令人担忧。由于其高度逼真的特性，这些基于真实人物的假色情图像和视频通常被称为**深度伪造技术**，随着消费者接触到越来越令人信服的生成式人工智能，它们在互联网上迅速传播。

深度伪造技术的色情内容影响可能是毁灭性的，尤其是对女性而言，她们构成了绝大多数受害者。除了数字脱衣时明显缺乏同意外，这些东西还被用来诽谤政治家、解雇员工、勒索受害者以获取金钱，以及生成儿童性虐待材料。此外，深度伪造技术还引发了金融和网络犯罪的大幅增加，并且导致大量明显的虚假信息泛滥。

不出所料，**GenNomis**总部设在韩国。根据2023年的一份深度伪造色情报告显示，韩国女性占到该行为受害者的53%，远远超过其他群体。相比之下，美国女性占比为20%。随着生成式人工智能的兴起，女性被大量剥削的现象与韩国性别歧视言论和行为的急剧上升同时发生，一些反动派政客和影响者将男性自杀率的上升归咎于女权主义。总体而言，这是一项强有力的论据，要求立法者采取更严厉的措施来监管生成式人工智能，尽管由于人工智能行业目前可以自由自我监管，这种情况似乎不太可能改变。

相比之下，中国已明确规定所有人工智能生成的内容都必须标明出处。虽然西方国家在这方面起步较慢，但立法者开始追赶步伐，禁止深度伪造色情内容的制作和分发，不过在美国各州的法律和惩罚各有不同。

然而，对于全世界成千上万名女性来说，像**GenNomis**这样的公司存在意味着为时已晚，难以挽回。

更多关于人工智能伦理的信息：
中国已明确规定所有人工智能生成的在线材料必须标明出处。

分享此文章：
……

(以上内容均由Ai生成)