深度伪造的更深层次危害：由于无法控制肖像，滥用的可能性是巨大的

快速阅读: 据《生物识别更新》称，韩国和美国分别对深伪犯罪判重刑。新泽西州立法打击深伪行为，密西西比大学举办研讨会探讨AI与社交媒体对民主的影响。

旨在将未经同意的亲密图像传播定为犯罪的《删除法案》，已在参议院通过，并正在众议院等待表决。

2024年10月，韩国一家法院对一名涉及深伪色情犯罪的罪犯判处十年监禁。2025年3月，美国一名教师因利用人工智能制作虚假色情视频的学生被逮捕。

福勒认为该行业正趋向于更有效地执行可能已经存在的指导方针，但这些方针往往形同虚设。“GenNomis明确规定严禁儿童色情内容及其他任何形式的非法活动——至少在表面上如此。平台政策还表明，发布此类内容将导致账号被立即封禁，并可能引发法律后果。”

在这种情况下，GenNomis似乎已自行下架相关内容。福勒发出负责任的披露通知后的几天内，GenNomis及AI-NOMIS相关网站停止服务，数据库也被删除。

政府开始认识到深伪技术带来的威胁程度

新泽西州州长办公室的一份声明宣布签署了A3540/S2544号法案，该法案“对制作和传播欺骗性音频或视觉媒体（即‘深伪’）的行为规定了民事和刑事责任。”该法案将“为了进一步推进其他刑事活动而制作或分发欺骗性音频或视觉媒体”的行为归类为三级重罪，可处以最高3万美元的罚款。

菲尔·墨菲州长表示：“尽管人工智能已被证明是一项强大的工具，但它必须被负责任地使用。我的政府专注于打击虚假信息，确保媒体的真实性。我们与深伪图像的受害者站在一起，并将继续优先考虑所有新泽西居民的安全和福祉。”

出席签署仪式的还有高中学生弗朗切斯卡·马尼，她的同龄人创建并分享了她的人工智能生成的露骨图像，这促使她成为人工智能监管的支持者。参议院、新泽西州反性侵联盟（NJCASA）和新泽西理工学院的代表亦对此表示支持。

本周，密西西比大学举办了一场题为“社交媒体与人工智能对民主的影响”的首届研讨会。一份公告提到，乔丹新闻倡导与创新中心举办了其首次活动，汇集了顶级记者、研究人员和商业领袖，讨论审查制度、媒体素养、伦理以及人工智能与美国法律的交叉问题。

新闻与新媒体学院院长安德里亚·希克森表示，尽管此次会议汇聚了持有不同政治立场的人士，“但我们一致认为谎言不可取。”

(以上内容均由Ai生成)