一个 Deepfake AI 影响者偷了我的婚纱照
快速阅读: 据《艾尔》最新报道，一位网红发现自己的婚礼照片被用于深度伪造的Instagram账户，冒充他人婚礼。这让她反思网络内容的真实性及对内容创作者的风险，尤其是对孩子安全的影响。她认为AI网红会变得更普遍，品牌无需支付费用。
作为一个全职的内容创作者，凯莉·斯特兰尼克（@kellygracemae）深知在网上分享生活的一个风险是，偶尔会有人试图窃取你的照片。她没有意识到的是，有时候那些人根本不是真人。以下是一位来自布鲁克林的网红用自己的话讲述的故事：当她发现一个由深度伪造人工智能生成的Instagram账户正试图冒充她的婚礼为他们自己的婚礼时，发生了什么。
2019年3月，我为了在旧金山的一份科技工作搬到了那里，并与三个男孩同住，他们告诉我必须使用Hinge这款交友软件。“这就是人们现在认识的方式，”他们说，“这就是世界的运作方式。”我告诉他们，好吧，我会试试看，结果匹配上了这个叫安迪的家伙，然后去约会了。我当时刚满24岁，完全没有打算遇到我的丈夫——但一件事情接着另一件事情发生，事情就这样发展了。
2019年5月：我的第一次也是唯一一次Hinge约会。
2022年，我以为我们会订婚，但我以为会在夏天。当安迪在2022年3月4日向我求婚时，完全出乎了我的意料；我当时穿着运动裤，没有化妆，不过好在我头发已经吹过。我不是那种从小就梦想自己婚礼的女孩。我甚至没想过我会结婚。我来自一个离异的家庭，过去的感情经历让我有很多创伤，所以我并没有太多考虑有一天会有自己的婚礼。所以当我们真的订婚后，我们雇了一位全服务婚礼策划师，维罗尼卡·乔伊活动策划公司，她也是我们的家庭朋友。我给了她一个Pinterest灵感板，说：“我要五彩缤纷的花和迪斯科球。我希望它感觉像是个狂欢派对，”然后让她按照这个方向去做。
完整帖子请查看Instagram。
我在2022年春天开始制作TikTok视频，就在我们订婚后几个月。这只是为了好玩——直到2023年初我才真正有观众——并且我开始更自在地在网上分享个人内容，包括谈论我生活中正在发生的事情，当时主要是婚礼筹备。我分享了婚礼的过程，并讨论了我们做出的对我们来说真实的选择，比如不跳第一支舞或组建伴郎团。但我不认为我的内容是专门关于婚礼的。
说到我们的实际婚礼那天，我是那种认为“这一天不会是我一生中最美好的一天”的人。我的重点是保持冷静、专注、享受这一天，而不是被压力淹没。那天早上我独自一人；我没有一大群人在帮我准备。我想让它非常轻松。但因为我没有这些期望，它实际上成了我一生中最美好的一天。我能从头到尾享受一切，因为我设定了这些意图。我就像在漂浮。如果我能像那天一样做最好的自己，每天都这样，我会势不可挡。
我当然很兴奋事后分享关于婚礼的内容——提供视角和建议——但令我震惊的是人们对我们的婚礼有多感兴趣。我分享了我们的供应商，并谈了很多我对婚礼的心态——尽管最引人注目的是我们逃离婚礼后去了布鲁克林幻影参加派对的事实。
最近，我收到了一个粉丝的Instagram消息。她说：“嘿，我刚才在浏览，看到了这个视频。这是你的婚礼照片。”在视频中，有一张我的婚礼照片，我的丈夫安迪，所有的一切——但不是我的脸。另一个网红用她的脸替换了我的脸，并谈论了她在婚礼上做的小事情。这一切都与我毫无关系，除了她用我的照片作为视频的开场白。
我的第一反应是，到底怎么回事？谁敢拿我的婚礼照片，把自己的脸放上去，还做内容？有一张我的婚礼照片，我的丈夫安迪，所有的一切——但不是我的脸。另一个网红用她的脸替换了我的脸，并谈论了她在婚礼上做的小事情。这一切都与我毫无关系，除了她用我的照片作为视频的开场白。
我的第一反应是，我甚至没想到这可能是AI。显然，人们用AI来修图，但直到我发帖讲述了这件事，我才意识到视频中的那个人是AI，然后我开始收到很多人的信息，说：“这是深度伪造。这不是真人。”
@weddingtipsss 争议视频截图。
我从未在网上分享过这部分内容，但在我们婚礼不到六个月后，类似的事情也发生在了我身上。我的一个粉丝提醒我说，有个女孩在RedNote上用了这张完全相同的照片，并巧妙地将她的脸PS到了我的身体上。所以直到人们告诉我这个账号是深度伪造时，我才意识到这个新面孔并不是真实的。我仍然不知道这是一个完全是AI生成的虚拟人物，还是他们在使用某人的声音和形象来生成这些视频。
直到最近我才意识到，这个拥有超过6万粉丝的深度伪造账号的全部意图是为了推销和宣传一款生成看起来像是来自一次性相机的照片的应用程序。
这种情况确实让我思考了很多。由于我不是视频中的主角，我觉得没有那么强烈的情感联系，但我见过像阿里埃尔·洛雷这样的内容创作者和播客，一家公司用她的脸和声音制作了一个AI生成的付费广告，她在其中“谈论”他们的产品。如果是我的话，我会非常愤怒。我会感到困惑、害怕和愤怒。我会尝试采取法律行动。
在我的情况下，我不确定我对它是完全虚假、AI生成的虚拟人物有什么看法。我觉得这伤害性较小，但也有其他人不知道它是真是假。这对必须在网上分享内容的内容创作者来说是有害的，因为他们暴露在风险中，有人可能会操纵音频或视频并用来推广他们从未提及的产品。
我也觉得不舒服的是，我妈妈有时会在Instagram Reels上滑动，我们的父母和祖父母往往无法区分什么是真实的证词，什么是AI生成的。这利用了辨别不出真假的人的弱点。
总的来说，我们需要意识到我们所消费的内容，并真正通过“这是真实的还是不是？”的透镜来看待事物。这次经历真正确认给我的一件事是，当我把孩子带入这个世界时，我希望主动努力不在网上分享他们或以任何方式危及他们的安全。任何在网上发布内容的人都处于风险之中——无论你是有追随者的网红还是只是有人在网上分享他们的视频。
老实说，这其实是个挺有意思的故事。这真的很奇怪，不是真人。我甚至不知道AI网红是一个东西，但我认为它们会变得越来越普遍，因为品牌不需要支付虚假网红费用。真的，我只是简直难以置信他们让安迪留在视频里而不是我。太失礼了。
这篇采访经过编辑和压缩以提高清晰度。
麦迪逊·费勒 数字副主编 麦迪逊是ELLE.com的数字副主编，负责新闻、政治和文化报道。如果她不在线，她可能在打盹或者攀岩时避免摔跤。
(以上内容均由Ai生成)
