我们还能再相信我们的眼睛吗？Apple 新 AI 清理工具的阴暗面

快速阅读: 据《科学警报》最新报道，文章讨论了苹果新推出的“清理”功能，利用生成式AI移除照片中的元素，但也引发对照片可信度的担忧。文章提醒人们警惕AI编辑的滥用，并强调视觉素养和监管的重要性，以应对技术带来的挑战。

你可能已经看到苹果公司推广其新功能“清理”的广告，该功能可以用来移除照片中的元素。本周末，当我看到其中一个广告时，我感到非常好奇，于是立即更新了我的软件，想亲自尝试这项功能。自去年12月起，澳大利亚的苹果用户在具备特定硬件和软件条件的情况下便可以使用此功能。此外，新西兰、加拿大、爱尔兰、南非、英国和美国的客户也能体验这一功能。该工具利用生成式人工智能（AI）分析场景，并建议可能分散注意力的元素。你可以在下面的截图中看到这些被高亮显示的部分。然后你可以点击建议的元素将其删除，或者圈出需要删除的元素。设备随后会利用生成式AI尝试根据周围区域创建一个逻辑上的替代品。

更简便的欺骗方式
智能手机照片编辑应用程序已经存在了十多年，但现在，你无需下载、付费或学习使用新的第三方应用程序。如果你拥有符合条件的设备，可以直接在手机的默认照片应用程序中使用这些功能。苹果的“清理”功能加入了多家科技公司已提供的类似工具行列。安卓用户可能已经使用过谷歌的“魔法编辑器”。这允许用户通过AI移动、调整大小、重新着色或删除对象。三星特定设备用户也可通过内置相册应用删除照片中的元素。一直以来，都有方法——无论是模拟的还是最近的数字的——来进行欺骗。但以一种免费且易于使用的方式将它们整合到现有软件中，使这些可能性变得更加容易实现。

使用AI编辑照片或完全创建新图像引发了关于照片和视频可信度的紧迫问题。我们依赖这些设备产生的视觉效果，从警察随身摄像头和交通摄像头到保险索赔以及验证包裹安全交付等方方面面。如果技术的进步正在削弱我们对图片甚至视频的信任，我们必须重新思考信任我们眼睛的意义。

这些工具有哪些用途？
去除分散注意力或不需要的元素的想法或许很有吸引力。如果你曾经去过拥挤的旅游热点，去除一些其他游客以便更专注于环境可能会很有吸引力（下图是前后对比）。顶部为原始图像，使用苹果“清理”功能去除人物后的效果如下。在顶部是原始图像，在使用苹果“清理”功能后去除人物后的效果。（作者提供，CC BY-SA）顶部为原始图像，使用苹果“清理”功能去除人物后的效果如下。

但在去除干扰之外，这些工具有哪些其他用途？有人用它们来去掉水印。水印通常由摄影师或公司添加，旨在防止未经授权使用其作品。去掉这些水印会让未经授权使用不那么显眼，但这并不合法。其他人则用它们来篡改证据。例如，卖家可能会编辑一张损坏商品的照片，声称在发货前商品处于良好状态。随着图像编辑和生成工具日益普及且易于操作，其用途也相应增多。其中一些用途可能令人反感。AI生成器现在能制作出逼真的收据。然后人们可尝试以此向雇主报销实际未发生的费用。我们现在还能相信我们所看到的一切吗？

考虑到这些发展，拥有“视觉证明”意味着什么？如果你认为一张照片可能经过编辑，放大查看有时可以揭示AI出错的地方。以下是“清理”功能生成的新内容与旧内容不太匹配的一些区域的放大版本。像“清理”这样的工具有时会产生可以用肉眼发现的异常现象。（T.J. 汤姆森）

通常情况下，操纵一张图片比说服性地编辑同一场景的多张图片要容易得多。因此，要求查看多个不同角度展示同一场景的镜头可能是有用的验证策略。亲眼所见或许是最佳方式，尽管这并不总是可行的。做些额外调查或许会有帮助。例如，对于伪造收据的情况，这家餐厅是否存在？收据上显示的日期餐厅是否营业？菜单上是否提供所声称出售的商品？税率为当地地区的税率吗？上述手动验证方法显然耗时。随着AI编辑和生成的风险增加，自动化这些繁琐工作的可靠系统可能会越来越受欢迎。

同样，监管机构也有责任防止人们滥用AI技术。由于“监管不确定性”，苹果计划在欧盟推出包括“清理”功能在内的苹果智能功能的计划被搁置。AI可以使我们的生活更轻松。如同其他技术一样，它可以用于善或恶。认识到其能力并培养视觉与媒体素养是成为数字时代知情者的关键。
T.J. 汤姆森，视觉传播与数字媒体高级讲师，墨尔本皇家理工大学
这篇文章由《对话》根据知识共享许可重新发表。阅读原文。

(以上内容均由Ai生成)