像 Apple 的照片清理这样的工具是能够信任我们的眼睛的又一个棺材钉

快速阅读: 据《The Conversation （英国）》最新报道，苹果推出的“修复”功能利用生成式AI移除照片中的分散注意力的元素，已在多国上线。尽管便利，但这种技术可能被用于不道德用途，如去除水印或伪造证据。专家提醒公众提升媒介素养，警惕AI滥用。

你可能已经看到苹果公司推广其新功能“修复”的广告，该功能可用于移除照片中的元素。这个周末，当我注意到其中一个广告时，我感到非常感兴趣，于是更新了我的软件来尝试它。自去年12月以来，这项功能已经在澳大利亚为拥有特定硬件和软件条件的苹果用户推出。它也适用于新西兰、加拿大、爱尔兰、南非、英国和美国的用户。该工具利用生成式人工智能（AI）分析场景并建议可能分散注意力的元素。你可以在下面的屏幕截图中看到这些以红色标注的元素。苹果公司使用生成式AI识别元素，这里以红色标注，可能是照片中分散注意力的部分。然后，它允许用户通过轻触一下删除这些元素。该工具利用生成式人工智能（AI）分析场景并建议可能分散注意力的元素。你可以在下面的屏幕截图中看到这些以红色标注的元素。T.J. 汤姆森接着，你可以点击建议的元素以删除它，或者手动圈出要删除的元素。设备随后将利用生成式AI尝试根据周围区域创建一个逻辑上的替代品。更简便的欺骗方式
智能手机照片编辑应用程序已经存在十多年了，但现在，你不需要下载、付费或学习使用新的第三方应用程序。如果你有符合条件的设备，可以直接在手机默认的照片应用程序中使用这些功能。苹果公司的“修复”功能加入了各大科技公司已提供的各种类似工具。拥有安卓手机的人可能会使用谷歌的“魔法编辑器”。这允许用户利用AI移动、调整大小、重新着色或删除对象。拥有某些三星设备的用户可以使用内置的照片图库应用程序从照片中移除元素。一直以来都有方法——模拟和数字——来欺骗。但以免费且易于使用的方式将其集成到现有软件中，使这些可能性变得更加容易实现。使用AI编辑照片或完全创建新图像引发了关于照片和视频可信度的紧迫问题。我们依赖这些设备产生的视觉效果，从警察随身摄像头和交通摄像头到保险索赔和验证包裹安全送达等各个方面。如果技术的进步正在削弱我们对图片甚至视频的信任，我们必须重新思考信任我们眼睛的意义。这些工具有哪些用途？去除分散注意力或不想要的元素的想法可能很有吸引力。如果你曾经去过拥挤的旅游热点，去除一些其他游客，以便更专注于环境，可能会很有吸引力（查看下面的滑块示例）。但除了去除干扰之外，这些工具有哪些其他用途？有些人用它们来去除水印。水印通常由摄影师或试图保护其作品不受未经授权使用的公司添加。去除这些水印会让未经授权的使用不那么显眼，但并不合法。其他人则用它们来伪造证据。例如，卖家可能会编辑一张损坏商品的照片，声称其在发货前处于良好状态。随着图像编辑和生成工具日益普及且易用，其应用场景也随之大幅扩展。其中一些用途可能是不道德的。AI生成器现在可以制作看起来逼真的收据。人们可以尝试向雇主提交以报销实际上并未发生的费用。了解更多：你能发现财务造假吗？AI如何提高我们的账单欺诈风险
我们现在还能相信我们所看到的一切吗？考虑到这些发展，“视觉证明”意味着什么？如果你认为一张照片可能被编辑过，放大后有时可以发现AI搞砸的地方。以下是“修复”功能生成的新内容与旧内容不太匹配的一些区域的放大版本。“修复”这样的工具有时会创造出可以用肉眼发现的异常现象。T.J. 汤姆森
通常情况下，操纵一张图片比说服性地编辑同一场景的多张图片更容易。因此，要求查看从不同角度展示同一场景的多个拍摄片段可能是一种有用的验证策略。亲眼目睹可能是最直接的方法，但这并不总是可行的。做一些额外调查或许会有帮助。例如，对于假收据的情况，这家餐厅是否存在？收据上显示的日期它是否营业？菜单上是否提供所声称出售的商品？税率为当地地区匹配吗？上述人工验证方法显然耗时。随着AI编辑和生成风险的上升，自动化这些繁琐工作的可靠系统可能会越来越受欢迎。同样，监管机构也有责任防止人们滥用AI技术。由于“监管不确定性”，苹果公司在欧洲联盟推迟了推出其智能功能的计划，其中包括“修复”功能。AI可以使我们的生活更轻松。如同其他技术一样，它可以用于正反两面。了解其功能并提升你的视觉与媒介素养是成为我们数字世界知情成员的关键。

(以上内容均由Ai生成)