支持 Serendipity

快速阅读: 《INSEAD 知识》消息，研究表明，过度依赖AI推荐算法可能限制人类体验和选择。算法基于过往偏好，导致选择狭窄、边缘产品受冷落、价格垄断及个性化不足等问题。为提升用户体验，应增强算法透明度，允许用户个性化设置，并引入多样性与意外性，拓宽视野。

亚马逊、奈飞、Spotify 和 TikTok——这三个全球平台利用推荐算法为消费者提供他们渴望更多内容。它们的成功证明了这项技术在提升消费者体验方面的巨大潜力。被推荐一部新电影、一本好书、一首动听的歌曲，甚至是搞笑猫咪视频的价值似乎毋庸置疑，这些内容都是精心挑选以完美匹配你的情绪和品味。然而，在最近一篇论文中，我与我的合著者警告消费者不要过度依赖人工智能算法来做这些选择。

具体来说，我们强调了人工智能有可能限制人类的体验，并最终限制个人的选择。选择的局限性

人工智能驱动的推荐算法的有效性在于其能够利用过去的消费者行为。这些模型回顾用户之前的选择，有选择地策划与过去偏好相匹配的未来内容或产品。从这个角度看，系统决定了我们能看到什么以及我们可以选择什么。虽然这通常非常有用，但最终可能会限制我们的自主权。

有了人工智能算法，消费者不太可能看到不符合他们过去选择的内容或产品。表现出对某一特定主题或类型的兴趣，很可能会被推送更多相同的内容，让你陷入相关内容的兔子洞，而忽略了探索其他可能性较小但同样有效的选项。相比之下，去一家实体书店，我们会被中央陈列架上的书籍吸引。被某本书的封面和简介所吸引，尽管它与我们之前的阅读历史毫无关联，我们还是买了它。结果发现这本书非常精彩，并向我们介绍了一位以前未知的作者。

对消费者的成本

这种过度依赖过去的消费者偏好也会影响展示给具有相似品味的消费者的范围。例如，音乐选择算法发现许多用户之前听过泰勒·斯威夫特的歌曲，因此将其推送给更多人。这种流行偏见意味着这些产品的市场份额增加。算法忽略了边缘（不那么受欢迎）的选择，我们得到的推荐范围变得越来越窄。

除了限制选择外，这对消费者还有财务影响。缺乏曝光意味着边缘产品难以生存。这可能导致更受欢迎的推荐出现垄断，缺乏竞争意味着这些产品的价格会上涨，消费者不得不买单。

物化危险

现有的人工智能驱动的推荐模型倾向于表现出物化的倾向，将个人和社区特征简化为有限的一组特征或数据点。通常情况下，模型未能充分捕捉或低估了个人的实际偏好，而是基于个人所属的大群体或类别提供结果。这可能导致贷款审批、招聘政策或定价等领域因存在偏见的算法而出现不公平或低效的情况。

这种简化还可能导致对个人偏好的误判。任何尝试让服务机器人适应个人情况的人都会对其无法适当响应感到沮丧。通过将个人简化为单纯的函数和分数，人工智能系统可以限制我们的体验并延续微妙的人性化。这种过度简化可能歪曲我们的真正偏好，导致糟糕的决策或有限的结果。更重要的是，它可能会削弱人们对人工智能的信任，尤其是在医疗等敏感领域，理解人类的独特性至关重要。

提高透明度

这种过度简化凸显了消费者在面对算法驱动决策时面临的主要问题之一：我们不知道算法设计的目标是什么。它是被设定为在提出投资建议时优先考虑环保企业，还是仅仅推荐能带来最大回报的企业？在无法理解所有算法参数的情况下——计算机科学家称之为不可解释的人工智能——了解算法追求的目标可以帮助个人对那些预测给予更大的信任。这无疑能让消费者更明智地决定是否接受这些决策，还是继续寻找更合适的选项。

更高的个性化

允许消费者个性化这些参数将大大增强他们的掌控感和信任感。例如，用户可以选择他们希望在两个目的地之间获得最快、最短或最风景优美的路线。或者，如果他们想健身，他们可以调整TikTok算法，显示更少的热门舞蹈视频和更多锻炼视频。将这种个性化融入界面会带来开发挑战，但它会给消费者带来更大的控制感，进而对推荐的选择更有信心。它也可能使企业和消费者都受益。例如，一项研究发现，获得符合理想偏好的内容的消费者不仅觉得它更有帮助，而且更有可能重复使用该服务，并更愿意为此付费。

更平衡的观点

结果的同质化不仅忽视了个人的细微差别，还限制了对替代观点、声音和视角的访问。正如我们在最近的世界各地选举活动中所看到的，在传递争议性或政治内容时尤其成问题。通过放大极端观点而不是更合理（但不那么受欢迎）的论点，推荐算法可能导致回声室的形成。个人现有的观点或意见只是被强化或放大，而所有其他观点都被忽略。

为了对抗这种两极分化并促进更大的同情心，人工智能系统应该被设计成让用户接触到多样化的刺激、观点和意见。允许消费者看到一个论点的双方可能有助于对一个问题有更广泛的理解。这不仅给了个人改变主意的机会，也有助于培养对所谓的“敌人”的更大同情和尊重。

引入意外之喜

在此基础上是开发更灵活且不那么依赖过去偏好的人工智能系统的理念。仅仅因为消费者听乡村音乐比爵士乐多并不意味着他们只想获得更多悲伤情歌和酒吧音乐的推荐。从较长的消费时间跨度分析过去的偏好可能是提供更平衡推荐的一种方式。另一个解决方案是允许消费者选择算法推荐之前已消费类别的程度以及它提供意外或无关内容的程度。作为个体消费者，我们应该有能力做出自己的选择。如果我们不喜欢某些东西，总是可以选择跳过，但前提是必须有机会这样做。

通过提供更多不可预测的选项，我们或许会发现自己对1970年代尼日利亚放克音乐或18世纪室内乐的喜爱，而这些是我们之前从未意识到的。

拓宽视野的重要性

政府意识到这些挑战非常重要。现行法规往往侧重于明确且可量化的因素，如偏见或限制价格竞争。然而，它也应该考虑技术在现实世界中的应用及其特性如何与人类行为相互作用，从而产生限制用户发展和表达偏好的结果。如果我们希望在消费者选择中保留自由与意外之喜，就需要采用以用户为中心的方法来开发新的AI系统——一种增强透明度、探索性和个性化的方法，而不是限制用户重温过去，而是丰富人类经验的广度。如果没有机会进行新的发现，那些能让生活如此丰富的偶然相遇将对我们关闭。

(以上内容均由Ai生成)