为什么人们信任 AI 进行音乐挑选，而不信任 AI 进行医疗决策

快速阅读: 《AZoAI》消息，南澳大利亚大学的研究表明，统计素养较高的人在低风险情境下更信任人工智能，而在高风险情境下则更为怀疑。该研究评估了20个国家近2000名参与者，强调提高公众的统计和人工智能素养至关重要，以便人们能更好地判断何时信任算法决策。

评审人：乔尔·斯坎伦
2025年2月17日

随着人工智能在决策中的角色日益增强，一项研究表明，具有更好统计素养的人在高风险情况下更不可能信任它，这引发了关于如何将人工智能整合到医疗保健和就业等关键领域的问题。

研究：影响对算法决策信任的因素——基于间接情景实验。图片来源：Stock-Asso / Shutterstock

人工智能（人工智能）擅长提供符合我们偏好和过去行为的内容，从定制的Netflix推荐到个性化的Facebook信息流。但是，虽然一两个餐馆小费很方便，但如果人工智能算法负责你的医疗专家或新员工的选择，你会有多放心？

南澳大利亚大学的一项新研究表明，大多数人更可能在低风险情况下信任人工智能，比如音乐建议，但在高风险情况下，如医疗决策时，则不太可能信任人工智能。

然而，那些统计素养较低或对人工智能不太熟悉的人在做出琐碎选择时也像在做重要决策时一样容易信任算法。

研究人员评估了来自20个国家近2000名参与者的数据，发现统计素养对信任的影响不同。理解人工智能算法通过基于模式的预测工作（但也存在风险和偏见）的人在高风险情况下对人工智能更加怀疑，但在低风险情况下则不然。

他们还发现，老年人和男性通常比日本、美国和英国等高度工业化的国家的人更谨慎对待算法。

了解人们何时以及如何信任人工智能算法至关重要，尤其是在社会继续引入和采用机器学习技术的过程中。

数据（D）、算法（A）和人工智能（AI）之间的关系（简称ADA）。大数据用于喂养算法，而这些算法又构成了人工智能代理的核心。有四个重要的方面需要注意：(i) 大数据以某种方式围绕人类相关状态、过程和事件展开，(ii) 这些数据是任何算法的基础，(iii) 算法驱动人工智能代理，(iv) 算法/人工智能的行为和输出对如何构建新数据以及人类（H）如何与ADA技术互动具有重要意义。H1和H2是具有与ADA相关的专业技能的人类子集。来源：作者 [图标来自Font Awesome Free 5.2.0 by @fontawesome（https://fontawesome.com）和Mozilla（https://commons.wikimedia.org/wiki/File:Fxemoji_u1F6BB.svg）]。

人工智能的采用率大幅上升，目前72%的组织在其业务中使用人工智能。

主要作者兼人类与人工智能认知专家费尔南多·马尔莫莱霍-拉莫斯博士表示，智能技术被用于外包决策的速度超过了我们成功将其融入社会的理解速度。

“算法在我们的生活中变得越来越有影响力，从音乐或食物的小决定到金融、医疗甚至司法的重大决策都受到影响，”马尔莫莱霍-拉莫斯博士说。

“但使用算法来帮助做决策意味着应该对其可靠性有一定的信心。这就是为什么理解什么影响人们对算法决策的信任如此重要的原因。”

“我们的研究发现，在低风险场景下，如餐厅推荐或音乐选择，具有较高统计素养水平的人更可能信任算法。”

“然而，当涉及健康或就业等高风险情况时，情况恰恰相反；具有更好统计理解能力的人反而更不可能信任算法。”

南澳大学的弗洛伦斯·加布里埃尔博士表示，应集中努力提高公众的统计和人工智能素养，以便人们能够更好地判断何时信任算法决策。

“一个人工智能生成的算法只与其所依赖的数据和编码一样好。”加布里埃尔博士说。

“我们只需看看最近DeepSeek被禁的例子，就能明白算法根据其构建的内容可能会产生偏见或风险数据。”

“另一方面，当算法通过可信且透明的来源开发时，例如为南澳大利亚学校定制的EdChat聊天机器人，更容易被信任。”

“了解这些区别很重要。人们需要更多地了解算法的工作原理，我们需要找到方法以清晰、简单的方式向用户传达这些信息，使其与用户的需要和关切相关。”

“我们需要清晰、通俗易懂的解释，与用户的关切和背景相一致。这样，我们可以帮助人们负责任地与人工智能互动。”

来源：作者 [图标来自Font Awesome Free 5.2.0 by @fontawesome（https://fontawesome.com）和Mozilla（https://commons.wikimedia.org/wiki/File:Fxemoji_u1F6BB.svg）]。

期刊参考文献：

马罗内，R.，科尔科维奇，M.，加布里埃尔，F.，西门子，G.，约克西莫维奇，S.，山田，Y.，森，Y.，拉赫万，T.，萨哈尼安，M.，索纳，B.，梅尔曼诺夫，A.，博拉托夫，A.，松，B.，恩杜凯伊希，I.，阿林泽，N.C.，昆德拉特，J.，斯卡德罗娃，L.，黄，V.，阮，G.，……特哈达，J.（2025）。影响对算法决策信任的因素——基于间接情景实验。《人工智能前沿》，7，1465605。DOI：10.3389/frai.2024.1465605，https://www.frontiersin.org/journals/artificial-intelligence/articles/10.3389/frai.2024.1465605/full

(以上内容均由Ai生成)