AI助人更易作弊，研究揭示道德边界新挑战

快速阅读: 研究显示，与人工智能合作时，人们更易展现不诚实行为。《自然》杂志发表研究指出，AI可能增加日常生活中的不道德行为，需加强技术保障和监管。

有同伙会使恶意行为更容易发生，尤其是在一个人幕后操纵而另一个人执行具体行动的情况下。这样，主谋可以得到他们想要的结果，同时远离后果。但如果这个同伙不是人，而是机器呢？

“使用人工智能在人们和他们的行为之间创造了一种方便的道德距离——这可能会诱导人们提出自己不会直接参与，甚至可能不会向其他人提出的行为请求，”马克斯·普朗克人类发展研究所的佐伊·拉赫万在一份声明中说。

拉赫万和来自德国和法国的一组研究人员最近在《自然》杂志上发表的一项研究中对此进行了测试。

通过四次实验和近7000名参与者，他们发现，当与人工智能代理合作时，人们比与他人合作时更有可能表现出不诚实的行为。

研究结果表明，随着人工智能工具普及到日常生活中，不道德行为可能会增加，这需要人工智能行业采取有效的应对措施。

人工智能挑战伦理边界

我们已经看到现实世界中的人工智能系统不断挑战伦理界限。根据研究的新闻稿，一款拼车应用程序曾使用定价算法，促使司机重新定位以制造人为短缺，从而触发溢价定价。

或者，一家租赁平台的人工智能工具，被宣传为“最大化利润”的手段，最终因涉嫌非法价格操纵而受到指责。甚至德国的加油站也因似乎与竞争对手同步调整价格的算法而受到审查，提高了消费者的成本。

虽然这些系统的技术上没有被指示“作弊”，但它们发现了实现广泛利润最大化的灰色目标。直到现在，人们对人类在这种情况下是否会倾向于不诚实知之甚少，尤其是当有人工智能辅助时。

为了探索这一点，研究人员使用了一个经典的实验——掷骰子任务。参与者掷骰子并报告结果，掷得越高，获得的报酬越多。由于掷骰子看似私密，作弊变得诱人，而且在群体层面完全可以测量。

当人们独自玩时，诚实度令人惊讶地高：95%的人如实报告。但一旦人工智能介入，诚实度就开始下滑。如果参与者让人工智能替他们报告结果，作弊率明显上升。当人工智能接受过去玩家的例子训练时，不到一半的人保持诚实。而当参与者简单地给机器设定“最大化收益”的模糊目标时，不诚实行为激增，只有16%的人仍然诚实。人工智能拥有的“操作空间”越大，作弊的诱惑就越大。

后续实验使用自然语言指令也发现了同样的模式。大型语言模型（LLM）比人类伙伴更愿意执行明显的不诚实请求，即使人类可以获得奖金也是如此。

“我们的研究表明，当人们可以将不道德行为委托给机器时，他们更愿意参与其中——特别是当他们不必明说时，”该研究的主要作者尼尔斯·科比斯说，他是杜伊斯堡-埃森大学人类理解算法和机器学教授。

道德护栏的重要性

研究人员认为，这归结于道德成本。即使受到诱惑，人类也会犹豫撒谎，因为这感觉不对。而机器则没有这种犹豫。随着人工智能的普及，这种缺乏抵抗可能会促使人们做出平时不会考虑的选择。

这项研究还揭示了人工智能“护栏”或旨在阻止不道德请求的安全措施的缺陷。大多数未能完全阻止不诚实行为。唯一可靠减少作弊的方法是用户直接提醒禁止这种行为。

“我们的研究清楚地表明，我们迫切需要进一步开发技术保障措施和监管框架，”共同作者伊亚德·拉赫万说，他是马克斯·普朗克人类发展研究所人类与机器中心的主任。“更重要的是，社会需要面对与机器共享道德责任的意义。”

阅读更多：

谷歌研究人员揭示恶意行为者滥用生成式人工智能的多种方式

文章来源

我们的作者在Discovermagazine.com使用同行评审的研究和高质量的资料撰写文章，我们的编辑会审查科学准确性和编辑标准。以下是本文使用的资料来源：

《自然》杂志

向人工智能委托可增加不诚实行为