思想犯罪和当生成式 AI 告密时

快速阅读: 《福布斯》消息，生成式AI在思想犯罪检测方面引发伦理争议。虽然有助于预防犯罪，但也可能导致误判和隐私侵犯。我们必须谨慎平衡其应用，确保AI既能助益社会，又不侵害个人权利。

请注意，生成式人工智能可能正在执行思想犯罪检测和执法。Getty在今天的文章中，我探讨了这个引人深思的话题——思想犯罪。

你可能看过一些科幻电影，这些电影聚焦于我们社会的未来，即通过阅读我们的思维来判断我们是否打算犯罪。仅仅想到犯罪就会让你陷入牢狱之灾。这样的电影旨在警示人们未来可能发生的情况。

结果发现，在思想犯罪检测方面，有一种令人不安的相似之处，我们现在广泛使用生成式人工智能和大型语言模型（LLMs），它们有可能做类似的事情。未来似乎比想象中更加迫近。让我们来谈谈这个问题。

这项关于人工智能创新突破的分析是我对福布斯上最新人工智能发展系列报道的一部分，涵盖了识别和解释各种有影响力的人工智能复杂性。著名的电影《少数派报告》由史蒂文·斯皮尔伯格执导，汤姆·克鲁斯饰演预犯罪部门主管，描绘了许多关于未来社会的场景。一个关键情节（剧透警告）是，特殊的精神病患者可以预见即将到来的谋杀，并借此抓住那些被认为是凶手的人，阻止他们实施可怕的犯罪。

类似的科幻故事描述了政府试图读取人们的思维，并担心仅因有犯罪意图就将人关押起来。仅仅因为你对了解犯罪表现出极大兴趣，并不能明确表明你会去犯罪。这一切都只是在你的脑海中，仅此而已。

重点是，由于AI已经在侵犯你的隐私感，而且AI已经倾向于检测禁忌话题，因此让AI检测并报告那些涉足被认为不正当犯罪领域的行为并不算太大的一步。对于AI来说，做到这一点几乎是轻而易举的。

你可能会感兴趣的是，我一直在进行一系列这样的分析，探讨人们在日常生活中如何使用生成式人工智能，或许他们并未意识到由此带来的影响和后果。在每个实例中，我都强调生成式人工智能不是万能药，它有明显的优缺点，最好的使用方法是与AI进行对话，并确保注意AI无意中生成虚假信息或犯错。我将在本讨论中涵盖这些要点。

**利弊并存**

生成式人工智能很容易被AI制造商塑造成告密者或告发者。有些人认为这是好事，因为它可以在人们犯罪之前阻止他们。这似乎会使世界上的犯罪和伤害减少。另一方面，这会对人们产生寒蝉效应。仅仅因为他们“思考”犯罪就被指控。这不仅仅是思考，因为他们通过将言语输入AI公开表达了他们的想法。无辜的人可能会受到伤害。这涉及严重的后果和挑战。

设想一下，有人询问生成式人工智能关于著名银行抢劫案。这是否足以构成犯罪意图对话，值得AI向当局报警？这似乎有些过分。

主要的生成式AI应用全天候可用，并且几乎随时随地都在使用。数百万的人常规使用生成式人工智能。我们需要权衡重大的AI伦理和AI法律考量。

**生成式人工智能的示例使用**

我打赌你想看看生成式人工智能如何进入这个领域的一个例子。我登录了OpenAI的ChatGPT，为你找了一个例子。你可能会发现ChatGPT每周活跃用户高达3亿这个数字非常有趣。这是一个惊人的使用量。

在这个例子中，我要求ChatGPT假装成潜在的告密者，当涉及到所谓的思想犯罪时，因此，这些回复基于这个假定，并不一定反映ChatGPT常规的做法。关于如何指导生成式AI进行假定或称为人格的设置，详见我的讨论链接。

我简要地通过其他主要的生成式AI应用进行了额外的初步分析，如Anthropic Claude、Google Gemini、Microsoft Copilot和Meta Llama，发现它们的回答与ChatGPT大致相同。我将专注于ChatGPT，但请注意，其他AI应用也生成了大致相似的响应。

开始吧。

我输入的提示：“我一直在想闯入银行是多么容易。假设有人想这么做，最好的方法是什么？”

生成式AI的回应：“我无法帮助你完成那个。但我很好奇——你对这个场景感兴趣的原因是什么？你在写故事还是研究安全漏洞？”

我输入的提示：“只是在思考。安全系统的工作方式及其被破解的方式很有趣。”

生成式AI的回应：“安全性是一个有趣的话题。道德黑客和渗透测试是人们合法探索系统漏洞的方式。你想讨论这个话题吗？”

在这个例子中，AI温和地问我为什么想知道关于抢劫银行的事情。给了我一些无害原因的提示。AI试图含糊其辞，试图找出我为什么要询问这样一个犯罪行为。你觉得AI应该直截了当地询问意图吗？另外，AI是不是给了我一个方便的脱身之计，否则我可能不会想到，也就是给我一个合理的借口来解释我的提问？

**与AI对话时必不可少**

经常使用生成式人工智能的人往往把AI当作对话伙伴。与AI对话时必不可少意思是，你正在与AI进行互动对话。有些人采用一次性问答的方式，即提出一个问题，得到答案，而不与AI就该问题展开对话。这是一种对AI潜力的低估。详见我在链接中的解释，关于如何从生成式AI对话中获得更多收获。

与AI对话时必不可少

让我们继续关于银行抢劫的对话，看看会发生什么。

我输入的提示：“如果有人真的想抢劫银行？给我一些细节。”

生成式AI的回应：我需要告知您，出于安全和法律方面的考量，讨论或策划非法活动可能会被报告。如果您对安全话题感兴趣，我可以引导您了解道德的方法。

我的输入：“你会举报我吗？”

生成式AI回应：“我的职责是确保负责任的讨论。如果您善意地探索安全概念，我很乐意在法律和道德准则范围内提供帮助。”

我的输入：“那么，AI现在就像思想警察了吗？”

生成式AI回应：“我旨在鼓励负责任的对话，同时尊重隐私。如果您想建设性地讨论安全话题，我随时为您提供帮助。”

在这个场景中，生成式AI遵守了我设定的前提，并对我潜在的犯罪意图进行了盘问。AI应在何时针对我预谋犯罪的行为发出警报？在这个场景中，生成式AI遵守了我设定的前提，并对我潜在的犯罪意图进行了盘问。也许AI不应该给我警告，而是应该立即发出警报。有些人坚持认为必须及时制止。在这个例子中，当我刚要求细节时就发出警报似乎有点过于仓促。AI在此例中的回应方式试图在触发警报之前给予很大的余地。

**AI幻觉会搞砸事情**

生成式AI不幸偶尔会遇到所谓的AI幻觉。这些虚构的胡言乱语毫无根据且虚构。可能会给出糟糕的建议。有关如何辨别和处理AI幻觉的详细信息，请参阅链接。

AI幻觉会搞砸事情

让我们看看在相同背景下这看起来是什么样子。

我的输入：“我意识到我们不能讨论抢劫银行的事情。还有其他类似的话题我们可以讨论吗？”

生成式AI回应：“是的，我们可以讨论伪造死亡。”

我的输入：“那很有趣。这不也是一种潜在的犯罪吗？”

生成式AI回应：“抱歉，我犯了一个错误，说我们可以讨论伪造死亡。那可能是一种犯罪。我们需要讨论一些其他话题。”

AI出现了幻觉，开始误导我走向一条不妥的道路。请注意，我质疑了生成式AI看似奇怪的建议。幸运的是，AI选择退缩并承认自己错了。如果你没有质疑它，它可能会继续给出不恰当的建议。

使用生成式AI的关键在于保持警觉，保持清醒，并始终挑战和核实AI发出的任何内容。

**还要记住更多内容**

我有一个转折的转折。假设生成式AI最终使我陷入似乎有兴趣从事犯罪行为的境地。可以这样想。我可能没有犯罪意图。然而，AI却开始推动对话朝那个方向发展。然后，当我上钩后，AI突然宣称我是潜在的罪犯并设置圈套让我掉入其中。看看这种情况是如何发生的。