当我们将良心外包给 AI 时会发生什么？
快速阅读: 据《尤里卡街》称，《疑犯追踪》预言了AI在决策中忽略人性因素的风险。以色列用AI定位目标，但缺乏人工验证，可能误伤平民。医疗等领域也面临类似问题，过度依赖AI可能导致责任缺失与判断失误。
我最近一直在思考一部十多年前播出的电视节目《疑犯追踪》。这部剧并不是特别受欢迎，尽管它有足够的观众维持了六季。但我认为它以一种意想不到的方式变得有些预言性。节目的基本设定是：主要角色哈罗德·芬奇（迈克尔·艾默生饰）创造了一个人工智能（称为“机器”），帮助政府处理大量监控数据，以识别潜在的恐怖威胁。“机器”可以预测各种犯罪，包括谋杀案，但政府认为这些“无关紧要”，并忽视了它们。为了避免这些犯罪发生，艾默生创建了一个后门，让“机器”能够提供关于这些“可疑人员”的警报，而艾默生和他的搭档约翰·里士曼（吉姆·卡维泽尔饰）则进行调查并阻止这些犯罪。这部剧的一个有趣之处是，“机器”只向调查人员提供一个社会安全号码。这个号码可能与犯罪的受害者或罪犯有关。需要人类调查人员去了解这个人——他们的关系、兴趣和弱点——来判断即将发生的事情。芬奇这样解释这一限制：“‘机器’只给我们数字，因为我认为在决定如此关键的事情——某人的命运时，始终应该保留人性因素。我们有自由意志，随之而来的是巨大的责任。”这是一个方便的前提，为每周一案的程序化节目提供了巧妙的框架。但当我看到人工智能在我们世界中的推广，并被宣传为解决所有问题的方法时，我不禁怀疑，这部剧是否突显了我们面临的一个巨大风险——即在我们的决策过程中忽略了“人为因素”。
我第一次开始思考这些问题是在去年有关以色列军队使用人工智能在加沙地区定位人员的报道出现之后。据这些报道，“紫罗兰”系统据说被用来根据与哈马斯的明显联系来确定潜在目标，官员们据此授权“大量平民”在冲突中被杀害。据报道，在验证信息准确性方面的“人为因素”非常有限。一位受访者表示：“在这个阶段，我会为每个目标花费20秒，每天处理几十个目标。除了作为批准印章外，我没有其他价值。这节省了很多时间。”以色列否认使用人工智能系统来识别恐怖分子或预测某人是否是恐怖分子，称“紫罗兰”是用来“交叉比对情报来源”。尽管基于美国的人工智能服务继续被以色列军队使用，但其使用细节大多未经证实。
当然，以色列并不是唯一一个在战争中使用人工智能的国家。关于在冲突地区使用人工智能的问题还有很多未解之谜，尤其是在平民可能被误伤的情况下。一个系统可能会利用大规模监控收集的电话、短信和音频信息来确定目标，但据报道，这些信息容易出现误译和幻觉（即编造内容），并且显然也可能脱离上下文地使用词语和短语。即使有一个人负责审查人工智能生成的目标列表，他们能接触到哪些底层数据？他们有多少时间来审查这些数据？如何验证这些数据中的信息（如果有的话）？当他们坐在远离战场的作战室里的电脑桌前时，他们又有多大能力去验证人工智能目标列表的来源和准确性？
据去年的报道，随机抽样和交叉检查预测表明，“紫罗兰”在确定目标方面达到了“90%的准确率”。你认为这是否足够好，取决于你对无辜伤亡的容忍度。更不用说，非制导炸弹用于杀死目标时也会杀死当时在场的其他人。如果这种使用如此随意，人们可能会质疑，人工智能是否更多是为了提供更好的目标，而不是为了提供一个有利的借口——“不是我杀了那些无辜的人，而是人工智能目标软件要求的。”
“将一切交由AI的风险在于，我们将人类的责任交给了算法。一旦我们人类失去了对过程的认识，我们就失去了对结果的责任。我们放弃了自由意志，随之而来的还有彼此之间的责任感。”
人工智能在战争中的使用可能是最可怕的例子，当然，这也被关于这种无人机战争是否可以被视为道德的更广泛问题所模糊。暂且不谈这些问题，让我们考虑另一个不太有争议的领域，其中缺乏“人为因素”可能令人担忧。围绕人工智能的炒作很大程度上在于它在医疗保健领域的潜力。人工智能有能力分析和交叉比对患者数据与大量信息。这种分析有可能发现原本不会预料到的诊断，从而大大改善健康结果。到目前为止，这听起来都是好消息。但同样值得思考的是，如果诊断过程被简化，或者换句话说，如果人类专家的细致工作被人工智能取代，会失去什么或错过什么。
首先是从诊断医疗工作者与软件本身设置的分离：使用人工智能的人对收集和分析他们正在审查的数据所做出的决策知道多少？有没有任何数据集可能产生错误计算？一个问题是性别——女性身体对男性身体的反应不同，这一点是否被正确考虑进结果中？还有其他种族或遗传因素也可能会对结果产生影响。而且，考虑到可能有数以万计的数据集，我们怎么知道它们都是可信的？有没有数据被错误地包含或错误识别？使用人工智能工具的人又如何开始考虑这些因素呢？
即使系统本身可以正确校准，仍然存在将人工智能纳入医疗环境的问题。机构被人工智能吸引，因为它可以提高能力——既能增加就诊人数（增加收入），又能提高诊断过程的效率（降低成本），因此具有经济效益。然而，相关的风险是什么？目前，我们可能有经验丰富的专家与人工智能一起审查结果，但很快我们可能会有一代只使用人工智能工具的医务人员。他们是否会接受培训来质疑和审查人工智能数据（如果是的话，如何做到这一点，鉴于前面提到的问题）？或者他们会——特别是在企业工作的时间和资源压力下——屈服于时间和成本的压力，尽可能快速地完成诊断？
更广泛地说，如果医务人员不拥有整个过程，又怎么能期望他们拥有结果？人工智能会不会成为借口——“哦，没关系，不是我错过了这个诊断，是人工智能。”
在这种情况下，《疑犯追踪》的设定突显了我们在将人工智能整合到人类事业中时的重要方面。这不仅仅是让人与人工智能协作。至关重要的是，人类必须自己完成工作并得出自己的结论，因为工作中有一些人性因素是无法去除的，否则会有后果。然而，许多推动人工智能的人似乎承诺完全消除人类的细致工作。
我提到了两个重要的领域，但同样的问题也可以适用于大多数行业的人工智能使用——从教育、法律，甚至像营销这样普通的领域。我自己曾尝试用人工智能撰写文章，但很快意识到人工智能所能产生的任何东西都无法像我亲手一帧一帧地写的文章那样有趣。
将一切交由AI的风险在于，我们将人类的责任交给了算法。一旦我们人类失去了对过程的认识，我们就失去了对结果的责任。我们放弃了自由意志，随之而来的还有彼此之间的责任感。
迈克尔·麦克维格是耶稣会通讯社（Jesuit Communications）的出版和数字内容主管。
(以上内容均由Ai生成)
