Andrew Brown 的观点：意识会让 AI 表现良好吗？

快速阅读: 据《《教会时报》》称，上周，我参加了一个关于意识科学研究的会议，探讨机器是否可能拥有意识及其道德影响。尽管人工智能支持者努力使其程序与道德目标对齐，但现实中已有AI被用于无干预攻击。要查看教会及慈善机构的招聘信息，请访问《教会时报》的招聘网站。

上周，我置身于大学图书馆之中，四周环绕着哲学家和计算机科学专家。一位带着微笑的参与者把他的手机放在桌上，播放了一首由他训练的人工智能（AI）创作的歌曲，歌词与旋律均由AI生成。这首歌相当糟糕，令人失望。就像大多数类似的演示一样，它似乎更多地提醒我们人类创作中的局限性，而不是证明机器的创造力。当然，这并不能证明意识的存在，而这恰恰是本次研讨会的核心主题。自从我参加图森关于意识科学研究的会议已经过去了27年，当时的大多数人都认为这个问题很快会被解决。在我看来，丹内特最具说服力的观点在于他声称，在过去某个时候地球上并没有意识存在，那时地球不过是毫无生命的太空碎片的集合，因此它的进化和出现完全可以由我们理论上能够理解的物理过程来解释。

后来，我认为时间对于有意识的存在者来说并不像时钟那样运作，对我们而言，时间的意识伴随着一种感觉，即我们可以以某种方式跳出它。这使得奥登在《城市纪念碑》中的神秘引文变得合理，这段话取自朱利安·诺里奇的话：“就在我们的灵魂变得感性的同时，上帝之城就被从无始之始赋予了他。”尽管科学家会将其视为一个感官生物获得灵魂的问题，而不是如朱利安所说的预存的灵魂获得身体。无论如何，自90年代以来，意识研究虽然取得了一些进展，但却使问题变得更加复杂，而非简化。

对于我们大多数人来说，有趣的意识不仅仅是对内部状态做出反应的能力，就像我的笔记本电脑可能被严格的行为主义者认为是有意识的，因为它的运行程序和我敲击的按键。这种东西可以通过托马斯·内格尔著名的“做一只蝙蝠是什么感觉？”的问题来暗示。只有能够理解这个问题，并知道成为某种事物的感觉的生物，才能被认为是有趣意义上的有意识。

在我参加的研讨会上，大部分讨论都围绕着一个问题展开：即使看起来没有一台机器能做到这一点，机器是否有可能达到这个程度？但此时，讨论从抽象转向了不切实际。大家都认为获得这样的意识会改变这样做的生物或机器的道德地位；然而，我确信多数操作员都认为自己是在做好事。将有意识的存在当作手段使用完全是人类的行为：婴儿一旦能哭喊，就立即开始这样做，远在他们意识到自己正在这样做之前。你不必是唐纳德·特朗普也能享受施加痛苦或羞辱的乐趣。我们每个人心中都住着一个小怪物。

人工智能的支持者谈论“让他们的程序与道德目标对齐”，好像这是一个可以简单通过某种加州功利主义轻松解决的过程。但是以色列国防军已经开始利用一个人工智能系统识别加沙的目标，然后在完全没有人为干预的情况下将其消灭。我确信多数操作员都认为自己是在做好事。即便有可能制造出一台拒绝执行此类命令的机器，也很难想象会有哪个政府会故意制造它。

欲查看教会及慈善机构的招聘信息，请访问《教会时报》的招聘网站。

(以上内容均由Ai生成)