创新伦理和 AI 前所未有的挑战
快速阅读: 据《文华酒店》最新报道，本文探讨了人工智能对社会的深远影响，呼吁道德领袖关注其潜在风险与机遇。政府需制定基于风险的监管框架，确保AI服务于公众利益。公共部门领导者应提升伦理素养，以保护核心价值观。政府须介入保障公众安全与权利，增强民众对民主机构的信任。
想象有一种新技术，能够彻底改变地球上生活的方方面面。这项技术可能从根本上改变人类体验的实质，影响我们沟通的方式，甚至改变围绕着我们的以人类为中心的世界，包括故事、人类联系以及自由、真相、同情和正义等人道价值的地位。实际上，这一天已经到来，这项技术就是人工智能（AI）。这项技术引入时，道德领袖应面对哪些关键问题？他们应该提出哪些问题？有哪些框架可以帮助他们在监管和非监管的视角下思考这些问题？
管理颠覆性技术长期以来在重塑个人和社会的未来方面发挥了重要作用。无论是洗衣机等节省劳动力设备给女性生活带来的巨大变化，还是工厂自动化导致的稳定、高薪制造业工作的流失，或是由于网络公共广场缺乏监管而导致的虚假信息爆炸，新技术都会扰乱现有的社会安排和关于可能性的基本假设——有好有坏。尽管历史上存在这些社会动荡，但人工智能是迄今为止最大的技术颠覆者，威胁到了从真相到就业再到人类存在实体性质的一切。与洗衣机、电视甚至互联网不同，人工智能似乎不仅旨在辅助人类，还像制造业中引入的自动化导致大量男性失业那样，意图取代人类。权威人士如杰弗里·欣顿所表达的大规模失业恐惧，可能解释了澳大利亚人（通常是早期采用者）对该技术相对缓慢和低接受度的原因。埃隆·马斯克在美国通过DOGE尝试使用生成式人工智能取代公务员的努力可能会加深人们的担忧。
**领导者的关键考虑因素**
私营部门一直是开发新数字技术的主导力量，在竞争面前，它们急于尽快将这些技术推向市场以收回财务投资。这与以往创新周期中的轨迹不同，在那些周期中政府发挥了关键作用。想想核能、太空旅行和互联网，政府在这几个领域都发挥了决定性作用。这意味着，虽然希望获得高额回报，但对公众负责的政府也意识到新技术对公众构成的风险，并有权进行监管以降低风险并确保公众利益。
截至现在，澳大利亚政府尚未制定任何关于人工智能的具体法律或法规。然而，在关于监管框架的咨询之后，它似乎正考虑通过基于风险的框架来实现这一点，重点在于确保透明度、测试和问责制。高风险环境中的AI指导原则也在讨论之列，以及将使AI系统被归类为“高风险”的原则。希望最终会通过现有监管框架的调整、新框架立法的创建以及相关现有立法的修订，或者最有望的是通过新的AI法案，强制实施这些指导原则。毕竟，我们是那个创造了世界上第一个网络安全专员并禁止16岁以下青少年使用社交媒体的国家，尽管私人参与者对此表示强烈反对，他们更关注向私人投资者交付回报而非保护公众。
对于公共部门领导者来说，无论承诺的好处或恐惧的危害是在模拟世界还是数字世界中存在，关键问题仍然是一样的。问题是人工智能或其他任何颠覆性创新是否已经或将合理地期望以优先保障公众安全和满足公民的关键需求、重要利益和基本权利的方式部署。如果不能做到这一点，澳大利亚人有权期望他们的政府介入，以确保他们的安全并保护他们的权利和利益，就像政府在药品、医疗设备和核技术等领域所做的那样——仅举几例——这些技术既有深远的风险也有显著的好处。
好消息是，如果政府以保护公众利益和公共利益的方式进行监管，公众对民主机构的信任将会提高。虽然确保这一结果始终很重要，正如联邦政府的《加强澳大利亚民主》报告所指出的那样，现在尤为重要，因为澳大利亚的民主正面临来自美国和西方世界其他地区因极化和不信任而动摇的民主的相同威胁。
**公共部门领导者如何应对人工智能？**
虽然政府提出的基于风险的监管提案是受欢迎的——事实上可以说来得越早越好——但领导者还需要一套经过深思熟虑、全面且以人为本的原则，以指导其自身工作场所中人工智能的发展和实施，特别是在向公众提供服务方面。这是因为法律通常形成一个伦理底线，任何事情都不应低于这个标准，而不是人工智能设计、开发、部署和/或使用的最佳水平。最优的人工智能设计、开发、部署和使用需要一种设计伦理方法。设计伦理是一种系统性和全面性地在人工智能系统和设备的设计、开发、部署和使用中包含伦理考量的方法。通常，要包含的伦理考量以原则的形式呈现。
例如，澳大利亚的自愿人工智能原则包括人工智能有益于人类、社会和环境福祉；尊重以人为中心的价值观；公平；人工智能保护隐私和安全；人工智能可靠地按照其预期目的运行；人工智能透明且可解释，以便受影响的人类可以通过及时的过程质疑人工智能决策，同时可以识别并追究人工智能结果负责人的责任。
对于欧盟来说，该地区已通过特定立法来保护其公民免受人工智能伤害，需要保护的伦理考量包括：尊重人类自主权和监督；技术稳健性和安全性；隐私和数据治理；透明度；多样性、无歧视和公平；社会和环境福祉以及问责制。
伦理在治理的所有方面都至关重要，但在人工智能方面尤为重要，因为它已经侵犯了人类隐私，破坏了人类就业，并威胁到透明度和真相等人类价值观。如果技术按预测发展，机器智能将威胁地球文明的人类控制和以人为中心的本质。这对政治领导人和公务员来说是一个巨大的责任。
许多澳大利亚人对各种各样的人工智能感到困惑和害怕。这意味着比以往任何时候都更需要公务员来判断某个具体应用是否“安全”，如果不是，则拒绝允许其使用以保护公众。
**公共领导人如何应对？**
我们认为，关键在于伦理素养而非技术专长。理解我们需要保护的价值观可以支持开发者诚实地用通俗易懂的语言回答应该由他们回答的好问题。政府也可以在需要时确保技术专业知识可用，正如其通过立法过程所做的那样。研究你想要应用的原则，找到一个可以讨论伦理利弊的朋友，最重要的是，有信心提出尽可能多的问题，以澄清任何应用对我们珍视的价值观的影响，而不必担心显得愚蠢。你的职责不是精通人工智能，而是捍卫澳大利亚社会及其价值观。
《行动中的伦理》系列中的所有文章都可以在这里找到。
(以上内容均由Ai生成)
