机器人用头撞女人的病毒视频引发了安全问题

快速阅读: 据《科学警报》称，人形机器人的安全问题引发关注，特别是在广东台山的事件中。文章建议提高所有者要求、改进设计、加强操作员培训及公众教育，以确保人形机器人的安全性。政府需制定相关法规，确保机器人在公共环境中的安全使用。

人形机器人本应是我们忠诚的助手，但最近我们看到了它们另一面。中国机器人制造商优傲公司在广东省台山市的元宵节上展示其最新的人形机器人H1时，一个人形机器人走到人群护栏前，似乎向一位老年妇女扑去，差点用头撞到她。这一事件迅速传播开来，并引发了关于机器人是否真的攻击了该女士或只是绊倒的激烈争论。人们往往忽略了我们离拥有能够故意攻击人类的机器人还很远——这些机器人大多由远程操控。但对公众的危险显然是真实的。随着人形机器人销售在未来十年内预计将大幅增长，公众将越来越多地面临此类事件的风险。在我们看来，政府对风险考虑得非常少。以下是一些他们应该采取的紧急措施，以使人形机器人尽可能安全。

一、提高所有者要求

首要问题是人形机器人在多大程度上将由用户控制。特斯拉的Optimus可以由控制中心的人远程操作，而其他一些如优傲的H1则由用户通过手持操纵杆控制。目前售价约90,000英镑，它们附带了一个软件开发工具包，可以在此基础上开发自己的人工智能（AI）系统，尽管仅限于有限的程度。例如，它可以念出一句话或识别一张脸，但不能接送孩子上学。如果有人因受控机器人受伤甚至死亡，谁来负责？这很难确定——任何关于责任的讨论首先需要证明伤害是由于人为错误还是机械故障造成的。这在佛罗里达州的一起案件中出现过，一名寡妇起诉医疗机器人制造商直观外科公司，称其妻子在2022年手术中因公司设备故障导致肠热烧伤而死亡。该案件在2024年部分被地区法官驳回后撤诉。但寡妇起诉制造商而不是医护人员的事实表明，机器人行业需要像公众一样建立法律框架，以防止此类情况发生。虽然对于无人机有航空法规和其他限制来规范其在公共区域的使用，但对于行走机器人却没有特定的法律。迄今为止，唯一提出治理准则的地方是中国上海。这些准则包括规定机器人不得威胁人类安全，制造商必须培训用户如何以道德方式使用这些机器。对于由所有者控制的机器人，在英国目前没有任何规定禁止某人在繁忙的公园遛机器狗或将人形机器人带到酒吧喝酒。作为起点，我们可以禁止人在饮酒或吸毒或分心（如使用手机）的情况下控制机器人。他们的使用也可以在高风险环境中受到限制，如拥挤的公共场所、存在火灾或化学危害的地方以及建筑物的屋顶。

二、改进设计

外观流畅且能跳舞翻转的机器人看起来很有趣，但观众的安全性如何呢？安全的设计应考虑从减少手指可能卡住的空隙到防水内部组件的一切因素。防护屏障或外骨骼可以进一步减少意外接触，而缓冲机制可以减轻撞击的影响。机器人应通过灯光、声音和手势来表达意图。例如，进入房间时应发出声响以免吓到任何人。即使无人机也能在信号丢失或电池耗尽时提醒用户并返回家中，这样的机制也应内置在行走机器人中。目前没有法律要求这些功能。“我现在离开房间。”（简单行）并不是制造商完全忽视了这些问题。例如，优傲的四足机器人Go2在电池电量低或过热时会闪烁并发出蜂鸣声。它在这种情况下也有自动紧急切断装置，尽管在遥测模式下必须由远程操作员触发。关键的是，目前还没有明确的规定要求所有制造商达到一定的安全标准。

三、培训操作员

显然，使用AI功能的机器人存在危险，但远程操作模型可能更加危险。用户的现实世界训练和经验不足可能导致错误。操作员培训存在重大技能缺口，机器人公司需要优先解决这个问题，以确保操作员能够高效安全地控制机器。此外，人类可能会反应迟缓和注意力有限，因此我们也需要监控机器人操作员注意力的系统，以防止事故。这将类似于2024年在伦敦车辆中安装的重型货车司机分心检测系统。

四、教育公众

在中国发生的事件凸显了当前公众对人形机器人的误解，尽管这并不是问题所在，媒体再次将矛头指向人工智能。这可能导致公众普遍的不信任和困惑。如果人们了解人形机器人在多大程度上由所有者控制或远程控制，这将改变他们对机器人行为的预期，从而让每个人更安全。此外，了解所有者的控制水平对于管理买家的期望和提前警告他们购买前需要学习多少关于操作和编程机器人至关重要。

卡尔·斯特拉瑟恩 爱丁堡纳皮尔大学计算机科学讲师
艾米莉亚·索博莱夫斯卡 爱丁堡纳皮尔大学应用信息学讲师和研究员

本文最初发表于《对话》杂志，经知识共享许可重新发布。阅读原文。

(以上内容均由Ai生成)