前AI研究员为抗议DeepMind在伦敦发起绝食抗争

发布时间:2025年9月8日    来源:szf
前AI研究员为抗议DeepMind在伦敦发起绝食抗争

快速阅读: 前AI研究员Michaël Trazzi因担忧AI自主发展可能导致失控风险,在伦敦DeepMind外绝食抗议,呼吁AI公司暂停发布新模型,以防止潜在灾难。

这篇口述文章基于与Michaël Trazzi的一次对话,他是一位来自法国圣克鲁的29岁前人工智能安全研究员。目前,他正在伦敦DeepMind公司外进行第四天的绝食抗议。本文经过编辑,以缩短篇幅并提高清晰度。

2019年时,人工智能系统还不算特别危险。它们不会撒谎、欺骗,也没有能力自行造成实际伤害。即使在今天,我认为当前的模型也无法直接导致灾难性的损害。

我所担心的是接下来会发生什么。

多年来,我对人工智能的态度发生了变化——从研究和构建它,到如今公开讨论其风险。

因此,我坐在DeepMind位于伦敦总部外,进行着绝食抗议。

我在巴黎学习了计算机科学和人工智能,因为我想从事人工智能安全方面的工作。之后,我在牛津大学人类未来研究所担任人工智能安全研究员,该研究所现已关闭。

随着时间的推移,我转向了媒体工作——创办了一个YouTube频道,制作了一档关于人工智能安全的播客,最近还创作了一些短片和一部关于美国人工智能政策的纪录片。此外,我还制作了一些在TikTok和YouTube Shorts上的短视频内容。

通用人工智能(AGI)通常被定义为能够完成任何经济上有价值的任务的人工智能。像GPT-5、Claude、Grok和Gemini 2.5 Pro这样的模型已经接近这一门槛。

然而,真正的危险在于当人工智能可以自动化其自身的研究和发展。一个能够在没有人类监督的情况下构建越来越强大的继任者系统的存在,可能会远远超出我们的控制范围。想象一下,一个人工智能在病毒工程或其他武器制造方面远超任何人类的情景——这就是让我感到恐惧的场景。

我认为,在2030年前我们达到这一阶段的可能性超过50%。广泛讨论的“2027年人工智能”情景——美国和中国竞相开发通用人工智能——显示了事态可能迅速升级的速度。

那么,我的诉求是什么?

我的要求很具体:我希望DeepMind首席执行官德米斯·哈萨比斯承诺,如果其他领先的AI公司也同意的话,不再发布新的前沿模型。

这并不是要求某一个实验室单方面停止进步。而是关于协调。如果DeepMind、OpenAI和Anthropic的领导们都做出承诺,那么真正的克制就成为可能。

我们讨论的问题的严重性和人们的行动之间存在着不匹配。这次绝食抗议就是为了让行动与信念相符。

(以上内容均由Ai生成)

你可能还想读

杭州率先为具身智能机器人立法,将明确从业者的伦理“红线”

杭州率先为具身智能机器人立法,将明确从业者的伦理“红线”

快速阅读: 杭州将率先为“具身智能机器人”立法,促进产业发展。《条例(草案)》经市政府常务会议审议通过,涵盖技术创新、基础设施建设、伦理规范等内容,旨在提升产业核心竞争力,推动产品应用落地。 因包括宇树科技在内的“杭州六小龙”爆火出圈而备受 […]

发布时间:2025年10月23日
以AI为纽带,第三期人工智能能力建设研讨班在上海人工智能研究院顺利举行

以AI为纽带,第三期人工智能能力建设研讨班在上海人工智能研究院顺利举行

快速阅读: 10月23日,上海人工智能研究院举办第三期人工智能能力建设研讨班,来自38个国家的政府官员参与。研讨班旨在落实联合国决议,推动AI国际合作,展示中国AI创新成果,促进全球AI普惠发展。 上海人工智能研究院院长 全球工业人工智能联 […]

发布时间:2025年10月23日
Airbnb称赞阿里开源AI模型:快速且经济

Airbnb称赞阿里开源AI模型:快速且经济

快速阅读: Airbnb首席执行官Brian Chesky称赞阿里巴巴Qwen模型,因其速度快、成本低,助力Airbnb客服代理提升效率,计划扩展多语言支持。中国科技企业开源AI策略获国际认可。 家庭住宿预订平台Airbnb赞扬了阿里巴巴的 […]

发布时间:2025年10月23日
比利时考虑对AI数据中心设电力限制

比利时考虑对AI数据中心设电力限制

快速阅读: 比利时电网运营商Elia考虑限制数据中心电力分配,以防其他用户受影响。自2022年以来,数据中心电力需求激增,2034年预留容量超计划两倍。目前数据中心耗电占全国4%,预计2035年将增至10%以上。 比利时电网运营商Elia正 […]

发布时间:2025年10月23日
荣耀YOYO智能体一键领券,Magic8系列轻松比价购物

荣耀YOYO智能体一键领券,Magic8系列轻松比价购物

快速阅读: 荣耀发布自进化AI原生手机Magic8系列,YOYO智能体实现自动领券、比价等功能,简化购物流程,提升用户体验,覆盖购物、美食、出行等多场景。 10 月 15 日,荣耀发布了首款自进化 AI 原生手机 —— 荣耀 Magic8 […]

发布时间:2025年10月23日
阿里Qwen升级Deep Research:一键生成报告、网页及播客

阿里Qwen升级Deep Research:一键生成报告、网页及播客

快速阅读: 阿里巴巴Qwen团队升级Deep Research工具,集成网页版Qwen Chat,提供研究至发布的全流程体验。新功能支持生成研究报告、交互式网页和多说话者播客,涵盖代码生成、图像渲染和语音合成功能,用户可直接使用无需配置基础 […]

发布时间:2025年10月23日
亚马逊测试AI配送眼镜,包裹导航与风险检测一镜完成

亚马逊测试AI配送眼镜,包裹导航与风险检测一镜完成

快速阅读: 亚马逊开发AI智能眼镜,提升送货司机配送效率与安全性,集成AI传感、计算机视觉等功能,支持自动调光与处方镜片定制,正在北美测试并将逐步推广。 【AIbase 报道】亚马逊周三宣布,正为旗下送货司机开发一款 AI 智能眼镜 ,旨在 […]

发布时间:2025年10月23日
通用汽车明年起搭载Google Gemini AI助手,提升驾驶体验

通用汽车明年起搭载Google Gemini AI助手,提升驾驶体验

快速阅读: 通用汽车宣布将在其2015年及以后车型中集成Google Gemini驱动的AI助手,提供导航、消息发送等服务,强调用户体验和隐私保护,标志着汽车行业智能化新阶段。 通用汽车周三在纽约 GM Forward 大会上宣布,将从明年 […]

发布时间:2025年10月23日