快速阅读: 据谷歌消息，其AI聊天机器人Gemini于2月12日遭大规模蒸馏攻击，单次提示超10万次，攻击者试图窃取模型机制以克隆或强化自身系统，凸显大模型知识产权安全风险。
谷歌于当地时间2月12日披露，其AI聊天机器人Gemini正遭遇大规模“蒸馏攻击”。攻击者通过海量重复提问，诱导模型泄露内部机制，单次攻击的提示次数超过10万次，引发行业对大模型安全的高度关注。
此类攻击通过反复试探Gemini的输出模式与逻辑，试图探测其核心机制，最终实现克隆模型或强化自身AI系统的目的。谷歌表示，攻击主要由带有商业动机的行为者发起，幕后多为寻求竞争优势的AI私企或研究机构，攻击源遍布全球多地，但未披露具体嫌疑方信息。
谷歌威胁情报小组首席分析师约翰·霍特奎斯特指出，此次攻击规模释放出危险信号，蒸馏攻击可能已向中小企业的定制AI工具领域蔓延。他将谷歌的遭遇比作“煤矿里的金丝雀”，警示大型平台面临的安全危机，预示着整个AI行业即将迎来更广泛的风险。
谷歌强调，蒸馏攻击本质上属于知识产权盗窃。各大科技公司为研发大语言模型已投入数十亿美元，模型内部机制是其核心专有资产。尽管行业已部署识别和阻断机制，但主流大模型服务面向公众开放的特性，使其难以从根本上规避此类风险。
霍特奎斯特警告，随着越来越多企业训练包含内部敏感数据的定制化大模型，蒸馏攻击的潜在危害将持续扩大，甚至可能导致企业多年积累的商业思维与核心知识被逐步提取。
(以上内容均由Ai生成)
引用自：AIbase人工智能资讯平台
