DeepSeek AI 已被政府设备禁止。这足够吗?
快速阅读: 据《ABC 在线》称,网络安全专家警告,具有中国背景的AI聊天机器人深泉AI对澳国家安全构成独特风险,呼吁政府禁止其在澳所有设备使用。专家指其受中国数据法约束,可能泄露澳敏感信息。澳已禁其用于政府设备,但专家建议扩大禁令范围至关键基础设施。
网络安全专家表示,联邦政府应考虑禁止一款具有中国背景的争议性AI聊天机器人在所有澳大利亚设备上使用,警告其对国家安全构成“独特风险”。上个月,在澳大利亚国家安全和情报机构的指令下,深泉AI(DeepSeek AI)被禁止用于所有政府设备。该机构发现这款聊天机器人使联邦“技术资产”面临风险。
网络安全专家表示,联邦政府应考虑禁止一款具有中国背景的争议性AI聊天机器人在所有澳大利亚设备上使用,警告其对国家安全构成“独特风险”。该技术由中国杭州生产,价格仅为其他AI产品的几分之一。深泉AI与中国的关系引发了澳大利亚情报圈的安全疑虑。
澳大利亚国家安全机构警告说,由于深泉AI受制于中国的数据收集法律,该应用程序必须向中国政府提供其收集到的所有信息。因此,安全机构表示,他们担心深泉AI无法充分保护澳大利亚的数据,可能帮助识别政府工作人员,并可能被用来对抗澳大利亚的国家利益。这一针对所有政府技术的禁令引起了中国大使和中国外交部的批评,他们称之为“将经济、贸易和技术问题政治化”。
但一些网络安全专家表示,他们认为这还不够。卢克·罗奇是网络安全公司赛博赛克斯(CyberCX)的首席商务官。悉尼大学计算机科学系乔纳森·库马尔费尔德博士表示:“任何由像中国这样的威权国家生产并保持互联网连接的连网技术都存在独特的风险。”
为什么普通澳大利亚人应该关心?
与ChatGPT类似的深泉AI采用的对话式语言与用户互动,并可用于收集信息并回答问题,利用从互联网和其他用户那里获取的数据。根据其隐私政策,深泉AI收集的内容包括:
– 用户输入的内容;
– 与会话相关的元数据;
– 设备信息;
– 日志文件。
其数据收集政策引起了国内外国家机构的关注。台湾、美国和印度等国已禁止该应用程序在政府设备上使用,而韩国和意大利则采取了前所未有的措施,也阻止深泉AI进入其应用商店。
深泉AI是否采取了任何措施来解决这些问题?
国土事务部上个月表示,希望与该公司交谈以解决其对数据安全的担忧。然而,一位发言人告诉澳大利亚广播公司(ABC):
美国“兄弟寡头”赢得AI让步,欧洲“惊恐”
照片显示美国副总统JD·范斯与其他几个人一起站在舞台上,面对观众。在美国“兄弟寡头”的阴影下,全球人工智能监管巴黎会谈受到关注,大科技公司在AI军备竞赛突然转变中赢得了有争议的让步。
该部门没有回应有关其是否计划效仿意大利和韩国,禁止该应用程序出现在所有澳大利亚设备上的问题。“澳方任何进一步决策都将基于国家利益和安全及情报机构的建议,”它说。
然而,将禁令扩大到所有澳大利亚设备已经是网络安全专家正在探讨的一种可能性。前联邦政府国家网络安全顾问阿拉斯泰尔·麦克吉本告诉《金融评论》,对政府设备的禁令是一个“良好的第一步”,但需要更进一步。
“有许多监管机构——无论是澳洲审慎监管局对银行还是国土事务部对电信公司——如果可能的话,它们应该向这些关键基础设施实体发布禁令,如果不能,它们应该强烈建议这样做,”他说。
公开禁令会有用吗?
悉尼大学计算机科学系乔纳森·库马尔费尔德博士表示,在所有澳大利亚设备上禁止该应用程序影响不大。
“禁止消费者使用该应用程序不会阻止人们通过访问网站并在那里与其聊天来继续使用服务,因此虽然这是一个令人担忧的信号,但影响可能是有限的,”库马尔费尔德博士说。
“在政府的情况下,他们也可以阻止访问该网站,但我们没有一个全国范围的防火墙可以用来限制访问。
“如果我们确实有办法限制对网站的访问,就会有关于如何可能被滥用以限制言论的担忧。”
然而,墨尔本皇家理工大学(RMIT)计算与技术学院教授达娜·麦凯表示,她可以看到更广泛禁令的好处。
“从国家安全的角度来看,我仍然可以看到禁令的好理由,”她说。
“深泉AI收集的一项重要信息是IP地址,这告诉他们你的设备来自哪里。
“他们很可能可以利用这些信息来确定某人是否正在从政府设备连接——因此知道他们至少有可能正在从事政府工作。墨尔本皇家理工大学的达娜·麦凯博士表示:
“然后他们搜索的内容可以用来了解正在考虑的政策,即使是秘密的,例如。”
尽管麦凯博士表示这不是深泉AI独有的问题。
“这也是其他AI公司的问题,但我们可以制定关于公司如何处理我们的数据的法律,而对于其他国家则较少——深泉AI必须遵循中国法律,允许中国政府访问。
“另一个漏洞是深泉AI收集击键模式,这就像数字指纹——可能允许他们识别政府工作人员在工作之外的身份。
“如果该政府工作人员随后搜索一些非常不好的内容,那么那个人可能会受到压力。”
严重警告
一名澳大利亚大学生曾参与创建深泉AI
照片显示一名戴眼镜并挂着吊带的人站在白板前。创建中国人工智能聊天机器人深泉AI的“关键贡献者”之一曾在澳大利亚学习计算机科学多年。
赛博赛克斯(CyberCX)就禁令向政府提供建议,罗奇先生指出,有强有力的论据支持扩大其影响范围。
“这类技术受制于该国情报机构的指挥和控制,”他说。
“它们可能被中断或关闭,变成监控工具,或被用作实现战略目标的影响工具。”
他说,深泉AI的风险一目了然,政府应将其禁令扩展到电信网络、医院和机场等关键基础设施。
罗奇先生说:“鉴于深泉AI的背景及其与威权国家的持续关联,与诚信、影响和间谍活动相关的风险意味着将该应用程序引入任何国家重要的网络将是达成中国国家战略目标的一个潜在好处。”
(以上内容均由Ai生成)