周鸿祎警告：大模型降低网络攻击门槛

快速阅读: 据相关媒体最新报道，周鸿祎指出大模型带来三大安全风险：幻觉、攻击门槛降低及国家级威胁。360推出“智能体安全专家”和“大模型卫士”应对挑战。

据2025中国互联网大会现场报道，360集团创始人周鸿祎在会上深入剖析了人工智能时代下网络安全面临的全新挑战。他表示，相较于传统IT系统的漏洞和数据隐私泄露问题，大模型带来的三大安全风险更应引起高度警惕。

首先，大模型的“幻觉”问题被认为是最大的风险之一。周鸿祎指出，当大模型遇到不理解的事物时，会编造信息。虽然在娱乐场景中这或许无伤大雅，但在工业生产和政府办公等关键领域，这种错误可能导致严重后果。特别是当智能体具备了操作各种工具的能力时，其错误判断的危害将大大增加。

其次，大模型降低了网络攻击的门槛。周鸿祎认为，大模型使得非编程专业人员也能通过简单的自然语言交互编写程序，这意味着攻击大模型的门槛也相应降低。攻击者可以通过精心构造的指令，诱导大模型泄露企业机密文件，这种现象被称为“注入攻击”。他形象地指出，未来甚至一个不具备编程知识的前台员工也可能对公司的大模型和智能体发动攻击。

从更宏观的角度看，周鸿祎还提到，大模型将使国家级高级威胁攻击变得更加普遍和复杂。过去，针对我国的网络黑客数量相对较少，但现在，黑客正尝试将自身能力嵌入大模型，成为“黑客智能体”。在足够算力的支持下，一个黑客可以同时操控数十甚至数百个智能体，彻底改变传统的网络攻防格局。

面对这些挑战，360已采取两项关键措施。首先，360正在打造智能体安全专家，帮助企业在面对攻击时实现实时检测和实时防御，做到“以算法对抗算法”。其次，360开发了一款名为“大模型卫士”的产品，用于监控发送给大模型的指令，并评估大模型输出内容的合理性和准确性。结合强大的搜索能力和企业知识库，该卫士能最大限度地降低大模型的“幻觉”问题。

(以上内容均由AI生成)