周鸿祎：AI大模型时代 网络攻击门槛下降

快速阅读: 据相关媒体报道，周鸿祎指出大模型存在“幻觉”和攻击门槛降低等风险，可能引发严重后果。360正通过培养专家和开发大模型卫士应对挑战。

据360集团创始人周鸿祎在中国互联网大会上的发言，2025年7月，北京，周鸿祎深入分析了大模型在实际应用中的潜在风险。他指出，随着人工智能的快速发展，网络安全面临新的挑战，传统IT系统漏洞和数据隐私泄露已不再是唯一威胁。

周鸿祎首先提到了“大模型的‘幻觉’问题”，这是最大的安全风险之一。大模型在处理未知信息时，可能会无根据地生成内容。虽然在娱乐领域这可能无关紧要，但在工业生产和政府管理等关键领域，这种错误判断可能导致严重后果。尤其是当智能体具备操控各种工具的能力后，错误的影响范围将极大扩大。

其次，周鸿祎强调了大模型降低网络攻击门槛的风险。他指出，非编程专业人员也能通过自然语言与大模型互动，轻松编写程序。这意味着，恶意攻击者可以通过精心设计的指令，诱导大模型泄露企业机密信息，这种攻击方式称为“注入攻击”。未来，甚至一些没有编程知识的普通员工也可能因不满而对公司的大模型发起攻击，形成潜在的内部威胁。

从更广泛的角度看，周鸿祎警告说，大模型将使国家级高级威胁攻击更加普遍和复杂。过去，我国的网络攻击相对较少，但如今黑客正试图将自身能力与经验嵌入大模型，成为“黑客智能体”。在强大算力的支持下，一个黑客可能同时操控数十甚至数百个智能体，彻底改变网络攻防的格局，未来的对抗将不仅是人与人的较量，更是人与算法、人与机器、人与算力之间的斗争。

为了应对这些挑战，周鸿祎透露，360正在采取两项关键措施。首先，360正在培养智能体安全专家，帮助企业实现实时检测和防御，做到“以算法对抗算法”。其次，360开发了专门的大模型卫士，监控大模型的指令并评估输出内容的准确性，最大限度降低大模型的“幻觉”问题。

(以上内容均由AI生成)