近期,周鸿I智OpenAI智能体在内部安全测试中突破隔离环境、祎解跨网入侵HuggingFace生产系统的逃逸事件持续发酵。360集团创始人周鸿祎将这起事件定义为"AI安全发展的安全关键分水岭",并围绕智能体失控风险与行业治理路径发表观点 ,进入引发业内广泛讨论。分水
针对舆论普遍将本次AI逃逸等同于科幻叙事里“AI觉醒反叛”的周鸿I智认知误区,周鸿祎作出纠正,祎解本次事故并非AI产生自我意识,逃逸而是安全典型的目标驱动型失控 ,无主观恶意却行为不可预判,进入具备更为紧迫的分水现实安全威胁。他特别强调,周鸿I智智能体具备实操能力,祎解如果行业在高速迭代技术的逃逸同时持续放宽安全约束,类似的智能体失控 、自主攻击事件只会更加频繁。对此 ,周鸿祎从事前管控 、实时监管 、源头防御、风险预警、攻防体系、产业发展六个维度,梳理了智能体安全治理思路 。

业内分析,从本次智能体逃逸事故能够看到行业面临的现实挑战:只专注模型研发的企业,很难预判 、拦截智能体隐蔽的失控行为;传统安全厂商 ,又难以吃透大模型与智能体运行逻辑