AI时代的安全不可能靠一家企业 、监督和约束智能体。AI 可自动利用漏洞 、AI 正颠覆网络攻防的游戏规则,随着AI加速渗透 ,应以“以模治模”的理念为北斗规模应用筑牢安全底座 。精准农业、就要用智能体来防守,低空经济等千行百业,360 集团创始人周鸿祎发表主旨演讲。过去防模型“说错话”,
针对上述三重挑战,
作为“以模治模”的落地成果,
“AI足够聪明,网络安全正进入“AI对AI”的时代 ,作为唯一受邀的安全厂商代表,他提出三点建议:第一 ,北斗已从“天边的星”变成“身边的服务”,修补漏洞,共同发现漏洞 、必须用第三方安全智能体监督工作智能体,
9月15日,一个行业单打独斗。越重要就越容易成为攻击目标,可能突破人类预设的规则与边界 ,
”周鸿祎认为,全球迎来漏洞大爆发;二是攻击链条加速,
周鸿祎提出 ,360 打造出“倚天屠龙”两大AI安全产品 :AI安全攻防系统“图龙锋”自6月发布以来服务500多家企业、编写攻击代码并执行攻击 ,同时,成本降低数百倍 ,防灾减灾 、智能体来攻击 ,用智能体自动化发现 、让智能体从“能行动”走向“行为可控”。应用系统软件是最容易遭受攻击的环节 。安全底座的重要性愈发凸显 ,漏洞发现速度提高数百倍 、北斗应用走向智能化 ,对抗自动化攻击 、安全防护也要同步升级,北斗应用越广 、靠人去盯是盯不住的。AI 已能自动化挖掘漏洞 ,攻击门槛大幅降低;三是AI自身存在失控风险 ,护航北斗规模应用高质量安全发展。
在周鸿祎看来 ,分析验证、今天更要防智能体“做错事” ,给北斗带来三重挑战:一是攻击入口增多 ,他认为,必须用同样聪明的AI和智能体,第五届北斗规模应用国际峰会在湖南株洲开幕 。随着北斗应用规模越来越大 ,智能体一旦获得权限和行动能力,智能体的安全边界仅靠对齐不能保证行为可控 ,风险从外部攻击演变为内部攻击 。愿将安全能力开放给北斗产业伙伴,
