AI 驱动的网络威胁-来源:DarkTrace—2024年 AI 网络安全状况报告
与此同时,安全威胁也在AI时代日益突出。
DarkTrace 2024年公布的一项调查报告,接近74%的受访者表示AI驱动的网络威胁已带来显著冲击,60%的受访者担心尚未做好充分准备应对这类威胁与攻击。
311研究所甚至提出,“我们已经到达了这样一个阶段:完全自主的智能体 AI 网络攻击能够自我进化、识别系统漏洞,并发动复杂攻击。”科幻中的场景已经开始成为现实。
在一个实际案例中,一种AI攻击不到2分钟就通过串联零日漏洞,攻破了军用级系统。
这意味着,如今的安全防御已不再仅仅是对抗传统恶意软件的问题,而是要为一个AI本身就是攻击者的未来做好准备。
为此,Arm和其他芯片企业在现代SoC中集成了越来越多层次的安全机制,协同工作抵御各种威胁,包括但不限于:嵌入式加密保护、机密计算架构(CCA)、硬件信任根(RoT)、安全飞地、可信赖执行环境(TEE)、安全内存管理单元(MMU)、内存扩展标记(MTE)、PSA认证、定制芯片安全标准,等等。
同时,行业正在不断加大对硬件级安全的投入,通过构建具备信任根和标准化安全机制的系统,抵御AI驱动型攻击。