2024中国互联网大会｜齐向东：人工智能新时代面临三大安全威胁

来源：环球网

【环球网科技综合报道】7月9日消息，由中国互联网协会2024（第二十三届）中国互联网大会在北京举行。本届大会以“互联三十载 智汇新质变”为主题，邀请行业大咖、专家学者、创新企业，共同探讨和分享互联网领域的最新动态、前沿技术及深度见解。

奇安信集团董事长齐向东在主题演讲中表示，人工智能新时代，网络安全面临着全方位挑战，要以AI驱动安全，应对三大安全威胁、补齐三大薄弱环节，全方位提升新时代安全能力，护航互联网新质变，共同打造安全、稳定、繁荣的网络空间。

人工智能新时代下，生产力得到了极大地提高，同时，安全威胁也正由点及面地全方位扩散。

对此，齐向东总结了人工智能新时代面临的三大安全威胁：

第一个威胁是AI“饱和式”攻击打垮网络安全运营体系。攻击者可以利用AI工具对网络攻击进行改造和升级，短时间内发动大范围连续进攻，让目标处于无法应付的饱和状态，然后趁虚而入。那些原本就缺少安全专家的政企机构，就会陷入“攻强守弱”的境地。

第二个威胁是AI深度伪造引发社会混乱。人工智能可以快速编写恶意软件与代码，AI欺诈事件频繁发生。一些不法分子利用人工智能技术进行“深度伪造”，冒用身份混淆视听，进行网络欺诈，“眼见未必为实”“耳听未必为真”将成为常态，极有可能引发社会认知混乱。

第三个威胁是AI投毒污染数据冲击安全防线。人工智能时代，黑客组织利用AI升级攻击手段，通过对抗样本、数据投毒、模型窃取等多种方式对AI算法进行攻击，使其产生错误的判断，同时由于算法黑箱和算法漏洞的存在，这些攻击往往难以检测和防范。

他指出，面对这三大网络安全威胁，政企机构的网络安全建设还处于探索阶段，存在着人力不足、思路落后、体系不全的薄弱环节。“想要应对三大安全威胁、补齐三大薄弱环节，就要用AI驱动安全，为安全能力带来指数级跃升。”

齐向东介绍，在单点设备检测方面，AI可以对过去人工漏掉的告警进行全量研判，实现安全能力十倍级提升；在体系化防御方面，通过AI赋能的综合分析和全局联动，实现安全能力百倍级提升；在溯源和反制方面，从威胁发现到攻击溯源环节，依托AI的智能化、自动化，可实现响应能力的千倍级提升。

在“AI驱动安全”这条路上，奇安信已率先进行了大量探索实践，让AI真正赋能安全，实现“质”“效”双提升。

首先是以AI驱动安全，加强分析研判效率。奇安信AI战略产品QAX-GPT安全机器人，其研判效率相当于人工的数十倍，极大降低了告警漏报率。

二是以AI驱动安全，实现运营能力循环上升。通过部署安全机器人与NGSOC构成的“AI+安全运营”方案，可实现威胁事件的自动化响应；通过AI与防火墙、WAF、SOAR等安全产品的协同联动，对遏制安全威胁的处置时间从过去的10分钟缩短到秒级；对复杂事件的溯源分析缩短到分钟级，安全运营效率大幅提升。

三是以AI驱动安全，升级全场景防护能力。齐向东介绍了AI在多个场景中的应用：在“AI+安全开发”方面，基于大模型的代码助手极大提高了开发人员的效率，不仅实现了代码的高效编写，还能自动检测并修复潜在的安全漏洞；在“AI+终端安全”方面，奇安信天擎、反病毒、沙箱等产品深度融合安全大模型的分析能力，无论是二进制文件还是非PE脚本类代码，都能快速分析并识别；奇安信还将AI全方位应用在漏洞挖掘、电子取证、操作流程自动化上等众多产品和业务流程方面，大大提高了产品威胁发现、研判、处置水平，升级全场景的安全防护能力，激发网络安全最大效能。

最后，齐向东表示，互联网是推动我国经济发展、社会进步的重要引擎，中国互联网走过了从无到有、从小到大的三十年。在人工智能赋能千行百业的当下，奇安信将用AI驱动安全，全力护航互联网新质变，共同打造安全、稳定、繁荣的网络空间。