AI大模型在安全领域应用提速 华云安创新实践分享

ChatGPT风靡一时，人工智能技术从来没有像今天这样离我们如此之近，当人们意识到预训练大模型可以成功落地，技术革命之路上不会给我们留下太多选择，要么理解并跟进，要么就有可能被时代淘汰。ChatGPT如今也对安全产业带来双重思考，一方面，更加先进的数字技术应用可能伴生新的安全风险，同时技术应用也将强化安全技术本身。

 

在RSA 2022上，就有安全专家讨论了一系列技术对于安全带来的影响，如密码技术短期不会被取代，对于人工智能，人们认为其在安全领域的应用优势是速度、规模、范围，未来将在安全领域产生重要应用。在SecOps 2023上，国内网络安全厂商华云安就分享了自身对大模型的技术理解与实践。

 

 

华云安产品总监王超在SecOps 2023发表《大模型在威胁情报和智能攻防的应用》主题演讲时就明显强调，如今安全厂商都在加速研究ChatGPT和业务之间的关联性，并通过之前的技术沉淀，从而强化产品体系和方法论。

 

过去一段时间，华云安一直是国内攻击面管理技术的领先实践者，技术沉淀之后正向平台化发展，从而向客户交付整体安全能力。对于人工智能大模型如何跟现有业务相结合，华云安以自身视角分享指出，大模型应用可以与以下几点相结合，分别是扩展威胁情报、智能攻防对抗、风险评估影响。

 

1、扩展威胁情报

 

应用大模型将强化扩展威胁情报，主旨是尽可能多而全地进行情报搜集。威胁情报不仅限于对已经发生的恶意攻击以及恶意IP、恶意域名、恶意文件等，现阶段的威胁情报是要尽可能的缩小攻防信息差，真正意义上指导的红蓝对抗。

 

 

应用大模型将强化智能攻防对抗两端处于更有利位置。随着网络安全攻击者逐步向团队化、专业化、智能化发展，现代企业安全基础建设已无法应对不断迭代的新型攻击技术，安全需求从满足合规条例的有无转向攻防实战有效性的判断，安全检测更加需要场景化，可视化。

 

 

应用大模型更加有利于快速、全面、准确的风险评估体系的建设。企业面临着新型攻击手段不断涌现和信息资产复杂度日益增加的挑战，及时识别和应对新型攻击手段可能导致信息资产受到损害或数据泄露，使组织可以准确识别潜在威胁、强化防御措施，并优化人员运营效率以提高整体安全性。

 

不同的安全企业有着不同的视角，根据以上三方面的人工智能安全应用，华云安思考的是能够解决信息资产攻防场景泛化、安全攻防知识数据生产、安全分析人才缺口大、攻防对抗常态化验证、安全风险影响性评价等一系列问题，这一系列问题都是新技术新场景应用带来的安全挑战，比如数字化过程的IT资产向数字资产转变，安全团队压力不断加大等。

 

世界经济论坛发布的《2023年全球网络安全展望》报告曾指出，“网络安全最大的挑战是‘时间’”，这句话很好地解释了网络安全的复杂性，打破这种挑战，需要调理一致的沟通和风险驱动的改进工作相结合。在网络安全领域引入人工智能，可在多技术应用环节起到强化效果，并降低对人的要求，如强化未知风险的排查识别发现能力、风险验证的主动防御能力等等。

 

 

在人工智能布局方面，据华云安主持研发工作的两位博士研究员表示：“大语言模型将赋予华云安攻击面管理、智能攻防、安全验证等产品更强的能力，以发现更复杂、更隐蔽的漏洞攻击为切入点，以智能化的情报分析为基础，以攻击模拟智能决策为驱动，精准识别目标网络环境中的高风险攻击面，为安全运营人员的决策和响应，提供更有价值的支撑。”

 

“华云安安全大语言模型基于完全国产化信创平台，专注在情报分析和智能攻防领域，助力网络安全防御体系构建，持续提升关基保护能力。”

 

 

王超则表示，华云安网络安全大模型未来将应用于自家产品和解决方案之上，从而为用户带来新的场景应用。华云安大模型将具备四项基础能力并持续演进，分别是语言文本理解能力、自然语言文本生成能力、安全语义理解能力、逻辑理解和推理能力。其中安全语义理解方面将支持中英文，且支持C、python、java等主流代码。

 

在大模型应用具体实践方面，目前阶段华云安将其归纳为以下四个方向：

 

在企业关心如何持续获得高价值情报方面，给你说你想听的：人工智能模型可以通过海量安全专项文本的训练了解关键词并将语义文本转化成结构性文本或者可读性高且易懂的文本语言。
 

在企业关心如何看见攻击面的危害，进行举证和判断时，帮你看你要看的：基于已有的大量高质量的样本和标注，模型能够很好地识别并生成和网络安全相关的语义与情感信息，结合上下文帮助分析和解释恶意软件、敏感数据泄露等。
 

在企业关心如何结合工具进行全面安全验证时，教你用你要用的：使用大语言模型通过一定的工具知识与优化调参，理解用户工具应用需求上下文，并生成工具应用的文本指导，将人与机器有机结合，以提高自动化攻防的易用性。
 

在企业关心如何进行攻防成果的可见性分析，帮你做你要做的：基于已有的攻防渗透样本和强大的关联分析能力，可以基于图论的路径搜索理论进行攻击路径的决策推演，并使用内部的关联分析算法来检测潜在的内部和外部安全威胁。

 

综合而言，安全厂商从产品交付到服务化趋势的转变，一直欠缺的就是让安全更加易懂和有效，比如漏洞情报要基于业务做到闭环，而不是报送交差即可，过去交付使用环节一直欠缺的能力，如今正在被人工智能技术所补足，且随着智能化的不断发展，最终形成完全闭环自动检测和响应能力。

 

从安全验证角度来看，场景上的诸多变化都将对其产生影响，而安全验证需要将人、流程、工具有机结合，过去人在其中扮演重要角色，通过大模型将降低对人的依赖，或者说让人在处理过程中更加高效。

 

在SecOps 2023大会上，王超现场演示了在华云安自家产品上应用安全大模型的部分实例，包括外部攻击面产品灵知Ai.Radar，智能渗透与攻击模拟产品灵刃Ai.Bot，通过阶段性成果展示可以看到，华云安安全大模型已经具备了一定的可用性。

 

大模型应用于网安产业，将推动网安攻防进入智能化对抗时代，这已是行业公认的未来主要趋势之一，能够在这方面具备领先地位网安厂商，必然是那些技术储备型厂商。

 

人工智能赋能攻防对抗，绝大多数安全厂商均有着人工智能大数据分析领域的经验和沉淀，这也是安全攻防厂商的一些基础技术储备，华云安也是如此。“华云安在这方面较为领先，其已取得了100余项人工智能、知识图谱及漏洞等相关领域的专利技术。”王超在SecOps 2023大会上表示。