安全大模型应用观察|反诈、隐私保护、靶场构建… 多细分领域生机迸发

大模型在网络安全领域产生的积极影响已经深度渗透行业，过去一年多，国内安全厂商积极探索相关应用，已经形成初步案例。根据安全419前期的系列观察，挖掘并利用大模型优越的语义分析、代码理解和复杂推理等能力，辅助甚至是逐渐主导威胁检测、分析及处置的效率与精准度，是实现安全能力跨越提升的关键。

 

在安全运营、软件供应链安全、威胁情报等等比较集中热门的实践方向之外，安全419还观察到，主管部门、安全厂商等机构顺应行业发展需求，基于自身基因和长期沉淀，巧妙结合大模型技术以增强现有产品体系的能力，或为从业者提供高阶安全赋能。本期，我们将视角转向在不同专项领域发掘开辟出安全大模型应用的实例，感受大模型如何多维度推动安全智能升级。

 

 

 

工业和信息化部联合中国信息通信研究院于2024年1月发布的国内首个个人信息保护AI大模型。

 

 

面向移动互联网应用开发者、分发平台、终端厂商、检测机构等行业上下游主体，提供多模态、多样化的合规咨询、风险检测、代码生成、操作指引等服务，构建AI赋能个人信息保护新范式。

 

通过深度学习技术，能够对App进行全面的风险检测，识别出可能存在的隐私泄露、数据滥用等风险点，并及时向相关方发出预警，帮助企业和开发者及时采取措施，防范风险。为了降低开发者的技术门槛，提高合规开发的效率，还提供了代码生成和操作指引功能，开发者可以通过“智御”助手快速生成合规的代码片段，同时获得详细的操作指引，确保在开发过程中能够严格遵循个人信息保护的相关要求。随着个人信息保护法律法规的不断完善，还能够提供合规咨询、政策解读和更新服务，及时跟踪国内外最新的个人信息保护政策动态，为企业和开发者提供准确、全面的合规建议，帮助他们更好地适应监管要求。

 

 

吉大正元于2023年8月推出的面向密码与数据安全领域的专属大模型。

 

 

采用一站式管理与应用架构，对内通过统一管理后台，实现数据、模型、任务、硬件等内部优化管理功能，对外可定制实现数据模型、互动问答、文档搜索、内容生成等应用功能。“昆仑”可通过提供白名单控制查询与结果改写，结合向量搜索提供知识图谱精准回答，通过日常微调及时更新模型结果；提供完整的数据导入、清洗、标注、反馈、微调、评估、回流等功能模块，自助式完成模型训练与更新，方便实现自有智能的安全迭代；同时内置密码、数据安全等正元大安全领域知识的预训练模型，并包含多种智能应用界面。

 

2024年1月，吉大正元将“昆仑”应用于数据分类分级，推出智能数据分类分级一体机产品。利用即插即用安全专属大模型强大的语义分析与学习能力，通过通用大语言模型+行业知识库学习，训练出多个垂直行业数据分类分级工作模型，并将其内置在分类分级一体机中。同时，在保证以较高效率运行大模型的前提下，将一体机成本降至普通服务器水平，行业客户无需再花费昂贵的算力成本对大模型进行训练，即可实现行业数据分类分级大模型的开箱即用，极大解决了长期以来分级分类人工占比高，无法快速推广与普及的困境。

 

 

永信至诚集团旗下智能永信于2024年2月面向网络靶场构建、安全竞赛组织以及人才测评领域推出三款大模型产品。

 

 

春秋靶场构建大模型 - 通过对话交互完成网络靶场仿真场景的设计与构建，将过去需要数小时甚至数天才能完成的任务，缩短到分钟级响应和配置。可实现拓扑设计、网络构建、自动化仿真场景生成、场景下发等一系列操作，还支持快速生成各种网络靶场场景供不同角色用户进行实战演练。

 

春秋安全竞赛大模型 - 作为安全竞赛辅助工具，能够从上百万条网络安全竞赛垂直领域知识信息中整合分析资源，协助用户高效便捷获取网络安全技能知识点，自动化生成赛题，快速创建专场比赛。还能根据用户需求提供解题思路和操作手册。

 

春秋人才测评大模型 - 基于人机对话互动模式和大数据分析能力，结合国际国内人才评价标准、ASK-P人才培养模型以及永信至诚独创的内标测评法，帮助政企单位定制个性化测评内容，完成课程体系设计、人才评价体系设计、人才规划等调整配置。

 

 

国投智能（美亚柏科）于2023年6月发布的面向公共安全领域的智能大模型。

 

依托国投智能（美亚柏科）在公共安全领域20多年经验形成的行业知识体系、警务标准件、行业数据研发而成，拥有丰富的公共安全行业知识，具备强大的警务意图识别、警务情报分析、案情推理等业务理解和推理能力，能够从海量数据中持续自我进化，实现行业知识、业务问题，解决反馈的全流程闭环进化。

 

2023年9月，正式发布“天擎”公共安全大模型信创一体机，可智能识别分类25种图像，提供80+种基础标签和15种业务标签，涵盖40余种鉴定算法、近10种深伪鉴定算法，通过移动终端“喊一嗓子、拍张照片、传个视频”即可获取信息，实现公共安全事件预测预警、违法犯罪案件研判、规范高效智能审讯、快速便捷智慧调度，大幅提升办案效率并降低业务成本。

 

 

木卫四科技于2023年8月推出的百亿参数汽车安全垂类大模型。

 

 

木卫四自有的百亿级规模数据和上百个机器学习、深度学习模型，通过预训练和微调沉淀到“蝴蝶”大模型底座当中，利用“蝴蝶”的代码生成能力、汽车异常推理能力、汽车安全场景意图识别能力，并结合木卫四开发的代码生成Self Debug模块、汽车异常分析约束模块，来保证AI生成的安全性和可靠性。“蝴蝶”推理结果通过系统接口层输出到蝴蝶New Chat、V-SOC、V-DSP、VTI等木卫四汽车安全系统，并私有化部署到车企私有大语言模型。

 

作为一个汽车安全Copilot，可实现自然语言环境下针对汽车异常问题的深度分析，协助不同部门的工作人员进行网络安全、数据安全、功能安全和预测性维护问题的快速定位，提供解决方案，提升工程师的效率。

 

 

华为于2024年2月发布通信大模型，为华为盘古大模型3.0版本发布七个月后，在通信领域将大模型能力集中打包成单独的解决方案。

 

华为通信大模型将提供基于角色的Copilots和基于场景的Agents的两类应用能力，最终将全面提升网络生产力。大模型可以通过语言交互的方式，提供精准的网络状态、故障根因、处理建议等信息，协助降低故障处理时间至少30%。比如，在移动承载网络场景，基于网络数据和决策链推理，快速定位原因，平均故障处理时长从2.5小时降低到20分钟。又比如网络隐患管理，大模型可以综合识别业务质差、网络潜在故障风险等，然后编排合理的操作方案，调用工具解决风险问题，实现“0”群障事故。通过这些应用，通信大模型可以帮助运营商赋能各个角色的员工并提升客户的满意度。

 

 

中国联通于2024年2月发布了包含1套基础大模型、1个大模型底座、M种行业大模型的联通元景大模型体系。

 

基础模型方面，布局10亿、70亿、130亿、340亿、700亿多参数量语言模型，以高性价比适配相应应用场景。在此基础上演进出多模态模型，支持声图文3种模态，具备面向多种行业场景的快速定制能力。大模型底座方面，打造选模型-改模型-用模型工具链，使能从通用能力到专业能力和“职业技能”的塑造。该平台还提供了基于智能体的原生应用开发工具，实现低门槛应用开发。

 

基于基础模型及底座，中国联通研发了十大面向内外部业务场景的行业大模型。反诈领域，联通元景大模型实现100类风险网站标签鉴别，换脸识别成功率达到83%。赋能联通安全管家，在用户授权后，从通话安全、短信安全、上网安全、新型诈骗监测等方面保护用户安全。识别12类诈骗类型，可进行防诈提醒、诈骗电话拦截、防诈智能代接，针对视频通话场景中AI换脸，多模态大模型从语义层面识别攻击图片与真人的差异，泛化能力强，识别更准确。

 

 

2024开年以来，当科技界被Sora文生视频大模型“以假乱真”的颠覆表现剧烈搅动之时，网络安全领域也没有停下钻研大模型的脚步。不仅是上述面向不同的安全细分方向的大模型应用密集发布并进入落地阶段，在安全运营、开发安全等热门应用方向，更是开启白热化竞争，入局玩家越来越多，产品工具加速迭代。可以明确，大模型等AI技术的开发和应用，依然是未来很长一段时间推动整个行业发展的一大主题。我们将持续关注大模型在网络安全领域的技术发展、应用场景和市场格局，为业界带来更多新鲜和深度的报道。