《AI大模型发展白皮书》：AI大模型快速传递并极速放大安全风险

安全419关注到，国家工业信息安全发展研究中心近日发布《AI大模型发展白皮书》（以下简称“白皮书”），梳理AI大模型的内涵，介绍AI大模型对经济社会发展的意义，系统分析AI大模型发展的总体态势、关键要素发展现状，详细探究未来发展趋势，并提出对策建议，旨在为各界展现AI大模型发展全貌，为驱动AI大模型发展提供新思路。



白皮书首先对AI大模型进行了内涵界定，并指出AI大模型成为推动生产、生活方式变革，助推产业智能化转型升级，驱动数字经济高质量发展等社会经济发展方面的新引擎。
 
白皮书认为，随着ChatGPT应用的现象级火爆，AI大模型呈现出快速发展趋势，正在掀起新一轮人工智能发展浪潮，大模型基座化或将重塑人工智能产业链和全球市场竞争格局。在技术方面，大模型在交互、理解、生成等方面性能实现大幅提升。在产业发展方面，国内外互联网巨头、初创企业及科研院所纷纷围绕自身业务研发基础大模型，并积极布局相关领域行业大模型，在赋能实体经济方面发挥了正向作用。
 
从发展的总体态势来看，各国密集出台大模型相关政策；数据、算力、算法更新迭代步伐加快，共同驱动AI大模型性能提升；AI大模型走出“闭源”和“开源”两种发展路径，各类企业和机构纷纷入局；AI大模型人才竞争白热化，企业、高校、科研院所争相引进相关专家；围绕AI大模型的生态建设初步形成，标准制定、评估评测、公共服务平台等服务能力加速构建；AI模型引发新一轮人工智能投资热潮，投资方包含微软、谷歌、英伟达、腾讯、美团等国内外科技巨头和行业龙头。
 
从关键要素发展现状来看，在基础支撑方面，AI大模型训练数据需求激增，高质量数据集成为AI大模型进化的关键支撑；AI大模型对算力需求指数级增长，高性能算力是AI大模型发展加速器；Transformer奠定了AI大模型进化基础，拉开了AI大模型时代序幕；AI大模型工具链相继涌现，降低AI大模型训练和调优门槛。
 
在模型应用方面，科技巨头凭借数据、算力优势，着力构建AI大模型底座；人工智能企业和传统企业凭借行业数据优势，积极锤炼行业大模型；场景大模型成为企业应用创新突破口，激发了创新热情和创造活力。
 
同时也应注意到，AI大模型快速传递并极速放大安全风险，面对AI大模型带来的安全风险挑战，加强人工智能监管新规则的研究和探索迫在眉睫。多个国家或地区积极研究治理方案，在数据安全、偏见歧视和知识产权保护等领域先行起步。
 
从发展趋势来看，AI大模型将成为具有泛化能力的模型底座、不同领域的共性平台技术，重塑人工智能产业链格局，成为迈向通用人工智能的重要探索。高质量的数据、算法、算力将引领新一轮发展热潮，人工智能的竞争重点将从技术创新拓展至生态构建。针对AI大模型治理的需求愈加紧迫，各国人工智能治理政策将快速升级迭代，覆盖全生命周期、具有可操作性的人工智能安全风险治理体系将进一步完善。
 
白皮书最后建议：
一是持续推进大模型关键核心基础技术协同创新攻关；
二是全面夯实算法、算力、数据等高质量发展根基；
三是深入推进面向AI大模型的“大场景”创新与开放；
四是统筹推进AI大模型安全可信发展。