中国经济网版权所有 中国经济网新媒体矩阵 网络广播视听节目许可证（0107190）（京ICP040090） 2025年11月8日，在世界互联网大会乌镇峰会上，360数字安全集团正式发布《大模型安全白皮书》（以下简称“白皮书”）。该白皮书首次系统阐述了运行大规模模型时的五个主要风险，被认为传递了“外部构建‘基于模型的屏障，内部构建‘平台原生’的安全基础”的基本理念。立足实战，提供可落地的安全解决方案，构建大规模模型应用的全线安全防御，助力推动人工智能产业朝着“安全、善良、可信、可控”方向稳定发展。五个关键风险：大安全模型是多维度的l 且复杂，挑战呈指数级增长。随着大科技模式加速向政务、金融、能源、医疗等重点行业渗透，一个不容忽视的事实是，人工智能越智能，安全风险就越致命。白皮书以2025年国内外多起典型大型模型安全事件为切入点，系统总结了威胁大型模型安全的五个主要风险：一是基础设施安全风险，包括设备控制、供应链漏洞、拒绝服务攻击、计算资源滥用等；二是内容安全风险，包括不遵守核心价值观、虚假或非法内容、大模型错觉、注入攻击等。 ETC。;第三类是数据安全和知识安全风险，数据泄露、越权访问、隐私滥用、知识产权问题更加突出；第四个约类别是代理安全风险。随着智能代理自主权的增加，插件调用、算力调度、数据传输等方面的安全边界变得更加模糊；最后，还有用户安全风险，包括访问控制、API调用追踪、恶意脚本执行和MCP实现安全等。这些风险相互关联，形成传统安全解决方案难以应对的复杂威胁矩阵，严重威胁个人权利、企业发展乃至国家安全。拉起防线：“插件安全+平台原生安全”双轨安全体系面临上述复杂挑战，白皮书根据实战经验提供了“插件安全+平台原生安全”双轨管理策略——前者就像“外挂保镖”，对实时风险的适应性；后者就像AI的“内置武器”，为AI奠定了坚实的基础。从根源上保障安全，两者共同构成全链路的防护网络。插件的安全重点是模型的外部防护，通过“以模型控制模型”，实现对计算主机、软件生态、输入输出内容、幻象模型的主动监控和防御。这种方式主要有两个优点：一是灵活性强，部署成本低，可以作为通用组件快速接入不同的业务环境，避免重复开发；其次，响应速度快，拥有独立的监控拦截机制，可以毫秒级实时识别并拦截威胁，例如算力异常消耗或者恶意内容。平台原生安全重点关注大数据模型、知识库、代理和客户端，在核心组件中嵌入安全能力，加强支撑组件和组件的安全性nts.compliance 在整个过程中发挥作用。 360提供的企业级知识库、座席建设运营平台、客户座席等产品都是基于这个理念构建的。安全深植于平台底层，充分满足国家和行业合规要求，为代理应用提供全链路保障。简而言之，插件安全就像是“完工后安装的防盗系统”，而原生安全平台就像是“施工时搭建的消防结构”。两者共同协作，从外到内组成了一条大型模型安全防线。通过该系统，360实现了主动检测和动态演进的安全检测能力，能够有效应对复杂且多变的安全威胁。防御 IT：保护大型防盗门的 7 项关键功能。基于“外部风险”大模型安全核心理念“防范与内部固化架构”，360为大模型安全提供了全链路解决方案。该方案利用七大关键产品能力，构建了“插件化”与“平台原生”相结合的纵深防御体系。其中，“插件化”安全能力不侵入大模型原生架构，通过外部工具实现灵活快速的防护。该体系下的四大主要产品——大模型安全安全动力主机模型守护算力、检测系统、防护系统、幻觉检测与缓解系统- 共同形成外部屏障，致力于应对模型基础设施中的重大风险，如注资，避免链上内容和非法内容，实现算力投放的实时监控和主动煽动，实现真正的监控，从算力投放到主动的权力监控，实现实时性e 监控，主动监控电源照明的功率，以及主动监控内容层的不确定性。 “平台原生安全”就像为大规模应用模型注入“安全基因”，将防护能力深度嵌入其核心组件。这一理念已经在三大平台产品中得到体现：从根本上保护数据和知识安全的企业级知识库；建设运营平台保证代理商行为完全可控；代理客户端为用户入口筑起一道安全防线。三者的协作从底层架构上解决了数据泄露、代理行为失控、终端滥用等内生安全挑战，为AI应用的稳定可靠运行奠定了内生基础。据悉，目前360已将该能力落地到政务、金融等各个行业。事务、金融、制造，真正将大安全模型从“理论转化为可实施、可使用的实际解决方案”。未来，360还将携手产学研界，共同推动安全标准建设和技术共享，共同构建安全可信的AI生态系统。用人工智能让世界更安全、更美好。