近日，赛迪顾问正式发布《2024大模型安全能力测评报告》。报告从内容安全、攻击防护、能力搭建和系统性能四个方面进行评测，全面评估安全大模型厂商的综合实力，浪潮云打造的海若大模型凭借在大模型安全领域的卓越实力，位居2024大模型安全能力测评第一位。
赛迪顾问在报告中指出，随着大模型应用的不断扩展，数据安全、内容安全、网络安全和指令安全等多个安全风险剧增，安全问题已成为制约大模型可持续发展的关键瓶颈。作为国内云计算领域的重要参与者，浪潮云从提供云服务能力之初就以安全为自身特性，持续深耕信息安全技术，打造了大模型全域+全流程的安全防护体系，采用“1+2+3+8”架构，即1套防护体系，2层防护思路，3种防护理念，8项核心能力，通过构建多层次防御体系、采用关键技术和安全防护策略以及加强安全监测与应急响应能力，有效保护大模型免受各类网络威胁和攻击。
此外，结合大模型卫士产品，浪潮云可为用户在使用大模型过程中提供防止数据投喂造成的敏感数据泄露、建立身份识别与溯源机制、避免触发数据跨境安全监管红线、对用户内部大模型应用状况进行全面分析等四重防护，为用户提供集安全风险发现、大模型访问控制、数据泄露管控、违法违规行为溯源、大模型应用分析等为一体的安全可靠大模型防护产品，为用户提供坚实安全保障。
为最大效能激活数据价值，浪潮云在数据训练和使用阶段确保安全。在训练阶段，海若大模型建立了完善的安全指标体系，构筑了“数据标注”和“安全质检”两道防线，“数据标注”可以通过安全检测模型和策略，自动检测并过滤有毒数据，当前有毒检出率13.8%，“安全质检”如不合格，则训练数据被打回，不允许进入训练阶段，全面保障训练过程的安全性；在使用阶段，海若大模型高度重视生成内容的安全，通过建立完整的风险防控体系，既能够对外部的风险提问进行有效拦截，又能够通过模型本身安全和建立安全可信知识库来保证生成内容的安全可靠。
未来，浪潮云将持续加大在大模型领域的研发投入，不断提升海若大模型的安全保护能力和水平。同时，以海若大模型为核心驱动力，浪潮云将携手更多用户和生态伙伴，构建大模型系统安全生态，以场景应用驱动服务供给创新，为数字经济的高质量发展保驾护航。
