大模型安全护栏能力技术规范

标准状态

基本信息

标准简介

本文件适用于基于大语言模型构建、以文本交互为主并兼顾包含文本说明的多模态场景的智能系统安全防护能力建设，可用于指导大模型应用系统在设计、开发、部署及运行阶段的安全防护能力建设与评估。 本文件适用于政务服务、公共管理、金融、医疗、教育等领域的大模型应用系统安全防护能力建设与评价，也可为大模型安全产品研发、系统集成和第三方安全测评提供参考。对于纯音频、纯视频等复杂多模态场景，可结合具体业务特点参照执行。

内容预览