可信AI操作指引
（V0.5版）
1前言
人工智能（AI）技术和应用的发展正在呈现加速趋势，在大力推动经济社会创新发展的同时，人工智能暴露出难以解释、偏见歧视等普遍性风险，人工智能信任问题也日益受到重视。为进一步细化《人工智能行业自律公约》文件要求，构建健康的人工智能产业发展环境，中国人工智能产业发展联盟特组织开展《可信AI操作指引》的编写工作。
2适用范围
本文件规定了可信AI的概念，详细阐述了AI系统的可信要求，旨在为人工智能产业健康发展提供参考。
本文件在现阶段适用于AI系统提供方，主要是指研究、设计、制造、运营和服务人工智能系统的企业、高校、科研院所、行业组织、个人以及其他实体。并且，在适用于AI 系统提供方的同时，也要综合考虑AI系统部署情况以及运行环境等。
另外，本文件只适用于较成熟的商用AI系统，不适用于非商业化，及处于研究或实验阶段中的AI系统。
3概念
本文件中所指的“可信AI”，即人工智能在技术、产品、
应用、运营、管理等方面，应能遵循以人为本、公平公正、增进民生福祉、防止危害社会、避免侵犯公众利益和个人合法权益的总原则，并能够重点满足《人工智能行业自律公约》中可靠可控、透明可释、保护隐私、明确责任、多元包容等基本要求。
当前，本文件中所指的“可信AI”聚焦于人工智能系统，即“可信的人工智能系统”。
4使用说明
本文件在第5节《可信要求》中，对所有AI系统提出了通用的基本要求和实践指引。
建议AI系统提供方可根据不同的应用场景和技术领域，参考第5节《可信要求》中的内容做出具有针对性的实践操作。
5可信要求
可信AI应满足可靠可控、透明可释、保护隐私、明确责任、多元包容等五项基本要求。依据现阶段人工
智能技术发展水平和产业界的实际情况，本文件规定了三个级别的要求等级，代表了不同的重要性、通用性和可操作性，由强到弱分别为一级要求、二级要求和三级要求，分别对应文中“应”、“宜”、“可”的文字描述，其中一级要求共30条，二级要求共25条，三级要求共5条，具体如表1所示。
表1可信要求等级对照表
基本要求具体要求要求内容
要求等级（一级：★，二级：★★，三级：★★★）
5.1可靠可控
5.1.1系统安全性
5.1.11）★★
5.1.12）★★
5.1.13）★★
5.1.14）★★★
5.1.15）★
5.1.16）★★
5.1.17）★★5.1.2系统成熟度
5.1.21）★
5.1.22）★★
5.1.23）★★5.1.3系统稳健性
5.1.31）★★
5.1.32）★
5.1.33）★★5.1.4人类对系统的
监督和接管能力
5.1.41）★
5.1.42）★
5.2透明可释5.2.1系统决策过程
描述
5.2.11）★
5.2.12）★★
5.2.13）★
5.2.14）★
5.2.2系统技术意图
描述5.2.21）★5.2.22）★
5.2.3系统可复现性
描述5.2.41）★★5.2.42）★★★
5.2.4外部监督和审
查渠道5.2.51）★5.2.52）★★★
5.3保护隐私5.3.1数据收集使用
合法合规人工智能ai正则化使用方法
5.3.11）★
5.3.12）★
5.3.13）★
5.3.14）★
5.3.15）★
5.3.2数据主体隐私
保护
5.3.21）★
5.3.22）★
5.3.23）★
5.3.24）★
5.3.25）★5.3.3未成年人隐私
保护
5.3.31）★
5.3.32）★5.3.4确保数据安全
5.3.41）★★
5.3.42）★★
5.3.43）★★5.3.5防范数据泄露
5.3.51）★★
5.3.52）★★
5.3.54）★5.3.55）★★★
5.4明确责任5.4.1明确权利义务
5.4.11）★★
5.4.12）★★★5.4.2确定责任主体
5.4.21）★★
5.4.22）★
5.4.23）★★5.4.3探索AI创新保
险机制
5.4.31）★★
5.4.32）★★
5.4.33）★★
5.5多元包容5.5.1产品需求多样
化
5.5.11）★
5.5.22）★★5.5.2训练数据全面
化
5.5.21）★
5.5.22）★5.5.3算法公平性测
试验证
5.5.31）★★
5.5.32）★
具体可信要求内容如下：
5.1可靠可控
确保人工智能系统在其整个生命周期内安全、可靠、可控地运行。评估系统自身安全和潜在风险，不断提高系统的成熟度、稳健性和抗干扰能力。确保系统可被人类监督和及时接管，避免系统失控的负面影响。

版权声明：本站内容均来自互联网，仅供演示用，请勿用于商业和其他非法用途。如果侵犯了您的权益请与我们联系QQ:729038198，我们将在24小时内删除。