同盾通过人工智能模型风险治理能力成熟度评估，能力达国内领先水平( 三 ) 为了规范人工智能领域的科技

同盾科技有限公司市场公关副总裁汪华峰
汪华峰：此次评估整体来看比较顺利，在实现成熟度达标的评审中，做了非常细致的梳理整合工作。关于人工智能模型风险治理能力成熟度优秀级标准非常高，且涉及面广，涵盖了需求管理、模型构建、监控运行、持续性验证、管理制度等大十项范畴，为此我们投入了大量的时间对已结项案例、在建中项目、建模流程、相关成熟产品、管理制度等进行全面梳理。其中对于模型部署回退方案的实际情况应用证明材料提供的难题，我们的解决思路，联系已部署相关模型的客户告知背景，在取得客户同意的情况下，获得模型的灰度发布测试过程，预警消息记录截图，紧急处理预案的下线记录材料，并对相关敏感信息逐一进行脱敏处理。在实施、产品、解决方案、模型专家、合作客户等多角色的协作下，最终完成了所有评审要点的多项能力要求。
Q. 关于人工智能模型风险治理工作，接下来团队有什么样的计划？
汪华峰：在人工智能模型风险治理领域，我们希望借本次评估的契机，以点带面，将咨询服务能力赋能到金融风控的各个业务领域，把当前取得成果和经验推广到更多的项目实践中去，为反赌反诈建设提供强有力的支撑和服务。同时根据金融行业风险管理的需求现状，我们会结合行业诉求，将人工智能模型风险治理咨询能力集成松耦合到同盾的相关产品生态圈中，形成模型全生命周期管理平台+风险模型、智能风控中台+风险模型、账户风险管理平台+风险模型等，一方面为行业贡献人工智能风险模型咨询实践经验，另一方面提升行业技术平台能力和运行管理水平。
《人工智能模型风险治理能力成熟度模型》是由中国信息通信研究院牵头，依托中国互联网协会信息技术(IT)风险治理工作委员会与京东、百度、中国联通、蚂蚁集团、度小满、易车互动、字节跳动、同盾科技、恩耐博、快手、三六零安全、腾讯云、京东科技、中科闻歌、滴滴、安恒信息、远江盛邦、OPPO、榕树科技等等20余家企业单位共同制定。针对组织在开发、实施和使用人工智能模型过程中面临的主要风险挑战，根据法律法规和监管要求，建立覆盖围绕人工智能模型的风险治理能力成熟度模型，规范模型生命周期各环节中的风险治理活动，从策略制度、组织架构、资源配置、技术手段等方面提供保障，提出切实有效的治理措施，快速灵活应对模型风险，推动科技向善。
评估亮点：
1、高度贴合监管趋势，指导企业落地实践。
标准制定过程中依据《个人信息保护法》《商业银行互联网贷款管理暂行办法》《关于加强科技伦理治理的指导意见(征求意见稿)》《互联网信息服务算法推荐管理规定(征求意见稿)》中人工智能模型相关监管思路和监管要求，紧密结合企业治理架构和管理体系，给出具体可落地的应对方案。
2、评估人工智能模型风险治理水平，建立行业信任体系和互认机制。
人工智能模型风险治理能力成熟度评估将重点检查验证模型生命周期各环节中的风险治理活动，模型相关组织结构、策略制度资源配置、技术手段等方面治理措施的有效性，以及模型决策结果透明度和与相关方的交互沟通机制。通过中国信息通信研究院权威评估验证，建立各行业企业互信互认机制。
3、提出差异化的管理方法，降低企业管理成本。
标准参考国际上主流的人工智能风险管理理念，根据模型的重要性和影响程度分为高风险模型、中风险模型和低风险模型，对应不同的人工智能模型风险治理能力成熟度等级。指导企业构建科学的风险管理体系和内部资源优化配置。