防范信息内容安全风险,构建算法技术治理的中国方案( 二 )


推进我国信息内容领域算法治理的本土化方案
《规定》注重平衡技术发展和算法安全 , 重点从三大层面提出了算法治理的本土化方案 。
一是强化算法透明度 。算法透明是实施算法监督的重要前提 , 要求算法使用方披露算法要素 , 如算法运行机理、输入数据等 , 以实现用户知情权、自主选择权 , 增进公众信任、维护竞争秩序、认定损害责任等目的 。
《规定》对算法透明进行了精细化设计 。一方面设立备案制度 , 以实现对监管部门的透明 , 尝试为算法风险监测和事后问责提供依据 。另一方面提出向用户透明的具体方案 , 要求应当以显著方式告知用户其提供算法推荐服务的情况 , 并以适当方式公示算法推荐服务的基本原理、目的意图和主要运行机制等 。此外还确立了算法公开透明原则 , 强化行业组织和社会公众监督等 。
二是明确了风险规制思路 。根据算法风险大小确定差异化的规则 , 是平衡技术安全和企业成本的重要方案 。《规定》采用了分级分类思路 , 规定根据算法推荐服务的舆论属性或者社会动员能力、内容类别、用户规模、算法推荐技术处理的数据重要程度、对用户行为的干预程度等实施分级分类管理 。
同时 , 《规定》提出了对算法进行审查评估的义务 , 要求应当定期审核、评估算法机制机理、模型、数据和应用结果 , 并建立安全评估监测、安全事件应急处置等制度 , 提出事前、事中、事后全流程、全链条的治理要求 。
三是细化平台问责方案 。平台问责是实现事前风险防控和事后损害救济的重要保障 。针对算法运行的技术机理和平台权力的形成机制 , 《规定》从多个角度提出十项“不得”和十六项“应当”要求 。
具体来看 , 包括注重事前规制 , 强调将把关窗口前移 , 要求不得将违法和不良信息作为用户标签 , 并据以推送信息;推进技术治理 , 鼓励运用内容去重、打散干预等技术策略 , 满足信息提供的多样性;强化主流价值导向 , 如在首页首屏、热搜、精选、榜单类、弹窗等重点环节积极呈现符合主流价值导向的信息内容;禁止干预信息呈现 , 不得利用算法屏蔽信息、过度推荐、操纵榜单或者检索结果排序、控制热搜或者精选等 。
总体来看 , 《规定》的出台顺应世界发展趋势 , 是在数字化变革时代对算法推荐技术和平台治理的有效回应 。国家网信办等九部门《关于加强互联网信息服务算法综合治理的指导意见》指出 , 利用3年左右时间 , 逐步建立治理机制健全、监管体系完善、算法生态规范的算法安全综合治理格局 。在未来算法推荐技术治理中 , 应进一步完善算法综合治理机制 , 探索多元协同治理 , 推动数字经济发展行稳致远 。
【防范信息内容安全风险,构建算法技术治理的中国方案】来源:青海普法