防范信息内容安全风险，构建算法技术治理的中国方案《规定》注重平衡技术发展和

《规定》注重平衡技术发展和算法安全，重点从三大层面提出了算法治理的本土化方案

文章图片

文章图片

□ 程莹
当前，个性化推送等算法技术已成为互联网信息分发的重要工具，代表了社会信息传播的新范式。然而，算法应用也滋生了信息茧房、网络沉迷、饭圈流量操纵、干预信息呈现等一系列信息内容安全问题。
2021年12月31日，国家网信办等四部门联合出台《互联网信息服务算法推荐管理规定》（以下简称《规定》），准确把握新技术新应用法律规制的“时间差、空白区” ，力图强化互联网信息服务领域算法推荐技术治理，迈出了我国新技术新应用治理的重要一步。
信息内容安全成为我国算法治理的重点问题
我国算法治理首先聚焦于信息内容安全问题。2017年，《人民日报》针对算法推荐乱象连发三文，批判算法价值观缺失、信息茧房等问题，提出警惕算法走向创新的反面。为规范新技术新应用，推动信息内容生态有序发展，《网络信息内容生态治理规定》《网络音视频信息服务管理规定》等提出个性化算法的人工干预和自主选择机制，设置安全评估义务等内容，在信息内容领域强化了算法应用的主体责任。
2021年8月，中宣部等五部门联合印发《关于加强新时代文艺评论工作的指导意见》，重点强调要加强网络算法研究和引导，开展网络算法推荐综合治理，不给错误内容提供传播渠道。
此次出台的《规定》将防范信息内容安全风险、推动网络信息内容生态健康发展作为重要目标，与互联网信息服务相关立法有效衔接、一脉相承，强调应当坚持主流价值导向，优化算法推荐服务机制，积极传播正能量，促进算法应用向上向善。
算法治理应推动算法创新和风险规制的双向治理
算法技术创新对于推动数字经济繁荣发展具有重要意义。在早期门户互联网时代，信息传播主要运用“信息—编辑—受众”的传播结构，信息呈现“千人一面”的特点。随着智能互联网技术发展，算法分发模式绕过编辑一环，通过协同过滤算法、社交关系、个人喜好等，将不同信息进行“千人千面”的个性化推送。算法技术的发展显著提升用户信息获取效率，推动我国数字内容产业蓬勃发展，进一步增强了我国互联网企业国际竞争力。
然而，算法应用中也呈现出一系列突出问题。
一是以获取流量为核心目标，缺乏价值引领。用户流量是企业盈利的重要来源，在积极获客、增加用户粘性的目标引导下，算法容易优先推送博人眼球的虚假信息、标题党、极端内容、低俗泛娱乐等信息，扰乱互联网健康生态。
二是形成信息茧房，引发极端思想。一方面，长期困于信息茧房、屏蔽异己信息，不利于个人思想塑造和观点养成。另一方面，信息茧房容易激化矛盾、加剧社会焦虑情绪，甚至导致群体极化。
三是具有操纵用户思想、影响社会舆论的能力。算法通过大数据深度分析并实施有针对性信息推送，无形中对特定个人或人群进行精准思想操纵。算法带来的新型信息内容安全风险不断侵蚀国家安全、公共利益和个人权利，也成为制约我国新发展阶段数字经济提速的瓶颈和障碍。
可见，算法治理应坚持统筹发展和安全的基本理念，注重促进算法创新和风险规制双向治理。
加强信息内容领域算法治理已成为各国普遍趋势。近年来，算法操纵思想成为首要监管对象。同时，算法也推动了网络平台责任豁免规则变革。