中共广东省委网络安全和信息化委员会办公室
广东省互联网信息办公室
中共广东省委网络安全和信息化委员会办公室
当前位置:首页 > 政策法规 > 政策解读
专家解读|加强算法治理 建设未成年人友好型的网络空间
来源:中国网信网 2022-01-05 10:34
字号减小 字号增大

习近平总书记指出:网络空间是亿万民众共同的精神家园,网络空间天朗气清、生态良好,符合人民利益。网络空间乌烟瘴气、生态恶化,不符合人民利益。未成年人的网络生态建设是这一精神家园建设中的重要任务之一。

十余年来,未成年网民的规模呈现不断增长的趋势。据中国互联网络信息中心第48次《中国互联网络发展状况统计报告》显示,截至2021年6月,我国网民规模为10.11亿,6-19岁网民占15.7%,共1.58亿人。同时根据第十次中国未成年人互联网运用调查显示,我国未成年人互联网普及率为99.2%,显著高于71.6%的全国平均普及率。

网络为未成年人带来了崭新的生存方式,也引发了未成年人网络保护的挑战问题,未成年人的网络生活、交往成为其生活交往中无法摆脱、无法分割的一部分,线上线下的二元化生活加快了一元融合的节奏。未成年人的网络参与行为成为社会网络行为的重要构建内容,其在网络生态建设中的主体地位势必应当得到承认和确立。网络强国的未来主体必定是一代又一代成长中的未成年人。无论是网络新技术的发展,还是网络新生活的构建,乃至网络新文化的传承,都依赖一代又一代已经成为网络原住民的未成年人的发展与成长。因此,网络生态建设的任务之一就是要建设一个未成年人友好型的网络空间。

《互联网信息服务算法推荐管理规定》(以下简称《规定》)的制定和实施,为我国未成年人网络权益保护的制度框架提供了重要的组成部分,继《未成年人保护法》《儿童个人信息网络保护规定》《网络信息内容生态治理规定》等法律文件之后,在算法领域构建了未成年人网络权益保护的基本纲领,提供了保护和发展并行的中国方案。

首先,《规定》制定了未成年人保护专条(第十八条),专门针对未成年人权益保护规定了算法推荐服务提供者的一系列义务,要求向未成年人提供服务时,“应当依法履行未成年人网络保护义务,并通过开发适合未成年人使用的模式、提供适合未成年人特点的服务等方式,便利未成年人获取有益身心健康的信息。”在具体禁止性义务层面,该条进一步规定,“算法推荐服务提供者不得向未成年人推送可能引发未成年人模仿不安全行为和违反社会公德的行为、诱导未成年人不良嗜好等可能影响未成年人身心健康的信息,不得利用算法推荐服务诱导未成年人沉迷网络。”

未成年人保护专条从积极义务和消极义务两个方面,构建了算法推荐服务提供者的未成年人保护义务体系。这意味着,算法推荐服务提供者不仅需要筑起保护未成年人免受不良信息侵害的防护墙,还需要为未成年人获取有益信息承担积极主动的社会责任,通过在未成年人模式等专门模式下,建设并不断充实健康向上、适合未成年人身心特点、具备良好使用体验和充分吸引力的内容池,保护和发展并重,为未成年人积极构建风清气朗的网络空间,保证未成年人可以通过网络继续拓展视野、发展自我,建设未成年人友好型的网络空间。

特别需要指出的是,《规定》强调了《未成年人保护法》网络保护专章中确认的不得诱导未成年人沉迷网络的规定。算法作为移动互联网时代的重要技术创新,算法推荐服务的重要特点即在于能够通过判断和预测用户偏好,向用户推送个性化的服务内容。未成年人存在认知、判断能力较弱,价值观尚未成型等特点,针对性过强的算法推送内容有可能引发各种不良效果,亦可能导致沉迷网络现象。针对这一重点问题做出明确的强调和规定,体现了《规定》强化落实算法领域防沉迷义务的坚定态度。

其次,在未成年人保护专条之外,《规定》从内容生态治理、用户标签管理、用户权益保护多个层面对于算法推荐服务构建全流程、深层次的监管框架,为未成年人权益保护构建了多重屏障。

从内容生态治理角度,《规定》不仅提出了原则性要求,更是对于算法技术实现的全过程进行重点环节干预,例如要求“建立健全用于识别违法和不良信息的特征库,完善入库标准、规则和程序”,以及对于算法生成合成信息的显著标识义务,从源头对于信息内容的技术控制提出要求(第九条)。从用户标签管理角度,《规定》要求“加强用户模型和用户标签管理,完善记入用户模型的兴趣点规则和用户标签管理规则,不得将违法和不良信息关键词记入用户兴趣点或者作为用户标签并据以推送信息”,这对于防范未成年人接触违法和不良信息尤其重要。与之相对应的是用户权益保护领域,《规定》在《个人信息保护法》关于自动化决策的规定基础之上,进一步要求算法推荐服务提供者“应当向用户提供选择或者删除用于算法推荐服务的针对其个人特征的用户标签的功能”(第十七条)。这一规定在行业合规中需要结合不同场景和服务功能进行分别落实,在未成年人保护领域则应采取最为严格的落实水准,应当为未成年人和其监护人提供充分了解、选择、删除的机制,使其对于针对未成年人自身个人特征的用户标签掌握较为全面的控制和干预的权利,确保未成年人不会因为不恰当的标签设置以及据此进行的算法推荐服务而遭受侵害。

《规定》作为中国首个针对算法推荐服务制定的专门规定,在算法治理领域为国际社会提供了中国道路和方案,在未成年人网络保护领域,也构建了保护和发展并重的双重路径,强化和完善了体系化的制度构建,有助于提升网络空间治理体系和治理能力现代化,为建设未成年人友好型的网络空间提供了重要的制度基石。(作者:林维,中国社会科学院大学副校长、教授、互联网法治研究中心主任)

微信公众号
扫码进入手机版