算法系统背后猫腻多 国家出手综合治理算法推荐

《征求意见稿》几乎涵盖了全部互联网依靠算法提供服务作为商业模式的公司，涉及基于算法传播对内容平台以及电商消费类平台，并有多条内容对接《个人信息保护法》。

为了规范互联网信息服务算法推荐活动，维护国家安全和社会公共利益，保护公民、法人和其他组织的合法权益，促进互联网信息服务健康发展，国家网信办就《互联网信息服务算法推荐管理规定（征求意见稿）》（下称《征求意见稿》）公开征求意见。

《征求意见稿》几乎涵盖了全部互联网依靠算法提供服务作为商业模式的公司，涉及基于算法传播对内容平台以及电商消费类平台，并有多条内容对接上周刚刚通过的《个人信息保护法》。

头条抖音微博等算法驱动平台全覆盖

《征求意见稿》所称的应用算法推荐技术，是指应用生成合成类、个性化推送类、排序精选类、检索过滤类、调度决策类等算法技术向用户提供信息内容。

根据《征求意见稿》要求，算法推荐服务提供者应当定期审核、评估、验证算法机制机理、模型、数据和应用结果等，不得设置诱导用户沉迷或者高额消费等违背公序良俗的算法模型。

算法推荐服务提供者应当加强信息内容管理，建立健全用于识别违法和不良信息的特征库，完善入库标准、规则和程序。发现未作显著标识的算法生成合成信息的，应当作出显著标识后，方可继续传输。

算法推荐服务提供者应当加强用户模型和用户标签管理，完善记入用户模型的兴趣点规则，不得将违法和不良信息关键词记入用户兴趣点或者作为用户标签并据以推送信息内容，不得设置歧视性或者偏见性用户标签。

算法推荐服务提供者不得利用算法虚假注册账号、非法交易账号、操纵用户账号，或者虚假点赞、评论、转发、网页导航等，实施流量造假、流量劫持；不得利用算法屏蔽信息、过度推荐、操纵榜单或者检索结果排序、控制热搜或者精选等干预信息呈现，实施自我优待、不正当竞争、影响网络舆论或者规避监管。

对此，上海大邦律师事务所高级合伙人游云庭对第一财经记者表示：“《互联网信息服务算法推荐管理规定》是继三大数据法，即《网络安全法》、《数据安全法》和《个人信息保护法》，以及《互联网信息服务管理办法》颁布后的一个自然延伸。”

他认为，《征求意见稿》对于算法推荐技术定义，几乎涵盖了全部互联网依靠算法提供服务作为商业模式的公司。“除了今日头条和抖音这样公认的算法驱动的平台，以及美团、饿了么这样利用算法管理平台的公司，也都受新规监管。”游云庭对第一财经记者表示。

“算法作为数字世界的运转规则，目前各大平台还没有建立合规、有效的存在算法伦理体系与机制，算法合规需要企业自制与协同监管相结合。”中国数字经济百人会专家委员会委员柳峰对第一财经记者表示。

柳峰认为，大多数用户是很难对企业的算法做出判断，用户可以控制的是算法的知情权和选择权，也就是选择打开或者关闭算法推荐。他强调，应该对算法应用进行综合性的系统治理。

“在国家出台规定的基础上，应该对平台型企业要求其进行算法合规的伦理审核；第二步是企业可以在保密具体算法的基础上，给对通过自我审核的算法进行登记备案；最后监管部门可以通过接受举报调查或者抽查的方式，对算法伦理以及算法合规进行有效规制。”柳峰对第一财经记者表示。

今年1月，中国消费者协会提出加强网络消费领域算法规制，保障消费者知情权、选择权和公平交易权。

中消协认为，网络消费领域不公平现象的核心是互联网平台对算法技术的应用。“算法本身是一种技术手段，经营者可以利用算法提升经营效率，为消费者提供更丰富、更优良的产品和服务，也可以利用算法钻法律的漏洞，实施违法违规行为，侵害消费者的合法权益。”中消协表示。

中消协还称，消费领域的不公平算法应用，具有技术性和隐蔽性的特点，潜移默化地影响消费者的购买决策。这不利于市场经济的公平有序竞争，也会是消费者面临数据算法的压榨，成为技术欺凌的对象，甚至被算法扭曲价值取向和道德观念，沦为平台经营者的掌中“玩物”。

多条规定对接《个保法》

在这份最新的《征求意见稿》中，要求算法推荐服务提供者应当以显著方式告知用户其提供算法推荐服务的情况，并以适当方式公示算法推荐服务的基本原理、目的意图、运行机制等。

具体而言，算法推荐服务提供者应当向用户提供不针对其个人特征的选项，或者向用户提供便捷的关闭算法推荐服务的选项。用户选择关闭算法推荐服务的，算法推荐服务提供者应当立即停止提供相关服务。算法推荐服务提供者还应当向用户提供选择、修改或者删除用于算法推荐服务的用户标签的功能。

对此，游云庭对第一财经记者表示：“这条适合与《个人信息保护法》对接，并补充了用户如果认为算法对其权益造成重大影响的，有权要求算法推荐服务提供者予以说明并采取相应改进或者补救措施。”

在上周人大通过的《个人信息保护法》中就已明确规定：“个人信息处理者利用个人信息进行自动化决策，应当保证决策的透明度和结果公平、公正，不得对个人在交易价格等交易条件上实行不合理的差别待遇。”

个性化是用户选择的结果，真正的个性化推荐必须确保用户的选择自由，而不是强迫，因此，必须赋予用户不使用个性化推荐功能的权利。

这意味着，一方面经营者应当按照法律规定，遵循公开、公平、公正的原则设定算法模型、制定自动化决策的规则，不得对消费者实行歧视性的不公平的差别待遇；另一方面，个人信息处理者应当保障消费者的知情权和选择权，向个人进行信息推送、商业营销时，应当同时提供不针对其个人特征的选项，或者向个人提供便捷的拒绝方式。

《征求意见稿》还涉及电子商务类企业，要求算法推荐服务提供者向消费者销售商品或者提供服务的，应当保护消费者合法权益，不得根据消费者的偏好、交易习惯等特征，利用算法在交易价格等交易条件上实行不合理的差别待遇等违法行为。

“这条也对接《个人信息保护法》以及《电子商务法》要求不得大数据杀熟。”游云庭对第一财经记者表示。

“‘大数据杀熟’行为违反了诚实信用原则，侵犯了消费者权益保护法规定的消费者享有公平交易条件的权利，应当在法律上予以禁止。”全国人大常委会法工委经济法室副主任杨合庆近日在对《个人信息保护法》进行解读时说道。

在谈到歧视定价的问题时，段和段律师事务所合伙人刘春泉对第一财经记者表示：“市场竞争充分要依靠反垄断法和反不正当竞争法，用监管力量抵消资本和超级平台对市场竞争的抑制作用。现在的一些问题不见得是缺乏法律，而是管辖不明确，未来需要明确进一步管辖的问题。”

《征求意见稿》还规定了未成年人的保护条款。不得向未成年人推送可能引发模仿不安全行为和违反社会公德行为，诱导未成年人不良嗜好等可能影响未成年人身心健康的内容，以及不得利用算法推荐服务，诱导未成年人沉迷网络。

此条也与《个人信息保护法》的规定对应。在《个人信息保护法》中提到，考虑到少年儿童在生理上和心理上尚不成熟，认知能力和控制自己行为的能力都较弱，容易受到信息推送和商业营销的诱导，《个人信息保护法》特别将不满十四周岁未成年人的个人信息确定为敏感个人信息予以严格保护。