算法歧视、“大数据杀熟”、诱导沉迷……针对这些算法不合理应用导致的问题,国家互联网信息办公室、工业和信息化部、公安部、国家市场监督管理总局近日联合发布《互联网信息服务算法推荐管理规定》,自2022年3月1日起施行。该规定的出台,就是要规范互联网信息服务算法推荐活动,保护广大网民的切身利益,促进互联网信息服务健康发展。
算法通过为用户量身打造、主动推荐信息服务,使得个人获得了需求被满足的愉悦,商家更精准地触达到了客户,拼团、直播带货更加高效,确确实实为经济社会发展等方面注入了新动能。
但与此同时,在强势的算法面前,用户也时常产生着一种无法拒绝、无权选择的无奈感。获得信息推荐个性化定制的同时,也失去了信息多样性的接收机会,便也成为了被收割的流量群体。你可能只是在这个主题的短视频上多停留了几秒钟,但算法已经根据你的喜好进行了私人定制、个性推荐,随之源源不断地给你推送同类型的视频、商品和新闻。尤有甚者,随着算法应用的日益普及深化,类似“大数据杀熟”、诱导沉迷等算法歧视、算法不合理应用导致的问题也深刻影响着正常的传播秩序、市场秩序和社会秩序。这些由算法造成的“技术霸凌”如果不及早消除,不仅仅伤害网民的合法权益,对互联网行业的健康发展也会带来损伤。
此次《互联网信息服务算法推荐管理规定》的出台,明确了用户可以选择关闭算法推荐,也可以拒绝使用其个人的特征数据的算法推荐服务,同时也规定不得根据消费者的偏好、交易习惯等特征利用算法在交易价格等交易条件上实施不合理的差别待遇等,从而遏制大数据杀熟的不良之风。可以说,这是从技术源头对算法滥用作出了正本清源。
下一步,算法推荐服务治理需要政府、企业、社会、网民等多方主体共同参与,推动算法推荐服务公正公平、规范透明,促进算法推荐服务向上向善,从而营造更加清朗的网络空间。
政府要聚焦算法推荐服务乱象问题,制定关管理制度,构建算法安全治理体系。例如建立算法管理制度,开展算法监督检查,进行算法安全评估和监督检查工作,严厉打击算法推荐违法违规行为等。社会要引导算法应用公开透明明确算法推荐服务公开透明的原则,鼓励算法推荐服务提供者综合运用内容去重、打散干预等策略、增强规则透明度和可解释性;明确规定算法推荐服务禁止行为,如不得利用算法对其他互联网信息服务提供者进行不合理限制等,保障国家安全、公共利益及组织和个人合法权益。企业要强化主体责任。要求算法推荐服务提供者应当落实算法安全主体责任,建立健全算法安全管理制度和技术措施,配备相应的专业人员和技术支撑;同时,广大网民要积极参与算法安全治理工作,要求算法推荐服务提供者设置公众投诉举报入口,及时处理网民投诉举报请求。