晋江市市长张文贤在晋江企业创新发展大会上的讲话

  之一：“算法滥用”该清一清了

  这是很多人的共同感受：阅读某篇新闻或文章后，App就会接连不断地推送同类内容；误点某条推送链接或不经意聊到某个话题，App页面也会频繁展示相关信息;养生类信息专挑老年人推送，游戏类内容总推送给青少年……当前，算法推荐成为网络平台的“标配”，在提高信息传播的效率的同时，也为普通用户制造了很多信息陷阱。

  近日，中央网信办等四部门启动“清朗·网络平台算法典型问题治理”专项行动。专项行动重点整治同质化推送营造“信息茧房”等典型问题，重锤落地，释放强烈信号：加大对算法滥用的整治力度，清朗网络环境。

  算法本质是技术，但其设计者和规则本身却能产生巨大社会影响。公众享受着算法带来的诸多便捷，同时也对“算法滥用”诟病已久。

  “信息茧房”是算法推荐备受诟病的问题之一。频繁推送用户感兴趣的同质化内容，甚至以博人眼球的劣质低俗内容取悦用户，在这样的算法机制下，用户接收信息的范围越来越窄，渠道越来越单一，从而陷入“信息茧房”。算法成为网络世界的“内容编辑”，网络世界被分割为不同的“茧房”，不同的人群被割裂在各自的“信息房子”里，难以接收到不同的声音。

  算法推荐一定程度上也助推了网络沉迷。被动嵌入“算法黑箱”的公众不知不觉地被“粘”在了各类手机应用中，视频、电商、社交娱乐等占据了信息内容消费的大头。受到平台给予的时长激励或奖金红包等诱惑，打卡、久驻平台成为日常习惯，“网瘾老年”群体正日益扩大；智能设备和算法推荐导致未成年人网络沉迷呈现新特点……长期受困其中的用户就像“温水里的青蛙”，沉迷网络而不自知。

  还有一种常被忽略的算法滥用是算法偏见。女性群体和低收入群体更关注娱乐八卦内容，男性群体和高收入群体更关注财经时政等信息，青少年更爱游戏，老年人更爱养生……在算法的世界里，看似中立的群体划分标准却暗含了对用户群体品味、价值取向、消费能力的偏见。由于存在群体刻板标签，算法很难保持中立和客观，偏见会不断被强化。

  此次专项行动也针对这些问题出招：提出构建“信息茧房”防范机制，提升推送内容多样性丰富性；规范设置“不感兴趣”等负反馈功能；持续优化完善面向未成年人、老年人的算法推荐服务等。可以说，此次专项行动是对平台算法规则制定的一次有益纠偏，给互联网时代不断扩张和升级的算法找到合理的边界和规则。

  除平台整改外，相关部门的监管也不可缺位。公众期待，监管部门形成事前、事中、事后常态监管机制，构建“信息茧房”防范机制，引导和监督平台重塑正确价值导向，提升平台算法逻辑的透明度。同时，加大技术在监管过程中的应用，提高监管的高效和精准度。如有必要，可设立专门机构对算法“黑箱”操作进行全面审查，并推进技术问责制度，强化对算法滥用的追责。此外，还应敦促平台合规自治，解除固有标签，提升用户的选择权，丰富用户的“内容池”。

  算法要升级，更要回归服务公众的本质中来。期待未来在算法和用户的长期交互中，让用户能重新找回信息自主权，真正“破茧而出”。(评论员 乌梦达 阳娜)

  之二：对算法加持的大数据“杀熟”要精准打击

  作为某App会员预订机票时，机票价格在填写信息后却突然上涨；不同用户在同一平台上预订房间，价格却明显不同……一段时间以来，在网络社交平台、投诉平台上，备受诟病的大数据“杀熟”非但没消失，反而屡见不鲜。

  近日，中央网信办等四部门开展“清朗·网络平台算法典型问题治理”专项行动。其中鲜明提出，严禁利用算法实施大数据“杀熟”，再次对这一乱象敲响了警钟。

  会员价格更高、买得越多越贵、频繁浏览会自动涨价、只提供符合用户特点的商品或服务……如今，无论打网约车、订外卖还是电商购物，算法早已嵌入各个领域。在算法的加持下，大数据“杀熟”不断升级，“千人千价”在网络购物中越发普遍。

  从消费者下载一款App并点击同意“用户使用协议”那一刻起，平台开发者实时获取用户相关数据，以此构建清晰的“用户画像”，并使用机器学习算法进行分析，预测购买意图和支付能力。购物越频繁，平台获取的训练数据就越多，算法就越优化，以动态调整定价策略，确保获取更大利润。

  某种程度上，算法正扯下大数据“杀熟”的遮羞布。相较过去的线下“宰生客”，现在的线上“杀熟客”套路更多。

  大数据“杀熟”顽疾为何难以根治?一方面，由于算法具有技术门槛，算法“黑箱”普遍存在，“算法涉及商业秘密”成了企业和平台规避责任和监管的“保护伞”。

  另一方面，侵权判定界限模糊、维权成本高、取证举证难，也让许多被“杀熟”的用户对维权望而却步。平台的“杀熟”发放机制往往看上去很随机，还常常标注“时间不同、地点差异导致价格浮动”“新用户有优惠”等字样，以此为大数据“杀熟”行为进行开脱。这也是为什么大量基于算法引发的网购投诉中，鲜有获赔成功案例的原因。

  此次治理对整治大数据“杀熟”提出了明确要求：严禁利用用户年龄、职业、消费水平等特征，对相同商品实施差异化定价行为；提升优惠促销透明度，清晰说明优惠券的领取条件、发放数量和使用规则等内容；客观如实说明优惠券领取失败原因，严禁以“来晚了”“擦肩而过”等提示词掩盖真实原因。

  算法本身中立，但算法的规则制定、模型设计、数据分析等并非完全客观；算法固然是商业秘密，但算法应用涉及的往往是社会公共利益，滥用算法危害的是千千万万消费者的合法权益。

  要真正打破算法“黑箱”，需要健全算法定价机制和信息披露机制，提升平台算法逻辑、定价规则等的透明度。此外，要畅通消费者的举报途径，加大技术在监管过程中的应用，提高监管的高效和精准度，真正让大数据“杀熟”行为无处遁形。

  企业追求商业利益的同时，更要维护公众的合法权益。由此，平台才能得到长久的良性发展，算法也才能回归科技向善的初衷。别让一时的算法“算计”，弄丢了消费者的长期信任。(评论员 乌梦达 阳娜)

  之三：让“困在算法里的劳动者”真正走出来

  近日，中央网信办等四部门联合发布《关于开展“清朗·网络平台算法典型问题治理”专项行动的通知》，明确将盲目追求利益侵害新就业形态劳动者权益列为主要整治任务之一，同步细化工作目标、安排、要求和治理清单指引。

  通知一出即冲上热搜，原因不难分析：整治行动回应网民关切，彰显监管以人为本的导向，直面平台经济发展顽疾，后续成效值得社会期待。

  作为平台经济运转核心，算法理应将公共安全、社会责任纳入考量。一味将算法视为竞争壁垒、盈利工具，这种“算计的方法”必将得出错误结果，自然要接受检视与纠正。

  据相关统计，我国外卖员群体近一千万人，广大骑手跑出平台发展“加速度”，但不少人反映单子越接越多，收入却没涨反降；受配送企业派单系统考核影响，很多骑手为降低超时率铤而走险，交通违法行为、道路事故频发。为了辛劳过后多一些回报，个别“小哥”每天接上百单、只睡四小时，商家一次慢出餐、消费者一次投诉，就可能击穿一个成年人的心理防线。

  算法世界中，劳动者、消费者被“精准画像”，全部行为、订单、路线被转化为商业模式提质增效的数据。然而，再精致的算法也评估不了劳动者的身心健康，量化不了无序发展给城市运行带来的扰动。不能因为平台挣钱了、消费者享受了，就忽视串联供需两端的劳动者的境遇感受。

  近日召开的国务院常务会议明确指出，发展平台经济事关扩内需、稳就业、惠民生，事关赋能实体经济、发展新质生产力，要进一步加强对平台经济健康发展的统筹指导。说到底，推进网络平台算法典型问题治理，不再被算法“困住”，是为了平台经济长远健康发展，更好造福民生福祉。

  让“困在算法里的劳动者”真正走出来，监管要能“拽一把”。《通知》明确，要严防一味压缩配送时间导致配送超时率、交通违章率、事故发生率上升等问题。要看到，在复杂算法面前，劳动者仍处于弱势地位，放大监管趋利避害作用，将最大程度推动算法“向上向善”。

  让“困在算法里的劳动者”真正走出来，企业要敢“晒一晒”。《通知》明确，要详细公示时间预估、费用计算、路线规划等算法规则。目前，有企业视算法为“商业机密”，对待监管假话不敢说，面向社会真话不全说，如果暗藏违法条款、霸王约定，必须一查到底。

  让“困在算法里的劳动者”真正走出来，小哥要能“说上话”。《通知》明确，搭建畅通的申诉渠道，及时受理劳动者因交通管制、交通事故、恶劣天气等不可控因素导致的配送超时等申诉。 保障劳动者基本权益，持续改善工作体验，要多听听劳动者本人的意见。

  让“困在算法里的劳动者”真正走出来，公众也要“出份力”。当前，在算法裹挟下，不少配送员习惯既有配送方式，一些消费者把极速配送视为理所当然。推动算法回归安全、合理、高效轨道，公众也要多一点理解、做一些转变。（评论员 乌梦达 张骁）