网暴背后，平台的算法与流量推手

近几年，因不堪网暴自杀的案例已发生多起，如“武汉小学生母亲被网暴坠亡案”“粉色头发女孩被网暴自杀案”“上海女子打赏骑手200元被网暴自杀案”等，这些因网暴产生的悲剧事件引发社会讨论的同时，如何整治网暴，维护公众合法权益成为亟须解决的问题。

网暴，现在已成为一个社会问题，而其成因有着多方面的因素。有专家认为，各网络平台依靠海量用户、巨大流量来实现收益，这也成为网暴产生的重要原因。当一个事件引起热议，非理性、情绪化的评论会招来人们的关注，而这条评论流量越高，越会被平台的算法机制所推荐、置顶，从而引发更多的流量和注意力，形成一个恶性循环。

近年来，我国多部门就网暴问题多次发布通知、征求意见稿等，伴随立法、司法和执法的完善，治理网暴的平台责任不断加重。

而对相关平台方来说，在既要“大流量”又要“正能量”的要求下，治理网暴，依然会有诸多困难和不足。

一些平台成为网暴集散地

2022年7月，中国传媒大学人类命运共同体研究院发布的《网络暴力现象治理报告》提到，一些以用户生产内容为核心的社交网络平台具备开放性强、交互强的特点，成为网络暴力新的集散地，“如果社交媒体、网络社区、信息平台和新闻的留言互动性和话题性较强，就很容易引发不同观点的争论并形成冲突”。

某社交网络平台负责人曾表示，在互联网平台，发布评论、私信是公众对社会热点事件和事件人物表达意见最主要的方式和场景。但同时，因发布成本较低、传播效率较高，也容易产生骚扰、侮辱谩骂甚至诽谤造谣等网暴行为。在该互联网平台，日常被举报并处理的评论中，“谩骂，人身攻击”占比32.79%。

另外，网暴一旦爆发，还极易在多个平台流转，有些网暴行为还从对当事人的口诛笔伐蔓延至其周边“人”或“物”。比如，在唐山打人事件中，疑似犯罪嫌疑人的子女和朋友，甚至相关的服装品牌，均遭遇“声讨”和“嘲讽”。

吉林大学法学院助理研究员朱笑延长期研究网络犯罪领域。近年来多起大型网暴事件引起朱笑延的学术敏感。他表示，一系列的事件都共同导向了相同的结果，说明社交媒体平台上的交往互动机制可能存在一些畸形的、需要矫正的地方。

朱笑延说，根据他的研究发现，网络暴力信息的大面积扩散并非网络空间的偶然现象，而是在一定程度上受到平台流量化机制的隐性推动。在流量至上的商业变现模式下，社交媒体平台的评论区通常会将一些点赞、回复数量较高的言论优先呈现，但是这些数据反映比较好的评论，多是一些具有争议性或是情绪化很强的言论。

而网民在浏览这类帖子时，会优先看到这些极端化言论，“而且一旦看到偏激的言论都能得到大量认同点赞，网民们的情绪或多或少会受影响。”朱笑延说。

朱笑延举例，在“上海女子打赏骑手200元被网暴案”中，平台将“善良这么廉价吗”“双十一快递买了100多个，结果给人家200元”等获得上百条点赞的情绪化评论置顶宣传，并持续获得点赞、评论、转发的传播效果，而为女子声援的评论内容和理性发言逐渐沉底。

朱笑延认为，拿近期的“胖猫事件”来说，可以侧面看到社交媒体平台的讨论机制对这场网暴舆情的潜在影响。在事件起初，“胖猫”姐姐刘某带着网暴谭某的主观目的，在抖音等平台购买流量扩散传播提升热度，引发网民群体关注。平台流量化的内容加工机制，客观上助推了网暴舆情热度的快速上涨。而平台连接性极强的客观属性，又使群体性、极端性的舆论审判变得“十分便利”。据警情通报显示，在网暴舆情热度上涨后，网友又通过各类平台对谭某进行人肉搜索、人身威胁、私信辱骂。这些具有网络暴力性质的极端化言论，已经明显超出了围绕胖猫自杀事件正常的讨论范畴和意见交锋。

另一个流量聚集地是热搜。今年两会期间，全国政协委员、辽宁省检察院副检察长贾海洋提到，一些不当的热搜榜话题存在挤占公共资源、扰乱网络公共秩序等问题。上述《报告》也提到，微博“热搜”将当日公众关注的话题顶上榜首，引发更大范围的关注、转发和讨论。当某一群体或者个人想要发起网暴时，就会想方设法登上热搜榜，引起关注和论战。

朱笑延说，除了被流量裹挟，平台本身具备的靶向化机制、内容生产机制也成为网暴产生的条件。

为了提升用户黏性、放大流量收益，平台对于用户偏好或关注的话题较为敏感，并通过算法机制向用户精准推送类似的内容，这导致用户陷入“只看到自己想看到的”信息茧房中。

朱笑延说，长期接触平台的同质化推荐，会使用户降低对陌生话题、不同群体的包容与认同。当看到与自身价值立场、情感寄托不符的内容时，就容易产生语言暴力倾向。

比如“男女对立”这一话题在不同平台就有不同的立场。在以男性用户为主的某社交网络平台，该平台对“出轨女”“高彩礼”“女拳”等话题的持续打造，虽然能够博得男性用户的情感认同，但也容易激发男性用户对女性群体的偏见和歧视，从而在两性话题中滋生“厌女”的性别语言暴力。而在女性用户占比高的某社交网络平台上，对“凤凰男”、“渣男”等标签话题的持续运营同样能吸引大量女性用户讨论。但也容易降低女性用户对涉男性新闻的容忍阈值，造成“恐男”的情绪渐渐蔓延。

另外，很多平台落实了对用户后台实名制的要求，但它本质上“营造了让大家放心大胆发表言论的生态。”朱笑延表示，而在一些实名制落实不健全的平台中，用户会注册小号，小号的隐匿性会让用户在发言时明确割裂或淡忘自身的社会责任感和相应的法律责任，更容易产生偏激性或情绪化发言。

国家对平台的治理和监管

2023年9月，中国人民大学民商事法律科学研究中心执行主任、教授石佳友接受第一财经日报采访时提到，他一直认为平台治理是网暴问题的“牛鼻子”。“从这个意义上来说，没有平台就没有网络暴力，网暴监管和执法应聚焦平台的不作为，以及利用算法、借网络暴力事件实施恶意营销炒作的行为。”

近年来，为防治网暴，中央网信办、两高一部等相关部门出台多个指导意见和征求意见稿。伴随立法、司法和执法的完善，治理网暴的平台责任不断加重。

2022年4月和11月，中央网信办先后部署开展“清朗·网络暴力专项治理行动”、印发《关于切实加强网络暴力治理的通知》，该通知明确互联网平台对于网络暴力的治理需从健全网暴预警预防机制、强化网暴当事人保护、严防网暴信息传播扩散、依法从严处置处罚四方面入手。

2023年6月，最高人民法院、最高人民检察院、公安部三部门起草了《关于依法惩治网络暴力违法犯罪的指导意见》。其中明确，对网络平台“不作为”而导致网络暴力行为损害社会公共利益的，人民检察院可以依法向人民法院提起公益诉讼。

2023年7月初，国家互联网信息办公室发布《网络暴力信息治理规定》，其中明确提出“对网络信息服务提供者，因处置不及时造成公民生命健康安全等严重后果的，处十万元以上二十万元以下罚款，可责令暂停信息更新”。

征求意见稿还明确网络平台有事前预防网暴的义务。其中表明，网络信息服务提供者应当建立健全网络暴力信息预警模型，综合考虑事件类别、针对主体、参与人数、信息内容、发布频次、环节场景、举报投诉等维度，及时发现预警网络暴力风险。

朱笑延说，意见稿从事前预警、事中处置、被害人保护三个层面为社交媒体平台搭建了网暴全方位的治理框架。此外，网信办还接连发布了《关于加强自媒体管理的通知》和《关于进一步加强网络侵权信息举报工作的指导意见》，这两个文件同样提到平台对于自媒体发布信息内容的管控以及对于网暴受害者被侵权后的举报响应。“这说明我国法律法规对网暴中平台治理的责任和义务，呈现内容逐步细化，主体责任逐步强化的基本走向。”

朱笑延表示，随着我国近些年关于网络空间立法以及网络信息内容治理的不断成熟，国家对平台的治理和监管也是一个逐步深化的过程。

平台治理的难点

遏制网络暴力，既要个体约束自我，也要网络平台加强监管引导，守住道德底线，划定法律红线。记者了解到，目前各社交网络平台针对网暴都进行了打击和干预处置。

新浪微博相关负责人表示，微博响应中央网信办的“清朗・网络戾气整治”专项行动，每周新浪微博“微博管理员”都会公布突出问题的治理情况，还会公布一些典型处置案例。

2023年10月，微博管理员发文称，在“4岁女童海滩走失”事件中，有少部分用户对当事人亲属发布人身攻击、侮辱谩骂等不利于搜救工作开展的极端言论。站方共清理人身攻击、网络暴力等违规内容1258条，对175个违规账号予以阶段性禁言处置。

微博相关负责人表示，现在微博对网暴的治理已经常态化持续进行，后续会一直加强管理。在微博社区处理中心的举报处理大厅中，关于人身攻击的举报一直在更新，举报信息经过微博判定构成“发布人身攻击信息”的行为，会对被举报账号进行处理。目前已受理人身攻击举报269万起，完成判定265万起。

小红书相关负责人表示，2023年中旬，小红书自研的防网暴工具小红盾上线，为用户提供了事前预警及事中防护的保护措施。

该负责人介绍，在网暴发生初期，用户多次举报被攻击、被辱骂，以及用户遭受大量不友善评论时，平台会主动发私信引导他们使用小红盾，启动一键防护等功能。开启后只会接收到关注的人的评论、弹幕、@消息、私信，陌生人不能搜索到用户，“阻止不友善的内容继续产生。”

该负责人介绍，网暴发生中期，用户可以将被网暴的线索上报，小红盾支持批量投诉不友善的内容和用户，经过平台人工核实确有网暴发生后，会对施暴用户进行处理。这样的功能可以降低网暴受害者投诉的难度。“我们希望小红盾这一工具可以让用户意识到，被网暴后不要躲起来，要用这些手段去帮助自己。”

抖音相关负责人介绍，从2017年开始，抖音开始专人关注和处理平台上出现的侮辱谩骂现象。2022年6月，抖音上线了屏蔽和举报不当评论、私信临时对话、一键防暴等新功能。加上之前的发文警示、正向引导、粉丝管理等，2022年以来，抖音已经上线了12项治理网暴的功能。

针对有不当言论的用户，抖音会通过站内信、弹窗、智能语音呼叫等形式提醒其理性发言。过去一年，抖音共对85.8万个账户进行了此项提醒。另外，针对被网暴风险非常高的用户，平台今年还新增了人工外呼的流程，一共外呼了891个账号。

虽然付出了大量努力，但一些受访的社交网络平台人士也坦承，治理网暴，依然会有诸多困难和不足。首先，在不同场景、人际关系、个人主观感受下，“网暴”与“非网暴”往往难以明确区分。其次，对不同程度的网暴言行，处罚措施也各不相同。比如诅咒、攻击、曝光、嘲讽和挑衅的严重程度怎样区分，对账号进行无限期封禁，还是短期禁言，或者只是删除评论，都需要按照语言暴力程度详细评估。

还有些网暴内容利用谐音、缩写发布带有挑衅、讥讽意味的言论或者p图，介于批评与网暴之间的内容，机器均难以识别。

网暴发生时，网暴信息快速且大量的聚集，平台干预的速度难有量化标准。比如用户收到恶评，平台如果对他进行保护，是该在第一条还是在第1000条，还是在第500条?很难去制定一个明确的数字标准。而且网暴场景很多发生在私信交流上，平台不能干涉用户隐私，只能提供工具给用户。

因此，平台处理快速聚集的网暴时，难以兼顾“快速”与“精准”，一些难以避免的错审、漏审也容易引发公众不满。

“除此之外，不同用户对不同处置结果的反应也不同，觉得平台处置或轻或重”，某社交网络平台负责人表示。重大事件中，不断反转且难辨真伪的新信息，也会增加治理难度。这位负责人透露，唐山事件中，各平台先后出现了200多个“嫌疑人”的账号信息，“可嫌疑人一共只有9名”，这位负责人表示，“平台难以甄别这些账号的真伪，这大大增加了平台的处理难度。

另外，当重大事件发生时，短期易出现海量网暴评论。唐山打人事件发生12个小时内，某平台收到评论接近300万条。假设机器初步审核200万条，剩下100万条评论需要400名审核员连续高强度不间断工作12小时才能完成，这也无形中增加了审核的难度。

中国传媒大学教授王四新曾分析目前治理网暴的难点。他表示，目前行业内缺乏相关法律法规，立法层面尚存在一定空白;标准上存在缺失，行业处置标准不统一，各平台尺度不同，处置缺乏一定依据常被投诉;当需要网络执法机构和当地执法机构协同执法时，协同策略还不完善;网暴治理过程中同时涉及公开数据和私有数据，平台不能主动监测和分析用户私人信息。

专家学者呼吁立法，压实平台责任

“平台应该是网络暴力发现和治理的前沿‘哨兵’，是网络暴力的发现者和治理措施的执行者。”中国政法大学数据法治研究院教授张凌寒此前在接受民主与法制时报采访时表示。她提到，网络暴力的认定仍需有明确的法律规范予以指引，平台可依法从严处置处罚网暴相关账号，严处借网暴恶意营销炒作等行为。

张凌寒认为，现有的法律法规应及时予以明确认定规则，或者在这方面给予平台足够的信任。而对过于追逐流量、网暴信息扎堆、防范机制不健全、举报受理处置不及时以及造成恶劣后果的网站平台，应依法予以问责。

中国政法大学传播法研究中心副主任朱巍提到，很多网暴都是从平台热搜、热榜而来的。他建议，对于热搜、热榜，平台应该有更严格的审核机制，既有算法机制的调控，同时又有人工审核把关。“不要什么内容有流量都可以上热搜。”

朱笑延说，平台是依靠流量、内容讨论来获得运营收益，很难去说“流量为王”运营方式是错的，但是流量至上的舆论环境往往存在一定的网暴风险。他建议，用流量获利的同时，平台需要搭建能够引导事件纵深讨论、多元讨论的网络空间。比如深度打捞淹没在极端化舆情言论中的理性言论。

更重要的是，平台应该提升内容生产质量，在鼓励用户进行积极创作的同时，引导用户进行更纵深、更高质量的内容生产。《网络暴力现象治理报告》提到，社交媒体中大V拥有几十万上百万粉丝，影响力巨大，有的大V在网络暴力事件的演化过程中起到推波助澜的作用。自媒体公众号为找话题、蹭热点、抢流量往往促成原话题裂变，使事情一波未平一波又起。

朱笑延称，因此，平台应当重视网络暴力事件讨论中意见领袖的巨大影响力，对于引导、助推网民群体发布网络暴力信息的意见领袖，平台应当及时对接限制发言、降低信用评级等治理措施。2023年8月，北京市互联网法院发布典型案例时提到，意见领袖应该比普通用户更加注意自己的言论可能产生的潜在影响。这意味着要求意见领袖应承担更多的社会责任，在发布言论时尽到更多的注意义务。

全国人大代表、台盟浙江省委会专职副主委陶骏曾在2023年两会提出为网暴专门立法的建议。他说，由于我国目前对网络暴力的概念定义与性质没有相关法律界定，依法打击网络暴力法律依据欠缺;另一方面，由于网络暴力行为发生在网络上，网络平台大多并未实行实名制，实际操作中存在对违法行为和违法主体认定难、取证难、维权成本高、维权周期长等难点。

针对此类问题，他建议应该在《反网络暴力法》中明确网络暴力类型与判断标准，网络暴力的内容和形式，以及特别明确网站平台的法律责任，压实平台的审查、监管义务与责任。

今年全国两会，全国人大代表、江苏盐城建湖县天和生态农业合作社理事长、高作镇陈甲村党总支书记鲁曼提出建议，希望推动制定《反网暴法》。鲁曼指出，当前我国没有专门针对网络暴力的专项法律，针对网络暴力的规定散见于民法典、刑法、治安管理处罚法、网络安全法等法律规范中，应考虑对其进行归纳总结，出台专项立法，进一步明确网络暴力违法行为的民事责任、治安处罚及刑事责任，并提高全社会反网络暴力的法律意识和维权观念。

朱巍也支持为反网暴立法。“现在网络暴力已经不是个别现象，几乎每天都在发生，包括饭圈乱象、人肉搜索。应该有一个更高位阶的法律，清楚规范、划分施暴者和平台的责任。”

参考文献：

《走向媒介正义：网络暴力信息治理的平台角色与法治实现》

《网络暴力的基本形态、成因剖析及综合施治——以“女子给跑腿小哥打赏200元被网暴跳楼事件”为例》