【大众二网】过滤脏话、防私信轰炸，平台如何拉开与网暴的距离？

平台治理文章

目前，我国网民规模已突破10亿人，进入了“人人都有麦克风”的时代。但是近年来网络暴力事件不断出现，有愈演愈烈的势头。

仅2022开年以来，进入大众视野的网暴事件已多达数起，特别是“刘学州寻亲事件”以及上海打赏骑手200元的女子遭遇网暴事件，当事人甚至付出了生命的代价。

与此同时，一场声势浩大的网络暴力治理正拉开帷幕。4月24日，中央网信办宣布开展“清朗·网络暴力专项治理行动”，要求新浪微博、抖音、百度贴吧、知乎等18家网络暴力易发多发、社会影响力大的平台实施网暴全链条治理。

相较于漫长复杂又相对滞后的司法途径，聚焦更为前端的平台监管，不失为破解网暴防治难题的一个新选择。如何将网暴遏止于萌芽状态，建立起“第一道防护网”，并给重点群体提供救助保护等等，都是平台当前面临的挑战。

清朗专项行动落地近一个月，平台交出了怎样的成绩单？

南都记者实测8款互动性较强的App发现，几乎所有平台都为用户提供了关闭评论、私信以及弹幕等选项，也能事前拦截或经投诉后及时处置恶意私信，但更为隐蔽的内涵式辱骂依旧难以被过滤。此外，当用户提出网暴协助请求时，有平台客服表示难以为用户保存和固定网暴证据，也没有建立起快速便捷的协助机制。

1

首道防线

平台能迅速阻断 来自施暴者的攻击

今年4月初，上海师范大学徐汇校区正处于疫情封控阶段。居住在校外的陈真真向母校捐赠价值五万元的巧克力，想给在校师生带去一点安慰。

此举传开后，恶意揣度也随之而来——有人认为陈真真“捐巧克力是因为和品牌方有合作”“为了想红为了上热搜”，还有一位拥有50万粉丝的微博博主质疑陈真真花父母的钱，扒出了她的照片。事实上，这笔钱是陈真真业余拍摄的收入。

陈真真遭遇网暴期间，正逢中央网信办宣布开展网络暴力专项治理行动。与此同时，微博、抖音、快手等多个平台客服也联系上了她。有平台告诉她，可以整理恶意评论和私信交由平台处置；还有平台表示愿意同步和推荐她的发声视频作为声援。

南都记者注意到，此前扒出陈真真照片的微博博主，已被微博官方作禁言处置。“我没有这么大的能量（去影响监管），但这（网暴专项治理行动）是对我的一种鼓励。”陈真真说道。

不过，平台对陈真真的特殊关注并不适用于所有人。南都记者和多位网暴当事人交流后发现，他们遭遇网暴后的第一反应是进行澄清。但微薄的个人力量往往难以抵挡铺天盖地的质疑声，于是他们选择“断网”，试图远离风暴中心。

他们中几乎没有人想过主动向平台求助。“没有经验”“第一时间不想接近网络”“平台这个途径应该不好使”“平台每天发生太多这种事情，要是想管早就管了”，是他们给出的一些理由。

然而从实践来看，不论是陈真真的经历，还是“刘学州寻亲事件”“冬奥运动员网暴事件”的处置中，容易被当事人忽略的平台恰恰是网暴治理的“第一道防线”。平台不但能够迅速阻断来自施暴者的攻击，还能防止网暴的发酵和扩散。

在“刘学州寻亲事件”中，相关视频等内容引发广泛关注，大量用户私信、评论涌入刘学州的社交账号，导致悲剧发生。

可以看到，新浪微博在第一时间暂停了与刘学州有私信往来的用户的私信功能并告知原因；并对相关用户近期公开发博内容、评论内容、投诉举报情况逐一核查，予以永久禁言或限时禁言的惩处。微博站方共对1239个账号进行核查，处置92个账号，及时公开核查情况回应网民关切，还多次公示处置情况以警示违规行为。

又如“冬奥运动员网暴事件”，抖音和快手等短视频平台通过模型识别、举报受理、舆情监测等方式，拦截清理相关违规视频和评论内容；对存在互撕谩骂、煽动对立、网暴诋毁行为的账号，视违规情节严重程度予以禁言或封号等处置。同时，平台还加大了打击排查力度，维护和谐的观赛氛围。

2

平台责任

监管压实“数字守门人”的主体责任

南都记者注意到，早在2007年“网络暴力第一案”中，北京朝阳区法院就曾试图对网暴事件中的平台责任做出探讨。

彼时，北京朝阳区法院在向工信部发出的司法建议函中提出，当事网站对言论内容的审查仅限于一般、随机、应投诉的事后审查，而此时侵权事实往往已经发生，有必要采取更加有效、适当的技术措施，对网民言论进行适时监管；并在保障言论自由的同时，倡导互联网上言论的理性和文明。

随着平台主体责任理论的提出，网络空间治理也成为这些“数字守门人”“网络把关人”的重要义务。

浙江省公共政策研究院研究员高艳东告诉南都记者，平台往往处于一种“网络‘准政府’”的角色定位，在“网络空间”的管理上发挥着“准入”“监管”“调控”的作用。特别是平台作为网络社交服务提供商，一方面可有效保护网民的合法权益，另一方面也承担着管控不良信息、遏制网络推手等合法职责。

另外，中国人民大学一级教授、中国法学会副会长王利明也曾在媒体采访中谈及，强化平台治理也有利于减少诉讼，避免过度挤占宝贵的司法资源。

事实上，监管正不断压实平台对于网暴治理的主体责任。

4月24日，中央网信办宣布开展“清朗·网络暴力专项治理行动”，主要聚焦网络暴力易发多发、社会影响力大的18家网站平台，包括新浪微博、抖音、百度贴吧、知乎等。清朗行动要求，通过建立完善监测识别、实时保护、干预处置、溯源追责、宣传曝光等措施，进行全链条治理。

随后，新浪微博、抖音、百度贴吧、微信等多个平台迅速回应称，将按照中央网信办部署开展治理行动。

新浪微博称，将通过建立健全网暴信息样本库、关键词拦截策略、行为识别模型等方式，明确网暴信息标准，及时识别和过滤相关不良内容；陆续上线友善发言提醒、“一键防护”“未关注人私信防护”等功能；通过人工巡查和技术识别等方式加大对言论攻击等行为的排查力度。

抖音则称已针对施暴者的不良言论攻击和不友善行为成立专项小组，对涉网暴重点环节加强监看，已上线“发文警示”“负向内容过滤”等8项防网暴功能。未来还将优化私信功能规则，限制陌生人私信的频次，强化涉网暴内容过滤，并加强对直播、短视频、热榜、话题等环节的巡查力度。

5月中旬中央网信办通报，4月份，微博、抖音、百度、腾讯、知乎、B站、小红书、快手、豆瓣、网易、新浪、搜狐等主要商业网站平台重点受理泄露他人隐私、侮辱谩骂、造谣诽谤等网络侵权举报已达43.96万件。

3

预防手段

如何过滤 “绿茶婊”“坟头蹦迪”？

建立健全识别预警机制，将网暴苗头扼杀在摇篮里，是“全链条治理”中的核心举措。

如果说过去碍于技术手段和治理经验所限，人们更多寄希望于通过网络实名制来预防网暴，那么随着平台数据的累积和技术升级，如今可采取的预防手段更为多样化。

在网暴监测方面，新浪微博对南都记者表示，正在开发行为监测模型，通过分析用户不友善评论数量、举报数量频次等数据，准确识别网暴苗头，并专设7×24小时专项巡查小组，及时发现、处置并上报违规线索。同时平台还重点监看排查相关社会事件话题，强化监测。

抖音则上线了“发文警示”功能引导友善评论：系统模型判定用户已发送评论存在问题，会弹窗建议重新编辑；如果用户坚持发送，那么该评论不会出现在评论区。据悉，在小范围测试中，“发文警示”可实现日均减少约3万条不当评论。

在内容识别方面，新浪微博利用机器模型和关键词词库进行内容过滤，将“丑八怪”“绿茶婊”“坟头蹦迪”等不文明用词纳入词库；并开放用户举报投诉入口。南都记者了解到，新浪微博日均机器识别处置屏蔽不友善言论数十万条，人工处置用户投诉举报约一万余条。

B站方面则推出面向未成年人的预防机制，当系统识别到有未成年up主投稿后，会对稿件评论和弹幕的互动进行管控和过滤。同时，B站亦会对未成年up主提供更严格的私信保护，降低未成年人受到言论伤害的风险。

尽管预防手段不少，仍有平台方对南都记者坦言，网暴行为没有固定规律，存在较大随机性和偶然性，有时只因为一句话、一个观点或一个表情随即引爆，平台要实现及时发现和制止的确存在难度。另外，当前相关法律法规“存在一定空白”，行业没有统一标准，各平台尺度不同，导致平台处置过程中也常收到用户投诉。

高艳东表示，当前关于网暴行为的认定层面存在一定不足。不过借助包括《刑法》《网络安全法》《个人信息保护法》以及《关于办理利用信息网络实施诽谤等刑事案件适用法律若干问题的解释》在内的多部法律及司法解释，已经能够在一定程度规制网暴行为。

“在法律法规、行业标准的制定已初步‘完备’的情况下，法律法规施行、行业标准执行的现实情况如何，可能是当前遇到的主要问题。”高艳东说道。

4

记者实测

平台拦截“恶意私信”，内涵式辱骂成难点

网暴事件中，平台通过建立当事人实时保护机制，帮助当事人构建一道信息屏障，快速“断网”隔绝攻击。为此，南都记者实测了新浪微博、抖音、B站、豆瓣、知乎、快手、小红书和百度贴吧等互动性较强的8款App。

其中，新浪微博、抖音、豆瓣、知乎均推出“一键防护”或类似模式，用户可以主动选择关闭未关注人的私信和评论，来切断外界骚扰。南都记者还观察到，第一时间回应网暴专项治理行动后，抖音、微博、爱奇艺等多个平台几天内相继调整了私信功能，以拦截陌生人的私信“轰炸“。

比如抖音逐步上线了“24小时临时会话功能”。当用户接收到陌生人发来的私信时，将仅显示一条私信提醒。若用户回复，则与对方开启单次临时会话，仅限文字交流，有效期为24小时。接下来，抖音还会持续加强评论及私信场景下的用户保护机制，通过模型识别、举报监测等手段，对高风险用户进行主动提醒，强化涉网暴内容过滤。

为响应主管部门要求，新浪微博也做出了类似调整——用户确认接收后才能查看该条私信内容并进行正常文字对话。此外，新浪微博还升级了未关注人私信投诉功能，增加不友善、网暴投诉分类。

B站、快手、小红书、百度贴吧仍需用户逐个开启评论、私信、弹幕等互动拦截。大多数被测App均限制了未关注人的私信数量，需要用户主动回复或关注才能解除限制。

为此，南都记者使用两个互相未关注账号进行私信测试。首先由账号A向账号B发送“明文式辱骂”（带有显著的辱骂性词汇）私信。其中，抖音、百度贴吧、知乎、豆瓣、快手、B站等6个App会通过直接提示账号A涉嫌违规，以中途阻截的方式，让违规私信实际无法送达账号B。

而微博和小红书没有拦截上述私信。但在账号B举报后，两款App均在1小时内作出反馈——微博直接将账号A拉入账号B的黑名单中；小红书则通知账号A“在限制期内将无法使用私信功能”。不过，经南都记者实测，在小红书上，账号A收到通知后依旧可向账号B发出同样的辱骂私信。

随后，南都记者对成功拦截“明文式辱骂”私信的6个App作进一步测试，发送“内涵式辱骂”（带有隐晦的辱骂性词汇）私信。

接到举报后，抖音、B站均在1小时内反馈：抖音禁止账号A的私信功能1日，B站则主动为账号B删去该私信。百度贴吧、快手、知乎均在一日内回复，其中知乎也删去了被举报私信，快手和百度贴吧则表示正在监控账号A。豆瓣方面的反馈最慢，但是处罚也最重，站方在接到投诉的84小时内对账号A禁言7日。

优化私信功能之所以如此重要，是因为很多时候施暴者会通过私信这一非公开的方式，持续高频地向当事人传递恶意。但也有平台方人士告诉南都记者，网暴治理同时涉及公开数据和私有数据，而平台不便主动监测和分析受害者私人信息。

私信就是那块“风能进，雨能进，平台不能进”的个人领地。“刘学州寻亲事件”的平台通报也隐隐透露出这一困境——新浪微博提到，依据法律法规，站方无权查看用户私信内容，只能根据对相关用户近期以来的公开发博和评论内容，以及被其他用户举报投诉情况进行逐一核查。

高艳东认为，一方面，平台应严格依照《个人信息保护法》，以公开透明的方式，不能仅以预防遏制“网暴言论”为目的随意提供个人信息，而应尽可能地减少对个人信息权益的影响。另一方面，平台要在一定程度上保障网络用户“免受网暴侵害”的权利，即在用户发表违法言论、侵犯他人权利时，应当依照法定程序“透露”部分个人信息，协助司法程序，助力网暴治理。

5

专家建议

事后追责，推行跨平台黑名单制度

退一步而言，如果不能在事前阶段成功拦截网暴内容，那么在事中、事后环节实现用户保护和平台及时介入，就尤为重要了。

南都记者实测发现，所有被测App均设置了针对评论、私信乃至用户的快捷举报渠道。有时候，网络暴力投诉还会涉及姓名权、名誉权、肖像权、隐私权等人身权益纠纷。发起此类投诉时，用户须向平台提供个人身份信息和相关证据，等待平台作进一步核实后处理。

在平台对违法违规用户的处置上，最通用的做法就是禁言和封号。比如，微博依据行为性质采取阶梯式处置：对于参与网络暴力的账号，平台视情况采取批量禁言、限制功能等处置；对于首发、多发、煽动发布网暴信息的账号，视情况采取永久禁言、关闭账号等措施；至于涉嫌违法犯罪的，平台视情况移交有关部门依法追究法律责任。

考虑到网络暴力由极少数网暴言论制造者发起，进而迅速传播、发酵，因其中参与人数众多，往往具有跨平台传播等特点。高艳东提出一个设想，在全网推行跨平台黑名单制度。一方面，有助于尽可能地遏制网暴言论跨平台传播，另一方面，也有助于从防范特定网暴者层面，遏制有严重网暴行为历史者的跨平台二次网暴。

除此之外，平台介入乃至日常管理还有一个不可或缺的特别环节——为用户提供心理疏导乃至防范自杀。众口铄金，积毁销骨，当网络世界的言论被无限放大和叠加，以排山倒海之势向单一个体袭来，不堪重负的当事人常常会走向极端。

南都记者实测中，除了百度贴吧外，在其他被测App内输入“自杀”二字，会显示类似于“你并不孤单，我们都在”等抚慰性文字并提供24小时心理援助热线。不过南都记者发现，其实百度搜索引擎页面也对“自杀”做了类似关怀设计。

据悉，B站方面建立了一套抑郁情绪识别模型，透过用户言论识别是否存在抑郁倾向或轻生倾向。新浪微博也对平台内的自杀内容和线索，配备专门的客服和内容安全团队，对概率较大或倾向严重的自杀博文及时上报相关部门。抖音方面推出了“心情暖宝宝”助手，通过消息对话的交互方式，缓解用户负面情绪。

在高艳东看来，相比于传统事后追责机制，平台应主要在事前、事中环节发力，完善强化对“网络空间”的事前防范及事中处置机制。

他进一步指出，一方面，平台需要制定完善的“反网暴“规范，推行网络空间准入“实名制”，强化网络社交空间的言论信息、用户行为管理、筛查机制，及时预警网暴言论的出现，另一方面，平台需要进一步完善事中举报、申诉机制，鼓励用户举报性质恶劣、攻击性言论，及时发现、清理处置可能涉及网络暴力的评论、弹幕等实时内容。

在监管压力下，平台网暴治理机制已具雏形。如何将种种模式推而广之，克服现有障碍，真正的考验也许才刚刚开始。

出品：南都个人信息保护研究中心

采写：南都记者 黄莉玲