文章来源：全媒派（id：quanmeipai）作者： 腾讯传媒
为了保持“社交隔离”，网上的数据流量大幅增长，但与此同时，不同群体都在利用网络分享自己的故事和观点。不幸的是，其中一些内容已被证明对信息传播生态具有危害作用。
媒体已经注意到，对问题两极分化的讨论往往会带来更强烈的情绪，这些情绪就跳动在用户敲出的不当内容里。有争议的社会话题一直是引发“对战”的温床，很多人已经对网络空间不理性的对话表达过担忧。
多数人都有可能成为“恶评者”乃至“杠精”——网络的实时性会带来用户即刻的“膝跳反应”，而当人们试图对这些“恶评”做出回应时，这种行为会快速传染，导致对话进一步升级。仇恨言论、网络“喷子”，已经成为互联网世界一抹难以忽略的灰调。
当“恶评者”生产出这些难以置信的破坏性内容时，为了阻止这一群体的扩散、保护有价值的网络空间，平台和媒体应该在自己的工具箱里装上哪些知识和工具？本期全媒派（ID：quanmeipai）给你一双灰色的眼，调暗看似五光十色的网络世界，一起来看，当我们说出网络“恶评”时，我们在说什么？
图片来源：图虫·Premium
走近网络“恶评”
“无评论，不新闻”或“无跟帖、不新闻”的说法，在一定程度揭示了网络时代用户评论的重要性。作为互联网交互性、即时性的最好印证，在线评论打破了传统大众传媒单向传播的桎梏，让传受两端的互动变得前所未有的频繁、亲密。用户生产的这些内容也为读者发表意见、了解他人立场、接触多元观点提供了便利。
但从古至今，公共话语总免不了包含不文明的成分。互联网等技术的出现为人际间的辩论提供了更广阔的空间，与此同时，一些“不文明”言论也正比以往任何时刻都传播得更快、更广泛。
不文明内容、不当内容或者恶评其实难以被准确定义。因为有时让你不适、厌恶的东西可能在别人看来是正当、合适的。不过尽管存在一些争议，但学者们也表示，“对于哪些类型的表述被认为是极不文明的，仍然存在着充分共识。”
针对个人或群体的辱骂（Name-calling），针对某事发表刻薄或者轻蔑的言论（Aspersion），谎言（Lying），使用不雅或者不恰当的语言（Vulgarity)，对别人交流方式的贬损（Pejorative for speech）……这些都是人们普遍公认的“不当言论”。
在互联网上，还可以用一个更概括的词语指向这些发表不当言论的人——Troll。
在英语世界，Troll的原义是恶魔，专指隐藏在洞穴或山洞里的巨怪。引申到互联网，Troll被理解为躲在屏幕背后，挑衅、攻击他人的人，或者通俗上所说的“键盘侠”“喷子”等。Internet Troll则专指那些试图通过发布挑衅性信息破坏社区、引发关注和争议的人。
在网络上的“喷子”一般有两类。第一类“喷子”拥有多个小号，一旦被禁，他们会马上转换阵地继续作战，即便平台详细解释封禁原因，他们依然拒绝改变。第二类则是只有一个账户的“键盘侠”。与拥有多个账户的“顽固分子”不同，只有一个账号的人往往是因为情绪激动等原因而越界，暂时的账户禁用和相关解释能够让这类用户规范自己的行为。
图片来源：图虫·Premium
Troll的横行正成为互联网世界的一道奇观。出于“第三人效应”，也许有不少人会将“喷子”“键盘侠”视为“不沉默的少数”，把“喷”视作一种有害的嗜好，但只要一个人拥有情绪和键盘，都有可能成为这样的“巨魔”。
“恶评”之下谁在受伤？
“我们正在充满误解的池子里游泳，疫情可能让这一情况更加糟糕。不确定性的增加可能会被‘喷子’利用。”华盛顿大学信息学院副教授Jevin West说道。
那么，恶评或者不当内容究竟有哪些危害？
得克萨斯大学媒体参与中心的一项研究发现，评论区的生态会影响人们对新闻机构的品牌认知，而品牌恰恰是持续吸引用户的关键。研究人员发现，当恶评不占据评论区主导地位时，读者可以正面处理、消化这些不当内容，但当超过75%的评论都是不文明时，读者对网站和媒体的评价就会趋向于负面。
“不管媒体的内容多么有趣、可信，键盘侠都有能力毁掉读者对品牌的看法。”观众参与解决方案提供商Viafoura的CEO、创始人Jesse Moeinifar说道。
为了帮助形成积极的讨论基调，一些新闻媒体会鼓励记者率先在文章下发表评论。不过，得克萨斯大学的研究发现，人们并不根据位置靠前的几条评论形成认知，而是基于评论的整体基调。当大多数的评论都是积极文明的，即便掺杂着一些不当评论，用户对网站的评价依然很高。
此外，过多的恶评还会对良性、健康的对话环境带来毁灭性影响。
“恶评者是‘声势浩大’的少数派，他们会淹没其他对话。”来自Viafoura的Leigh Adams说道。这将不利于媒体与受众建立起有意义的联系，降低媒体推动用户参与工作的有效性。
“在个体层面，偶尔的不当评论可能只是一次宣泄，但如果不加控制的话，这将会发展成为一种有害的、具有传染性的表达方式，最终侵蚀掉集体的善意。”梅利维尔大学大学社会学教授Kent Bausman说道。
也就是说，在一个充斥“喷子”的社区里，没有人能独善其身。
图片来源：图虫·Premium
最后，过多的不当内容还会给平台带来直接的经济损失。
今年6月17日，因Facebook在限制仇恨言论方面未能采取有意义的行动，包括反诽谤联盟、全国有色人中协进会等在内的民权组织呼吁企业“在仇恨中停顿一下”，呼吁企业不要在Facebook上投放广告。
这场Anti-Facebook活动得到了全球超过900家广告商的响应，他们拒绝在Facebook和Instagram上投放广告，并且要求Facebook以更积极的行动打击宣扬暴力、仇恨的有害及煽动性言论。
评论、跟帖等用户生成内容原本是网民参与网络空间讨论最重要的、最活跃的方式之一。但是，由于网络水军、垃圾信息机器人以及缺乏自律的网民随意制造的各种不良信息，这个领域变成了无序、混乱、低信息质量的泥潭。
从这个角度看，规范在线评论，让其成为网络世界中富有建设性的内容组成部分，不仅能提升媒体、平台的形象和价值，还对健康活力的社会公共空间意义重大。
如何应对“恶评”？
为了保护自己的评论区生态，有些媒体干脆关闭了评论功能。但这并不是最好的解决方案。“人们对公共事务的谈论非常重要，新闻机构应该促进这些对话。”得克萨斯大学的研究人员说道。
打造干净、健康的评论生态，媒体和平台还可以做什么？
“尽管不能阻止人们成为‘恶评者’，但是媒体可以让这些人更难发布这些令人反感的内容。”加强识别和审核，是媒体和平台最容易上手的应对之策。
简单识别
对于媒体而言，使用下面这些原则可以快速识别出异常的“恶评者”账号。
首先，可以“扫描”最新创建的账号活跃情况，如果一个新账户在短时间内产生了异常多的评论、跟帖，该账号有可能是一个“喷子”。
此外，如果你怀疑某些用户是“恶评者”，还可以观察这些账号发表的评论数量。如果注册时间短、评论量又特别巨大，那你的猜测有可能是正确的。
最后，识别的另一种方法是查看用户帖子的被禁率。按照惯例，超过10%的被禁率就昭示了某种不安全性。
图片来源：图虫·Premium
机器审核
平台可以通过自然语言处理、机器学习等技术，帮助识别、标记和处理不当内容。
为了维护平台上内容的准确、正当，最近，LinkedIn表示，自己正在和母公司微软进行合作，以增强自身的技术力量。通过新的人工智能模型，LinkedIn增强了平台防御能力，能更方便地查找和删除包含不当内容的个人资料。为了避免机器算法可能存在的“偏见”，确保同等人才拥有平等就业的机会，LinkedIn还发布了“公平工具包”（LiFT），这一工具将帮助算法在大规模机器学习中追求对公平的多元定义。
在识别、审核不当内容上，技术能够减少人力成本，提高工作效率，平台和媒体还可以根据自身个性化的网络社区管理原则对算法进行自定义。不过，为了弥补算法的不足，不少平台和媒体还同时拥有着人工审核团队。
人工审核
人工审核其实包括了专职审核员审核和用户之间的互相举报两类。
随着在内容审核上承担着更多责任，平台内容审核团队的规模也在不断扩大。如Facebook在全球拥有15000名审核员。
除了自建团队进行审核外，不少平台还呼吁用户也积极采取行动，打击涉及仇恨、凌辱、虚假的评论内容。
如BBC Sport在网站显著位置发出呼吁，“如果您在BBC Sport的帖子中看到任何涉及种族、肤色、性别、国籍、民族或阶级的仇恨言论，请发送邮件进行举报。”
明确社区准则
“明确的社区准则应当是‘狩猎’恶评者行动的核心。”媒体和平台可以通过详尽而完善的社区管理准则，为自身和用户建起“可以”“不可以”的界墙，既帮助净化平台生态，也有助于社区文化的形成。
早年间，Reddit上聚集了互联网上相当多的阴暗内容。随着Reddit日渐主流化和广告商对平台内容的担忧，近来Reddit也开始了对社区文化的重新定义。
今年6月份，Reddit宣布将打击宣扬仇恨的社群，并同时封禁了2000个讨论版（Subreddit），过去几年，禁止宣扬仇恨这一规则在Reddit并不明确，因此带来了许多混乱和问题。此次，平台更新了内容政策和社区规则，并将按照新的规则审核、评估社区。
据Reddit公告，与禁令发布前两周的数据相比，平台上仇恨类言论的数量减少了18%。
外包式审核
缺乏时间和资源的媒体、平台也可以选择将审核工作外包。
2018年，聚焦欧美几大社交平台内容审核外包服务的纪录片《网络审核员》上线。镜头从Facebook位于菲律宾的内容审核办公室开始，影片里这些掌握多种语言的第三国员工，日常工作是审核世界各国用户发布的数以亿计的图片视频，删除色情、暴力内容的帖子。
其实，在表达和审核、多元和极端、开放与保守、规则和伦理之间，我们与“恶评”的斗争之路还有很多问题需要厘清。尽管如此，为了不让“喧嚣的少数”传染成为“大多数”，如果你期待一个更好的网络交流环境，那就用你的键盘去塑造这样的未来吧。
HAO-AD
