＊本文只能在《好奇心日报》发布，即使我们允许了也不许转载＊

柏林电 — 这座位于柏林西部边缘的砖砌建筑有着十分严格的安保，里面的一块标志牌上赫然写道：“凡不戴徽章的人都有可能是间谍分子！”

楼内，占据了 5 层楼的数百名男男女女 6 个一排，扫视着眼前的电脑屏幕。他们都签署了保密协议。4 名创伤专家每周 7 天随时准备为他们进行心理疏导。

他们都是 Facebook 的审查员。他们有权决定什么是自由言论以及什么是仇恨言论。

这是 Facebook 旗下最大的删帖中心之一，共有 1200 多名内容审查员在这里工作，负责删除违反法律规定或 Facebook 社群守则的内容——从恐怖主义宣传到纳粹标志，再到虐童，不一而足。

自从新出台了一项颇为严厉的打击网络仇恨言论的法律之后，德国已经成为世界各国政府解决一项极为紧迫的问题的试验田：如何以及是否监管全世界最大的社交媒体。

在世界范围内，Facebook 以及其他社交媒体平台正因未能保护用户隐私，宣传虚假信息以及允许仇恨组织在平台开展活动而受到谴责。

在印度，有 7 人因为 Facebook 旗下 WhatsApp 上热传的一则虚假信息被殴打致死。在缅甸，针对罗兴亚少数族裔的暴力行为在一定程度上是由于 Facebook 上传播的错误信息造成的。而在美国，国会议员传唤 Facebook 首席执行官马克·扎克伯格出庭听证会，就公司未能保护用户隐私进行说明。

当世界面对这些崛起的力量时，欧洲，特别是德国，已经成为该行业事实上的监管者，其影响力已经超越本国边界。德国打击网络仇恨言论的规定已于今年 1 月 1 日正式生效，受到其他各国的密切关注。也正是在德国官员的力推下，欧洲对科技公司出台了有史以来最严厉的监管措施之一。这项严格的数据隐私保护规定将于 5 月 25 日在欧盟各成员国间正式生效，并正在促进全球变革。

“对他们来说，数据是用来赚钱的原料，”德国联邦司法和消费者保护部国务秘书格尔德·比伦说，“对我们来说，数据保护是一项基本权利，是我们民主体制的基础。”

德国混乱的历史，已将其置于民主国家与数字平台现代拉锯战的第一线。

在这个曾发生种族大屠杀的国家，打击仇恨言论的决心和支持自由言论的决心一样强烈。希特勒的自传《我的奋斗》（Mein Kampf）在这里只能以注释版的形式出版；纳粹标志是非法的；煽动仇恨最高可判处 5 年监禁。

不过，被禁的帖子、图片和视频在 Facebook 和其他社交媒体平台上还是会频繁出现。现在，未能在 24 小时内系统性删除“明显违法”内容的公司将面临高达 5000 万欧元的罚款。

虽然删帖中心早在立法之前便已设立，不过自法规生效以后，它的行动变得更加紧迫。在柏林，受雇于第三方公司、专门为 Facebook 工作的内容审查员每天都会仔细查看数千条被用户标记为令人困扰或可能违法的帖子，并做出判断：忽视、删除，或者在特别棘手的情况下，“上升该帖的级别”，将其转交给掌握德国监管法规专业知识的 Facebook 全球律师团队处理。

有些删帖的决定很容易做出。否认大屠杀和叫嚣对难民等特定群体实行种族灭绝的言论显然是需要删除的内容。

其他的则没有这么简单。12 月 31 日，新法生效的前一天，一名极右翼议员对科隆警方在 Twitter 上发布的阿拉伯语新年祝词做出反击，指责他们是在安抚“野蛮的穆斯林轮奸团伙”。

要求删除该议员在 Facebook 发布的相同内容的请求最后落到了尼尔斯（Nils）的审核队列，尼尔斯现年 35 岁，是柏林删帖中心的一名审查员。他的看法是不予删除，而他的同事则认为应该删除。最后这个帖子被发送给了位于都柏林、伦敦、硅谷和汉堡的 Facebook 律师处理。到当天下午，Facebook已经删除了这个帖子，这引发了对新法案的猛烈批评，而在德国，这条新法案又被称为“Facebook 法”。

“很多内容其实很好判断，”尼尔斯说，“不过有些帖子游走在规则边界，处理起来比较棘手。”Facebook 以他的安全为由，不允许他透露自己的姓氏。

这种复杂的情况引发了人们的担忧：新规则规定的巨额罚款和 24 小时决策窗口或许会迫使企业“过度屏蔽”，即对实际上并不违法的内容进行防御性审查。

在社交媒体上，极右裔政党“德国选择党”（Alternative of Germany）称得上是一个喧嚣而多产的用户，它迅速宣布这标志着“自由言论的终结”。人权组织警告说，这一立法会招致威权政府的效仿。

另一些人则认为，该法律赋予了私人公司过多权力，不应由他们决定在民主国家什么是非法仇恨言论，而这也是更倾向于自愿准则的 Facebook 对该法律提出的抗辩。

“德国政府制定标准当然完全正当合理，”Facebook 负责通讯和公共政策的副总裁埃利奥特·施勒奇（Elliot Schrange）说，“但我们认为，德国政府把决定合法不合法的权力外包给私人公司是个糟糕的主意。”

Facebook 欧洲公共政策副总裁理查德·艾伦（Richard Allan）主导了该公司针对德国立法的游说活动，他说得更简单明了：“我们不想成为自由言论的仲裁者。”

德国官员反驳说，不管怎么说，社交媒体平台本来就是仲裁者。

参与起草该新法规的比伦表示，这一切归结为一个问题：“谁拥有最高的权力？议会还是 Facebook？”

以（德国）史为鉴

当尼尔斯面试删帖中心的工作时，招聘者向他提出的第一个问题是：“你觉得在这会看到什么？”

尼尔斯在这里目睹了各种各样的人间惨剧：虐童、致残、自杀，甚至谋杀。他曾经看过一段视频，视频中有一个男人从一个活人身上挖出了一颗心脏。

然后就是仇恨。

“你在这里可以看到整个世界的丑陋，”尼尔斯说，“每个人都在反对其他人。每个人都在抱怨另一个群体。每个人都在说同样可怕的话。”

这个问题对尼尔斯来说是非常私人的。他有一个 4 岁的女儿。“我做这份工作也是为了她，”他说。

这个删帖中心由德国贝塔斯曼集团（Bertelsmann）下属的服务提供商欧唯特（Arvato）运营。这些审查员拥有很大的权限，负责审核平台上来自 6 个国家的内容。主要负责审查德国内容的人员必须了解 Facebook 的社群守则，另外从今年 1 月起，他们还要掌握德国仇恨言论和诽谤法的基本知识。

主管欧唯特与 Facebook 合作关系的卡斯滕·柯尼希（Karsten König）说：“看同一篇帖子的两名审查员应该做出相同的决定。”

柏林的这家删帖中心于 2015 年开业时只有 200 名员工，当时恰逢德国向数十万移民开放了国门。

那一年，一张自拍传遍了大街小巷。

叙利亚难民阿纳斯·莫达马尼将与德国总理默克尔拍摄的合照传到了 Facebook。这张照片立即成为默克尔难民接收政策的象征。

但在不久之后，它也成为社交媒体遭讨伐的象征。

这张照片出现在一系列虚假报道中，这些新闻将莫达马尼与布鲁塞尔和柏林圣诞市场恐怖袭击联系起来。莫达马尼向法院申请强制令，要求阻止 Facebook 继续传播此类帖子，但以败诉告终。

近 140 万移民的涌入考验着德国严格控制仇恨言论的决心。虽然该国针对非法言论早有立法，不过在新法规出台之前，数字领域的执法一直非常松散。

根据由政府资助的网络安全组织 jugendschutz.net，称呼难民为强奸犯、尼安德特人（Neanderthals）和人渣（scum）的帖子在网上存留数周之久。其中有许多帖子一直未被删除。jugendschutz.net 的研究人员报告说，2015 年下半年他们观察到的仇恨言论增加了两倍。

这让现在负责该新法规的国务秘书比伦大为震惊。2015 年 9 月，他召集 Facebook 和其他社交媒体网站的高管，在原为共产主义东德政府宣传中心的司法部大楼举行会议。打击仇恨言论特别工作组由此产生。几个月之后，Facebook 和其他社交媒体公司签署联合声明，承诺“审查被标记的内容，并在 24 小时内屏蔽或删除大部分违法帖子。”

但问题并没有因此消失。在随后的 15 个月内，政府雇佣的独立调查员开展了两次测试，他们以普通用户身份标记非法仇恨言论，然后发现 Facebook 仅分别删除了 46% 和 39% 的被标记内容。

“他们知道有人在他们的平台上实施犯罪，并煽动实施犯罪，他们明明是狼，却在我们面前装成绵羊，”比伦戴着严肃的黑框眼镜，面无表情地说道。

到 2017 年 3 月，德国政府已经失去了耐心，开始着手起草新的法规。《社交网络强制法》（The Network Enforcement Law）由此应运而生，该法规对 21 种“明显违法”的内容作出了规定，并要求社交媒体平台尽快对该等内容进行处理。

官员们称，初步迹象表明，这些规定取得了不错的成效。根据欧盟最新的抽样调查，在过去一年里，在德国，Facebook 对非法仇恨言论的删帖率达到了 100%。

社交媒体平台必须每半年发布一次内容审查报告。第一份报告预计将于 7 月出炉。

在 Facebook 的柏林办事处，艾伦承认，在早先的自愿协议下，公司一开始的行动不够果断。

“我们做得太少，太慢了，”他说。不过，他补充说，“现在情况已经改变了。”

他引述去年夏天欧盟委员会委托独立调查机构发表的另一份报告，该报告显示 Facebook 当时已经删除了平台上德国境内 80% 的仇恨言论内容。

他说，情况之所以得到改善，并不是因为德国出台了法律，而是公司签署了欧盟的自愿行为准则。艾伦说，Facebook 在所有欧盟成员国的删帖率都有所提高，而不仅仅是在德国。

“根本没有立法的必要，”他说。

比伦不认同这种说法。

“他们本可以阻止政府出台这项法律，”他说。YouTube 在去年监控测试中的得分为 90%。他表示，如果其他平台当初也能做到这种程度，那么今天就不会有这部法律。

监管困境

德国对仇恨言论和数据隐私的强硬态度使其一度在欧洲成了“局外人”。现在，德国的立场已经变得更加主流——你可以在布鲁塞尔的司法委员身上看到这种改变。

因为再也无法容忍平台上的仇恨言论，司法专员韦拉·朱罗瓦（Vera Jourova）在 2015 年删除了她的 Facebook 帐号。

她在聊起删除账号时表示：“那种感觉真好，就像是把控制权收到了自己手里。”

不过，在冷战时期的铁幕以东国家（如今的捷克共和国）长大的朱罗瓦，长期以来对政府立法处理包括仇恨言论在内的言论自由持质疑态度。1968 年，她的父亲因对苏联入侵发表轻蔑言论而失去了工作，她也因此被禁止上大学，直到后来结了婚、冠了夫姓，这条禁令才得以解除。

“我一生中有一半的时间是在被苏联宣传所操控的环境里度过的，”她说，“这期间的经历让我明白了一条黄金法则——如果谎言被重复一百次，就会变成真理。”

当德国开始考虑对言论自由进行立法时，她却更倾向于推行一种自愿的行为准则。2016 年，Facebook 等社交平台承诺向欧洲用户提供简单的举报方式，并承诺在 24 小时内删除接到举报的大部分非法帖子。

朱罗瓦表示，这个办法的效果不错。这也是最快的行动方案，因为欧盟的 28 个成员国在是否立法与如何立法上存在很大分歧。

但许多政府对 Facebook 的态度变得强硬起来，因为有消息称，咨询公司剑桥分析（Cambridge Analytica）收集了多达 8700 万用户的个人数据。欧洲议会的代表们要求扎克伯格来布鲁塞尔“澄清有关使用个人数据的问题”，扎卡伯格已经同意最快下周（即本周，编注）就赶过去。

朱罗瓦也坚定了自己的立场。她的工作就是保护 5 亿多欧洲人的个人信息。

“我们当前的体制依赖于信任，而这对增进信任其实并没有任何帮助，”她说，“现在的问题是，我们该如何走下去？”

欧盟委员会正在考虑对与恐怖主义、暴力极端主义和儿童色情有关的在线内容进行德国式的立法。其中一项条款规定，将对收到通知后一小时内未删除非法内容的平台处以罚款。

法国、以色列、意大利和加拿大等几个国家已向德国政府就新出台的仇恨言论法所产生的影响发出质询。

德国的影响力在欧洲新出台的隐私条例中体现得很明显，该条例被称为“通用数据保护条例”（简称 G.D.P.R.）。相关法规将如何收集和使用个人信息的控制权交给了用户。

该条例在部分程度上受 1980 年代德国数据保护法的启发，在许多德国知名人士的推动下才得以成型。朱罗瓦的办公室主任雷纳特·尼古拉（Renate Nikolay）和她前任的办公室主任、目前担任欧盟委员会秘书长的马丁·赛尔美尔（Martin Selmayr）都是德国人。在欧洲议会负责监管工作的议员也是德国人。

“我们基于德国的数据保护传统，将其发扬成了一项宪法权利，并建立了数字经济中最现代化的法规，”尼古拉说。

“企业若想长久成功，就必须取得客户的信任，”她说，“直到最近剑桥分析公司泄密事件的曝光，人们才明白数据保护已经不仅仅是某些欧洲人的奇思妙想，还牵扯到企业竞争力的问题。”

3 月 26 日，朱罗瓦给 Facebook 的首席运营官雪莉·桑德伯格写了一封信——用邮寄的方式，而不是电子邮件。

“是否需要建立更加严格的法规去约束基于传统媒体的平台？”她在信里问道。

在谈到剑桥分析公司风波时她又问道：“欧洲人的个人信息是否在此次丑闻中遭到了泄露？”如果情况属实，“你们打算如何将此事告知用户？”

她要求在两周内得到答复并如期收到了回信。桑德伯格在信中写道，约有 270 万欧洲人的个人信息在此次事件中遭到泄露。

但她并未就朱罗瓦提出的立法问题做出答复。

“现在我们有一种紧迫感。我们确信自己正面临一个非常危险的问题，它有可能会威胁到自由民主国家的发展，” 朱罗瓦说，她还在想方设法取缔假新闻和虚假宣传活动。

“我们希望科技巨头们能尊重并遵守我们的法律，”她补充说，“我们希望他们能在数据保护和仇恨言论方面尽到自己的社会责任。”

和许多 Facebook 的员工一样，公司高管艾伦也是这样认为的。

“我们雇用的员工都是非常有思想、有原则的，”他说，“他们之所以在这里工作，是因为心怀让世界变得更美好的初衷，所以当外界认定他们为之奋斗的产品正在害人时，造成的影响是深刻的。”

“他们都深切地感受到了这种批评，”他说。

视觉冲击

尼尔斯的工作实行的是 8 小时轮班制。他在忙的时候要处理 1500 个用户举报，不忙的时候工作量缩减至 300 个。他有些同事晚上经常会做噩梦，梦见白天看到的那些触目惊心的画面。

经常有同事会因此心理崩溃。一位当了妈妈的同事最近在看了一个孩子受到性虐的视频后，含泪起身离开办公桌。一位年轻的男同事看了一只狗遭受酷刑的视频后，感到身体不适。中心的审查人员还得看着十几岁的孩子自残，听女孩子讲述被强奸的经历，真是心如刀割。

他们每周都会和随时待命的心理医生、心理创伤专家召开小组会议。如果发生更严重的情况，该中心还会寻求与柏林诊所的合作。

在装点着 Facebook 标志的办公室里有一个小房间。房间色彩柔和，墙上挂着装饰性的苔藓，里面摆着为员工准备的新鲜水果……所有这些都是为了安抚员工紧张的神经而设置的。

为了减压，审查人员有时会互相举报帖子——不是因为他们之间发生了争执，而“只是为了好玩”。另一名审查人员称，他是黎巴嫩难民的儿子，会说阿拉伯语，他的职责是处理与恐怖主义有关的内容，特别是涉及到伊斯兰国的言论。他表示，到目前为止，“怪异的皮肤病”的图片对他造成的影响比斩首图片带来的影响还要严重。而尼尔斯认为，像骨折这类运动损伤尤其会令人不安。

办公室里有一种志同道合的情谊，一种真正意义上的使命感：尼尔斯说审查人员为“帮助清理仇恨”感到自豪。

仇恨的定义也是不断演变的。

最初参加为期三周的培训课程的审查人员经常需要进修。为了反映仇恨言论的文化，他们的指导方针常被修改。发生的事件也会改变词语的意思。新的话题标签和网络流行趋势也必须出现在上下文中。

“诋毁的言论也有了社会化趋势，”Facebook 的艾伦解释说。

2015 年，“Refugee”（难民）成了免受广泛的仇恨言论规则侵害的群体。“Nafri”（北非人）是德国警方当年用来指称北非裔惯犯的内部用语，这些人对数百名妇女进行性骚扰、人身伤害，有时候甚至实施强奸。从那时起，“北非人”就成了极右翼常用的侮辱性词语。

尼尔斯和他的同事们必须要确定这些充满恶意的内容是把矛头指向种族还是个人。

“德国选择党”副主席贝娅特丽克丝·冯·施托希（Beatrix von Storch）在 Twitter 上发表的言论被删除后，她又转战 Facebook，贴出了 Twitter 对她的言论进行警告的截图。

去年 12 月 31 日，冯·施托希写道：“这个国家到底是怎么了？为什么警察的官方账户是用阿拉伯语发布推文的？”

“你们难道想以此安抚那群残暴的轮奸犯穆斯林男人帮？”她接着写道。

一名用户举报这个帖子违反了德国法律，处理此事的正是尼尔斯。他最初决定不理会这起举报，因为他认为冯·施托希这番侮辱性言论针对的是两年前曾性侵过女性的那些男人。

此外，还有用户举报该帖子违反社区标准。另一位审查员认为这个帖子指向的是整个穆斯林，所以倾向于把它删掉。

他们找来内部的“内容专家”商议，后者将情况上报到了都柏林的一个团队。

一连 24 小时，这个帖子让 Facebook 的律师们从硅谷一直忙到汉堡。都柏林团队裁定该帖并没有违反社区标准，并将帖子发送给 Facebook 在德国聘请的外部律师进行法律评估。

在德国警方对冯·施托希展开刑事调查的新闻爆出的几个小时内，Facebook 就采取措施禁止用户访问该帖。举报人被告知，该贴由于触犯德国刑法第 130 条中的“煽动仇恨罪”而被封。冯·施托希也接到了通知。

在 2018 年的头几天，社交媒体的平台似乎在审查上出了错。1 月 2 日，也就是冯·施托希的帖子被删后的第二天，时事讽刺杂志《泰坦尼克号》（Titanic）打趣说，她将成为新的特邀推客（tweeter）。该杂志随后以戏谑的方式模仿冯·施托希发布的两条推文均被删除。当《泰坦尼克号》再次发布推文时发现，它的帐号被暂时关闭了。

从那时起，事态平息了下来。连艾伦也承认：“立法也没有对被删内容的数量有很大的改变。”

翻译：熊猫译社 夏鱼 胡敏

题图及文内图片（未标注）版权：Gordon Welters for The New York Times

© 2018 THE NEW YORK TIMES