揭秘内容审查员：高压常伴噩梦相随，有人突然崩溃，有人试图自杀

内容审查员不是一个新鲜的话题。

作为一个因科技互联网而兴起的职业，内容审查员是互联网的最后一堵墙，保护互联网的安全，同时也深受其害。

《华盛顿邮报》近期有一篇特稿，将视线转向菲律宾首都马尼拉——硅谷的“月球背面”。

在马尼拉，年轻人以“进入”谷歌、Facebook和Twitter为荣，哪怕是外包的内容审查员工。因为殖民历史和早期呼叫中心的开发，菲律宾有天然的语言和硬件优势，但这里的年轻人只是人力便宜的外包员工，无法享受和美国同行同等的工资待遇和心理保障措施。

这些内容审查员究竟经历了什么？背后有哪些不为人知的故事？我们编译了这篇特稿，看完你可能会对原本熟悉的互联网，有一些不曾了解的新发现。

文末有一条《华盛顿邮报》的纪录片短视频（无字幕），有兴趣可以点击观看。

相关阅读：《对话15名内容审查员：做互联网守门人是一种怎样的体验？》

辞去内容审查员工作已经一年之久，Lester每周都会去教堂祈祷，祈祷有人可以删除记忆里那些审查过的可怕图像。

一年前，亚洲的流量中心马尼拉，Lester是Twitter的内容审查员——合同工身份，他穿梭在商厦高楼，每天工作9小时，评估社交网络照片的违规之处。而在Twitter之前，Lester在YouTube任职，做着同样的审核工作。“小孩的生殖器，到底是被偶然碰到还是有人故意为之；砍向脖子的利刃，是真实的谋杀还是影视片段”，这些都是Lester在Twitter的工作内容，除了这些，他甚至需要判断，哪些内容可以留在网上。

负面作用随之而来，白天审核的图片像梦魇一样纠缠着Lester，即使是离职一年后，再次踏进高楼，那些反复查看过的自杀片段会再次闪现，推着他走到大楼边缘，一跃而下。入夜后，Lester在谷歌里输入“兽交”和“乱伦”，这是他以前从没看过的东西，但现在却大受吸引，他感到羞愧，为自己不齿。离职后的这一年，Lester每周去一次教堂，和教会的兄弟一起，请求上帝擦去他记忆里的图像。

“我很清楚，这不正常，但现在，一切都常态化了”，33岁的Lester告诉《华盛顿邮报》。受到保密协议的约束，他始终不肯透露全名。

在互联网安全保卫的战场上，还有很多像Lester一样的人，他们冲在前线，卷入这场“无限战争”。从地图上看，菲律宾和硅谷隔着几万公里，但依然手无寸铁，遭到科技巨头的盘剥。

过去十几年，社交媒体的快速发展，为全世界创造了几十万个工作岗位，这些人被雇佣来审查、删除暴力和冒犯的帖子。今年3月，新西兰的暴力枪击事件在Facebook上直播，并遭到大范围传播，俄罗斯在社交媒体上散布的假新闻深刻影响了2016年的美国总统大选……平台上的内容屡屡出错后，Lester们成为巨头们重拾名声的依靠。但即便如此，硅谷科技公司却和这些内容审查员维持着距离，托付第三方大型外包公司，以合同工的形式和他们签约。

菲律宾的审查员们说，公司不曾提供足够的支持来解决审查工作导致的心理后遗症，因为保密协议的约束，审查员无法和朋友倾诉工作的伤害，也无法从每天浏览过的图片影像中走出来，而准确率的压力，让他们片刻不得休息。

科技公司们承认，适当放宽对审查员的要求非常重要。2015年的工作协议中，对儿童虐待相关内容的审查员放宽了要求，比如保密和休息的权限，而在此之前，大量员工提及自己因为这些内容感到困扰。

长久以来，科技硬件公司早已形成了完整的外包机制，将电脑和手机等产品的零件生产线放到海外。外包往往意味着高压的工作环境，甚至伴随着致命的伤害。

而软件公司，近些年逐渐找到了廉价可替代的劳动力，他们躲在幕后，做着重复而辛苦的工作，比如保证人工智能的准确应答，让自动驾驶系统识别出人行道和其它物体，以及，确保性暴力等违规内容，不会在社交媒体上出现。

在菲律宾，内容审查员的脆弱性已经摆在眼前，但这里不过是全球众多外包中心的一个缩影，而内容审查业务，早就成了菲律宾十余年呼叫中心行业发展的结果。全球主要审查中心，如印度和美国，通常只审查本国用户的内容，而在菲律宾，审查员每天需要审查全球各地用户发出的图片、视频和文字帖，涉及数十种从没学过的外语，还手握着内容去留的生杀大权。此时，理解他国的语言和文化，成了审查员们的沉重负担。

《华盛顿邮报》采访了马尼拉的14名现任和前任审查员，他们不约而同提到，内容审查会让人长时间遭受噩梦、偏执和强迫性穷思竭虑的困扰，有人看到同事在工位前前突然崩溃，还有人因为心理压力试图自杀。

有审查员会称，自己是互联网上的无声战士，保护着美国人不受到社会黑暗的影响，但因为自觉承担着维持互联网安全的责任，常常下班后也去搜索和举报有害内容，很容易感觉精神上已经灯枯油尽。

一位马尼拉的Twitter内容审查员告诉记者：“每一次换班我都感觉精疲力竭，难以思考。”偶尔在梦中，他会看到自杀式炸弹袭击或车祸的场景，脑子里不断闪现工作时看到的画面，“要做内容审查员，你必须内心强大，还要充分了解自己”。

在菲律宾，Facebook、Instagram（Facebook子公司）、YouTube（谷歌子公司）、Twitter、Periscope（Twitter旗下直播平台）等平台的审查员们，都受雇于第三方机构Accenture和Cognizant，限于雇主和平台方的保密性规定，他们对外只能保持匿名，最多透漏名。

在采访中，所有平台都表示，他们在匆忙中创造了许多新的工作岗位，但他们承认，平台需要为审查员提供合适的心理干预，改善工作环境，这项工作还在进行中。与此同时，大众对平台及时移除不宜内容的能力，抱有极大期待。就在去年，平台强调，为了解决内容审查员的心理问题，他们做出了种种努力。

Facebook的顾问曾坦言，的确有审查员因为这项工作而换上PTSD（创伤后应激性障碍），而这项心理疾病，或将直接导致患者的自杀行为。

事实上，在硅谷和遥远的东南亚，存在着巨大的规则不对等。《华盛顿邮报》采访到都柏林的一位内容审查员，以及多位美国内容审查员，尽管他们和马尼拉同行有相同的遭遇，但在美国，因为近几年的呼吁，审查员的工资和福利都有了很大提高，但在菲律宾，一切都是天差地别。

美国人会将内容审查工作看作是进入大公司，开启职业生涯的垫脚石，但在菲律宾，虽然内容审查就像一个死胡同，却也是他能得到的最好的工作了。他们战战兢兢，生怕透露真实姓名，破坏了公司的保密协定。

对于当地大学生而言，内容审查也是一份很有吸引力的工作，工资尚可，有机会进入中产阶级，认为自己可以轻松离开，不受到任何负面影响。

尽管目前在全球从事内容审查的员工数量已经上万，但始终没有一份正式的研究，披露这些可怕的图片会对审查员产生怎样的影响。不少菲律宾人坦诚道，比起客服工作，内容审查轻松得多。但菲律宾大学社会工作和社区发展学院院长Sylvia Estrada-Claudio认为，内容审查恰恰非常不一样，审查的压力来自于经年累月暴露在各种伤害和暴力图片的环境，图片里既有人类、也有动物。Sylvia很担心年轻一辈遭受这些内容的影响，“长期接触这些潜在危害，可能诱发心理危机”。

马尼拉

在马尼拉，美国大公司的招牌铺满了天际线，包括Citigroup、Accenture、Trump Tower等等大名鼎鼎的公司，以及其它名气略逊于此的公司，它们给菲律宾发达的外包经济盖了章。这些摩天楼里，有数不清呼叫中心员工，在过去近20年，他们完全成了发达国家英语用户的后勤中心。

如今，除了内容审查，菲律宾的外包工人们还会帮美国电信和健康保险公司提供客服呼叫服务，帮eBay清除网站上的非法商品、删除谷歌地图上的重复列表、为自动驾驶汽车的录像做标记。

Lester曾在马尼拉一所大学学习电子工程，毕业后进入Accenture的呼叫中心，一干就是近十年。2017年，Lester从内部转岗，开始学习某搜索引擎的内容审核，很快又开始学习YouTube的审核规则。

起初，Lester以为，比起在呼叫中心应付那些暴躁的用户，互联网内容审查工作的压力小很多，而且，他很喜欢Accenture给谷歌外包员工提供的免费午餐。但很快他便发现，YouTube的规定让人困惑，而因为审查产生心理问题时，他也无法获得公司提供的任何咨询服务。

几个月后，因为听说Twitter有更好的心理咨询，Lester再次转岗。新工作提供每月480美元的工资，尚且足够。Lester和奶奶一起住在距离菲律宾2小时距离的郊区Alabang，这里小到只有一间卧室，Twitter的收入足以让他养得起奶奶。

Lester的家

每天早上，他在七道高速公路附近的加油站坐上一辆吉普小出租，这是二战之后设计的一种花哨的巴士，在菲律宾成为美国殖民地之后，迅速流行开来。就是在这辆车上，Lester开始了这一天的通勤。

这条价值20美分的通勤线上，Lester会在沿途看到大量工厂和废弃的度假村，直到遥遥望见马尼拉市区里闪耀着光芒的高楼。为了在通勤路上更加充实，Lester有时会在Facebook上发表一些《圣经》的励志选段，和朋友、同事们分享。但多数时候，他只能在路上抓紧小睡一会。

到了公司，Lester把手机和其它值钱的物品锁进储物柜，然后去见经理，一起开会。这时，经理会复盘上一班同事的数据，包括每个人的审核数量和准确率，以及需要监控的热门话题和突发新闻，比如，发生在奥兰多Pulse夜店的枪击案。

回后，Lester回到工位，面前是巨大的监视屏，新的帖子不断在屏幕前滚动。在Lester的序列里，监视器会即时监控他的审查情况，如果需要去洗手间，系统便会自动退出。在Twitter，一个内容审查员一天需要审查约1000条帖子，包括单独的推文、回复和信息。

Lester透露，不论屏幕上是发生在伊斯兰国家的谋杀，小孩被迫和动物发生关系，还是那些反特朗普的长文，对他而言，是无法决定接下来内容走向的，他不能将图片模糊化或最小化处理，甚至不能切换屏幕来喘口气，一旦切换，他便下线了。

当问及每天8小时工作时间中会看到的暴力图片数量时，Lester表示无法估计，“太多了”。印象最深刻的视频是发生在非洲的枪杀案，一群人把一个男人拽进森林，用一把大刀不断抽打他的脖子，直到献血喷溅满摄像头。他算了算，每月可能会看10条谋杀视频，而自杀相关的内容，他已经审核了1000多条，其中多是照片和用户写的求救贴，也有他们的自杀计划。

没有人可以扭头走开。

前Periscope的视频审查员Jerome认为，审查员就像是911的接线员，站在一切事件的最前线。负责审查本国内容的印尼审查员说，每一次知道因为自己撤下一条有ISIS旗帜的帖子而阻止了极端活动时，他都会感觉非常欣慰。

加入Twitter之后不久，Lester发现，这份工作开始有了负面影响。那些20多岁时努力挣脱的感觉再次扑面而来——他重新有了自杀的念头。Lester说，他无法支付心理治疗的费用，也不曾找过咨询。与此同时，他发现，平时看过的那些黄色图片会开始引起自己的注意，为此，他既羞愧，又非常不安。

最终，Lester没有尝试自杀，但一个前Facebook和Instagram的审查员试过了。他在遭遇家庭问题的时候找到了内容审查的工作，而日复一日的审查，加重了心理问题。

2015年，他辞掉了工作，尽管他才入职3个月，之后便在一家汽车旅馆里实施了自杀，模拟的正是一年前他审查过的内容，好在，朋友打电话把他劝了下来。事后说起，他想，“如果还做内容审查，我宁愿现在就死掉”。

2017年秋，此时正值Facebook、谷歌和Twitter因涉嫌帮助俄罗斯干预大选而遭受国会指责的前夜，当时，Facebook创始人扎克伯格宣布，公司将再聘请10000名内容审查员，负责站内安全，一年之内，Facebook的内容审查规模便达到20000名。一个月后，YouTube和谷歌也承诺，将在2018年底前招聘10000名审查员。相对规模较小的Twitter，刚刚开始扩大内容审查的规模，在2018年时将审查员工数量扩大至1500人。

加州大学洛杉矶分校的副教授，《幕后：社交媒体阴影里的内容审查员（Behind the Screen: Content Moderation in the Shadows of Social Media）》的作者Sarah T. Roberts说，紧随公司声明的，是远在马尼拉的后勤公司的招聘大狂欢，他们以“内容审查员”、“数据分析师”、“内容质量编辑”为由，大量招募新员工。

据一位在美国和菲律宾工作的行业人士透露，尽管不少科技平台早已在马尼拉设立公司，但在俄罗斯事件听证会之后，菲律宾的内容审查员工出现了百倍增长。

对菲律宾来说，这里设立内容审查团队有着得天独厚的优势——作为过去的美国殖民地，这里的民众可以流畅使用英语，作为呼叫中心，菲律宾也已经有近20年的历史。

2012年，Facebook通过第三方Accenture在菲律宾设立了内容审查办公室，在此之前，这里已经建立了大型的呼叫中心。而Twitter在2015年时通过Cognizant，在菲律宾成立了第一个内容审查站。

2004年，前谷歌副总法律顾问Nicole Wond参与了组建公司早期的策略执行团队，据她所说，由于一些法律和文化理解上的微妙差异，她早期并不确定是否要启用外包团队，因为，微妙的差异很有可能在缺乏强监管的情况下，造成海外外包员工的理解差异，而错误的判断则会导致错误的决策。但随着谷歌的不断扩大，公司迫切需要24小时响应的多语言内容审查服务。

在美国和欧洲，内容审查员需要对涉及自己母语的内容进行初审，但在只说塔加拉族语和英语的菲律宾，审查员们需要审查数10种语言的内容。如果有会相关语言的同事在场，审查员们会上前请教，但多数时候，他们会使用谷歌翻译和Urban辞典，而这些工具，常常只会加重他们的困扰，造成更大的压力。

在某些国家，比如德国、澳大利亚、法国和土耳其等有相关规定，平台上的内容需要承担相关的刑事责任，因此在这些国家，内容审查员非常重要。但在美国，规定宽松得多。但近两年，美国民众和政府对相关平台不断施压，要求他们及时清除互联网毒瘤，这在客观上再次造成了审查员规模的快速扩大。

在Facebook，其审查公司遍布全球20个国家，其中包括拉脱维亚和肯尼亚等小国，据透露，菲律宾和印度是平台最大的海外审查站。相较而言，Twitter的外部审查员分布于8个国家，而YouTube对此问题则表示不予置评。

Twitter服务部门副总裁Donald Hicks曾在采访中透露，审查工作的高度情绪敏感性要求员工适当休息，也需要有心理支持，但同时，这项工作又需要达到一定的指标，二者很难平衡。2018年，Donald加入Twitter，负责对审查工作进行全面改革，他把呼叫中心机械化的工作环境改善得更加以人为本，他认为，“我们不希望公司建造出的是一个大型农场”。

2015年，Facebook、谷歌、Twitter等多家平台一起，成立了行业联盟Technology Coalition，出台了针对儿童虐待的行业审查准则，在当时，儿童问题得到行业的高度重视，也是律法规定的唯一一个必须撤销的领域。

据业内人士说，这项规定是科技平台承认审查工作导致心理负担的重要依据，也是科技公司可以依靠的唯一行业标准。协会要求科技公司成立“恢复项目（resilience program）”，让员工在看到有害内容时可以自由退出，有需要的时候可以休息，能向朋友倾诉工作的困难。同时，规定也建议员工可以每小时都能换换工作，喘口气，随时随地去进行心理咨询。

因为儿童虐待等内容而饱受困扰的员工却表示，相关规定并没有在实际工作中得到执行，他们甚至都不知道有这些建议的存在。

一些菲律宾审查员提到，自己从来没有在工作中找过心理咨询，另一些人则表示，他们曾经去咨询过，一月一次，或是半年一次。相较之下，美国的内容审查员可以每周咨询，随时预约时间。

和所有审查员一样，Lester在看到那些令人不安的内容时，完全无法跳出，因为软件上的信息流会不断滚动，审查员们永远不会知道自己接下来会看到什么。他们唯一能做的，是申请调换一个组，看看其它的，同样让人不舒服的内容。

所有平台都不承认公司有每日的审查数量目标，但审查员们都表示，由于换班时需要做数据复盘，他们依然面临着严重的数量和准确度的压力，以至于不敢有片刻松懈，这种压力无异于直接的KPI。在科技公司一边，他们会定期检查审查员的工作，以确保他们的工作都在规定内进行，而审查准确率，则要求达到95%及以上。

面临行业里最严重审查问题的Facebook，近几年让外界看到，平台做了大量努力以改善审查员的工作环境，比如停用KPI，提高美国审查员的薪资，招募心理医生，在全球范围内推进“恢复力项目”。

Facebook表示，公司计划推出无限制的单人心理咨询服务，全球员工可以在任何时间请求咨询，离职员工也可以申请咨询服务。与此同时，公司推出了更多元化的指标来评价员工的工作成绩，希望减少因准确率指标带来的压力。

YouTube方面则表示，全球审查员都可以“定期”进行咨询，一天的审查时间不得超过5小时。但就此问题，官方并不愿意透露更多细节。

Twitter现在已经提供了每日心理咨询，敦促第三方公司对离职员工提供更多关心。Hicks透露，不论是哪里的Twitter员工，只要对审查内容感到不适，可以随时交班，公司会支付全额薪水。

不过，Facebook和Twitter依然保留保密协定的使用，两大公司声称，这是出于保护用户隐私的目的，另一方面，由于审查员此前做出的种种撤销决定，已经遭受了大量攻击，这一保密协定可以在一定程度上保护审查员。

Accenture的代表Rachel Frey说：“我们和客户一起，共同保护互联网安全，而我们马尼拉员工和他们做出的努力，让我们非常骄傲。我们有一支先进的团队，提供有前瞻性服务，有即时的咨询，审核不间断，程序标准，有良好的支持性办公环境。”然而，对于“即时咨询”的细节，对方拒绝向外透露。

另一家外包公司Cognizant在接受邮件采访时也表示，“我们有全方位的保障服务，包括7X24小时电话支援，线下咨询，定期请来线上咨询。鉴于这项新兴工作一直处于变化之中，我们会继续和先进的人力资源团队、福利咨询师、合作方一起，更好地做好福利措施”。

马里兰大学副教授、《线上国度：呼叫中心——菲律宾的后殖民时代困境（A Nation on the Center: Call Centers as Postcolonial Predicaments in the Philippines）》作者Jan Padios认为，尽管呼叫中心已经是菲律宾的成熟产业，但直到最近，员工才开始成立工会，共同努力。

在旧金山Workplace Wellness Project从事社交媒体公司咨询服务的心理学家Stefania Pifer认为，呼叫中心的工作意味着准确率、监控标准、工业化的流程，这一工作模式尽管已经在IT外包行业实行数年，但依然不能忽视它的有害性，这项工作要求及时休息、心理支援，还需要有时间去慢慢消化那些让人痛苦的内容。“这是用旧模式在套新工作，很有可能造成一个不够道德的工作环境”。

线上国度

硅谷老板常常会谈起自动化劳动力，似乎在菲律宾的呼叫中心行业，科技取代人类已经成了既定事实。和呼叫中心员工一样，内容审查员也认为，自己将会成为科技的牺牲品。

Estrada-Claudia则认为，对自动化的期许，不过是科技公司对内容审查员们权利的剥夺。“行业大佬总说机器会取代人类，审查员们很快就会失去工作，如此说来，你哪里有力气去抗争，要求更多权利？”

不过，大公司也承认，他们无法用机器完全取代人类。扎克伯格在今年4月接受《华盛顿邮报〉采访时也提到，只有人工才能基于内容做出撤销或保留的决定。

那么，科技公司或许创造了一个永恒的，但永远存在于外包公司的隐藏工种，创伤依然存在，无人看到，但如何解决？几乎没有答案。

另一方面，专家们却认为，面对海量的内容问题，科技公司永远不可能找到足够多的审查员。

不过，对一部分菲律宾工人而言，自动化的时代至少不会来得太快。

如今，Lester依然在呼叫公司工作，主要销售人身保险，他常常劝诫过去的同事们尽快离职。没事的时候，Lester会和朋友去商场里逛逛，但他尽量避免走进摩天楼里，虽然，这在马尼拉是不太可能的事情。

Lester说，内容审查这项工作，就应该让机器去做。“别人总以为，就因为我们是菲律宾人，我们天性乐观，可以承担一切。但是，那些看过的东西，永远留在了脑子里……他们要，也应该要把内容审查工作交给机器。”

记录一天工作的Lester

作者 | Elizabeth Dwoskin、Jeanne Whalen、Regine Cabato

来源 | 华盛顿邮报

编译 | 颜椿颖

编辑 | 张洁

原文链接 | http://t.cn/AiRaQpGS

揭秘内容审查员：高压常伴噩梦相随，有人突然崩溃，有人试图自杀 | 新榜编译