社交媒体背后的内容审核员,直面黑暗的“清道夫”

 新闻资讯     |      2019-12-19

12月19日报导(编译:叶展盛)

在内容审阅方面,谷歌和YouTube采取了与其他科技巨子相同的办法:花钱请其他公司完结这个使命。其间,Accenture运营着谷歌旗下美国区域最大的内容审阅网站,这家公司坐落德克萨斯州奥斯汀,它的内容审阅人员在全天候地为YouTube服务。

Peter是这家网站的内容审阅人员之一,YouTube将他和搭档们分配到不同的内容行列中,比方版权问题行列、种族憎恶和打扰行列,以及“成人”色情行列等。

Peter开端是担任“暴力极点主义者行列”(VE)的,这也是Alphabet最严厉的凯发网娱乐下载作业之一,这份作业给不少人留下了严峻的后遗症。

上一年,Peter的一位搭档由于作业压力溃散,终究抛弃了两个月的薪酬挑选离任。别的一位搭档也由于作业换上了焦虑症和抑郁症,一同还由于饮食不规则,导致严峻缺少维生素,终究不得不住院。

Peter现已从事这份作业两年,他也忧虑自己的心思健康。他的家人重复要求他离任,但他又忧虑离任后找不到这样一份高酬劳的作业:每小时18.5美元,折算成年薪大约是3.7万美元。

Peter表明,当他刚在VE行列作业时,就开端掉发,体重也在添加,人也开端简略发脾气。哪怕是在节假日,当他开车经过上班地址时,都莫名一阵心悸。

“假如你每天看着他人拿刀砍下另一个人的脑袋,你会感觉这个国际几乎疯了。这会让你感到厌恶,你会感觉活着没什么意思,”他说道。

Peter以及不少搭档都是移民。Accenture招募了一批像他相同会讲阿拉伯语的人,其间不少人是在中东区域长大的。公司将他的言语才能评定为7级,能够精确地辨认憎恶言辞和恐惧主义宣扬,随后就能将这些内容从网站上删去。

Peter和他的搭档告知记者,他们期望像谷歌的全职职工那样日子,具有更高的薪水,更完善的医疗保险,还期望具有愈加关怀部属的领导,恰当减轻自己的作业压力。

随后记者采访了一位女职工,她也是谷歌的内容审阅人员,年薪到达了“六位数”,具有不错的医疗保险和其他补助。但这并不能让她免受审阅内容带来的损害。这位职工担任移除恐惧主义和虐童方面的内容,她的急性焦虑发生频频,和儿童沟通时常常哭泣。有心思医生将她确诊为伤口后应激综合征。

2015年,Daisy Soderberg-Rivkin请求了谷歌揭露职位中的法令助理。但是这份作业实际上便是内容审阅,它仅仅套了一件“外衣”:“法令方面的内容移除助理”。

能够说Daisy是随同这项谷歌服务一同开展的,最开端她挑选这份作业是看上了谷歌丰盛的福利:公司的餐厅和小厨房、免费的按摩和干洗服务。终究她挑选在谷歌的总部,也便是加州山景城作业,随后这支团队被搬运到了邻近的森尼维尔市。一年的薪水是7.5万,加上谷歌的股票,总收入挨近9万美元。

其时的招聘内容里表明,法令助理需求处理一些法令恳求,移除搜索引擎中“侵略版权、诋毁和其他不适宜内容”恳求的链接。别的法令助理还需求审阅一些包含虐童内容的图片。“但我十分清楚地记住其时的注释写着‘这种内容移除作业每周只需1到2个小时’,”Daisy说道。

这种作业需求多个团队协作。在大多数时分,被告发恐惧主义或虐童的内容由奥斯汀等团队担任。谷歌称这些职工是经过第三方公司雇佣的,但在采访中不少职工表明自己是合同工。关于政府方面的法令恳求,谷歌则交给全职的职工处理,他们会榜首时刻删去相关的图片、视频和链接。

经过面试的层层挑选,人事部门给Daisy赋予了崇高的使命——让互联网变得愈加安全。“这听起来几乎像在休假。在谷歌作业,你能喝免费的海宝茶,午睡有歇息室,每周只需求花几个小时亮点堵心的内容。这么好的作业哪里找?”其时她只需23岁,她就告知母亲决议入职。

在此之前,Daisy没有任何心思疾病,她也没想到这份作业或许会给她的心思健康带来影响(或许谷歌也没想到)。入职后,公司也没有进行过任何这方面的训练。

由于拿手法语,Daisy被分配到担任法国区域的内容审阅,终究成为了该区的项目主管。现在,她每天都要挑选陈述,确认内容是否适宜——是否违法法令或谷歌的服务条款。

让她出人意料的是,暴力内容十分多。2015年11月13日,宣告效忠ISIS的恐惧分子在巴黎和圣丹尼的市郊演唱会中发起恐惧袭击,逝世人数达130人,受伤人数达413人。

“你整天都要看那些残肢断臂横陈在血泊中,脑细胞都无法正常作业,”她说道。

2016年6月的法国国庆日,ISIS的恐惧分子驾驭一辆卡车冲入节庆人群,形成86人逝世,458人受伤。网上的相关图片和视频开端剧增,公司高层要求Daisy高负荷作业,处理这些内容。Daisy也想要加速作业进度,但是适得其反。“你只能看到待审阅的内容越来越多,”她说道。

跟着网络服务的添加,谷歌部分服务的用户数量乃至超过了10亿,它雇佣了一支内容审阅大军。但是上传内容简略,审阅内容却很困难。本年10月,该公司在陈述中表明,在曩昔一年里,谷歌删去了16万条包含暴力极点主义的博客和相片,均匀每天438条。

在YouTube上,大部分待审阅的内容都是良性的。假如没有内容待审阅,那么审阅人员就比较闲暇。但是他们的作业量取决于地点的区域以及上司的同情心。有几位职工表明十分喜爱这份作业,原因是找到不合法视频就能取得奖赏,一同作业也十分简略,有很多的闲暇时刻用来放松。

但是担任处理恐惧内容的人员就没那么走运了。他们表明上司掠夺了自己的歇息时刻,老板要炒你乃至不会给个适宜的理由,没有预先告诉就修正排班更是粗茶淡饭。

这些作业人员更是深受暴力的影响,每天查看凶杀画面让他们越来越焦虑。现在Peter看到动作片中的枪战画面都会感到难过。还有部分职工经过药物来处理焦虑。

YouTube的首席执行官Susan Wojcicki曾表明内容审阅人员数量已到达1万。但公司没有泄漏美国区域有多少人。合同制的作业人员愈加廉价,相比之下,全职职工年薪达9万美元,这还不包含分红。因而暂时工、合同工和第三方人员占有了54%。

Daisy首要担任恐惧内容审阅,儿童色情图片(CSAI)更会让她感到不安。虽然最初说每周只需审阅一到两个小时,但实际上这类作业占有了不少时刻。

作业一年后,Daisy其时的男朋友表明她发生了很大改动,整天胆战心惊,晚上睡觉说梦话,有时分还会尖叫,并且她总是很累。一位室友曾在背面悄悄戳了她一下,成果她就忽然转过身来进犯对方。“我的榜首反响便是‘这个人要损伤我’,我总是把日子中的作业和那些图片联想到一同,”她说道。

还有一次,Daisy和几个朋友在旧金山的幼儿园看到一群小孩,一位护理人员要求孩子们捉住一根绳子防止掉队。“我眼前似乎闪过一个画面。一些和他们差不多大的小孩被绳子绑起来,遭到了性侵。当我看到小孩和绳子的时分,就想到了这些画面。然后我呆了好一会,几个朋友问我是否不舒服,我坐下来歇息了几分钟,十分想哭,”Daisy说道。

这是她榜首次呈现急性焦虑症。

谷歌为职工组织了一位咨询师,但只会不定期到访,并且预定很快就会被占满。“当咱们收到告诉邮件后,就要抢着去预定咨询师,由于每个搭档都有相似的症状。”在成功预定后,咨询师主张Daisy去看看心思医生。

坏消息到来之快,远超奥斯汀办事处的预期。虽然有数百名内容审阅人员全天候轮班作业,Accenture依然难以跟上负面视频的添加速度。跟着中东恐惧事件的发酵,暴力极点主义的视频越来越多,2017年公司招募了十几位阿拉伯语的职工进行审阅。

这些职工都是移民,之前在从事保安、快递配送等作业,他们从朋友那里听到了这个招聘。“咱们刚移民到美国的时分,大学学位底子得不到供认。因而咱们什么都做,”在该网站作业两年的Michael说道。

据采访的作业人员泄漏,Accenture要求每位内容审阅人员每天要在5小时内处理120部视频,他们每天具有两小时的歇息时刻,以及一个小时的午餐时刻。之前有高管许诺会将5小时减到4小时,但至今没发生。Accenture则否认给职工设立了任何作业量要求。繁忙的作业还会进一步紧缩歇息时刻。

在奥斯汀,每天两小时的歇息是规范。有4位职工表明,当使命十分繁忙时,有职工就会自行抛弃歇息时刻。大约在六个月前,为了到达既定的使命方针,他们也开端抛弃歇息时刻。每个人的电脑上都安装了录屏软件,以此记载每天是否到达5个小时。但还有其他作业使命,比方查看邮件、参加团队会议,这些并不会计入作业时刻。

在刚入职时,暂时职工还能享有和全职职工相同的歇息时刻,能够在办公桌上吃东西,自在去卫生间,以及自在组织假日。几个月后,Accenture和Cognizant等公司就开端回收这些权力,还不答应职工带手机。

“他们对待咱们的方法十分差。假如你不按要求的做,他们有一万种办法整你,”Michael说道。

之后Daisy也开端承受医治。在此过程中她理解了作业功率的下降并不是自己的错,当人们重复看一些让人不安的图片后,有些人会暴饮暴食和增重,有些人会剧烈运动,而Daisy这类人就简略疲惫。

随后Daisy遵从心思医生的主张,养了一只狗,与它一同参加课程,让它成为自己的情感支撑。随后她发现自己能渐渐和儿童触摸。“看着孩子拍拍我的狗,我发现我和他们的联系真的有了很大的前进,”她说道。

她十分幸亏自己不是合同工,哪怕在就诊期间也能取得薪资。“这几个月我在重复考虑自己的挑选和出路,”她说道。

在阅历半年的医治后,Daisy回到了自己的岗位。让她惋惜的是,上司的心情并没有太大的改动。“他们刚开端会关怀我。‘作业做得怎么样?刚回来能够渐渐做。’但终究,一切的作业都会重新和功率挂钩。”

一个星期后,她挑选请求读研,终究被塔夫斯大学法令方针学院选取,并于本年年初取得硕士学位。现在她在R Street Institute担任方针研讨员,她重视儿童和科技,还抽空去谷歌给决策者们供给儿童隐私和内容审阅方面的信息。

在奥斯汀,Accenture开端进行新的测验。公司开端测验将视频和相片改成是非色,以查询内容审阅人员遭到的情感影响是否会下降。

公司让两组人员别离审阅五颜六色和是非的相片、视频。每两周,对他们的心思情况进行问卷测验。

研讨发现这能明显改进职工的心境——至少在实验期是这样的。

值得注意的事,公司不只仅在实验。一同它也在约束内容审阅人员审阅内容的时刻,为外出医治的合同工供给病假,为离任的、患上长时间心思疾病的职工供给协助。

别的谷歌也在测验用技能处理这些问题,包含使用机器学习体系担任这些作业。谷歌的研讨员还表明,将来或许会将相片里血液的色彩改成绿色、对脸部进行打码等,查询它对作业人员心情的影响。

但在曩昔一年里,有研讨查询了一百多名内容审阅人员,成果证明这并不是一个二元性的问题。部分作业人员在入职后前几周表现出PTSD的前期症状,还有一些人则是在作业数年后才患病。

现在Daisy现已离任两年了,但她还会遭到一些后遗症的困扰,有时急性焦虑症复发,她也需求抗抑郁药物来稳定心情。

与此一同,她表明很感谢公司能供给带薪病假,并以为自己是职工中比较走运的一个。

“咱们需求更多的人参加到这个作业中。但整个体系也有待完善,包含它的运作方法,如何为职工供给支撑,如何为他们供给东西和资源处理内容。不然,问题只会越发糟糕,”Daisy说道。

推行:猎云银企贷,专心企业债务融资服务。比银行更懂你,比你更懂银行,概况咨询微信:zhangbiner870616,现在仅注册京津冀区域服务。