“我决定了你能看到什么”:来自一名离职内容审核员的口述

作者: 采访| 刘子珩 日期: 2018-09-07 来源: 界面

  这是来自于一家互联网公司一名离职内容审核员的口述。用户上传内容后,都是先审核,再发布。资本通过算法和审核系统,为用户创造了一个“美丽新世界”。这位刚刚大学毕业、踏入社会的青年,决定着他们的用户能看到什么。

  采访| 刘子珩

  1

  我刚毕业的时候,急需一份工作。理由很简单,我欠别人几百块钱,答应那个月还。我在二本学校学新闻,曾在北京一家报社实习,本可以留下,但是因为身体原因,我当时不想做新闻了。

  在网上,我看到一家互联网公司招视频编辑。我会编视频,能拍能剪,就去投了。我一个学长也在那家公司,就帮我内推。不到三天,电话过来,让我去面试。

  面试一共有三轮。

  第一轮是业务组组长,女的,属于管理层最低的那个级别。面试很简单,自我介绍,问我做过什么。然后她说,你知道一些关于网络审核的规则吗?我们聊了一会儿,这就过了。其实我到这时候才知道,这是视频审核。要早说是视频审核我绝对不去。

  第二轮是大组组长。他很忙,过来时搬个笔记本在手上,一直在回复别人。自我介绍完,他问,你对审核有什么看法,这是审核你知道吗?我说知道。你有意见吗?我说没有意见。都那个时候了,有什么意见,还欠别人钱呢,干吧。

  第三轮是人力,这是个坑。他跟我算来算去,补贴绩效什么的,最后说一年给我15万,你知道我多美吗?入职才发现,被他骗了,一年到手的钱可能就零头多一点。

  入职当天同一小组一起有三个人。一个和我一样,是个二本男。还有一个女的,是中国地质大学的。听说,我来的半年前这个部门叫审核部,才三四十人,一年后离职时,整个审核部已经到了一万人。据说,211的研究生我们部门也有,北大的也有。但我不了解,都是听说的。

  入职培训分三个部分。

  先整个公司的培训。介绍我们是一家什么样的公司。其实就是讲集体感,咱们是一家人。互联网公司的人用词讲究,不讲未来的发展前景什么的,他讲我们的愿景是什么。然后跟你讲,这个部门比较特殊,安全性比较高。然后签合同,也就半天结束。

  接下来是大组培训,关于审核的基本知识,比如说什么内容敏感,一个个详细说,让你明白。

  前两个大约一天半时间,最后是小组培训,差不多两三天,内容是具体的工作操作细则。

  我们的办公环境非常好,是互联网公司那种窗明几净的大厦,吃喝不愁,福利很多,也有休息室。一开始,我还很高兴。我也爱说话,会和同事开个玩笑。但后来,基本不说话了。

  因为工作量太大,一天审核的视频要2500条才不算落后,每个人都很累。所谓休息室,很少有人会进去休息。

  我们全年无休,人休审不休,上班时间有四类:早班、晚班、小夜、大夜。早班从早上到下午,晚班从下午到夜里,小夜从下午到凌晨,大夜从夜里到早上。中间是无缝拼接,保证时刻有人在岗。

  排班一开始是大组长排,一般是一周早班,一周晚班,一周小夜,中间有大夜再往里填,很简单。后来有段时间,变成机器用算法排,真不是人排的。我说不是人排的是个脏话,因为真没法上。你的生物钟全乱了,晚班接早班,大夜班之后休一天接早班,你也变成了机器的一部分。所以后来又改为人排。

  互联网公司讲究扁平化。你可以跟你的小组长、大组长,整个业务部门的负责人,整体的负责人,乃至CEO创始人对话,他会给你解决问题,他会听你的话。他们管这个叫扁平化心态,就是玩文字游戏,你真的和创始人讲,他不会说什么,但是下面的人,你的头儿,他们骂死你。

  2

  在整个公司框架中,审核是和技术、运营并列的大部门。要掌握这个公司的内容分发,内容方面的核心数据都在我们这。

  审核流程是机器和人工共同审核。

  机器审核是说,用户上传视频后,机器会自动识别一些东西。那是一种人工智能模型,它认为有风险,就会先给你拦下来。加菲猫就会被拦截,因为它黄色的面积太大,而且跟人腿很像。一些关键词触发后直接不能上传,还有一些会飘黄,提示人工注意。

  机器审核的同时人工也在审核,就是我们这儿的初审。我们的审核后台主要显示三块:视频标题、封面截图和视频关键帧。审核有问题的,就降权,甚至下线。降权有几种方式:订阅可见,就是只有订阅粉丝才可以看到,别人看不到;仅作者本人主页可见,你还以为自己发了,其实别人看不到,发了等于没发。不过,这些在用户界面都是看不见的。一般来说,我20秒内足以审完一条视频。速度再慢,1分钟也肯定能审完。

  初审之后是盲审。他们会按一定比例,将审核过的视频进行提取,再进行审核。

  最后还有一个回查组,大约二三十个人,每天在资料库里来回巡查,看有没有违规的视频。

  我们审核的作者账号主要可以分为四类,自媒体,群媒体,新闻媒体,还有一些政务机构。审核标准很少针对新闻媒体和政务机构。

  比如一些自媒体发视频,我们就要审核有没有版权。有版权的视频,就不能私自过审。也有个例外,比如某个古装剧,版权方会在我们这里搞一些小号来发。但发这个剧的号太多了,哪些是版权方,哪些不是,其实一线审核员分不清。这种情况下就会出现备注,也就是版权的白名单。白名单在页面上有一个备注,就说此号发什么可以过,发什么不可以过,发哪些内容我们特殊处理,不必要追随标准。

  所有审核标准的制定,都掌握在运营和标准制定组手上。用户上传的内容,什么能过什么不能过,标准全由他们制定。审核标准也经常更新,不过时间不定。根据外界环境,有时候一天变几次,有时候半个月变一次。标准的制定除了法律法规的底线之外,还有些也凭质检组个人喜好。

  最搞笑的例子是露肉。我到现在都没明白,到底什么意思。这个拿捏很诡异,露了多少算露。你看那个模特,虽然穿的长裤长袖,但是也可能被下。他们就会说,你看肩膀,露出来了。

  3

  怎么更改审核标准呢?这是一套复杂的流程。我们先跟运营说,运营再跟产品说。然后是各种开会,算成本。算你改这个标准,能拦截多少视频,拦截视频会给公司带来多少流量损失,少挣多少钱,值不值。

  比如晒大白腿那种,是低俗的吧,但有时候就是不低俗。如果是整改期,就收紧,整改期过了就放。

  为什么这样弄?这是运营的要求。要吸引用户留存,增加日活。没几家互联网是靠阳春白雪起家的,都是靠低俗,才能吸引很大的用户流量。流量就是钱,你如果下得太狠,就没有流量,广告费就会低,收入就会减少,亏损比例就会大,公司就运营不下去。

  总之,审核标准第一是安全,第二是让用户停留时间长,第三是流量。能挣到钱就行,这也是公司的价值观。

  现在讲究算法推荐。所谓算法,其实是有一定的商业利益在里面。都是跳舞的视频,凭什么推荐这个人,你想过吗?

  算法的坏处就是,你没有信息的接收权利。你要看什么,我就一直给你看什么,其他事情你可能就不知道了。这就是传播学里的议程设置,传统媒体做不到,分发平台可以做轻松做到。用户收到的信息不是他想要的全部信息,只是我们想让他看的,被我们过滤过的,是我们允许他看的。记住我这个词,允许。

  但我不认同这种价值观。

  有人曾经说过,算法没有价值观。从专业上来说,这话没错。算法就是机器,机器能提供给你好的,同时也能给你提供坏的,它的价值观在于你是怎么选的,怎么喂它。但这不能代表产品没有价值观。那不就是说,用户想看大长腿,就全是大长腿。小孩子想看黄片,你就可以推黄片,是不是这个道理?你说这个价值观,我怎么认同。我没法认同。你什么都算成本,都为了钱去,就特没意思。

  有些程序的设计者内心是非常邪恶的。他拿什么试你?我第一次用我们公司的APP,给我推的第一个视频就是狗交配的。这是属于漏放的,但这就是试探。算法在试你,你爱看什么。你只要点进来,它就开始推荐。

  你要是做过新闻,真正在报社呆过,肯定看不上这个工作。为什么?这跟你的价值观不一样。它就为了钱,没有启蒙教育意义,也没有责任心。你像我们写稿子,说这是希望能给老百姓带来一点改变,能为弱势群体做些什么,是吧?人家这就是,我能赚多少钱,你这效益什么样,成本是多大?

  那些上传特别低俗视频的用户,我考虑他干什么,本来就是垃圾生产者。大家审美都已经烂到这种地步,我为什么不把你往上拉一拉。公司占据着这么大规模的用户,可以润物细无声地教育、影响他们,只要稍微要点脸,像个人一样活,就会是一个非常好的公司。因为所有人都在看你,非常信任你。你现在搞什么?你给大家看什么?看配狗的。

  有一个211大学生,到我们这上班来,干了三天就走了。临走撂了一句话,你们就是狗腿子。对,我们就是狗腿子。因为公司要活命,公司要挣钱,你只能这么做。

  4

  可以说,只要是互联网公司,都有审核。这在国际范围内也是一样,脸书也有内容审核,为用户去掉色情暴力的东西。

  要了解一个公司的审核,首先要了解它的审核逻辑,它审核的是什么。比如婚恋网站的审核,可能就是审核你资料、评论里是不是有招嫖信息。

  一般而言,互联网都是先审后发。一个国内知名的社交平台,很多人以为是先发后审,其实也是先审后发。我们的审核状态很简单,只有全网可见、订阅粉丝可见和本人可见三种,但那个社交平台有十几种。那是一个非常成熟的完整的审核体制,根据不同人和不同内容的安全评级,它会通过机器和人工在最快的时间内,给你一个状态。有时候你虽然看着发出去了,也有人看见了,但可能只是好友可见,或者粉丝可见。所以它与我们不同在于,它有时间差,发出去肯定会有人看到。不过,敏感词你还是发不出去,机器就拦下来了,因为命中了禁发词,禁止发送。

  一些审核为了用户体验,也是必须的。我审过印象最深的视频,是四川一个工地,一个18岁的小孩,赤身裸体,在工房里看电视。他是手淫,他又不是手淫,他拿了一只老母鸡。你说这种东西我能给你发吗?我绝对不能。我不能保证这个视频小孩子看不到。他看到他学怎么办,一辈子就毁了。只是我一念之差毁了人一辈子,有多大罪。

  我爷爷死的时候我掀开布看他的脸,就觉得麻木。我为什么会没感觉,是我看过太多死人的事情。暴恐的那些,割人头,挖眼珠。还有一些新闻,飞行员失事,脑浆了一地,眼睛爆出来了。我们拦截这个,你说做的是不是好事呢?我觉得也挺有意义,对吧?

  入职七个月就可以叫老审核员,因为人员流动性太大。天天看死人的视频,谁受得了,看得都吐了。

  其实,审核这职业一直都有,只不过以前传统媒体时代不多,或者说比较隐蔽。部门最早入职的是领导,有审过10年视频的,有审过20年视频的。

  在可预见的未来,人工审核不会消失,这个行业只会越来越大。如果我在里面待10年,我以后可能就会带一个特别大的公司,专门接别的公司业务,审核信息。这是个趋势,因为信息传播越来越多,自审的东西非常多。

  机器为什么不能取代人?是因为机器是人喂出来的。视频的样式,在不断翻新,不断地增多,如果没有人喂,机器就是废物。即使现在AI可以自主学习,像阿尔法狗那样,但是这个东西是带有价值观,有思考在里面的。如果机器会思考,那就是另一个问题了。所以人工审核不会消失,这在我们公司和业内,都是共识。

  5

  我一直想离职,钱也少,心理压力也大。我们的口号有几个:认真审、别出错、执行效率要高。整个办公室都贴着横幅,严防死守安全关这一类。

  晋升渠道特别小。要升小组长,熬一年两年,领导喜欢你,你会来事,会说话,业务还好,就有可能提拔了。但这基本也到头了,升不上去了。

  我经过两个小组。第一个组长非常好,是个女的,比较关心人,觉得还挺温暖的。第二个组长是男的,他学考古的,然后来这儿做审核。我这人的脾气是直来直去的那种,但他有问题就不说,觉得领导说什么就应该是什么。我跟他关系就僵了。

  他们组长之间也会有一些矛盾,还搞孤立。特没劲。

  我的同学都去做新媒体、广告去了,收入是我的几倍。我当时在班上算尖子生,结果混得很差。

  很多同学都以为我是鉴黄师。我说这行跟鉴黄差远了。你要光让我看黄片,我不用看,直接就下了,还快,对我没有任何影响。我巴不得审核黄片,让我缓缓心情。我每天看那种低质视频,一个傻逼跟你说教,教你如何做人,职场上该如何说话。这种视频,一天听一百个、听两千五百个,你听吧。一天能接受,一个月、一年都这样,你会干吗?

  同事们普遍觉得这是份垃圾工作,没有任何前途。KPI考核也不公平,升职空间也没有。

  我到后来就易怒,抑郁。有一段时间我就不想活,想死。整个人休息也休息不过来,住的地方、公司、住的地方、公司,一个人所有的都为了公司存在。逼得我没办法,去玩了一圈,还稍微缓点了。我想,只要离职了,就贼开心。我发现离职的同事,都是这样。离职之后第一个选择,就是自己待一些日子,或者选择出去玩,然后干自己想干的工作。很少有直接跳槽的。大家都太累了。

  当然也有做的得开心的,比如一个同事,211大学的,比我早来四个月,一路顺风顺水。手里也有生杀大权,能制定审核标准,你做一个小时的视频他一句话就能下线。但他什么都不懂,还问我一些审核常识问题,都是培训过的。

  有人曾经说过,为什么网上发的一些东西,莫名其妙就没了,都是一帮什么都不懂的小屁孩,坐在办公室删的。我现在明白了,我就是那帮小屁孩。

  这份工作对我今后也没什么帮助。我只能说,让我知道了现实生活中还有太多我们平时看不见的事情在发生。这是唯一的好处。

  —— 完——

最新推荐

习近平同菲律宾总统举行会谈习近平同文莱苏丹哈桑纳尔举行会谈习近平开始对文莱进行国事访问习近平出席亚太经合组织工商领导人峰会并发表主旨演讲

热门文章

毛泽东为什么要打倒陶铸

厉以宁成改革开放杰出贡献表彰推荐人选,公示还剩最后一天

当前中国腐败全景图文,太吓人了

顽石:武大郎何辜

志愿军强悍攻坚战照片,尽显二十世纪步兵战术巅峰

返回列表