净网特工

delete... ignore...

That's the two actions that a content moderator does every day.

"I protect the user who uses the app", said one of the moderators, as the president tried to protect his people by killing all the criminals.

"One of the misconceptions is that human nature is human nature, and then technologies are just useful tools: it's not amplifying anything - but this is not true, because technology does have a bias, and that bias has a goal, it's actually seeking a goal, it's the goal it's seeking that what will get the most number of people's attention, what tends to work on billions of people that's successfully attracting their attention out of that, and keep it; and not just getting their attention but getting them to share things, and so it turns out that our rage is actually good at doing so"(Cleaners, 2018, 1h6m).

“I sacrifice myself, yes, there will always be sacrifices, it will always be a part of life... it's my job to prevent the sinful images, I'm a preventer“(1h21m)

这部纪录片真的非常值得看完了之后进行深思：

我仅敢列出以下的几个点供大家思考，而不敢自己妄下结论。

1.网络SC员通常被外包给第三世界国家的员工，差不多时薪为1美元。

2.长期成为网络SC员，精神上会受到长期的负面影响，因为黄色和暴力信息长期影响人体的身体健康。有的人为此而患上严重的精神疾病。有的人甚至宁愿捡真实世界的垃圾，也不愿意再干这个活。

3.如何鉴别信息不良不止是一个法律问题，有的时候还涉及到哲学上的争辩，比如电影中提到的例子：萨达姆被杀的过程与萨达姆尸体的影像之间的区别。

4.即使专家有的时候也很难做出选择，而这些审查员每天则要做出25000次选择，而其中如果漏判3次的话，就会失去工作。影响他们的是数量和绩效。 这是否导致SC员都会趋向于保守呢？

5.实际上我们现在看到的互联网就是，网络SC整理干净之后的互联网。而真正完整的互联网，可能只有审查员看到了。

6.我们也在用自己的键盘塑造着互联网。

7.互联网公司在各别国家和地区，可能要与这些政府达成协议的话，这样的行为究竟是该被定义为一个影响言论自由还是仅仅只是遵守当地法律的行为呢？这个问题本身还是很值得深思。（顺便提到，The Good Fight S03E08中就出现了一个例子，有一个律师就是利用好了这个争论，从而能够从互联网巨头身上敲上很大一笔竹杠，当然他并不是为了真的将这个话题在法庭上能够进行准确定义，而是为了能够对这个话题进行争论，并且利用媒体的报道对互联网公司进行公关方面的巨大压力，从而能够获得大笔的赔偿金。）

技术、媒介是中性的吗？傻子都知道不是。不然也不会有网瘾和杨永信了。

反过来看，而互联网曾经承诺的“连接每一个人”的乌托邦，在当今现实里的大图景到底是什么样子？

社交媒体，在总体上，是否将把我们的世界变得更好呢？

这几年对互联网和智能手机全球性地改变人的行为的嘲讽或自嘲也不少见了。

前不久又爆出脸书向剑桥分析泄露5000万用户而被用来操控选举的新闻。

上个月中下有哥本哈根纪录片电影节，偶然去看了这部 《清理者》The Cleaners。

片中播放了去年年末美国法庭关于 俄罗斯和2016年大选 Russia and 2016 Election Investigations 的调查。法官质疑，这三大公司的内容环境受到国际政治力量的左右，影响选民，以及被用来组织、散播、宣扬非人道的行动。唯唯诺诺中互联网公司的法律负责人（我不确定这里使用的名词是准确的）说到了自己外包了大量的员工来审核内容的事实。而脸书透露出，他们雇佣的审查者居然有数千人之众，而且未来还会继续增加人数。

——这些被雇佣的网管就是本片的主角，他们内部自称为“内容仲裁者”content moderator，所谓的“清理者”。这是一个驻扎在菲律宾马尼拉的公司，而他们的职业对于外界是一个秘密。

影片开始的时候，镜头在一间典型的现代白领办公室里，关着灯，只有一个人操作着一台亮着的电脑，并只能看到这个人面部的局部。背景音不断回放着，“删除”delete/“无视”ignore/“删除”delete/“无视”ignore……随后镜头跟随同一个主角描述ta夜晚上班的场景，穿过熙攘、喧闹、混杂的马尼拉的城市街道、高架桥，进入一栋漂亮的办公楼。在喧闹拥挤的亚洲城市里，做一项秘密却关乎数十亿人口的工作。这就是他们的工作内容，而操作看起来如此的简单，就是审核每天从全世界上传的上百亿的照片、图片，然后决定是要保留还是删除。

脸书内部关于上传信息内容规定的条例相当复杂，关于对暴力、色情的内容判定是否删除的规定，有一百多条。然而在去年被卫报曝出来以前鲜有人知。被采访者包括Google的负责人、工程师，面对镜头，检讨公司创始人们对中性技术的美好设想并没有尽到相关的责任；而另一方面也列出了关于支持自由者的质疑，包括一些内容被删的艺术家、摄影师。

“这些规定也让自由言论倡导者担忧。他们认为，Facebook可能已经成为了世界上最大的审查员，该事实敲响了言论自由的警钟。”

脸书提供的强大平台，涉及了一系列冲突明显的社会问题，包括美国内部的种族，西欧对移民的态度——到底是发泄不满，还是有组织的政治立场，这两者界限模糊。以ISIS为例的恐怖组织也在借脸书宣扬自己的。片中截取的片段。蛋最让我看不下去的是缅甸迫害罗兴亚人，一个母亲对着镜头哭诉自己的家庭怎样被迫害。——这种原本平缓融洽的文化混杂，被西方殖民者弄得互相仇视的例子早就不新鲜了。

传播能力的扩大，既然足够提供人与人的连接，也可以能让人与人更加分裂。爱是可以被传播的，那么仇恨也可以；敌意、仇视、偏见，技术本身不会过滤任何人人心里的东西。

回到清理者们，这项工作是否看起来十分简单？

然而，到目前为止机器/ AI还没有能力处理人类复杂的认知和表达。光是言论，根据不同的语境，是发泄情感还是表达真实意图都难以判断；再加上图像、视频中更加复杂微妙的视觉语言，机器对此无能为力。而这些内容仲裁者也有很大的负担：他们的神经每天要处理25000项图片或视频，而对每一张图片最多只有8秒钟做判断。这对大脑是巨大的负荷。

更糟糕的是，他们要经手的材料大多都是令人不适甚至不安的内容：色情、虐待、战争、恐怖组织的非人道行为——尽管在正式工作之前已经被训练去应对这些内容，但仍对他们的日常生活也造成困扰，也包括道德上的处境。

开头的场景展示了他们的两难处境，深处闹市，却做着全世界的网管，而工作内容也不能让身边的人知道——他们需要一个让自己心安理得的身份，当然也需要这份得体的薪水；他们不得不相信自己确实是在有尊严地维护秩序。很多人也因为上面这些原因放弃了这份工作。

技术到底带来了什么呢？纪录片的好处是，导演呈现给你的是各方视角和立场。这个问题暂且还不会有结论。

它是给我们所有人的问题。

片头片尾，截了两段扎克伯格对公众的演讲；看他如何表情坚定、豪迈地谈论脸书如何能够成就新的未来。

然后片尾字幕亮起，意味深长，留下片场一片唏嘘。

“太可怕了。太可怕了。”

我跟波兰的好朋友聊起感受，感觉出来的大概是对全球网络的这种无序状态和其无解的担忧。——就他所言，人们还是倾向于相信，世界是需要秩序的；但由谁来引导呢？现在的声音越来越多、越来越庞杂，到最后就是谁也不服谁。朋友说，这里为什么美国人会雇佣菲律宾人就很玩味了——菲律宾是个天主教国家，在价值观上跟西方基督教世界更相通。

技术悄然滋生的权力绕过了所有人的眼睛，但信息审查是真实存在的。（你看，我们的互联网环境在世界上也没有那么特殊嘛）

过去的“信息集权”提供了同一套世界的框架；哪怕你要质疑某个事实，要叫骂对着的也是同一个屏幕。而今天每个人都在自己的屏幕里接受现实，在传送到自己眼前的信息流里，营造自己世界的小泡泡——而且老一辈还带着上个时代的惯性：“那么多人都看了的信息，能不是真的吗？”。但外面还有个过滤的大泡泡呢。

信息是种权力无疑；我想对于很多人，这部片的隐喻是，我们以为今天的时代走向的是美丽新世界，其实背后并行着一个一九八四。——反正我对这种自由斗士的论调保持怀疑；有时不免有点“见到短袖子就想到裸体”的意思。

尼尔·波茨曼早在60年代就在《娱乐至死》里说过的话，到今天仍然适用：从有广播、新闻报纸、电视开始，这个世界的行动跟信息比率越来越小了，我们关注的大多跟自己眼前的事实、跟自己的生活无关。大多数事情不需要关注。而这个世界本身运行机制的复杂程度，远远超出一般普通人所能理解；这种理解也许是不必要的。 我们自己，是在为这个世界带来了更多的噪声，还是更多的秩序、平和呢？这个问题，互联网不会回答我们，技术也永远不会回答我们。

靠点击就能得来的东西并不真的属于我们自己。

这个世界会好的。不是因为技术，而是因为我们在把自己变好。

作為一個威權體制下的網民，看完這部紀錄片的第一感受便是：隔靴搔癢，過於浮泛。

社交媒體上出現的種種問題，其實也就是現實世界的反映。色情/血腥/恐怖組織/政治，每一個議題下都可以分化出無數的觀點與立場。紀錄片試圖用不到一個半小時的體量，以網絡審查員為主要視角進行全方面的探討，注定只能泛泛而談。

但我確實欣賞導演對不同立場的同等尊重。理论的说法叫做：“兩面說辭”。

對於色情的判斷標準。是藝術還是淫穢？

對於恐怖組血腥視頻的判斷標準。是非法傳教還是真實歷史記錄？

對於社會災難真實記錄的容忍度標準。是新聞的真實要求還是對苦難者的二次剝削？

對於不同政治觀念/仇恨言論的容忍標準。是憲法給予的言論自由保障還是民主社會的底線堅守？

不同人站在不同的立場與坐標，自會給出不同的答案。正如影片中所說：背景與身份決定了思維方式。而社交媒體這個平台無非是為不同立場、不同觀點的交鋒提供了舞台。平台背後商業資本、政治權力、民眾影響且深深塑造著社交媒體。

科技公司為了利益，會不斷滿足民眾的個性化需求進行算法推算，由此進行的信息推送最終造就信息茧房。民眾接受的信息內容越來越狹窄，加之同溫層相互抱團取暖，觀點自會越來越極化。

但我其實認為這樣的說辭有些高估了民眾的自主權與選擇空間。真正掌握且控制信息的還是那個無形的手。為了政權的穩定，可以要求科技公司進行IP鎖定，限制特定內容的瀏覽。自然也可以直接建造一個全球最大的局域網。以保護民眾之名（更多時候的常見話術是為了保護下一代）剝奪本可以擁有的自由。殘酷而又現實的未來構想“數字極權”，或許正在一步步到來。

我喜歡影片最後那位辭職的審查員說的那番話：不要逃避，不要麻木自身。

現實本身的苦難與黑暗是刪除不了的。（但我支持的是有底線的自由空間，並非放任自流）呆在一個溫良且無害的環境之中，會影響個體批判性思考能力，挑戰能力的訓練，逐漸縮緊自身表達的空間，放任民粹思想的氾濫。個體被迫或者無意識地逃避現實，逃避了公民所需承擔的責任。與此同時，語言本身也遭到了殲害。

只有在大量信息獲取的前提下，才能進行相對有效的信息判斷與審視。在簡體中文信息這個極其糟糕的環境下，一味地聽信與一味的不聽信，都是糟糕的能力體現。（孫楊一事的輿論風向轉變是極其具有參考價值的控制案例。足以以小見大。）（好像話題扯遠了orz......

說回正題來，對於影片中的審核員我內心十分同情，領著不高的薪金，每天都得直面黑暗與血腥。

但對於第三帝國的審核員，秉著一個沒有來由便被炸號的人的立場，我只能勉為其難的認可他們作為一顆不鬆動的螺絲釘所作出的努力。可轉念一想吧，我能體諒他們，誰來體諒我？

紀錄片裡提到的問題一時半會兒也解決不了。思想本來也無法統一，唯一要做的是建立一個文明包容的互聯網空間。全球都在右轉，樂觀的來說：或許此次疫情能成為契機，讓大家重新意識到全球化的重要性。開放包容的精神還能得到提倡。但悲觀的來說，歷史不會一直前進，要做好止步不前甚或倒退的準備。（或許在這個時候成為一顆第三帝國的螺絲釘不失為個體的良好選擇🌚（對不起，俺又在陰陽怪氣了

[纪录片赏析课作业01]

Ignore, Delete, Ignore, Delete ...... 这便是审查员的日常。

应该让世人知道，有审查员这样一群人在工作。他们依照规定审核发布的内容，确保社交媒体的安全。

员工的角度

开篇从员工的角度开始，员工感觉这工作是网络世界的安保人员，维护网络世界里面的秩序，避免有害内容传播。

员工都在菲律宾的马尼拉，这些就业让很多人脱离了以捡垃圾为生的困境，担当起家庭开支的重任。

工作强度有多大，每天的指标是 2.5 万个审核。那些员工可能没有开玩笑，可能真的会破吉尼斯纪录。

员工接触的内容有些哪些？儿童性交，暴力血腥，污蔑政治等内容。这些内容慢慢侵蚀人的头脑，审查员的心智感觉迟早会出问题。

平台的角度

平台角度，什么是不合适的内容？很难筛选。因为即便是由人来筛选甄别，也很难做好，别说是程序了。但平台是一定要承担这份社会责任的，有义务维护平台上内容的健康性。

为维护的工作上，也很难做好。平台会针对性地删除和屏蔽一些内容。Facebook 听从土耳其政府的要求，删除政治性言论、图片和视频。这个维护是不是过头了？

有的视频并不违反社交媒体平台的规定，不属于删除对象，但在土耳其被定为违法视频。对于这种情况，社交媒体平台的解决方法是根据 IP 来屏蔽土耳其的用户。

平台让言论传播更快速，言论自由便有遇到对立观点的情况，现实情况是，情况没有因此而促进双方的理解，反而激发矛盾。这种事情也怪平台吗？但平台确实有责任遏制散播仇恨。

其他的角度

从媒体的角度来看，像叙利亚处于战争的国家，很多血腥的图片或者视频，想引发社会的关注，但是也会被审核删除。

审查员的身心健康

审查员每天都在看这些充满暴力、血腥、仇恨、色情的视频，他们的身心健康，公司会保障吗？如果审查员跳过这些视频，这与公司的制度相违背，会有扣减业务分数的惩罚。确实有出现过，部分审查员由于受到每天看的视频的影响，在家上吊自杀。

“我觉得这项工作本事的存在就是一个秘密” 冲击性内容具有其绝对重要的含义这不仅仅关于ylzj的范畴 我是支持一定限度的审查许多不适内容对价值观未建立的小孩来说是很有破坏力的但一定是有限度的而我们是没有限度的除此之外任何言论都应该允许存在否则你是在歧视民众的受教育程度而受教育程度是你决定的这个电影应该使用中国社媒的素材不能因为“因为你是一时的不冷静而说出的不严谨的话就煽动的仇恨情绪导致最终却mz受害”而否认ylzj的重要性你认为你很道德你是在助纣为虐