"시계 태엽 오렌지"는 폭력적인 이미지와 많은 사람들이 오해 할 수있는 모호한 메시지로 인해 많은 국가에서 금지 된 것으로 유명한 Stanley Kubrick 영화입니다. 그 안에서 폭력적인 청년이 당국에 잡혀 그의 성격, 자유 의지, 즉 그를 좋은 사람으로 만드는 방법을 적용하는 것을 억제하는 테스트에 노출됩니다. 어떻게했을까요? 충격 치료를 통해 : 대상은 영구적으로 눈을 뜨고 있는 거대한 스크린 앞에 묶여 있고, 몇 시간 동안 불쾌한 장면을 보도록 강요 당합니다. 그가 석방되고 폭력적인 행동을하고 싶은 충동을 느끼면, 그가 며칠 전에 자신을 발견 한 상황에 따라 구역질이 발생합니다.
이것이 검열 센터가 Facebook에서 작동하는 방식입니다.
이제 대기업의 경우 폭력적이고 불쾌한 이미지, 혐오스러운 콘텐츠, 모욕, 참수 동영상을보고 있다고 상상해보십시오. 이 센터에서의 작업은 다른 사람들이 볼 수있는 것과 볼 수없는 것을 결정하는 데 도움이됩니다. Mark Zuckerberg의 소셜 네트워크에서 금지하는 콘텐츠와 관련하여 검열을 관리하기 위해 Facebook이 전 세계에 마련한 20 개 센터 중 하나에서 일합니다. Eldiario.es는 바르샤바 또는 리스본과 같은 도시에있는 이러한 센터의 출처와 해당 요원이 검열을 적용해야하는 조건을 보여주는 문서에 액세스했습니다.
이 문서들에 따르면 페이스 북의 도덕과 선한 행위자들은 비참한 상황 에서 일해야합니다 . 수백 명의 사람들이 그로테스크 한 콘텐츠가 발생하는 화면을 지속적으로 응시해야하는 창없는 사무실에서이를 제거하고 확산을 방지합니다. 그들은 'A Clockwork Orange'의 Álex와 같이 그러한 행위의 결과가 무엇인지 충분히 이해하지 못한 채 하루에 8 시간 동안 끔찍한 이미지에 노출되는 대상입니다. 우리가 많이 이야기하는 알고리즘은 당신과 나 같은 사람 일뿐입니다.
그들의 육체적 정신적 노동 조건은 극심합니다
총 15,000 명이 그런 센터에서 일합니다. 그들 중 많은 사람들은 100 % 공정한 것이 불가능하고, 작업하는 조건에서, 작업의 특성으로 인해 실패가 지속적으로 발생할 수 있다고 주장합니다. Facebook의 검열 직원은 한 달에 700 유로를 청구하며 국제 컨설턴트를 통해 하청 계약을 맺습니다. Facebook 에서 일한다고 누구에게나 말하는 것은 금지되어 있으며 항상 '고객'이라고 언급해야합니다. Eldiario.es는 익명 성을 유지해야하는 이러한 유형의 센터 직원 3 명의 진술을 입수했습니다.
근무 조건이 극심합니다. 8 시간 교대 로 쉬는 시간 은 30 분이고, 시각적 휴식을 취하고, 다리를 펴고, 화장실에 가고, 심지어 식사를하기 위해 매 시간마다 관리해야합니다. 방에는 항상 부적절한 행동을 기록하고 처벌하는 리뷰어가 있습니다. 직원이 이미지를 선택하는 동안 멈추거나 물을 마시거나 무언가를 상담하기 위해 휴대폰을 꺼내는 것은 제재의 이유입니다. 또한 직원 스스로가 처벌 가능한 행동을하는 동료를 본다면 포인트 프로그램을 통해 서로를 비난하도록 권장합니다.
당신의 직업은 무엇입니까?
작업은 다음과 같이 작동합니다. 직원은 그 앞에서 사용자의 불만이 더 많이 쌓이는 모든 콘텐츠가 발생하는 화면을 앞에두고있다. 그런 다음 작업자는 두 개의 '삭제'옵션이 있으며,이 옵션을 사용하여 Facebook의 규칙을 위반하지 않는다고 판단되면 콘텐츠를 0 '무시'로 삭제합니다. 각 사람은 하루에 최대 600 개의 사례를 분석 할 수 있으며 두 개의 결정 버튼 중 하나를 각각에 대해 총 30 초 동안 눌러야합니다. 물론 이러한 센터에 대해 현재 알려진 모든 것을 고려하여 불의가 저질러지는 것은 당연합니다.
신문은 인터뷰 대상 직원이 개입해야하는 실제 사례의 예를 제공합니다 . 예를 들어,이 이미지는 유방암에 대해 경고하는 그림 인 그들에게 나타났습니다.
이미 작동하기 시작한 알고리즘 중 하나 인이 자동 알고리즘은 여성 젖꼭지를 볼 수있는 이미지입니다. 그러나 이미지가 유익한 경우와 같은 예외가 있습니다 . 위의 그림을 보면 직원이 암에 대한 일반적인 관심 정보이며 에로틱 한 성격의 이미지가 아니기 때문에 이미지를 '잠금 해제'해야한다는 것이 분명해 보입니다.
다른 부분에서 우리는이 중재자들이하는 일이 어떻게 그렇게 복잡 할 수 있는지 봅니다. 아동 괴롭힘 행위를 나타내는 밈인가요? 직원은 30 초 이내에 제거 여부를 결정해야합니다. 이것은 실제 인터뷰 의 스냅 샷 이며 비만은 장애로 간주되지 않습니다. Facebook에서는 누군가가 장애인 그룹에 속하지 않는 한 누구에게도 불쾌감을 줄 수있는 어떤 것도 삭제되지 않습니다. 이 경우 중재자는 '무시'버튼을 선택합니다.
페이스 북 검열의 모순
다소 명확 할 수 있지만 Facebook 규칙의 모호함이 드러나는 다른 많은 경우에 포함되는 두 가지 예입니다. 예를 들어 Hitler를 언급하는 콘텐츠는 자동으로 삭제됩니다. 단, 프랑코의 사과 내용은 허용됩니다. 리뷰어 중 한 명이 페이스 북에서 파시즘이 허용된다는 주장을 자문했습니다. 아무 일도 일어나지 않을 무솔리니의 사진으로 벽을 채울 수 있습니다. 그러나 히틀러를 조심하십시오 . 또는 여성 젖꼭지.
페이스 북 검열 자들이 내려야하는 가장 미친 결정 중 하나는 그들이 테러리스트인지 아닌지를 결정하기 위해 아랍 남성의 턱수염 의 크기를 고려하는 것입니다 . 또한 인터뷰 대상자들은 특정 그룹에 혜택을 주어야한다는 명확한 이중 기준을 비난합니다. " 특정 신념을 모욕하는 것은 허용되고 다른 신념은 완전히 금지 됩니다." 예를 들어, 시오니즘. 이스라엘이 팔레스타인에서 벌인 학살로 인해 이스라엘 제품에 대한 불매 운동을 요구하는 것은 모두 검열됩니다. 또한 콘텐츠가 Facebook에서 제거 될 가능성은 콘텐츠가 사라지는 데 관심이있는 그룹의 권한 및 조직 능력과 관련이 있습니다.
앞으로 이러한 페이스 북 직원들이 갖게 될 심리적 결과 와 그들이 콘텐츠 조정에 제공하는 독특한 이데올로기 적 사용은 계속 지켜 볼 것입니다.