번역: 정성미(국제팀, ISC)

* 본 기사는 르 몽드(Le Monde)의 “Violences faites aux femmes : Twitter, Facebook et YouTube accusés de laxisme” (http://lemde.fr/2BKLBDb)를 번역한 글입니다.

프랑스 양성평등위원회(HCE) 1 보고서는 온라인 폭력 가해자가 사회관계망서비스(SNS)의 ‘지나친 관대함’을 이용다고 주장한다.

페이스북, 트위터, 유튜브에서 여성에 대한 폭력적인 글을 쓰는 사람들이 ‘지나친 관대함’을 이용하고 있다. 이것이 양성평등위원회가 2월 7일 발행한 보고서의 결론이다.

2017년 6월과 7월에 양성평등위원회는 여성을 모욕하고, 위협하거나 도덕적, 성적으로 계속 공격하는 545개의 플랫폼을 적발했다. 그러한 플랫폼 중 7.7%만이 사라졌다. 양성평등위원회는 사이버폭력에 대항하기 위한 여성주의 모임 2 여성재단 3, 앙 아방 뚜뜨 연합 4이라는 3개 여성주의 단체와 함께 이 문제를 조사했다. 위원회는 총리의 지원을 받 폭넓게 발생하고 있는 사이버폭력에 대항한다. 2015년 9월 발행한 유엔 보고서에 따르면, 여성응답자의 73%가 온라인 상의 폭력을 마주했거나 폭력의 피해자가 된 적이 있다고 답했다.

유튜브는 그 어떤 내용도 삭제하지 않았다

이 문제와 관련하여 가장 나쁜 플랫폼은 유튜브이다. 유튜브에서는 198건이 적발됐으나 그 어떤 것도 삭제되지 않았다. 폭력적인 메시지 124건 중 17건(11%) 검열한 페이스북이 그 다음이다. 트위터는 193건 중 25건(13%)에 대해 조치를 취했다.

이 보고서에 따르면, 다른 것들보다 특정 형태의 메시지가 더 많이 삭제되었다. 페이스북은 폭력성으로 위협 요소가 확실한 메시지를 삭제했다. 그러나 명백하게 성적인 내용은 15.4%만, 한쪽 성이나 성적 지향을 집요하게 공격하거나 증오를 부추기는 내용은 9%만 삭제다. 트위터는 ‘명백한’ 폭력은 충분히 심각하게 받아들이고 100% 삭제한다. 그러나 성차별주의적 증오를 부추기는 내용은 17.4%만, 성차별적 공격은 8.2%만 문제로 받아들였다.

문제가 되는 글은 3개의 플랫폼 사용 규칙에 따라 삭제한다. 페이스북의 사용 규칙은 ‘증오를 부추기거나’ ‘타인의 성이나 성적 정체성으로 때문에 직접적으로 공격하는 모든 내용’을 금지하고 있다. 트위터와 유튜브도 비슷한 규칙 있다.

‘엄격하지도 않고 확실하지도 않은’ 거름 장치 5
보고서는 폭력적인 메시지 처리와 관련하여 발견되는 몇 가지 문제점을 지적한다. 보고서에서 양성평등위원회는 어떤 내용이 여러 측면에서 문제가 된다는 사실을 지적할 수 없는 것(예를 들면, 인종차별주의적인 동시에 성차별주의적인 내용을 처리할 때는 두 가지 특징 중 하나를 선택해야 한다.)이나, ‘공습’, 즉 다수의 네티즌   대상에게 메시지 공격을 퍼붓는 것을 알아차리기 위해 사용할 수 있는 도구가 없다는 사실을 아쉬워한다.

양성평등위원회는 또한 폭력적인 메시지 처리와 관련하여 ‘엄격하지도 않고, 확실하지도 않으며, 체계적이지도 않은’ 거름 장치를 비판한다. 이러한 약점을 보완하기 위해, 양성평등위원회는 여성주의 단체 협력하고, 신뢰할 수 있는 제삼자의 단체 설립을 권한다. 그러면 문제가 될 수 있는 내용이 단체들의 관점에 따라 검토될 수 있다.

인종차별주의나 반유대주의에 대항하는 단체 협력하여 싸우는 이러 대책은 트위터와 유튜브에서 이미 자리를 잡고 있다. 그러나 여성주의 단체는 빠져있다. 이에 반해 페이스북은 몇몇 여성 단체와 직접적인 관계를 맺고 있다. 이 단체들은 ‘고전적인’ 과정을 거치지 않고 문제가 되는 내용에 조치를 취할 수 있다. 따라서 문제가 되는 사진이나 글에 대 더 빠르게 조치를 취한다.

보고서는 반복적으로 나타나는 성차별주의적인 내용(이러한 내용의 1/3이 ‘창녀’라는 낱말을 포함하고 있다.)을 특정 알고리즘으로 탐지하고 제거하는 과정을 자동화할 것을 제안다.

아직 각 플랫폼은 이 제안 수용을 꺼리고 있다. 모두가 자동화 시스템을 사용하고 있기는 하다. 페이스북은 ‘리벤지 포르노’를 탐지하고 검열하는데 자동화 시스템을 사용하고 있지만, 다른 플랫폼들은 직원의 업무를 지원하는 데만 자동화 시스템을 사용하는데 그친다. 메시지를 받은 사람이 ‘특정 키워드를 제거하는’ 것을 허용하는 도구도 있다고 유튜브의 대변인은 밝혔다.

‘어둠의 지대’가 되는 것을 피하기 위해 플랫폼들도 노력하고 있음을 알리며 프랑스 페이스북의 공공 업무 담당자인 안톤 바테스티는 다음과 같이 이야기한다.

‘거름 장치의 주된 목적 합법적인 비판과 금지된 폭력을 혼동하지 않기 위해 맥락을 파악하는 것이다. ‘갈보’처럼 그 의미가 시대나 환경에 따라 바뀔 수 있는 낱말이 있다. 예를 들면, ‘갈보’라는 낱말은 낙태 시술을 받았다고 수백 명이 서명한 ‘343명의 갈보들’의 선언 6에서 사용되었다. 맥락을 파악하기 위해 우리는 거름 장치를 강화하고 인공지능에 투자를 늘리는 방식으로 인적, 기술적 투자를 하고 있다.’

우리는 더 멀리 나아가야 한다
우리가 더 멀리 나아가야 하고, 복잡한 문제를 해결해야 한다 인식하고 있다.’ 유튜브 관계자는 말했다. 트위터는 좀 더 실증적인 결과를 제시한다. ‘문제를 일으키는 계정에 대해 작년 같은 기간보다 10배나 많은 조치를 취했다.’ 트위터 프랑스 지부의 공공 업무 책임자인 오드리 에르블랭-스툽이 밝혔다.

양성평등위원회의 보고서는 온라인에서 여성에게 가해지는 폭력 문제에서 공권력의 역할을 일깨우고, 정부 역할을 제시한다. 온라인 상에서 성차별적인 폭력의 희생자 신체, 정신 치료 받도록 지원하는 이 이에 해당된다. 보고서의 저자 또한 그 문제에 관해 법이 더 엄격해야 하며, 플랫폼이 문제가 된 내용을 특정 기간 안에 삭제하도록 강제해야 한다고 주장한다. 독일에서는 서비스 제공자가 문제가 된 콘텐츠를 알게 됐을 때, 24시간 안에 처리해야 한다. 서비스 제공자가 이 기간을 넘기면, 정부는 그 서비스 제공자에게 5천만 유로까지 벌금을 부과할 수 있다.

Notes:

  1. le Haut Conseil à l’égalité entre les femmes et les hommes. 줄여서 HCE라고 한다.
  2. le collectif Féministes contre le cyberharcèlement.
  3. la Fondation des femmes.
  4. l’association En avant toutes.
  5. modération. 폭력적인 콘텐츠를 걸러 내는 수단, 방법 등을 뜻한다.
  6. Manifeste des “343 salopes”. salope는 ‘갈보’라는 뜻을 지녔으나 여기서는 낙태 시술을 받은 여성들을 말한다. 낙태가 불법이라 감옥에 갈 수 도 있었던 1971년, Le Nouvel Observateur라는 잡지 334호에 343명의 낙태 시술을 받은 프랑스 여성이 낙태를 금하는 것에 저항하기 위해 낙태 시술을 받았다고 선언하였다. 당시 여성해방운동을 이끌던 시몬 드 보부아르 같은 많은 여성 지식인들이 참여하였다. 그러나 시몬 드 보부아르는 실제로 낙태 시술을 받은 적은 없다고 한다.

LEAVE A REPLY

Please enter your comment!
Please enter your name here