소식지표현의자유

[해외 정보인권] ENDitorial: Can design save us from content moderation?{/}‘혐오표현’에 대항하기: ‘설계’는 ‘콘텐츠 관리’로부터 우리를 구할 수 있을까?

By 2018/08/16 No Comments

편집자주 : ‘혐오표현’이 범람하는 시대를 마주하고 있습니다. 여성, 장애인, 성소수자, 노인, 난민 등 사회적 약자를 향한 혐오표현이 날이 갈수록 심해지고 있습니다. 혐오표현에 대응하기 위한 사회각층의 논의가 활발히 이루어지고 있지만, 이렇다할 해결책은 나오지 않습니다. 특히 온라인 상에서의 혐오표현은 빠른 속도로 퍼지는 것은 물론, 쉽게 지울수도 없을 뿐더러 그 처벌도 쉽지 않지요. 단순히 콘텐츠를 지우거나 계정을 삭제하는 것으로 혐오표현을 막을 수 있을까요? 관리자가 지속적으로 사용자들이 올리는 게시물을 들여다보고 문제가 될 수 있는 콘텐츠를 지운다는 것은 결국 끊임없이 누군가에 의해 개인의 게시물이 검열당하고 있다는 것을 의미합니다.

혐오표현을 억제하겠다는 이유로 표현의 자유를 특정 개인이 억압하는 것은 분명 정당한 방법은 아닐 것입니다. 공간을 처음 설계하는 단계에서부터 개인의 정보 통제력을 강화하고 이용자들의 참여를 유도할 수 있는 방법을 고민하는 것이 그 시작일 수 있습니다. 이 칼럼은 혐오표현과 공격으로부터 커뮤니케이션 공간을 모두에게 보다 안전한 공간으로 만들고자 하는 고민을 담고 있습니다.

번역오류는 mirulee 골뱅이 jinbo.net 으로 알려주세요.

제목 : ‘혐오표현’에 대항하기: ‘설계’는 ‘콘텐츠 관리’로부터 우리를 구할 수 있을까?
원문 : ENDitorial: Can design save us from content moderation?
작성 : 2018년 5월 16일, Bits of Freedom

‘혐오표현’에 대항하기 :
‘설계’는 ‘콘텐츠 관리’로부터 우리를 구할 수 있을까?


우리의 커뮤니케이션 플랫폼은 인종주의, 혐오 선동, 테러리스트의 프로파간다, 트위터-봇 군대에 의해 오염되었다. 일정부분은 우리 플랫폼이 설계된 방식에 기인하기도 했다. 이 문제의 “해결책”으로 콘텐츠 관리 혹은 반대성명을 낸다거나 하는 것은 부족하다. 스마트 설계가 플랫폼에 미칠 악영향을 완화할 수 있을까? 우리의 플랫폼이 주목을 끌기 보다는 참여하는 방식으로 구성된다면 플랫폼은 어떤 식으로 작동하게 될까?

유해한 콘텐츠를 제한하기 위해 대부분 두 가지 쟁점 혹은 해결책에 집중하는 편이다. 첫 번째는 콘텐츠를 관리하는 것이고 두번째는 반대 성명을 내는 것이다.

 

콘텐츠 관리

정부와 거대 네트워크 플랫폼 사이의 관계는 꽤나 복잡하다. 이런 플랫폼들이 어떻게 작동해야 하고 규제해야 하는지는 페이스북이나 유튜브를 인터넷의 열린 공간으로 보느냐 혹은 닫혀있는 사적인 공간으로 보느냐에 달려있다. 사실 진실은 그 가운데 어디쯤 놓여있다. 이런 공간들은 사적인 공간이면서 공적인 공간으로 사용되기도 하며 시시각각으로 확대되고 강해지기도 한다.

이런 상황에 직면했을 때, 정부가 아무런 대응도 하지 않는 것처럼 보이고 싶지 않을 경우에 정부는 플랫폼들이 행동에 나설 것을 촉구한다. 그러면서 노련하게 정부의 책임을 회피하는 것이다. 공적 책임을 사적 영역에 떠넘기는 것은 – 책임이 수반하는 것들이 매우 모호 할 때는 – 여러모로 해로울 수밖에 없다.

1. 플랫폼들의 과도한 검열: (플랫폼에 책임을 넘기는 것은) 플랫폼들이 사용자가 올린 콘텐츠에 대해 (법적으로든 정치적으로든) 사과하는 것보다는 안정성을 추구하도록 만든다. 다시 말하자면, 플랫폼들이 콘텐츠나 계정을 어떤 이유로든 삭제할 수 있는 범위를 확대하는 방식으로 약관을 작성할 수 있다. 의심의 여지 없이 이는 플랫폼이 온라인에서는 존재해선 안 되는 콘텐츠를 끌어 내리는데 도움을 줄 테지만, 사실 이미 온라인에 존재할 권리가 있는 많은 콘텐츠마저 삭제되고 있다.

2. 다국적 기업들(multinationals)이 무엇이 옳고 그른지 결정할 것이다: 미국의 다국적 기업들에 의해 당신의 표현의 자유가 규제된다는 말은 (콘텐츠가) 미국의 도덕적 범주에 부합하거나 미국 기업들의 이익에 부합하지 않는 한 당신이 들을 수 있는게 아무것도 없다는 것을 의미한다. 이런 경우도 가능하다: 만약 페이스북이 국가들 각각의 요구에 따르기로 한다면 – 왜 안 그렇겠나? – 전체 정보의 일부분만이 해당 국가들의 모든 구성원에게 받아들여질 수 있는 정보라고 여겨질 것이다.

3. 민영화된 법 집행이 실질적인 법 집행을 대체할 것이다: 콘텐츠를 내릴 수 있는 권한을 기업에게 주는 것은 민영화된 법 집행의 한 형태로 실질적인 법 집행이 전혀 개입되지 않는 것을 의미한다. 그같은 행동을 통해 법적 시스템을 우회하게 되고 실질적으로 법집행 전에 이를 방어하고 이의제기해야 할 사람들이 그것들을 할 수 없게 만든다. 부당한 방식으로 콘텐츠가 이동된 경우, 이용자들은 이의제기를 할 수 있는 아주 적은 수단만 가지게 되는 것이다.

4. 더욱 취약해질 것이다: 기업들이 국제법이나 국가의 헌법에 구애받지 않고(혹은 방해받지 않고) 정부가 합법적으로 실행하지 못했던 방식으로 우리를 규제할 수 있는 상황을 일반화 시킬수 있다. 점잖게 말하더라도 이런 방식의 해결책은 뻔뻔하게 성공했다고 할 수도 없는 방법이다.

 

반대성명

다른 방법으로, 반대성명의 핵심은 혐오표현의 해결책이 자유로운 발언이라는 믿음이다. 표현의 자유 없이는 민주주의가 제대로 작동할 수 없겠지만, 이런 주장은 사회 전반에 퍼진 사회 권력의 불균형, 미디어와 소프트웨어, 아이디어 등이 퍼뜨리는 구조적인 성차별과 인종차별을 전혀 고려하지 않은 주장이다.

브루스 슈나이어(Bruce Schneier)가 말하길: “[기술은] 양쪽 모두의 힘을 극대화 시킨다. 힘이 없는 자들이 인터넷을 발견했을 때, 그들에게 갑자기 힘이 생겼다. 하지만 […] 결국은 힘있는 조직들의 잠재력이 깨어나고 결국 그들이 더 큰 힘을 갖게 된다”고 했다. 우리는 사회적으로 불균형한 구조가 유지되는 한 모든 목소리는 동등해질 수 없다는 것을 알아야 한다. 그리고 그때 까지는 반대 성명은 절대 혐오표현의 해결책이 될 수 없다. 따라서 이 방법 역시 (해결책이 되기엔) 부족할 것이다.

 

설계의 문제

(이런 과정에서) 우리는 설계를 고민하게 됐다. 인터넷이 혐오 표현에 책임이 없듯이, 우리는 이런 문제를 해결하기 위해 설계 자체를 볼 수도 없고 봐서도 안 된다. 하지만 설계는 커뮤니케이션 플랫폼에 더 큰 악영향이 미치는 것을 완화시킬 순 있다.

우리가 최근에 본 예를 하나 소개하고자 한다. 2015년 코더이자 작가이며 활동가인 코랄린 아다 엠케(Coraline Ada Ehmke)는 깃허브(GitHub)의 통신 및 안전 팀에 합류할 것을 제안 받았다. 이 팀의 임무는 “깃허브를 소외된 자들에게 더욱 안전하게 만들고, 프로젝트 운영자가 그들의 커뮤니티를 더 나은 공간으로 만들 수 있도록“하는 것이었다.

엠케 역시 깃허브에서 괴롭힘을 경험한 적이 있었다. 몇 년 전, 누군가가 12개의 저장소를 생성했고 그것들에게 모두 인종차별적 이름을 부여한 것이다. 이 사람은 코랄린을 그 저장소의 기여자로 추가했고, 그래서 누군가 그녀의 페이지를 볼 때, 기여자의 이름으로 – 인종차별적인 언어로 온통 뒤덮힌 페이지를 보게 되는 것이다.

엠케가 (팀을) 시작하고 몇 달 후에, 그녀는 “기여자 초대”라고 불리는 방식을 만들었다: 프로젝트에 초대하는 것이다. 이는 기본적으로 당사자의 동의 없이 다른 이용자를 프로젝트에 추가할 수 없게 하는 것이다. 그녀가 겪었던 괴롭힘이 다시는 발생할 수 없는 상태가 된 것이다 허튼소리를 걸러내는 대신에 혹은 귀찮고 비효율적인 과정을 거쳐 허튼소리들을 지우는 것 대신에, 엠케가 한 것은 기본적으로 이용자 자신의 공간에 대한 통제권을 부여한 것이며 허튼짓이 애초에 실현되는 것을 막는 상황을 만든 것이다.

“검열”은 “콘텐츠 관리”의 다른 이름이며, 이후에 거대 기업에 책임을 맡기는 것은 우리가 앞으로도 계속해서 지금과 같은 자유를 누리고자 한다면 이는 좋은 생각이 아니다. 인터넷이 모든 사람들에게 동등한 목소리를 부여할 것이라는 순진한 생각을 계속 가지고 있는 것 역시 마찬가지다. 우리가 해야 하는 것은 인터넷이 (모두에게) 오픈된 상태로, 표현의 자유와 이용자를 보호할 수 있는 안전책을 만드는 것이다. 스마트 설계가 이에 도움이 될 것이란 걸 엠케가 보여준 것이다.

 

당신이 할 수 있는 것

활동가의 경우: 일의 성공을 위해 이런 플랫폼들에 의지해선 안 된다. 페이스북, 구글, 트위터가 당신과 당신 커뮤니티 구성원들 사이의 문지기가 되지 않도록 해야하며, 1만 자로 가득한 약관 “동의”란에 서명하는 일에 동의해선 안 된다. 당신이 싸우고 있는 로비스트, 기관, 회사나 정부 사람들처럼 당신이 생각하는 것 이상으로 사용하고 있는 기술에 대해 비판적이 되어야 한다. 당신이 사용하고 있는 기술이 중요하다.

마지막으로, 당신이 설계자일 경우: 문화적, 정치적 편견이 당신의 일에 어떻게 영향을 미치는지 인식해야 한다. 주의를 끌기보다는 참여를 촉진하는 상품을 만들어야 한다. 그리고 만약 당신이 인터넷을 보호할 수 있는 설계에 대한 아이디어가 있다면, 연락 바란다.