소식지

[해외 정보인권] AI and the Right to Freedom of Expression In the Age of Artificial Intelligence{/}인공지능 시대의 AI와 표현의 자유에 관한 권리

By 2018/09/19 No Comments

편집자주 : 빅데이터를 통한 사물인터넷과 AI 등 신기술에 대한 관심이 나날이 높아져가고 있습니다. 신기술을 도입한 상품들이 시장으로 쏟아져 나오기도 합니다. 그런데, 우리는 이런 기술들의 영향에 대해 정확히 인지하고 있을까요? 이런 기술들은 우리 삶에 어떤 영향을 미치게 될까요? Article 19는 AI가 표현의 자유 및 프라이버시에 어떤 영향을 미칠 수 있는지에 대한 보고서를 발행했습니다. 이번 글에서는 AI가 표현의 자유에 관한 권리에 어떤 영향을 미치는지 보고자 합니다.

번역오류는 mirulee 골뱅이 jinbo.net 으로 알려주세요.

제목 : 인공지능 시대의 AI와 표현의 자유에 관한 권리
원문 : AI and the Right to Freedom of Expression In the Age of Artificial Intelligence
작성 : 2018년 04월 25일, Article 19

인공지능 시대의 AI와 표현의 자유에 관한 권리


연계의 확립(Establishing the Nexus)

AI는 표현의 자유에 관한 권리에 중대한 영향을 미친다. 개개인이 온라인에 접근하고, 정보를 찾는 방법에 수 많은 AI 적용이 가능하다. 소셜 미디어 플랫폼이나 검색 엔진 같은 온라인 중개자들이 이용자가 관여하는 정보를 통제하기 위해 AI를 활용하는 방식이 갈수록 불투명하고 불가해지고 있다. 스팸 필터나 온라인 쇼핑몰에서 제공하는 ‘맞춤 추천’ 같이 무해해 보이는 것들도 있는 반면, 심각하게 유해한 영향을 가지는 것들도 있다.

AI를 동력으로 하는 감시는 심각한 악영향을 끼친다. AI 시스템은 눈에 띄지 않으면서 구석구석까지 영향을 미치는 것이 특성인데, (이용자의) 행동을 식별하고 추적하는 능력과 결부되면서 표현의 자유에 심각한 위축 효과를 줄 수 있다. 이는 자기 검열을 통해 자리잡게 되고, 공론장 뿐 아니라 사적 의사소통에서도 행동에 변화를 일으킨다. 영상 감시, 얼굴 인식, 행동 분석 등의 기술이 등장하면서 공공기관 및 사기업에 의해 표현의 자유가 침해되고, 프라이버시 권리의 가장 본질적인 것들을 침해한다. 특히나 대량감시는 프라이버시와 표현의 자유에 대한 불균형한 간섭인 반면, 표적감시(targeted surveillance)는 오직 법에 명시되어 있을 때, 법적 목표 성취를 위해 반드시 필요할 때, 해당 목표가 추구하고자 하는 바에 비례할 때에만 정당화 될 수 있다.

더구나, AI 시스템 안에서 온라인 중개자들에 의해 생성되고 이용되는 데이터 또한 문제이다. AI의 활용을 극대화시키기 위해 대량의 정보가 생성 및 수집된다. 이때 우려스러운 지점은 수집의 방법에 문제가 내포된 상태에서 데이터 세트가 구성되고, 이런 데이터 세트는 사회적 고정관념이 반영된 편견이 포함된 결과로 이끌 수 있다는 것이다. 그렇지 않은 경우라 할지라도 데이터 샘플은 전체 인구를 대표할 수 밖에 없다. 어느 상황에서든 데이터에서 AI 활용은 표현의 자유에 부정적인 영향을 미치게 할 수 있다.

예를 들어, AI 콘텐츠 관리 시스템이 소수 집단에서 종종 사용하는 속어나 은어 같은 특정 표현들에 대한 훈련이 되어있지 않다면, 이는 잠재적으로 해당 시스템이 합법적인 발언만 할 수 있도록 검열하는 방향으로 갈 수도 있다.

감시 외에는 AI가 표현의 자유에 관한 권리에 어떤 영향을 미치는지 포괄적인 개요를 제공하기는 어렵다. 이런 영향은 분야별, 맥락별로 구체적으로 나타난다. AI는 소셜 플랫폼의 온라인 콘텐츠 관리부터 스마트 홈(시스템)까지 적용 방식에 따라 다른 이슈를 야기한다. 이 단계에서 아티클19[1]는 해당 단체 5대 주요 업무의 측면에서 AI의 중요성을 고려하면서, 다음과 같은 이슈를 강조한다.

  • 디지털: 기술은 사람들이 그들의 표현의 자유를 어떻게 만들어 가는지, 어떻게 정보에 접근 하고 온라인을 통해 어떻게 소통하는지를 결정한다. AI는 개인이 어떻게 정보에 접근 할 수 있는지, 검색 엔진이나 소셜 미디어를 통해 인터넷에서 그들을 어떻게 드러낼지에 영향을 미친다. 인터넷 네트워킹에서 AI 사용이 증가하면서 인터넷 그 자체의 근본적인 기술적 작용에도 영향을 미친다. IEEE(Institute for Electrical and Electronics Engineers, 전기전자학회) 같은 기술적 표준 수립 기구들은 현재 안전하고 윤리적인 AI 시스템을 구축하기 위한 표준을 만들고 있다.
  • 시민공간: 시민공간은 개인들의 각자의 권리를 행사 할 수 있도록 하는 물리적이고 합법적인 공간을 말한다. 이 공간에 다양한 방식으로 AI를 적용함으로써, 그에 따른 영향(뉴스피드 알고리즘부터 스마트 시티 형태와 연계된 장치들 까지)도 증가하고 있다. 이런 응용 프로그램을 기반으로, 곧 AI 시스템이 의사결정 구조와 집은 물론 도시 전체에 이르기까지, 사람들과 공동체가 모이고 어울리며 집합하는 공간을 만들게 될 것이다.
  • 미디어: 미디어 다원주의와 미디어의 자유는 표현의 자유와 함께 세계화하고 디지털화하고 집중되는 미디어 환경에서 공공의 이익을 보호하고 증진하기 위한 근본적인 요인이다. 제한된 숫자의 디지털 회사가 온라인 미디어 콘텐츠의 주요 전달자가 될 지도 모른다는 위험도 존재한다. 만일 회사들이 불투명한 AI 시스템을 활용하여 정보(뉴스 사이트나 이메일 필터링 같은)에 순위를 매기면, 이용자들은 계속해서 아무것도 모른채 있게 된다.
  • 투명성: 공적·사적 영역 모두에서 투명성 및 정보의 접근은 민주적인 거버넌스를 확립하는 핵심이 된다. 더욱이 정보접근과 관련된 결정은 전통적으로 사람에 의해 이루어 졌으나 지금은 AI에 의해 주도되고 있다. 이런 시스템들은 중요한 정보를 선택적으로 배제하거나 강조할 수 있는 기능을 가지며, 정부가 투명성이 결여 된 채로 AI 시스템을 설치하여 활용하게끔 한다.
  • 보호: 표현의 자유와 정보의 자유를 지키기 위한 최전선은 반드시 표현의 자유를 위한 강한 법 체제와 표현의 자유에 대한 효과적인 보호 수단, 적법 절차와 단체와 활동가들의 적극적인 네트워킹으로 뒷받침 되어야 한다. AI 활용에 있어 특히 감시와 검열 혹은 타겟팅은 정부 및 기타 강력한 기관과 기업의 관점에서 논란이 되는 방식으로 표현의 자유를 행사하는 사람을 대상으로 할 수 있어 문제가 된다.

[1] ARTICLE 19, The Expression Agenda Report 2016-2017, available from: https://www.article19.org/wp-content/uploads/2017/12/Expression-Agenda-Report-2017-for-web-_30.11.17.pdf  ㅣ  ☞ 본문으로