소식지

지금 세계에는 무슨 일이 일어나고 있나?{/}[함께 읽는 정보인권] 21세기를 위한 21가지 제언

By 2020/08/24 8월 25th, 2020 No Comments
유발 하라리, 21세기를 위한 21가지 제언 책표지

글쓴이 │ 미루

유발 하라리는 21세기를 살아가는 오늘날 우리들에게 어떤 일들이 일어나고 있는지, 이런 상황들이 심화 됐을 때 어떤 일이 벌어질 수 있을지를 이 책 ‘21세기를 위한 21가지 제언’에서 그리고 있다. 이번 리뷰에서는 유발 하라리가 제안하는 여러가지 문제 중에 기술의 발전과 정보 사회의 심화에 초점을 맞추고자 한다. 유발 하라리는 21세기의 문제로 기술의 발전을 꼽는다. 기술이 발전할 수록 데이터의 중앙 집중화가 심화되고, 그렇게 모인 데이터는 흔히 말하는 ‘빅데이터’를 구성하며 이를 바탕으로 각 개인을 분석하고 예측한다. 이는 “나보다 나를 더 잘 아는 기계”의 탄생을 의미한다고 썼다.

AI 기술이 사회 곳곳은 물론 생활 전반에 활용되기 시작하면서 AI는 이제 더 이상 우리에게 낯선 개념이 아니다. 하지만 유발 하라리가 걱정하는 것은 AI의 발전만이 아니다. AI의 발전과 함께 생체 공학이 발전하고 이 둘이 융합되어 활용될 때 그 위험성이 극대화 된다고 강조하고 있다.

“우리는 지금 엄청난 두 가지 혁명이 합쳐지는 지점에 와 있다. 한편으로는 생물학자들이 인간 신체, 특히 인간의 뇌와 감정의 신비를 해독하고 있다. 동시에 컴퓨터 과학자들은 우리에게 유래없는 뎅터 처리 능력을 선사하고 있다. 생명기술 혁명과 정보기술 혁명이 합쳐지면 빅데이터 알고리즘을 만들어낼 것이고, 그것은 내 감정을 나보다 훨씬 더 잘 모니터하고 이해할 수 있다. 그런 다음에 권위는 아마도 인간에게서 컴퓨터로 이동할 것이다.” – 87 page

우리는 점점 더 많은 의사 결정을 AI에 의존하게 되어간다. 단순히 무엇을 할지 말지를 결정하는 문제가 아니다. 인터넷 서점은 내가 산 책을 기준으로 내가 볼 법한 책을 메인 페이지에 띄워주고, 나에게 새로운 책이 나왔다고 추천해 준다. 넷플릭스나 왓챠 같은 스트리밍 서비스를 제공하는 플랫폼도 마찬가지로 내가 봤던 영상을 기준으로 비슷한 영상들을 메인 페이지에 띄워주며 ‘이것도 볼래?’ 라고 유도한다. 페이스북과 트위터 등 SNS는 나와 비슷한 사람들의 비슷한 생각만을 보여주며 다른 의견을 접할 기회를 주지 않는다. 유발 하라리의 말 대로 우린 알게 모르게 지속적으로 인간의 권위를 AI에 넘겨주고 있는 것이다.

문제는 우린 이렇게 작동하는 알고리즘에 대해 제대로 파악하지 못한다는 것이다. 알고리즘이 어떤 방식으로 운영되는지, 어떤 기준으로 콘텐츠를 배열하는지 등에 대해선 만든 사람도 알 수 없다. 머신 러닝, 딥러닝을 통해 인공지능 스스로 학습하고 인간 대신 인간이 내릴 법한 결정을 내리기 때문이다.

이 책에서 유발 하라리는 ‘디지털 독재’에 대한 우려를 내비친다. 20세기 민주주의가 독재를 능가 한 것은 너무 많은 정보를 한 곳에 모으는 방법이 비효율 적임은 물론 충분히 빠르게 처리할 수도 없었기 때문이다. 하지만 21세기, AI의 발달과 저장 기술의 발달 등을 통해 모든 정보를 모아 처리할 수 있게 되었고, 그렇게 많은 정보를 처리하는데 그리 큰 비용이 들지도 않게 되었다. 특히나 “알고리즘 훈련에 관한 한, 프라이버시 침해 우려는 무시한 채 10억 인구에 관련된 모든 정보를 데이터베이스 한곳에 모으는 편이, 개인 프라이버시를 존중해 100만명에 관한 부분적인 정보만 데이터베이스에 두는 것보다 훨씬 낫다(114page)” 고 언급하고 있다. 유발 하라리가 우려했던 대로 정보혁명과 생체 공학 혁명이 함께 발전할 때, 이는 단순히 정보 독재 수준에서 끝나는 것이 아니라, 누군가의 감정, 이를 테면 누군가를 사랑하거나 증오하는, 혹은 지지거나 지지하지 않는 상태 까지도 조절이 가능한 새로운 형태의 ‘디지털 독재’ 시대를 마주하게 될 지도 모른다.

이처럼 정보의 독점과 이를 통한 디지털 독재는 빅데이터와 인공지능을 만나 유례없는 불평등 사회를 만들수도 있다. 최소한의 이유조차 모른 채 ‘알고리즘이 거절 했음’을 이유로 대출이 거절 당하고, ‘알고리즘이 부적합 하다고 결론 내렸음’을 이유로 더 무거운 형벌을 받거나 불합리한 이자율을 감당해야 할 수도 있다. 이렇게 되면 정보를 독점할 수 있는 극소수의 엘리트, 부유층 만이 모든 부와 권력을 손에 쥐고 대다수 사람들을 착취의 대상으로 삼을 수 있는 가능성을 열어주는 것이다. 게다가 알고리즘으로 인해 개별화된 차별은 같은 처지에 놓인 다른 사람들과의 연대마저 힘들게 만들 수 있다. 인종, 성별, 출생 지역 등에 따른 차별이 아닌 이유를 알 수 없는 개별적인 차별의 환경은 사회적 연대를 무너뜨릴 것이기 때문이다.
계속해서 이야기 했듯이 유발 하라리가 그리는 가까운 미래 정보 혁명 사회는 매우 디스토피아적이긴 하지만 충분히 현실 가능한 상상 이긴하다. 실제 유발 하라리는 한 인터뷰를 통해 사실 새로운 기술이 오늘날의 사회를 천국으로도 지옥으로도 이끌 수 있고 그 누구도 결과는 알 수 없다고 밝힌 바 있다. 하지만 그동안의 인류는 기술에 대한 철학적 논쟁이 끝나기도 전에 늘 새로운 기술을 발전시켜 왔고, 그것을 어떻게 적용할지 무엇이 옳은 것인지를 고민하기도 전에 새로운 것을 만들어 왔음을 이야기 했다.

그는 새로운 기술의 등장과 불평등의 심화 등의 문제로 인해 새로운 논의가 이루어 지고 있으며, 개별 국가 단위의 불평등이 아닌 전 세계적인 국제적 차원의 불평등을 논의해야 한다고 강조했다. 이번 코로나19 사태에서도 나타나듯이 이제 더 이상 한 국가의 노력만으로 해결할 수 있는 문제는 거의 없어질 것이다. 미래를 예측하는 것이 아니라 미래에 어떤 영향을 미칠지를 고민해야 하며 좁은 관점, 기술 중심의 관점만을 가지는 것이 무엇보다 위험하며 발생할 수 있는 가장 최악의 상황을 예측하고 이에 대한 대책을 마련해야 한다고 강조했다.