뉴스레터(7월) 164호

지난 7월 20일, 16개 시민사회단체와 국회의원 장경태, 황운하(더불어민주당), 장혜영(정의당)은 국회토론회 <EU와 미국은 왜 인공지능을 규제하려는가? 소비자 안전과 인권 보호를 위한 인공지능에 대한 각국의 노력이 주는 함의>를 공동개최하였습니다.  김병욱 변호사의 사회로 유승익교수와 허진민 변호사의 발표가 있었습니다.

유승익교수는 인공지능이 인권과 민주주의에 미치는 영향과 인공지능법안의 쟁점에 주목합니다. 먼저, 통제되지 않는 빅테크에 의해 개발되는 인공지능 기술로 인해 가짜뉴스가 넘쳐나고, 무엇이 진실인지 알 수 없으며, 일자리는 기계에 의해 대체되고, 빅데이터에서 예상하지 못한 행동을 학습하고, 킬러로봇과 같은 자율살상무기가 현실화될 수 있다는 점 등 인공지능의 위험성을 지적합니다. 인공지능시스템이 갖는 부정적 영향과 잠재적 위험성은 인권과 민주주의에 치명적이라는 거죠.

유럽연합(EU)을 비롯하여 세계 여러 나라는 인공지능 기술의 위험성에 대한 예방적 조치로 입법을 준비하고 있으며 국내에서도 인공지능법안에 대한 입법절차를 진행중입니다. 그러나 “국내 인공지능법안의 “우선허용･사후규제 원칙”은 인공지능 기술에 잠재한 위험에 대처하기에 부적합하며, 산업육성에 반드시 유리한 방식도 아니”라고 지적합니다. 우선허용･사후규제 원칙은 규제에 대한 예측가능성을 떨어뜨려 문제가 될 수도 있다는 것이죠,

EU는 인공지능의 위험을 4단계(수용불가(금지) 위험/고위험/저위험/최소위험)로 분류하고, 각 수준에 따라 공급자와 사용자에게 다른 의무를 설정하고 있는 반면에 국내 인공지능법안에서는 “금지되는 인공지능을 규정하지도 않으며, 생명･안전･기본권에 미치는 중대한 위험성이 예상되는 영역을 별다른 근거 없이 제외”하고 있다고 설명합니다. 또한 “인공지능 정책의 주관 기관을 기술관료 중심의 과기정통부로 설정함으로써 산업편향적인 인공지능 정책 거버넌스에 치중”하고 있다는 거죠. 인공지능법안은 전면적으로 재검토되어야 한다고 주장합니다.

허진민 변호사는 먼저, 유럽연합(EU) 인공지능법의 제정에 이르기까지 그 경과와 EU 인공지능법 내용을 구체적으로 짚어주었는데요, 신뢰할 수 있는 인공지능윤리 가이드라인 주요내용과 인공지능 백서의 주요내용을 살펴본 후에 한국의 인공지능법안의 주요내용과 문제점을 들여다보았습니다. 인공지능법안의 수정 필요성을 강조했습니다.

EU는 인공지능 윤리기준 가이드라인의 내용과 인공지능백서의 내용을 토대로 논의를 하고, 위 내용들을 구체화하여 인공지능법을 만들었는데요, 국내 인공지능법안은 그렇지않다고 지적하고 있습니다. 특히, “인공지능법안은 지능정보사회 윤리 가이드라인에서 제시한 개발자, 공급자, 사용자가 준수해야 할 세부적인 내용보다 구체적이지 않으며, 인공지능 윤리기준에서 제시한 책임성,안전성, 투명성 핵심 요건들이 반영되지 않았음”을 지적합니다. 인공지능법안은 그동안 논의되었던 내용들과 EU 위험기반 방식의 규제체계에 대한 수용여부가 반드시 검토되어야 한다고 주장하고 있습니다.

시민사회 토론자는 정보인권연구소 장여경 상임이사, 소비자시민모임의 허유경 이사, 보건의료단체연합 전진한 정책국장, 정부기관 관계자 토론자는 과기정통부의 최동원 인공지능기반정책국 과장, 국가인권위의 김재석 인권정책과 과장, 개인정보보호위원회 이병남 정책과장, 공정거래위원회 강승빈 시장감시정책과 서기관, 국회입법조사처의 박소현 입법조사관 그리고 한국인터넷기업협회 김영규 정책1실장이 참여했습니다.

과기정통부의 최동원 과장은 세계적으로 위험성에 대한 우려가 생겨나기 시작했고, 규제 필요성에 대해서는 공감한다고 말합니다. 그러나 국가별로 법적규제와 자율규제의 방법적 차이가 있다고 설명합니다. 산업적 관점에서 보면, 미국과 영국은 기업들이 경쟁력이 있기때문에 자율규제방식이고,  유럽연합은 인공지능 산업을 보호하기 위해 법적 규제방식을 채택했다는 겁니다. 인공지능 규제와 산업진흥 측면 모두 고려할 필요가 있고, 균형점을 고민하고 있다고 강조합니다.

공정거래위원회 강승빈 서기관은 공정위가 오래전부터 알고리즘에 대해서는 편향성 문제 등 많은 조치를 취해왔는데, 생성형 인공지능은 급속도로 성장하면서 어떻게 해야할지 고민이 많다고 말합니다. 인공지능의 경쟁촉진 효과와 반경쟁적 악용 가능성도 있다는 점을 인정하면서 알고리즘의 자사우대, 네트워크 효과, 승자독식 방식 등은 반경쟁적 행위로 규제가 필요하다고 설명합니다. 공정위도 내부적으로 연구를 해보겠다고 밝혔습니다.

한국인터넷기업협회 김영규 정책실장은 인공지능이라는 파도와 글로벌 전쟁을 심각하게 받아들이고 있다고 말합니다. 인공지능 주권 여부에 따라 경제적 손실이 크다는 겁니다, 한국은 자국 플랫폼을 가지고 있는 나라이고, 규제법안이 우리나라 현실에 맞지 않다는 것이죠, 유연한 제도 운용이 필요하다고 설명합니다.

그 외 많은 토론자분들의 발언이 있었습니다. 자료집을 꼭 읽어보시길 강추드립니다! 이번 토론회에는 산업진흥 부서인 과기부뿐만 아니라 국가인권위, 공정거래위와 개인정보보호위 및 국회입법조사처 담당자 등 다양한 이해관계자가 모여 인공지능의 공공성 확보에 대해 논의했습니다.