인공지능기본법 시행유예안 반대한다
– 인공지능 위험으로부터 안전과 인권 보호는 시급한 과제
– 국회는 인권위 의견 수용하고 과기부는 인공지능법 예정대로 시행해야
지난 9월 1일 국가인권위원회는 국회의장에게 “인공지능기본법 규제 조항 시행 유예는 신중하게 검토”해야 한다는 의견을 표명하였다. 우리 시민사회는 국가와 기업이 인공지능 위험으로부터 시민의 안전과 인권을 보호할 것을 누차 촉구해 왔다. 국회는 인권위의 권고를 수용하여, 인공지능기본법을 시행유예하는 법안을 처리하지 않아야 한다. 이 법의 소관부처로서 시행령을 준비 중인 과학기술정보통신부 또한 인공지능기본법의 예정된 시행을 지체시켜서는 안된다.
지난 연말 국회를 통과하여 내년 1월 22일 시행을 앞둔 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(인공지능기본법)」은 충분한 안전장치를 마련할 것을 요구해 온 시민사회 눈높이에 많이 미흡한 것이 사실이다. 안전하지 않은 자율주행과 차별적인 채용AI 등으로 인해 시민 피해가 발생하더라도, 사업자가 학습데이터와 알고리즘 작동원리에 대해 필요한 문서를 갖추고 규제기관과 피해자에게 협조할 의무가 강력하지 않기 때문이다.
다만 인공지능기본법은 시민이 이 법 위반에 대하여 신고를 하거나 민원을 제기할 수 있도록 하였고, 과기정통부 장관이 사실조사를 통해 위반 행위의 중지 또는 시정을 명할 수 있으며, 사업자가 시정 명령을 이행하지 않는 경우 3천만원 이하의 과태료를 부과하도록 하였다. 이와 같은 중층적이고 간접적인 행정규제로는 피해를 신속하고 효과적으로 구제할 수 없다. 그럼에도 이와 같은 조치는 국가가 인공지능 위험으로부터 시민을 보호하기 위한 최소한의 규제이기 때문에 유예없이 즉각 시행되어야 한다.
그럼에도 인공지능 산업계는 산업 발전이 위축될 수 있다는 이유로 인공지능기본법의 시행 유예를 주장해 왔다. 황정아 의원이 대표발의한 인공지능기본법 개정안은 이 법이 시행도 하기 전에, 몇 개 안되는 사업자 의무와 책임 조항인 제31조부터 제35조를 3년간 유예할 것을 규정하였다. 시행유예 조항 중에는 딥페이크 생성물에 대하여 투명성 의무를 부과하는 내용도 포함되어 있다.
배경훈 과학기술정보통신부 장관은 인사청문회에서 인공지능기본법의 과태료 조항을 유예해야 한다는 입장을 밝히기도 했다. AI 위험성 대비라고 하기에도 초라한 과태료 조항까지 유예해야 한다는 입장은, 인공지능 위험 대비를 기업에게만 맡겨놓고 국가는 뒷짐을 지겠다는 선언이나 다름이 없었다. 이는 산업 진흥을 소관하는 부처가 안전과 인권 규제를 소관한 데서 나오는 근본적인 한계이다. 과학기술정보통신부가 곧 발표될 시행령과 가이드라인에서 이 문제를 어떻게 다룰 것인지도 귀추가 주목된다.
최근 주요 국가들의 경우, 정도의 차이는 있으나, 인공지능의 위험으로부터 시민을 보호하기 위한 규제를 도입하고 있다. 잘 알려진 유럽연합 인공지능법(EU AI Act)은 올해 2월 2일 금지인공지능 규제조항을 시행한 데 이어, 8월 2일부터 범용AI 등에 대한 규제조항도 시행하였다. 미국은 트럼프 정부가 연방 차원의 인공지능 규제에 부정적인 가운데서도 콜로라도주에서 포괄적인 인공지능법(SB205)의 시행을 앞두고 있고, 캘리포니아주도 학습데이터 공개 등 인공지능의 투명성(AB2013)과 공공AI의 책무성(SB896)을 의무적으로 요구하는 입법을 마쳤다. 코네티컷, 매사추세츠, 뉴멕시코, 뉴욕, 버지니아 주의회도 인공지능 시스템에 안전장치를 부과하는 법안을 추진 중이다. 우리가 AI의 국제적 수용성과 호환성을 고려한다면 이와 같은 국제적 흐름을 간과해서는 안될 것이다.
이재명 정부는 국정과제에서 AI 산업 육성을 강조하면서 개인정보 보호체계 확립, 오남용 대응 등 AI 신뢰기반을 조성하겠다고 하였다. 인공지능 제품과 서비스가 확산될수록 인공지능이 시민에게 미칠 영향도 더욱 커질 것이다. 행정기본법은 이미 완전자동화된 행정처분을 시행하고 있고, 사람을 대상으로 알고리즘이 대출여부를 자동화된 결정도 이미 널리 이루어지고 있다. 국가는 인공지능 위험으로부터 시민의 안전과 인권을 보호하기 위한 예방과 구제 조치를 취해야 할 의무가 있다. 시민사회는 최소한의 국가적 의무조차 유예하겠다는 인공지능기본법 시행유예에 반대한다. 국회와 과학기술정보통신부는 인공지능기본법의 규제가 예정대로 시행될 수 있도록 하여 시민의 안전과 인권을 보호하여야 할 것이다.
2025년 9월 3일
민주사회를 위한 변호사모임 디지털정보위원회, 진보네트워크센터, 정보인권연구소, 참여연대
