누구를 위한 AI 기본법인가
– 입법 논의과정 공개하고, 충분한 공론화거쳐 입법 진행해야
– 산업진흥한다고 국민의 안전과 인권 외면하지 말아야
1. 어제(11/21) 국회 과학기술정보방송통신위원회(이하 과방위) 법안심사소위가 19개 인공지능법안(이하 ‘AI 기본법안’)을 심사하여 통과시켰다. 제정법을 만들면서 투명하게 공개되지도 않은 고작 한 두번의 심사로 충분한 논의가 가능했을지 의문이다. 언론이 보도한 내용에 따르면 통과된 AI 기본법은 AI 산업 육성에 치우쳐 있고, 시민의 안전과 인권을 보호하는데 미흡한 것으로 보인다. 우리는 국회 과방위 심사소위에서 AI 기본법을 졸속 심사한 것을 규탄하며, 남은 입법 절차에서라도 AI 기본법을 보다 공개적이고 충실하게 심사할 것을 촉구한다.
2. 그동안 정부여당과 기업은 기회 있을 때마다 우선 통과 후 보완을 내세웠다. 내용적으로는 시민사회의 적극적인 반대로 무산된 21대 과방위 인공지능 산업진흥 법안과 거의 대동소이한 법안의 통과를 압박해 왔다. 그러나, 사회 곳곳에서 이미 활용되고 있고 앞으로 더욱 확대될 인공지능은 산업진흥보다 더 중대하고 더 다양한 쟁점을 포함하고 있으며, 시민사회는 국회에 발의된 AI 기본법안에 대해 여러 차례 상세한 의견서를 제출한 바 있다. 특히 우리 시민사회는 인공지능이 국민의 생명과 안전 및 민주주의에 끼칠 위험을 완화하고 방지하기 위해서 기업에 실효성 있는 책임과 의무를 부과해야 한다고 주장해 왔다.
3. 그런데 국회는 인공지능의 위험과 관련하여 제기되는 수많은 쟁점을 다루는 이 제정법을 절차적으로 충분히 심사한 것으로 보이지 않는다. 과방위는 지난 9월 3일 7개 법안을 대상으로 심사소위를 개최했을 뿐, 19개 발의안을 대상으로 한 심사소위는 이번에 처음 개최하였다. 국회법 제58조(위원회의 심사) 제5항에 따르면 제정법의 경우 대체토론과 축조심사 및 찬반토론을 거치도록 하고 있다. 회의록을 통해 조만간 밝혀지겠지만, 과연 심사소위가 이 짧은 시간동안 다양한 쟁점에 대해 충분한 토론을 거쳐 충실한 축조심사를 하였는지 의문이 아닐 수 없다.
4. 지난 21대에서도 논의를 거쳤기 때문에 충분하다는 해명은 답변이 될 수 없다. 당시 국회 회의록을 보면 안건 상정에 대한 위원장의 선언과 몇 번의 질의 응답이 전부였다. 인공지능이 우리 사회에 가져올 엄청난 변화에 대한 인식을 과연 입법기관인 국회가 제대로 하고 있는지 의문이 들 정도였다.
5. AI 기본법의 심사 절차가 부실하였던 만큼, 내용적으로도 중요한 쟁점들을 다루지 않은 것으로 보인다. 기사에 따르면, 우선 금지된 AI에 대한 규정을 담지 않았다고 한다. 과학기술정보통신부와 산업계의 반발이 있었다고 한다. 그러나 지금까지 AI 윤리를 내세워 온 정부가, 사람의 신체적 또는 정신적 피해를 유발하거나 잠재의식을 활용하는 등 비윤리적 AI에 대한 규정조차 주저하는 것은 기만적이다. 금지된 인공지능의 규정을 반대하는 산업계 역시 비윤리적인 AI를 개발하겠다는 것인지 묻지 않을 수 없다. AI기본법은 우리 사회에서 금지하는 인공지능에 대하여 최소한의 규정이라도 두어야 한다.
6. 고위험(고영향) AI 사업자의 책무에 대한 벌칙 조항도 빠진 것으로 보인다. 정부의 사후 시정조치를 따르지 않을 경우 과태료를 부과하겠다고 하지만, 책무 불이행 자체를 처벌하지 않는다면 AI 기본법에서 규정하고 있는 고위험 AI 사업자의 사전적인 책무 이행을 어떻게 보장하겠다는 것인지 알 수 없다. 의료기기, 경찰, 채용, 대출심사, 교통수단 등 시민생활과 밀접한 관련이 있는 고위험 AI가 사고를 일으키거나 인권을 침해했을 때도 그 책임을 가릴 수 있는 충분한 자료가 구비되지 않을 수 있다. 고위험 사업자의 책무 불이행에 대한 제재 규정은 반드시 마련되어야 한다. 그 외에도 시민사회가 제기했던 수많은 쟁점들이 있었는데, 어떻게 처리되었는지 현재로서는 확인하기 어렵다.
7. 국회 과방위는 방송 이슈에 대해서는 그렇게 격렬하게 싸우면서도, AI 기본법에 대해서는 언제 그랬냐는듯이 산업 진흥을 위해 일치 단결하는 모습을 보여주었다. 헌법기관인 국회는 국민의 기본권 보장 역시 중요한 책무로 지고 있다. 충분한 사회적 대화 없이 산업 진흥만을 위해 법안을 밀어붙이는 정부 여당도 문제지만, 시민의 안전과 인권을 외면하고 완화된 규제를 선택한 거대 야당에 대해서도 실망을 표하지 않을 수 없다. 다음 주로 예정된 과방위 전체회의에서는 AI 기본법의 무조건적 통과가 아니라 보다 풍부한 공론화와 심사숙고하는 검토 과정을 밟을 것을 촉구한다. 국회가 이러한 과정을 거치지 않는다면, 목전에 닥친 고위험 AI의 확산을 앞두고 기업의 경제논리에 국민의 생명과 안전을 보호할 입법책임을 내팽개쳤다는 비난을 면하기 어려울 것이다. 끝.
2024년 11월 22일
민주사회를위한변호사모임 디지털정보위원회, 정보인권연구소, 진보네트워크센터, 참여연대