AI인공지능입장

AI 시스템이 투명성과 책임성을 갖고 운영될 수 있도록 감시할 것{/}[논평] 산업 중심, 인권 외면 AI 기본법 국회 통과 유감

By 2024/12/27 No Comments

산업 중심, 인권 외면 AI 기본법 국회 통과 유감

– AI 시스템이 투명성과 책임성을 갖고 운영될 수 있도록 감시할 것

  1. 어제(12/26) 국회는 시민사회의 수정보완 요구에도 불구하고, 끝내 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법안(대안)(위원장)」(이하 ‘AI 기본법’)을 통과시켰다. 고위험 AI로 인해 발생할 수 있는 위험으로부터 시민의 안전과 인권을 보호해야 한다는 시민사회의 요구를 외면한 정부와 국회를 규탄한다.
  2. 우리 시민사회는 21대 국회에서부터 AI의 위험성을 통제하고 고위험 AI 사업자의 책임성을 강화하며, AI의 영향을 받는 사람의 권리를 보장하는 방향으로 AI 기본법이 제정되도록  노력해왔다(별첨 참고). 그럼에도 불구하고, 이번 국회 본회의를 통과한 AI 기본법은 시민사회가 줄기차게 요구해왔던 핵심적인 내용을 누락하고 있어, 21대 국회에서 논의되었던 법안과 크게 다르지 않다. ▲금지해야 할 인공지능에 대한 규정이 없고, ▲고영향 인공지능 사업자의 범위는 여전히 협소하며, ▲고영향 인공지능 사업자의 책무 위반에 대한 처벌 규정도 미흡하다. 단지 책무 위반에 대한 과기정통부의 시정명령을 이행하지 않을 때에야 과태료를 부과하고 있을 뿐이다. ▲인공지능에 영향받는 자의 정의가 포함된 것은 다행이지만, 정작 영향받는 자의 권리 및 구제에 대한 조항은 두고 있지 않다. ▲학습 데이터 공개 등 범용 인공지능 사업자의 의무 조항 역시 포함되어 있지 않다. ▲인공지능 인권영향평가도 ‘노력할 의무’만을 부여하고 있어 실효성이 있을지 의문이다. 더구나 독소조항을 새롭게 포함하였는데, ▲국방 또는 국가안보 목적의 인공지능을 이 법의 적용에서 배제한 것이다.
  3. 그나마 정부여당안보다 보완된 일부 내용이 최소한의 규제로 작동할 수 있는 부분은 불행 중 다행이라 할 것이다. ▲일부 발의안에 포함되었던 ‘우선허용·사후규제 원칙’ 조항이 최종 AI 기본법에 포함되지 않았다. ▲국제적인 정합성을 위해 OECD 정의를 차용하여 ‘인공지능 시스템’을 정의하였고, ‘영향받는 자’의 개념도 정의에 포함되었다. ▲고영향[고위험] 인공지능에 ‘유아교육ㆍ초등교육 및 중등교육에서의 학생 평가’가 포함되었다. ▲기본원칙(제3조)에서나마 “인공지능이 사람의 생명ㆍ신체의 안전 및 기본권에 중대한 영향을 미치는 경우”, 그 결과의 이유 및 원리 등에 대하여 기술적ㆍ합리적으로 가능한 범위에서 명확하고 의미 있는 설명을 제공받을 수 있는 ‘영향받는 자의 권리’를 규정하였다. ▲영향받는 자를 포함한 이해당사자가 신고 및 민원을 제기할 수 있도록 하고, 사실조사를 통해 과기정통부 장관이 법 위반사항을 조사하고 시정명령을 할 수 있는 권한을 신설하였다. ▲딥페이크 등 생성형 AI의 고지 및 표시 의무 등 투명성 의무가 강화되었다. ▲미약하지만, 고영향 AI 사업자에 대해 영향평가를 위해 ‘노력’할 의무를 부과하였다.
  4. 이미 다양한 AI 제품과 서비스가 우리 사회에 도입되고 있다. 이번 국회를 통과한  AI 기본법이 AI의 위험성을 예방하고 통제하는데 과연 실효성이 있을지는 의문이다.  특히 실제 AI의 편향, 오류, 남용으로 인해 차별적 결정, 감시, 안전 위험 등이 발생하더라도 이에 대해 피해 당사자가 인지하지 못하거나 그 원인을 제대로 파악할 수 없을 가능성이 높다는 점이야말로 가장 큰 문제라고 할 것이다. 비록 이번에 제정된 AI 기본법 규정상으로는 AI에 대한 제대로 된 규율이 어렵게 되었지만, 행정당국의 권한을 확인하는 것을 넘어 영향을 받는 자가 적극 적인 권리를 행사하여 우리 사회에 도입된 AI 시스템이 투명성과 책임성을 갖고 운영되도록 시민사회는 감시의 노력을 게을리하지 않을 것이다.
  5. AI 기술의 빠른 발전 속도를 고려할 때, 정부와 국회 역시 AI 기본법의 문제점을 빠르게 보완하고, 안전과 인권에 기반한 AI 기술 개발이 이루어질 수 있도록 노력할 것을 촉구한다. 특히 각 부처는 소관 분야별로 규제를 집행하는 특별법 제정을 통해 AI의 위험성을 최소화할 필요가 있다. 끝.

2024년 12월 27일

광주인권지기 활짝, 건강권실현을위한보건의료단체연합 (건강권실현을위한행동하는간호사회,건강사회를위한약사회, 건강사회를위한치과의사회, 노동건강연대, 인도주의실천의사협의회, 참의료실현청년한의사회), 국제민주연대, 문화연대 기술미디어문화위원회, 민주사회를위한변호사모임 디지털정보위원회, 삶과노동을잇는배움터 이짓, 생명안전 시민넷, 서울YMCA 시민중계실, 소비자시민모임, 언론개혁시민연대, 연구공동체 건강과대안, 전국금속노동조합, 전국민주노동조합총연맹, 전국장애인차별철폐연대, 전북평화와인권연대, 정보인권연구소, 진보네트워크센터, 참여연대, 천주교인권위원회, 한국소비자연맹, 홈리스행동

▣ [별첨] AI 기본법의 주요 경과와 시민사회의 입장

 

[별첨] AI 기본법의 주요 경과와 시민사회의 입장

21대 국회부터 이상민, 정필모, 윤영찬 의원등 여러 의원들이 인공지능 법안을 발의하였다. 2023년 2월 14일, 21대 국회 과방위 법안심사소위는 인공지능 법안을 갑작스레 통과시켰다. 인공지능 법안은 제정법이었음에도 불구하고 인공지능 위험에 대하여 공청회나 사회적인 논의가 충분히 이루어지지 않았다. 심사소위 회의록을 보아도 주요 쟁점에 대한 실질적 토론없이 졸속으로 통과되었음을 확인할 수 있다. 더구나 이 법안은 인공지능에 대한 기본법을 표방하면서도 “우선허용·사휴규제 원칙”을 포함하는 등 산업육성에만 초점을 맞추고 있고, 인공지능의 위험성을 통제하고 사업자에 책임을 부과할 수 있는 내용을 포함하고 있지 않았다. 시민사회는 법안심사소위 통과안을 비판하며 과방위에서 처리하지 않을 것을 요구하였다.

  • 인권시민단체, 국회 과방위 법안심사소위 통과한 인공지능육성법안 반대의견서 제출 (2023.3.2)
  • [기자회견] 안전과 인권 규제 외면한 인공지능법 제정안에 반대한다 (2023.3.9)
  • [공동논평] 과방위 인공지능법안, 국민의 안전과 생명을 보장할 수 있나 (2023.3.17)
  • [기자설명회] 과방위 소위 통과 “세계최초” 인공지능법안, 세계의 걱정거리가 되려는가? (2023.3.22)

과학기술정보통신부는 국회 인공지능 법안의 내용을 실질적으로 주도하고 있었다.

2023년 4월 26일, 과기정통부는 시민사회가 국회  과방위에 제출한 의견서에 대한 답변서를 보내왔으며, 시민사회는 이에 대한 반박 의견서를 다시 제출하였다.

  • [보도자료] 과기부 답변에 대한 시민단체 의견서 과기부에 제출(2023.5.16)

인공지능 법안에 대한 국가인권위원회의 의견도 국회 논의 과정에서 전혀 반영되지 않았다. 국가인권위원회는 2023년 8월 21일, 국회의장에게 인공지능 법안에서 ‘우선허용·사후규제’ 원칙을 삭제하고, 인권영향평가 등 인권침해·차별 문제를 예방·규제할 수 있는 규정을 마련할 것을 권고하였다.

  • [공동논평] 얼굴인식 기술에 대한 인권적 통제 요구한 국가인권위원회 권고 환영 (2023.1.26)
  • 국가인권위원회, 「인공지능 법률안」, ‘우선허용·사후규제’ 원칙 삭제하고, 인권영향평가 도입해야 (2023.8.24)
  • [공동논평] 국회는 인공지능 법률안에 대한 국가인권위원회 의견을 수용하라 (2023.8.30)

전 세계적으로 AI 위험성을 통제해야 한다는 문제의식이 높아지고 있었고, 각국은 인공지능을 규제하기 위한 행정적, 입법적 규율체계를 마련하기 시작했다. 2023년 10월 30일, 바이든 행정부는 ‘안전하고 보안이 보장되며 신뢰할 수 있는 AI의 개발과 사용에 대한 행정명령’을 발표하였다. 유럽연합은 2023년 12월 8일, 세계 최초로 고위험 인공지능을 포괄적으로 규제하는 ‘인공지능법안’(AI Act)에 대해 합의하였다.

  • [공동논평] 한국에도 위험한 인공지능을 금지하고 처벌하는 규제가 필요하다 (2023.12.13)

시민사회는 한국에서도 인공지능의 위험성을 규율하기 위한 법이 필요하다는 것에 동의하였지만, 국회에 계류되어 있는 인공지능 법안은 산업육성에 치우쳐있기 때문에 이를 폐기하고 22대 국회에서 실질적으로 논의할 것을 촉구하였다. 과기정통부는 시민사회의 의견을 수렴하여 인공지능 법안을 수정했다고 밝혔지만, ‘우선허용·사후규제’ 조항을 삭제했을 뿐 사업자의 책임을 강화하라는 요구를 반영한 것은 아니었다. 오히려 과기정통부는 기업들과의 비공개 간담회에서 “시민단체 반대 의견을 최소한으로 수렴한다”는 입장을 밝혔다. 과기정통부는 AI 정상회의 개최를 핑계로 인공지능 법안의 통과를 압박하였지만, 결국 21대 국회에서 인공지능 법안은 통과되지 못하고 임기만료로 폐기되었다.

  • [공동논평] 22대 국회는 인공지능이 국민 안전과 인권에 미치는 위험을 방지할 제대로 된 규제법을 마련해야 한다(2024.4.3)
  • [공동성명] AI 정상회의 개최를 핑계로 유명무실한 AI법안의 졸속처리를 압박하는 정부를 규탄한다 (2024.5.10)
  • [기자회견] 실효성없는 과방위 계류 AI 법안 폐기 촉구 기자회견 (2024.5.14)
  • [공동논평]인공지능의 위험성으로부터 시민의 안전과 인권을 보호하기 위한 견고한 국제 규범을 마련할 것을 한국 정부와 각국 정부에 촉구한다 (2024.5.20)

22대 국회가 개원하지마자 인공지능 법안의 발의가 이어졌다. 시민사회는 인공지능법의 제정 방향을 제시하는 의견서를 국회에 제출하고 토론회를 개최하였다. 또한, 인공지능이 전 사회적으로 영향을 미치고 있는 만큼, ‘국회 인공지능 특별위원회’를 구성하여 범상임위적으로 심사할 것을 촉구하였다.

정점식 의원안은 국민의힘 의원 전원이 서명한 사실상 정부여당안이었다. 과기정통부가 21대 국회 말미에 공언한대로 ‘우선허용·사후규제’ 조항은 포함하고 있지 않았지만, 그 외의 내용은 21대 국회 병합안(과방위 심사소위 통과안)과 크게 다르지 않았다. 시민사회 의견서에서 지적하고 있는 바와 같이, ▲금지해야 할 인공지능에 대해 규정하지 않고 있고, ▲고위험 인공지능 분야를 협소하게 규정하고 있을 뿐더러, ▲고위험 인공지능 사업자(개발자 및 운영자)의 의무에 대한 규정이 미흡할 뿐만 아니라 처벌 조항이 없어 실효성에 한계가 있었다. 또한 ▲인공지능의 영향을 받는 사람의 권리 및 구제 조항도 없었고, ▲학습 데이터 공개 등 범용 인공지능 사업자의 의무 조항도 배제되었다. 시민사회는 산업육성에 편향된 과기정통부가 인공지능의 주무부처로서 적합한지에 대해 의문을 제기하였다.

  • 22대 인공지능법 제정에 대한 시민사회 의견서 (2024.7.1)
  • 국회토론회 <국민의 안전, 인권 및 민주주의와 AI의 공존을 위한 AI기본법 제정 방향> 개최 (2024.7.11)
  • [보도자료] 국회, AI 범상임위원회적으로 검토하고 심사해야 – 시민에게 중대한 영향을 미치는 인공지능의 규율을 위한 국회 인공지능 특별위원회 구성과 역할에 대한 시민사회 의견서 (2024.9.9)

2024년 9월 24일, 22대 국회의 과방위는 인공지능 법안에 대한 상임위 차원의 공청회를 개최하였다. 시민사회는 국회에 발의된 인공지능 법안의 주요 이슈별로 상세한 의견서를 작성하여 제출하였다.

  • [논평] 인공지능법 공청회에 대한 시민사회 논평 (2024.9.25)
  • [보도자료] 국회 과방위 접수·상정된 인공지능 법안에 대한 시민단체 의견서 제출 (2024.10.30)

그러나 국회 과방위는 두 번의 심사소위만에 인공지능 법안(AI 기본법)을 통과시켰다. 정부여당안에 비해 일부 진전된 내용이 있음에도 불구하고, 과방위 통과안 역시 21대 국회 병합안과 크게 다르지 않았다. 여전히 ▲금지해야 할 인공지능에 대한 규정이 없고, ▲고위험 인공지능 사업자의 책무 위반에 대한 처벌 규정도 미흡하다. 책무 위반에 대한 과기정통부의 시정명령을 이행하지 않을 때에야 과태료를 부과하고 있을 뿐이다. ▲인공지능의 영향받는자의 정의가 포함된 것은 다행이지만, 정작 영향받는 자의 권리 및 구제에 대해서 규정하고 있지 않다. ▲학습 데이터 공개 등 범용 인공지능 사업자의 의무 조항 역시 포함되어 있지 않다. 더구나 독소조항을 새롭게 포함하였는데, ▲국방 또는 국가안보 목적의 인공지능을 이 법의 적용에서 배제한 것이다.

  • [공동성명] 누구를 위한 AI 기본법인가 (2024.11.22)
  • [보도자료] 국회 과방위의 ‘AI 기본법’ 졸속 처리 규탄 기자회견 개최 (2024.11.26)
  • [의견서] 인공지능(AI)법안, 산업 발전 치중 위험성 규제 미흡(2024.12.3)
  • [공동성명] 국회 법사위의 ‘AI 기본법’ 졸속 처리 규탄한다(2024.12.17)

22대 국회가 개원하자마자 규제완화에 초점을 둔, 비슷한 내용의 인공지능 법안이 앞다투어 발의되었고, 그중 19개 법안이 병합처리되었다. 시민사회는 AI로 야기될 위험을 예방하고 문제발생 시 권리 구제절차 등을 규정하여 국민의 안전과 인권 및 민주주의를 보장할 수 있는 ‘시민사회 인공지능 기본법안’을 별도로 준비하고 제안하였으나 발의가 이루어지지 못했다. 인공지능에 대한 제정법이자 기본법은 인공지능 위험 규제와 권리구제에 대한 시민사회 제안도 함께 검토하고 충분한 사회적인 공론화를 거쳤어야 했다는 아쉬움이 남는다. 시민사회는 준비한 법안을 2024년 12월 3일 더불어민주당 김남근 의원 소개로 입법 청원하였으며, 향후 AI 기본법의 지속적인 개선을 위한 디딤돌로 남기고자 한다.