“인공지능 영향 받는 시민의 안전과 인권 보호 장치 부재”
– 인공지능기본법 시행령초안에 대한 시민사회 입법의견서 제출
– ▲고위험 이용사업자 책무 면제 ▲적용 예외 확대 ▲사실조사 및 과태료 유예 등 독소조항 등 시행령안 반드시 수정 필요
- 지난 9월 17일(수) 과학기술정보통신부(이하, ‘과기부’)는 입법예고에 앞서 인공지능기본법 시행령초안을 비롯해 고시, 가이드라인 초안 일체를 공개했다. 그러나 공개된 시행령초안은 ▲고위험 이용사업자 책무 면제, ▲적용 예외 확대, ▲사실조사 및 과태료 유예 등과 같은 독소조항이 존재하고 있는 실정이다. 이에 오늘(10/1) 시민사회는 크게 16대 수정 요구사항을 담은 인공지능기본법 시행령초안에 대한 시민사회 입법의견서(총 28쪽)를 과학기술정보통신부에 제출했다.
- 우리 시민단체는「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(이하, ‘인공지능기본법’)」제정 과정에서 노동자, 장애인, 학생, 환자, 구직자, 소비자 등 인공지능의 영향을 받는 시민을 대신하여 인공지능기본법이 시민의 안전과 인권을 보호하는 최소한의 보호막(가드레일)이 되어야 한다고 요구하여 왔다. 그럼에도 지난 2025년 12월 국회를 통과하고 내년 2026년 1월 22일 시행을 앞두고 있는 인공지능기본법은 비윤리적, 비도덕적 인공지능의 금지를 규정하지 않았고, 사람의 생명, 신체의 안전 및 기본권에 중대한 영향을 미치거나 위험을 초래할 우려가 큰 분야 내지 영역을 상당 부분 누락하고 있다. 이러한 상황에서 인공지능기본법 시행령, 고시, 가이드라인 등 하위법령은 시민의 안전과 기본권을 최소한으로 보호할 수 있는 장치를 마련하여야 할 과제가 있다. 하위법령들이 인공지능 위험이 시민에 미치는 영향을 실질적으로 규율할 수 있어야 시민들이 안심하고 자신이 사용하거나 그 대상이 되는 인공지능을 신뢰할 수 있기 때문이다.
- 그러나 지난 2025년 9월 17일 공개된 시행령초안은 그 제정 방향을 “규제보다는 진흥에 무게를 두고, 필요최소한의 규제를 합리적으로 마련하고 유연한 규제체계 도입”이라고 밝히고 있다(제정방향 p3). 이와 같은 방향은 인공지능 위험성에 대한 포괄적 규제체제를 도입한 유럽연합 등 글로벌 규범 동향에 반할 뿐 아니라 “국민의 권익과 존엄성을 보호”한다는 이 법의 목적(제1조)이나 “AI 산업 발전과 안전‧신뢰 기반 구축”이라는 두 가치를 균형적으로 표방하겠다는 입법 취지를 심각하게 훼손한다. 시행령 제정방향을 정함에 있어 인공지능으로 인해 피해를 입을 수 있는 영향을 받는 자를 포함하여 시민사회로부터 의견수렴이 부실했다는 점에서 산업 이익에 편향된 결과는 예견된 것이나 다름없다.
- 이번 시행령초안은 다음과 같은 점에서 심각한 문제가 있어 이후 의견수렴 과정을 거치면서 반드시 수정, 보완되어야 한다.
첫째, 우리나라 인공지능기본법은 유럽연합 인공지능기본법과 달리 공공장소 얼굴인식, 취약성 공격, 직장과 학교의 감정인식 등 인권침해 소지가 큰 인공지능 시스템을 금지하고 있지 않다. 따라서 적어도 시행령의 고영향 인공지능에 관한 정의 및 책무 규정에서 안전과 인권에 위험한 인공지능과 그에 대한 조치를 충분히 규정하여야 마땅하다. 그럼에도 시행령초안에서 고영향 인공지능에 관한 규정은 법률에서 시행령으로 명시적으로 위임한 사항에 대해서조차 아무런 규정을 두지 않고 있다.
둘째, 하위법령안은 법령 규정 외적으로 ‘이용사업자’를 협소하게 해석함으로써 인공지능 제품이나 서비스를 업무에 사용하는 사업자를 모두 ‘이용자’로서 보고 일체의 책무를 배제하였다. 이로 인하여 병원, 채용회사, 금융기관 등 업무상 목적으로 인공지능을 이용하는 사업자가 환자, 채용 구직자, 대출 신청자 등 ‘영향받는 자’에 대해서 위험관리, 설명, 사람의 관리·감독 등의 책무를 지지 않아도 된다. “제공받은 제품 또는 서비스를 형태나 내용의 변경 없이 그대로 이용하는” 이용자와 달리, 인공지능을 “업무 목적으로” 이용하여 영향받는 자에 대하여 직접적인 영향을 미치는 병원, 채용회사, 금융기관 등 사업자는 ‘이용사업자’에 합당한 책무를 져야 한다.
셋째, 인공지능기본법은 국방 또는 국가안보 목적으로만 개발·이용되는 인공지능을 국가정보원장, 국방부장관, 경찰청장의 자체적인 지정만으로 이 법의 적용범위에서 광범위하게 배제하였다. 현재 국방 또는 국가안보 목적 인공지능을 규율할 수 있는 법안이 추진조차 되고 있지 않기 때문에, 가장 인권침해가 심각한 인공지능에 대한 규제 공백이 우려된다. 그럼에도 시행령초안은 국가안보핵심기술 등 ‘국방 또는 국가안보 목적으로만 개발ㆍ이용되는 인공지능’ 분야를 폭넓게 인정하고 있다. 이중용도(dual use)로 사용될 수 있는 인공지능이 국방 또는 국가안보 목적 예외로 이 법에서 규정한 최소한의 의무를 배제한 채 은밀하게 개발·운영되는 일이 없도록, 최소한 적용제외 인공지능에 대해서는 국가인공지능위원회가 심의·결정하도록 하여야 한다.
넷째, 시행령초안은 안전성 확보 의무가 적용되는 최첨단 인공지능(frontier AI)의 기준으로 ‘학습에 사용된 누적 연산량이 10의26승 이상’으로 매우 좁게 설정하고 있다. 그러나, 현재 이 기준을 충족하는 인공지능 시스템이 과연 몇 개나 있을지 의문이다. 향후 기술 발전에 따라 기준을 변경하더라도 현재 주요 최첨단 인공지능을 포괄할 수 있도록 10의25승 이상으로 규정할 필요가 있다.
다섯째, 고영향 사업자 책무에 있어서 시행령초안은 “이행하여야” 하며(법 제34조 제1항), 고시는 “준수하도록 권고할 수 있다”고 정하고 있을 뿐이다(법 제34조 제2항). 시행령과 고시, 가이드라인은 그 법적 지위가 상이하다. 권고에 불과한 사항에 대해서는 특히 비용이 많이 소요되는 조치의 경우 사업자의 준수를 기대하기 어렵고 위반 시 제재도 어려울 수밖에 없다. 그럼에도 시행령초안에는 명시되어야 마땅한 중요한 사항에 대해서 아무런 언급을 하지 않고, 고시나 가이드라인에만 기재되어 있는 경우가 많다. 특히 법률이 위임한 중요 사항과 국민의 권리 의무에 직접적인 영향을 미치는 사항에 대해서는 반드시 시행령에 규정하여야 할 것이다. 따라서 고영향 인공지능 사업자의 책무에 대한 고시 및 가이드라인의 주요 내용은 시행령으로 규정하여야 한다.
여섯째, 시행령초안은 법률에서 위임하지 않은 사실조사의 면제를 규정하거나 상당 기간(미상)의 계도기간을 운영하도록 하였다. 인공지능 제품 및 서비스로 인한 안전 사고나 인권 침해가 발생하여도 국가가 최소한의 행정 조사를 포기하거나 사실상 과태료를 미부과하겠다는 방침인 것이다. 사실조사와 과태료에 대해서는 기업들이 많은 민원을 제기한 바 있는 만큼, 그 면제 또는 유예는 시민 안전이나 인권 보호보다 기업 민원을 중시한 결과가 아닌지 의문스럽다. 이러한 전반적인 규제 설계는, 당분간 소비자를 비롯하여 그 영향을 받는 사람을 보호할 수 있는 설명 방안이나 사람의 관리‧감독, 문서의 작성‧보관 등 책무를 다하지 않고 인공지능 제품이나 서비스를 시장에 출시하여도 된다는 신호를 국가적 차원에서 공식화한 것이나 다르지 않다.
- 이에 시민사회는 과기부가 공식 입법예고를 위한 시행령안 마련에 앞서 의견수렴과정에서 영향을 받는 자 등 시민사회의 의견을 충분히 수렴하여 아래와 같이 크게 16가지 사항에 대해 시행령초안을 수정, 반영할 것을 제안한다.
– 법 제2조의 정의규정에서 혼란을 주고 있는 이용자 개념을 시행령에서 명확히 해야 함.
– 법 제3조의 영향받는 자의 권리를 시행령에서 구체적으로 명시해야 함.
– 국방 또는 국가안보 목적 외로도 활용될 수 있는 인공지능의 경우 포함되지 않도록 매우 엄격하게 규정해야 함.
– 특히, ▲「국민보호와 공공안전을 위한 테러방지법」제9조제1항에 따른 정보의 수집 및 같은 조 제4항에 따른 추적, ▲「경제안보를 위한 공급망 안정화 지원 기본법」제15조제1항에 따른 조기경보시스템 운영ㆍ관리, ▲「경찰관의 정보수집 및 처리 등 에 관한 규정」 제3조제3호ㆍ제4호 및 제9호에 따른 정보의 수집ㆍ작성 및 배포, ▲「국민보호와 공공안전을 위한 테러방지법」제2조제6호에 따른 대테러활동 등은 악용 및 남용가능성이 매우 크므로 반드시 삭제해야 함. 최소한 적용제외 인공지능에 대해서는 국가인공지능위원회가 심의·결정하도록 해야 함.
– 국가인공지능위원회의 의사는 원칙적 공개, 영향받는 자의 참여 보장 및 의견 수렴 절차 마련을 시행령에 규정해야 함.
– 법 제14조 제5항에서 위임한 표준화 및 표준 준수의 촉진을 관련해 표준의 고시 절차 및 주체, 표준화 사업의 지원 방식, 표준 준수 권고 및 인증과의 연계 등 표준화 및 표준 준수의 촉진을 위한 구체적인 조치를 규정해야 함.
– 정부 지원 인공지능 학습용 데이터는 선정에 개인정보보호법, 저작권법 등 준수 여부 반드시 포함시키고, 지원 대상 사업에 보안, 폐기 규정도 구체적으로 포함해야 함.
– 기업 및 공공기관 AI기술 도입에 필요한 사항, 지원방안으로 AI 시스템의 효과나 영향 분석도구, 고영향 AI인 경우 기본권 영향평가 수행 도구 지원을 추가하고, 구체적인 영향 평가의 내용, 방법을 수립하여 보급할 때 국가인권위원회와 협의하도록 함.
– 데이터센터 관련 시책의 추진에 지역공동체의 에너지 수급에 미치는 영향고려, 기휘위기에 미치는 영향을 측정할 수 있도록 에너지 사용 데이터 공개 규정 신설해야 함.
– 고영향인공지능, 생성형AI의 투명성 의무에서 사람이 판독할 수 있는 표시 형식 병행 및 광범위한 예외규정을 삭제해야 함.
– 안전성 확보 의무 대상 인공지능을 학습에 사용한 누적연산량 10의 25승 부동소수점 연산 이상으로 수정하고, 인공지능 안전성 확보 의무의 실효성을 담보하고 사업자 뿐 아니라 이용자, 영향을 받는 자 등 국민의 예측가능성을 높이고 법적 안정성을 확보하기 위해 고시에 위임하고 있는 안전성확보 고시는 시행령에서 규정해야 함.
– 고영향인공지능 목록에 생체인식정보 분석, 활용하거나 근로조건, 계약이나 종료에 영향을 미치는 경우, 수사 및 기소, 선거 및 투표 등 기본권 침해 위험이 크거나, 중대한 영향을 미치는 영역을 빠짐없이 정의해야 함.
– 공개된 장소의 실시간 원격생체인식 활용 인공지능, 인간의 심리, 사고, 행동을 현저히 왜곡하기 위해 잠재의식에 영향을 미치는 인공지능, 사회적 점수를 매겨 신뢰도 평가 및 분류하는 인공지능, 대량살상무기 개발 등 금지인공지능은 법개정 전 보호공백을 최소화하기 위해 고영향 인공지능으로 포섭해서 적정한 의무를 부과해야 함.
– 고영향인공지능을 과기부 장관이 확인할 때 각분야의 소관부처에 의견 조회 및 협의하는 의무 부과하고, 기본권 침해 위험이 있는 경우 반드시 국가인권위원회 의견 청취하도록 해야 함.
– 고영향인공지능 책무에서 안전성·신뢰성 확보하기 위한 6가지 이행 조치는 고시가 아니라 시행령에 구체적인 방법 및 절차에 대한 규정을 담아야 함. 게시의무 대상을 확대해야 하고, ‘부정경쟁 방지 및 영업비밀보호에 관한 법률’상 영업비밀에 해당하는 사항 면제 규정 단서 삭제 및 조치의무 면제 요건을 삭제해야 함.
– 영향평가의 목적을 인공지능으로 인한 위험의 예방, 완화, 구제 등에 관한 사항으로 개정하고 독립적 수행을 보장, 사전 뿐 아니라 사후 등 정기성 담보 및 상당한 기능 변경이 있는 경우도 수행하도록 하며, 공공기관의 경우 영향평가 내용 공개 필수로 함. 과기부가 영향평가 구체적 방법 등을 수립하여 보급 시 국가인권위원회와 협의해야 함.
– 사실조사 면제규정 삭제 및 최소한의 규제라고 할 과태료 조항의 계도기간 운영에 반대함.
- 2025년 9월 25일 이재명 대통령이 유엔 안전보장이사회 공개토의에서 AI(인공지능)와 관련해 “이 무시무시한 도구가 통제력을 상실한다면 허위 정보가 넘쳐나고 테러, 사이버 공격이 급증하는 디스토피아의 미래를 피할 수 없을 것”이라며 인공지능 위험에 대해 경각심을 상기시킨 바 있다. 세계적으로 주목받고 있는 한국의 인공지능기본법이 인공지능 위험으로부터 영향받는 시민을 보호하고 국제인권규범에 부합하는 인권기반접근을 달성할 수 있도록, 시행령초안에 대한 시민사회의 의견이 반드시 반영되어 각종 독소조항이 삭제되기를 요구한다. 끝.
▣ 별첨. 인공지능기본법 시행령초안에 대한 시민사회 입법의견서 (총 28쪽)
2025. 10. 1.
민주사회를 위한 변호사 모임 디지털정보위원회 · 정보인권연구소 · 진보네트워크센터 · 참여연대
