소식지

뉴스레터 통권 150호

By 2022/05/31 No Comments

네트워커 150호


차별금지법은 인공지능의 차별을 막아낼 최적의 알고리즘


지난 4월 11일, 차별금지법제정연대가 차별금지법의 제정을 촉구하며 국회 앞 농성에 돌입했습니다. 동시에 미류, 이종걸 두 명의 인권활동가는 무기한 단식 투쟁을 시작했지요. 단식 투쟁 39일이 지나며 이종걸 활동가는 의료진의 강력한 권고로 단식을 중단했으며 뉴스레터를 편집하는 5월 26일 지금 미류 활동가는 46일 간의 단식 투쟁을 마무리한다는 소식이 들려옵니다. 그간 국회는 기다리라는 말 외 차별금지법 제정 요구에 어떠한 응답도 하지 않았습니다. 기다림 끝에 열린 공청회에 국민의힘 위원들은 전원 불참하기도 했구요.

차별금지법은 인간의 존엄과 평등을 실현하기 위한 차별의 예방과 시정에 관한, 아주 기본적인 인권을 다루는 법입니다. 동시에 인공지능 등 신기술이 빠르게 발전하는 시대에 결코 없어서는 안 될 법이기도 합니다.

우리는 이미 전형적인 젠더 고정관념이 반영된 인공지능 음성비서부터 시작해 혐오발언을 내뱉는 챗봇, 피부색과 성별에 따라 정확도가 갈리는 인식 기술, 여성을 깎아내리는 채용과 신용 평가 등 다양한 차별적 인공지능 시스템의 사례를 국내외에서 목격해왔습니다. 이러한 인공지능의 차별 문제는 그 기술적 특성 상 차별이 감춰질 수도, 당사자가 차별 사실 자체를 인지하지 못할 수도, 기술의 개발자나 사용자조차 파악하기 어려울 수 있습니다.

이러한 차별은 다시 데이터로 누적되고 재활용되어 끝없는 차별의 악순환을 만들어낼 수도 있지요. 체계적으로 배제되어 온 이들의 참여와 평등, 그리고 다양성이 어느 때보다 절실히 필요한 시기입니다. 정부와 대기업들은 각기 ‘윤리 기준’, ‘윤리 준칙’, ‘윤리 헌장’ 등을 발표하며 기술의 개발과 서비스에서 인간의 존엄성을 중심에 두겠다고 선언했지만, 우리에게는 공허한 윤리의 선언을 넘어 평등과 차별 금지의 원칙을 구체화시키는 강력한 제도가 필요합니다.

진보넷 상근자들도 국회 앞 농성에 틈나는 대로 연대 방문과 함께 동조 단식에 참여해왔습니다.

차별금지법은 인공지능의 차별을 막아낼 최적의 알고리즘입니다. 모든 사람의 평등과 안전, 사랑, 그리고 신뢰할 수 있는 기술을 위해 지금 당장 차별금지법을 제정하길 촉구합니다.


생체정보에는 특별한 보호가 필요하다면서…


지난 가을, 법무부와 과학기술정보통신부가 출입국 심사 및 공항 보안을 이유로 얼굴인식과 행동인식 기술을 활용한 실시간 원격 감시시스템을 개발하며 그 과정에서 1억건이 넘는 외국인과 내국인의 얼굴 사진 등을 민간기업의 인공지능 학습용 데이터로 이용했다는 충격적인 사실이 드러난 바 있습니다.

그리고 4월 27일 개인정보보호위원회에서 해당 사업에 대한 조사를 마치고 그 결과를 발표했는데, 이 사건을 밝혀내고 대응해온 진보넷 활동가들의 어안을 벙벙케 만든 당황스러운 발표였습니다. 위원회는 해당 사업중 무려 대부분의 사항에 대해 합법적이라는 판단을 내렸습니다. 진보넷 및 함께 하는 단체들은 이러한 위원회의 판단에 대부분 동의할 수 없으며 공동성명을 발표했습니다. 큰 포인트가 2가지 있는데요. 첫 번째, 법무부가 출입국 심사를 위한 인공지능 학습에 얼굴 사진 등을 이용한 게 개인정보의 목적범위내 이용에 해당한다고 판단한 지점입니다. 출입국관리법의 목적은 ‘안전한 국경관리’입니다. 그러나 무단으로 사용된 데이터가 특별히 보호해야 할 민감한 생체정보라는 점을 고려할 때 과연 ‘안전한 국경관리’라는 포괄적인 목적이 생체정보의 처리 근거가 될 수 있냐는 의견이 나올 수 있죠. 그 처리 목적이 너무나 과도하고 폭넓게 인정된 것입니다. 특히 출입국관리법에서 명시한 내국인과 외국인의 얼굴과 지문 등 생체정보의 처리목적은 출국심사나 입국심사시 ‘본인확인’으로 제한됩니다. 그러나 이 인공지능 ‘식별추적’시스템 사업은 본인확인을 넘어 광범위한 1:N 얼굴인식, 이상행동 감지와 위험인물 감지 등을 목표로 하고 있죠.

두 번째, 법무부가 출입국심사 고도화를 목적으로 인공지능 식별추적 시스템 개발과 관련된 기업과 맺은 계약이 ‘개인정보 처리위탁’에 해당된다고 판단한 지점입니다. 그러나 형식이 위탁 계약이라고 하여 불법적인 개인정보 제3자 제공이 위탁처리로 둔갑할 순 없죠. 관련된 대법원 판결 또한 개인정보 위탁이냐 제3자제공이냐를 판단할 때 그 형식성이 아닌 실질성을 눈여겨보고 있습니다. 위탁계약이든 뭐든 수탁 회사들이 개인정보 처리로 ‘독자적인 이익’을 가졌다면 개인정보 제3자 제공이 되는 것이지요. 인공지능 식별추적 시스템 구축 사업에 참여한 기업들은 제공된 학습데이터를 통해 각각의 인공지능 프로그램을 향상시키는 독자적인 이익이 발생했습니다. 이는 사업 계획부터 목적으로 밝혀졌던 것이고 실제 참여 기업들은 향상된 프로그램에 대해 특허 등 지적재산권을 등록하거나 취득한 건수가 여러 건 있기도 하구요. 또한 해당 사업은 서바이벌 프로그램처럼, 성능이 우수한 것으로 판정된 소수의 기업만을 선발하는 방식으로 진행되었습니다. 즉 참여 기업 중 다수는 실제 법무부 업무를 위탁하지 않았을 기업이며 수억장의 얼굴 사진만 이용하고 퇴장한 셈이죠. 이러한 독자적인 이익들이 정말 모두 출입국관리법 규정상 출입국심사 목적을 위한 것이란 말인가요??!

이 두 가지 쟁점 외에도 문제적인 부분들은 많습니다. 생체정보를 활용한 인공지능 시스템의 위험성을 다루기 위해 세계 각국에서 법제도를 마련하고 있는 상황인데 국내에서는 이게 대체 뭐하는 짓거리인지…

한편, 진보넷과 단체들은 이 충격적인 사건에 지속적으로 대응하고 있습니다. 우선 개인의 피해 여부를 확인하고자 몇 달 간 지속적으로 개인정보 열람청구를 진행해왔죠. 그러나 열람청구의 시작부터 큰 난관이 많았습니다. 법무부 산하 기관들에 제대로 된 개인정보 열람청구 창구가 없음은 물론이고, 간신히 찾아내 연락한 담당자들은 각종 책임 떠넘기기와 고도의 회피기술을 발휘했거든요. 내 개인정보가 어디서부터 어떻게, 무엇을 위해 처리되는지, 그리고 이에 대한 동의와 선택권 행사 및 해당 내용을 열람할 권리는 개인정보보호법이 보장하고 있는 정보주체의 가장 기본적 권리입니다. 그러나 해당 사업에서는 이 모든 권리가 처음부터 끝까지 어느 것 하나 제대로 지켜지지 않고 있습니다. 그리하여 5월 17일, 진보넷과 단체들은 법무부 산하 기관의 개인정보 열람청구 거부에 대해 분쟁조정을 신청했습니다. 우리는 앞으로도 우리의 얼굴정보를 비롯한 민감한 생체정보를 보호하기 위해 끝까지 투쟁할 것입니다.

불타는 활동의 연대기

– 윤석열 정부가 국정과제를 발표하며 인공지능 정책도 다수 발표했습니다. 공적인 목적을 위해 국가기관이 수집한 데이터의 개방부터 시작해 교육, 고용, 국방의 분야에도 인공지능을 도입하고 확대한다고 합니다. 뿐만 아니라 대통령 경호에 인공지능을 도입하고 생체인식정보를 처리하기 위해 법안까지 개정했죠. 좌시할 수 없는 노릇입니다! 규탄의 논평을 발행했습니다.

– 사단법인 정보인권연구소에서 2021년 국가인권위원회의 연구용역 <인공지능(AI) 개발과 활용에서의 인권 가이드라인 연구> 보고서를 작성하였습니다. 해당 연구는 국가인권위원회의 연구용역으로 수행되었으며 진보넷 김민 활동가도 보조연구원으로 참여했습니다. 인공지능과 관련된 인권적 이슈를 정리하고 이에 적용 가능한 인권 기준 및 제도적 방안을 다루고 있으니 꼭 한 번 읽어보시길 추천드립니다. 한편 국가인권위원회는 <인공지능 개발과 활용에 관한 인권 가이드라인>를 최근 의결하였습니다. 이 또한 반드시 살펴보시길!

– 진보넷은 지난 해 공공상생연대기금과 디지털 노동감시 없는 사업장 만들기 프로젝트를 진행한 후 신기술을 활용해 급격히 전환하고 진화된 노동감시에 적극적으로 대응하고 있습니다. 지난 5월 12일에는 부산에서 열린 <디지털 노동감시에 따른 노동인권 침해 방지 방안 마련 토론회>를 공동주최하고 참석했죠. 아울러 진보넷의 오병일 대표가 현재 노동감시의 문제와 그 대응 방안이 무엇인지 기고한 글도 읽어보세요!

– 진보넷은 법무법인 지향과 함께 빅테크공투단(빅테크 공정성x투명성 사업단)을 꾸려 페이스북이나 구글과 같은 빅테크/플랫폼 기업의 문제에 개입하고 있습니다. 특히 올해부터는 정보인권연구소와 공동으로 디지털 플랫폼 연속포럼을 진행하며 외부 세미나를 지속적으로 진행하고 있죠. 4월과 5월에는 디지털 광고와 애드 테크(ad tech), 소셜미디어와 아동의 권리 보호 문제를 집중적으로 살펴봤습니다. 지난 세미나의 영상 녹화본과 발제 자료는 정보인권연구소의 게시물을 통해 다시 확인하실 수 있습니다.

– 빅테크와 플랫폼 기업에 대한 직접적 대응도 놓칠 수 없습니다. 지난 5월 3일에는 산더미 같은 페이스북 (메타)의 위법행위에 대한 신고서를 개인정보보호위원회에 제출했습니다. 그간 페이스북은 국내 개인정보보호법에서 규정하는 개인정보 수집과 이용 그리고 제공을 위한 적법한 요건을 갖추지 않고 이용자의 개인정보를 마구 처리해왔는데요. 나열하기도 힘든 수많은 위법사항이 신고서에 포함되어 있으며 특히 페이스북이 페이스북 웹사이트나 앱 뿐만 아니라 수많은 다른 웹사이트와 앱으로부터 개인정보를 제공받거나 제공하고 있다는 사실은 언제봐도 놀랍습니다.

지식독점에 맞서 생명과 인권을 옹호했던 고 남희섭 변리사 1주기 추모행사

민주당은 표현의 자유와 언론 생태계 위협하는 정보통신망법 개정안을 철회하라

표현의 자유와 사회적 책임위원회 의견서

경찰 수사에 관한 인권보호 규칙 제정안 규탄 기자회견 “인권을 무시하는 경찰, 수사권 자격 없다”

국회 정보위 위원들에게 김규현 후보자의 부적격함 확인해 줄 것 요청

해외정보인권

 – 인공지능법(AI법)의 ‘생체인식 대량감시 금지’를 촉구합니다!

유럽연합의 정보인권 단체들은 유럽연합 인공지능 법(AI법)이 보다 강력한 인권의 보호장치가 되도록 여러 활동을 펼치고 있습니다. 특히 인공지능법이 공공장소에서의 얼굴인식 등 생체인식을 통한 대량감시를 명백하게 금지할 수 있도록 촉구하고 있지요. 진보네트워크센터도 함께 연대하고 있습니다. 유럽연합 인공지능법의 ‘생체인식 대량감시 금지’를 촉구합니다!