|
네트워커 150호
차별금지법은 인공지능의 차별을 막아낼 최적의 알고리즘지난 4월 11일, 차별금지법제정연대가 차별금지법의 제정을 촉구하며 국회 앞 농성에 돌입했습니다. 동시에 미류, 이종걸 두 명의 인권활동가는 무기한 단식 투쟁을 시작했지요. 단식 투쟁 39일이 지나며 이종걸 활동가는 의료진의 강력한 권고로 단식을 중단했으며 뉴스레터를 편집하는 5월 26일 지금 미류 활동가는 46일 간의 단식 투쟁을 마무리한다는 소식이 들려옵니다. 그간 국회는 기다리라는 말 외 차별금지법 제정 요구에 어떠한 응답도 하지 않았습니다. 기다림 끝에 열린 공청회에 국민의힘 위원들은 전원 불참하기도 했구요. 차별금지법은 인간의 존엄과 평등을 실현하기 위한 차별의 예방과 시정에 관한, 아주 기본적인 인권을 다루는 법입니다. 동시에 인공지능 등 신기술이 빠르게 발전하는 시대에 결코 없어서는 안 될 법이기도 합니다. 우리는 이미 전형적인 젠더 고정관념이 반영된 인공지능 음성비서부터 시작해 혐오발언을 내뱉는 챗봇, 피부색과 성별에 따라 정확도가 갈리는 인식 기술, 여성을 깎아내리는 채용과 신용 평가 등 다양한 차별적 인공지능 시스템의 사례를 국내외에서 목격해왔습니다. 이러한 인공지능의 차별 문제는 그 기술적 특성 상 차별이 감춰질 수도, 당사자가 차별 사실 자체를 인지하지 못할 수도, 기술의 개발자나 사용자조차 파악하기 어려울 수 있습니다. 이러한 차별은 다시 데이터로 누적되고 재활용되어 끝없는 차별의 악순환을 만들어낼 수도 있지요. 체계적으로 배제되어 온 이들의 참여와 평등, 그리고 다양성이 어느 때보다 절실히 필요한 시기입니다. 정부와 대기업들은 각기 ‘윤리 기준’, ‘윤리 준칙’, ‘윤리 헌장’ 등을 발표하며 기술의 개발과 서비스에서 인간의 존엄성을 중심에 두겠다고 선언했지만, 우리에게는 공허한 윤리의 선언을 넘어 평등과 차별 금지의 원칙을 구체화시키는 강력한 제도가 필요합니다. 진보넷 상근자들도 국회 앞 농성에 틈나는 대로 연대 방문과 함께 동조 단식에 참여해왔습니다.
차별금지법은 인공지능의 차별을 막아낼 최적의 알고리즘입니다. 모든 사람의 평등과 안전, 사랑, 그리고 신뢰할 수 있는 기술을 위해 지금 당장 차별금지법을 제정하길 촉구합니다. 생체정보에는 특별한 보호가 필요하다면서…지난 가을, 법무부와 과학기술정보통신부가 출입국 심사 및 공항 보안을 이유로 얼굴인식과 행동인식 기술을 활용한 실시간 원격 감시시스템을 개발하며 그 과정에서 1억건이 넘는 외국인과 내국인의 얼굴 사진 등을 민간기업의 인공지능 학습용 데이터로 이용했다는 충격적인 사실이 드러난 바 있습니다. 그리고 4월 27일 개인정보보호위원회에서 해당 사업에 대한 조사를 마치고 그 결과를 발표했는데, 이 사건을 밝혀내고 대응해온 진보넷 활동가들의 어안을 벙벙케 만든 당황스러운 발표였습니다. 위원회는 해당 사업중 무려 대부분의 사항에 대해 합법적이라는 판단을 내렸습니다. 진보넷 및 함께 하는 단체들은 이러한 위원회의 판단에 대부분 동의할 수 없으며 공동성명을 발표했습니다. 큰 포인트가 2가지 있는데요. 첫 번째, 법무부가 출입국 심사를 위한 인공지능 학습에 얼굴 사진 등을 이용한 게 개인정보의 목적범위내 이용에 해당한다고 판단한 지점입니다. 출입국관리법의 목적은 ‘안전한 국경관리’입니다. 그러나 무단으로 사용된 데이터가 특별히 보호해야 할 민감한 생체정보라는 점을 고려할 때 과연 ‘안전한 국경관리’라는 포괄적인 목적이 생체정보의 처리 근거가 될 수 있냐는 의견이 나올 수 있죠. 그 처리 목적이 너무나 과도하고 폭넓게 인정된 것입니다. 특히 출입국관리법에서 명시한 내국인과 외국인의 얼굴과 지문 등 생체정보의 처리목적은 출국심사나 입국심사시 ‘본인확인’으로 제한됩니다. 그러나 이 인공지능 ‘식별추적’시스템 사업은 본인확인을 넘어 광범위한 1:N 얼굴인식, 이상행동 감지와 위험인물 감지 등을 목표로 하고 있죠. 두 번째, 법무부가 출입국심사 고도화를 목적으로 인공지능 식별추적 시스템 개발과 관련된 기업과 맺은 계약이 ‘개인정보 처리위탁’에 해당된다고 판단한 지점입니다. 그러나 형식이 위탁 계약이라고 하여 불법적인 개인정보 제3자 제공이 위탁처리로 둔갑할 순 없죠. 관련된 대법원 판결 또한 개인정보 위탁이냐 제3자제공이냐를 판단할 때 그 형식성이 아닌 실질성을 눈여겨보고 있습니다. 위탁계약이든 뭐든 수탁 회사들이 개인정보 처리로 ‘독자적인 이익’을 가졌다면 개인정보 제3자 제공이 되는 것이지요. 인공지능 식별추적 시스템 구축 사업에 참여한 기업들은 제공된 학습데이터를 통해 각각의 인공지능 프로그램을 향상시키는 독자적인 이익이 발생했습니다. 이는 사업 계획부터 목적으로 밝혀졌던 것이고 실제 참여 기업들은 향상된 프로그램에 대해 특허 등 지적재산권을 등록하거나 취득한 건수가 여러 건 있기도 하구요. 또한 해당 사업은 서바이벌 프로그램처럼, 성능이 우수한 것으로 판정된 소수의 기업만을 선발하는 방식으로 진행되었습니다. 즉 참여 기업 중 다수는 실제 법무부 업무를 위탁하지 않았을 기업이며 수억장의 얼굴 사진만 이용하고 퇴장한 셈이죠. 이러한 독자적인 이익들이 정말 모두 출입국관리법 규정상 출입국심사 목적을 위한 것이란 말인가요??! 이 두 가지 쟁점 외에도 문제적인 부분들은 많습니다. 생체정보를 활용한 인공지능 시스템의 위험성을 다루기 위해 세계 각국에서 법제도를 마련하고 있는 상황인데 국내에서는 이게 대체 뭐하는 짓거리인지… 한편, 진보넷과 단체들은 이 충격적인 사건에 지속적으로 대응하고 있습니다. 우선 개인의 피해 여부를 확인하고자 몇 달 간 지속적으로 개인정보 열람청구를 진행해왔죠. 그러나 열람청구의 시작부터 큰 난관이 많았습니다. 법무부 산하 기관들에 제대로 된 개인정보 열람청구 창구가 없음은 물론이고, 간신히 찾아내 연락한 담당자들은 각종 책임 떠넘기기와 고도의 회피기술을 발휘했거든요. 내 개인정보가 어디서부터 어떻게, 무엇을 위해 처리되는지, 그리고 이에 대한 동의와 선택권 행사 및 해당 내용을 열람할 권리는 개인정보보호법이 보장하고 있는 정보주체의 가장 기본적 권리입니다. 그러나 해당 사업에서는 이 모든 권리가 처음부터 끝까지 어느 것 하나 제대로 지켜지지 않고 있습니다. 그리하여 5월 17일, 진보넷과 단체들은 법무부 산하 기관의 개인정보 열람청구 거부에 대해 분쟁조정을 신청했습니다. 우리는 앞으로도 우리의 얼굴정보를 비롯한 민감한 생체정보를 보호하기 위해 끝까지 투쟁할 것입니다.
|
