[해외정보인권] 유럽 의회, 생체인식 감시 사회에 대한 금지선(red line) 긋다.

편집자주 :

6월 14일 유럽 의회를 통과한 인공지능 법안은 EU 집행위원회까지 통과하면 올해 말 최종 승인될 것으로 예상됩니다. 이 법안은 유럽에서 개발되고 사용되는 모든 AI에 적용되며, 인간 중심적이고 신뢰할 수 있는 AI의 활용을 촉진하고 유해한 영향으로부터 건강, 안전, 기본권 및 민주주의를 보호하는 것을 목표로 합니다. 집행위원회 및 EU 회원국 정부와 협상이 남아있긴 하지만, 세계 최초로 인공지능 기술을 포괄적으로 규제하는 법안이 만들어진 것입니다.

유럽 시민사회단체들은 이 법안과 관련해 인공지능으로 인해 침해받을 수 있는 기본권을 보호할 것과 인공지능 사용에 있어 책무성과 투명성을 보장할 것, 고위험 인공지능 사용은 금지할 것 등을 주장해 왔습니다. 인공지능은 이미 우리 삶의 많은 부분을 관여하기 시작했고, 앞으로 점점 더 많은 분야로 영향력을 키울 것입니다. 인공지능이 내리는 결정에 인간의 기본권이 침해되지 않도록, 적절한 규범이 필요합니다.

한국에서도 이미 인공지능 법안에 대한 논의가 시작되었는데요, 국회 과방위 소위를 통과한 초안은 산업 진흥을 주관하고 있는 과학기술정보통신부가 많은 것들을 소관하도록 만들어져 있어 시민사회단체에서도 우려를 표하고 있습니다. 국가인권위원회 역시도 해당 법안을 재논의할 것을 촉구하고 있는 만큼, 인간의 기본권을 보장하는 인공지능 법안으로 재탄생하길 바랍니다.

번역오류는 policy 골뱅이 jinbo.net 으로 알려주세요.
제목 : 유럽 의회, 생체인식 감시 사회에 대한 금지선(red line) 긋다.
원문제목 : European Parliament draws red line against biometric surveillance society.
원문링크 : European Parliament draws red line against biometric surveillance society.
일시 :   2023년  6월  27일 게재
작성 :  EDRi

2023년 6월 14일 수요일, 유럽 의회는 대부분의 공공장소에서 생체인식 시스템을 사용하는 것을 금지하기로 투표했습니다. 이는 유럽에서 생체인식 대량감시(BMS)를 종식시키자는 ‘얼굴 되찾기’ 캠페인의 요구를 지지해 온 80개 단체와 25만 명의 사람들이 거둔 가장 큰 성과입니다.

이번 표결 덕분에 이것이 유럽 의회의 공식 입장이 되었으며, EU 회원국 정부와의 입법 협상의 최종 단계에서 추진될 것입니다. 합의가 이루어지면 이르면 올겨울에 인공지능법(AI법)이 승인될 수 있을 것으로 예상됩니다.

주요 협상가들, 생체인식 대량감시(BMS)를 막기 위한 5가지 주요 금지 사항에 합의

2023년 초, 유럽 의회 내부 시장 및 시민 자유위원회의 주요 의원들이 생체인식 데이터를 처리하는 AI 시스템 중 가장 유해하게 작용할 몇 가지의 사용을 금지하는 합의 초안을 논의했으며, 이 합의안이 6월 14일 표결에서 승인되었습니다.

의회의 7개 정치 그룹 모두의 환경노동위원들이 동의한 이 합의안은 공공장소에서 실시간(일명 라이브) 공개 얼굴 인식 및 기타 생체인식(예: 사람의 눈이나 보행 패턴(걸음걸이)을 사용하여 신원을 확인하는 것)을 전면 금지하는 내용을 담고 있습니다. 

다음 금지사항은 일반적으로 소급 적용 및 사용을 금지하되, 사법적 권한이 있는 경우 경찰을 위한 예외 조항을 두었습니다. 사람을 고유하게 식별하지 않더라도 피부색, 성별 또는 기타 민감한 특성에 따라 분류하기 위해 생체 데이터를 처리하는 시스템의 판매, 배포 또는 사용을 금지했습니다. 또한 경찰, 국경 당국, 고용주 또는 교육 당국이 사람의 감정을 프로파일링하거나 예측하기 위해 AI 시스템을 판매, 배포 또는 사용하는 행위도 금지했습니다. 마지막으로, 안면 인식 데이터베이스를 구축하거나 확장하기 위한 스크래핑 도구의 사용을 금지했습니다(예: Clearview AI).

이 다섯 가지 금지 사항은 전세계적으로 인권 침해와 관련된 많은 공공 생체인식 사용 사례를 중단시킵니다. 단, 휴대폰 잠금 해제나 포렌식과 같은 사용은 계속 허용합니다.

또한 금지 대상에서 제외된 사용 사례라 하더라도 고위험군으로 분류되며, 나머지 모든 생체인식 식별, 분류 또는 감정 인식은 AI의 위험한 사용으로부터 인권과 안전을 보호하기 위한 법의 규칙을 따라야 합니다.

BMS에 대한 금지선의 한계

의회의 이번 합의는 2021년 유럽 집행위원회에서 처음 제안했던 접근 방식을 기반으로 합니다. EDRi는 집행위원회가 이러한 시스템의 위험성을 명시적으로 인식하고 있지만, 이러한 위험으로부터 우리를 보호할 만큼 충분히 나아가지 못했다고 비판했습니다. 위에서 설명한 합의안에서 알 수 있듯이 유럽 의회는 우리의 모든 요구에 귀를 기울였습니다. 

그러나 여전히 충분히 진전되지 않은 부분도 있었습니다. 이는 정치적 스펙트럼 전반에 걸친 합의를 달성해야 할 필요성을 보여주는 신호일 것입니다. 예를 들어, 우리는 의회가 사후 얼굴인식(녹화된 파일의 얼굴인식)이 라이브 버전만큼이나 해로울 수 있다는 점을 인식하도록 촉구했지만, 사후 사용의 전면적인 금지가 합의안에 포함되지 않은 것에 대해 실망했습니다.

감정인식 시스템도 같은 논리가 적용되는데, 감정인식 시스템은 매우 침해적이고 차별적이며 어설픈 사이비 과학적 가정에 기반한다는 이유로, 가장 유해한 분야로서 의회의 합의안에서 금지되었습니다. 하지만 이러한 논리에 따르면, 다른 분야에서는 이것을 허용하는 것은 일관성이 없어 보입니다. 또한 이주 상황에 있는 사람들이 금지 조치에 의해 어느 정도까지 보호받을 수 있는지에 대한 의문도 제기되고 있습니다. 법안 발의자 중 한 명인 드라고스 투도라쉬(Dragos Tudorache) 유럽의회 의원은 이주 상황인 사람들도 보호받을 수 있다고 주장했지만, 실제로는 AI 법이 EU 국경에서 발생하는 광범위한 AI의 유해한 사용을 다루지 못하고 있다는 점이 우려됩니다.

특히, 특정 “인공지능” 요소가 있는 생체인식 기술 사용만이 이 법의 적용 범위에 포함되었습니다. 이는 예를 들어, 인권 침해, 특히 이주가 진행 중인 사람들에 대한 차별과 관련된 데이터베이스와 같은 기본 생체인식 인프라의 문제를 AI 법이 대부분 다룰 수 없다는 것을 의미합니다. 그렇기 때문에 EDRi에서는 생체인식 데이터와 관련된 이러한 다른 제도적 문제와 불공정을 해결하기 위해 Prüm II 규정, EURODAC 등에 대한 작업을 계속하고 있습니다.

의회 다수가 금지 조치에 동의하는 역사적인 표결

6월 14일에 실시된 투표에서 전체 705명의 유럽의회 의원들은 위원회에서 합의한 내용을 채택할 지, 수정할 지, 거부할 지 결정해야 했습니다. 막판에 공공 안전에 대한 모호하고 근거 없는 주장을 내세워 공공 얼굴 인식 금지 조항을 삭제하거나 완화하려고 했던 중도 우파 유럽 인민당(EPP)의 시도는 다행히 실패로 돌아갔습니다. 언론 보도에 따르면, 이는 2024년 유럽의회 선거를 앞두고 보수당 지지층에 어필하려는 EPP 그룹의 큰 흐름의 일부입니다. 비록 동료 의원들이 동의한 협정을 포기하는 것임에도 말입니다.

반면, 이주 진행 중인 사람들에 대한 밀어내기(디지털 차원의)를 방지하고 접근성 요건을 의무화하거나 기본권 영향 평가를 강화하는 등 위원회 입장을 넘어 AI 법의 인권 보호를 전반적으로 강화하려는 시도도 승인되지 않았습니다. 이러한 요구사항은 EDRi의 핵심 요구사항 중 일부였으며, 최종 보고서에 반영되지 않은 것에 대해 유감스럽게 생각합니다.

프랑스가 2024년 파리 올림픽과 패럴림픽을 위해 제정하려고 하는, 생체인식 금지 범위를 행동 프로파일링까지 확대하려는 일부 의원들의 노력도 27명이라는 비교적 적은 차이로 실패했습니다.

이는 1년 반에 걸친 치열한 협상 끝에 한 달 전 위원회에서 합의된 내용을 그대로 반영한 의회 입장이 공식적으로 채택되었음을 의미합니다. 499명의 유럽의회 의원이 최종 보고서에 전반적으로 찬성표를 던졌지만, 생체인식 부분 중 일부는 개별적으로 투표가 진행되었기 때문에 BMS 표결의 가결률은 다양했습니다. 가장 근소한 격차는 38명이었고, 가장 큰 격차는 94명이었습니다. 박빙도 아니고 압승도 아니었습니다.

EU AI 법안 협상의 마지막 단계

투표가 끝나자마자 유럽의회 의원들은 EU 회원국 이사회 대표들과 만나 ‘3자 협상’으로 알려진 협상을 시작했습니다. 이는 EU의 ‘공동 입법자’인 의회와 이사회가 유럽 집행위원회의 지지를 받아 최종 법안에 대한 합의를 도출하기 위한 과정입니다.

생체인식에 관해서는 협상 기관 간의 차이가 매우 큽니다. 게다가 몇몇 EU 회원국은 생체인식 식별을 금지하는 법안을 받아들이지 않겠다는 입장을 표명했습니다. 따라서 AI법에서 생체인식의 미래는 매우 불확실합니다.

유럽 집행위원회의 최초 입법 제안은 유럽 최고 데이터 보호 감독기관인 유럽 개인정보보호위원회(EDPS)로부터 생체인식 감시 문제에 대해 지나치게 관대하다는 비판을 받았습니다. 집행위는 예외적인 상황에서만 공공 생체인식을 허용하는 좁은 범위의 제안이라고 주장했지만, 실제로는 이러한 기술 사용에 대한 청사진을 제시한 것이나 다름없었습니다.

초안에서는 모든 거리에서 생체인식(주로 얼굴) 카메라를 사용하여 외래 식물 밀수 등의 범죄를 적발할 수 있도록 허용했지만, 이는 경찰이 주장하는 ‘예외적 사용’에 해당하지 않습니다. 대테러나 실종 아동 수색과 같이 좁은 범위로 보이는 사용 사례도 실제로는 매우 광범위합니다. EDPS가 지적했듯이, 이러한 사례는 경찰이 거의 영구적인 감시를 정당화하기 위해 일상적으로 사용하는 것입니다. 이러한 분류와 비슷한 다른 관행은 위원회에 의해 투명성 요건이 미약하게만 부여되었습니다. 위원회는 3자 협상에서도 이를 계속 추진할 가능성이 높습니다.

EU 이사회의 공식 입장은 집행위원회보다 더 나아가 예외를 확대하고 안전장치를 약화했습니다. 이는 술집, 예배당, 시위 장소, 국경을 넘거나 학교에 갈 때 등 우리 사회에 대한 영구적인 생체인식 감시를 현실화하려는 EU 정부의 분명한 의도를 보여줍니다.

이 점을 감안할 때, 유럽 의회는 공식적 증거가 전혀 없음에도 불구하고 이러한 시스템이 우리를 더 안전하게 지켜준다고 주장하는 보안 업계의 지원을 받는 골리앗에 맞서 싸우는 다윗과 같은 존재가 될 것입니다. 반면 오스트리아와 독일 정부는 이사회가 제안한 광범위한 생체인식 감시 시스템 사용에 공개적으로 반대하고 있으며, 다른 일부 국가들도 회의적인 입장을 유지하고 있습니다.

의회의 강력한 입장, 일부 회원국의 반대 의견, 생체인식 대량감시에 대한 대중의 반대 여론이 결과를 바꾸기에 충분할까요? 시간이 지나야 알 수 있겠지만, 현재로서는 한 가지 분명한 사실은 금지에 예외를 두는 것은 대량감시 로드맵을 만드는 것과 같다는 것입니다. 이러한 이유로 EDRi 네트워크와 Reclaim Your Face 캠페인은 우리를 걸어 다니는 바코드로 취급하는 모든 법과 관행에 반대하고 디지털 시대에 우리의 인권을 온전히 존중하기 위해 계속 싸울 것입니다.