소식지인공지능

[해외정보인권] Lawsuit calls for ban on use of facial recognition technologies by São Paulo subway system{/}상파울루 지하철 시스템의 얼굴인식 기술 사용 금지 요청 소송

By 2022/04/05 No Comments

편집자주 :

이번에 소개할 것은 지하철 얼굴인식 시스템에 대한 브라질 정보인권 단체들의 공익소송입니다. 상파울루 메트로는 일일 4백만이 넘는 지하철 이용객에 대한 전방위적인 얼굴인식 시스템을 구축하면서도 어떠한 동의도 받지 않았음은 물론이고, 해당 시스템이 어떻게 운용되고 개인정보가 어떻게 처리되는지에 대한 기초적 정보조차 공개하지 않은 것으로 알려져 있습니다. 단체들은 공익소송을 통해 이런 믿기지 않는 시스템을 당장 중단할 것을 요구하며 동시에 집단적 손해배상 청구에 나섰습니다. 단체들은 얼굴인식 기술의 불평등함과 더불어 특히 공개적으로 접근할 수 있는 장소에 대한 대량감시 목적으로 기술이 활용될 경우 어떤 위험이 발생할 수 있을지 크게 염려된다는 점을 지적하고 있습니다.

(지난 3월 22일, 상파울루 법원은 상파울루 메트로로 하여금 얼굴인식을 위한 생체인식 정보 수집 및 처리 절차를 즉시 중단하고 새로운 카메라 등 장비를 설치하지 못하도록 하는 가처분 결정을 내렸습니다.)


번역오류는 policy 골뱅이 jinbo.net 으로 알려주세요.
제목 : 상파울루 지하철 시스템의 얼굴인식 기술 사용 금지 요청 소송
원문제목 : Lawsuit calls for ban on use of facial recognition technologies by São Paulo subway system
원문링크 : https://intervozes.org.br/lawsuit-calls-for-a-ban-on-the-use-of-facial-recognition-technologies-by-the-sao-paulo-subway-system/
일시 : 2022년 03월 22일
작성 : Intervozes

목요일, 상파울루 지하철의 일일 이용자 400만명이 얼굴인식 기술을 통해 얼굴 정보를 수집 당하고 매핑 및 모니터링되는 것을 막기 위해 시민사회단체와 국선 변호인은 공익소송을 제기했습니다. 소송의 당사자는 다음과 같습니다 : 상파울루 국선 변호인 사무소, 연방 국선 변호인 사무소, 브라질 소비자 보호국(Instituto Brasileiro de Defesa do Consumidor – Idec), 브라질사회적통신연대 Intervozes (Intervozes – Coletivo Brasil de Comunicação Social, 아티클19 브라질, 아티클19 남아메리카, 인권증진연대 (Coletivo de Advocacia em Direitos Humanos – CADHu).

단체들은 상파울루 메트로 사가 운용하는 얼굴인식 시스템이 일반 데이터 보호법 (LGPD), 소비자보호법, 공공서비스이용자법, 아동청소년법(ECA),연방헌법 및 국제조약에 명시된 법적 요건을 충족하지 못한다고 주장합니다.

“지하철 시스템에 구현된 얼굴인식 기술은 사람의 얼굴에 대한 정보인 생체인식 정보 및 대체 불가능한 개인정보를 검색합니다. 상파울루 메트로 사는 데이터보호법부터 아동청소년법, 헌법과 국제조약 등 해당 이슈에 관련된 거의 모든 법률을 위반했습니다.” – Eloísa Machado, 제툴리우 바르가스 재단(FGV) 교수 및 원고 변호인단 변호사

이번 공익소송은 대중교통을 이용하는 모든 사람에 대한 얼굴인식을 위해 5천만 헤알(*한화 약 130억원)이 넘는 공공 예산이 투입된 사업에 대한 정보공개를 요구했던 이전 소송에서 상파울루 메트로 사가 제출했던 문서를 분석한 결과입니다.

“승객에 대한 차별적 대응을 유발하는 것 뿐만 아니라 본질적으로 공격적이고 침해적인 얼굴 인식 기술의 비효율성은 이미 힘겨운 대중 교통 이용 경험을 더욱 악화시킬 수 있습니다. 또 ‘거짓양성(false positive)’으로 인해 길고 피곤한 출퇴근길을 방해하여 승객들의 불안감은 더 커질 수도 있습니다.” – Diogo Moyses, Idec 디지털 권리 프로그램 코디네이터

“정확한 정보가 공개되지 않는 것 외에도 지하철 교통 시스템에 필요한 개선이나 확장에 투자하는 대신 잘못된 감시에 수백만 달러를 지출한다는 것이 올바른 우선 순위인가 하는 의문이 듭니다.” – Estela Guerrini, 상파울루 국선 변호인 사무소 소비자 특별분과 코디네이터 및 국선 변호인.

소송은 얼굴 인식 기술의 정확성에 결함이 있고 기술 자체가 구조적 인종차별 환경에 근거한 것으로 알려져 흑인, 논바이너리 그리고 트랜스젠더에 대한 차별 위험을 기하급수적으로 높인다는 점을 강조하고 있습니다. 설령 최고 수준의 알고리즘이라 할지라도 거짓양성과 거짓 음성에 더 크게 영향 받고 권리를 침해당하며 난처한 상황에 더 많이 노출될 흑인과 트랜스젠더에 대해 충분히 잘 판단할만큼 정확하지 못합니다.

“얼굴인식 기술의 차별적 결과는 해결할 수 있는 문제가 아니며 해당 기술이 학습한 데이터베이스에 존재하는 편향을 반영합니다. 기술이 애초 세계 곳곳에 이를 판매하는 다국적 기업의 소수 시스백인 남성들에 의해 설계되고 개발되었기 때문입니다.” – Isadora Brandão, 상파울루 국선 변호인 사무소 인종평등과 다양성 특별분과 코디네이터 및 국선 변호인

“지하철 승객에 대한 얼굴 인식은 동의 없이 생체정보를 대량으로 수집하는 것이며 대량감시체제를 구축하는 비례적이지 못한 조치입니다. 사회가 감시 하에 놓이는 것을 일상화시킬 것이며 이는 시민들의 삶을 전례 없이 통제하는 권위주의적 성향의 정부에게 점점 더 취약해질 것입니다.” – Pedro Ekman, Intervoze

소송은 데이터보호법, 아동청소년법 및 헌법에 정면으로 위배되는 보호자의 동의없는 아동청소년의 민감한 개인정보에 대한 수집 및 처리 또한 문제 삼고 있습니다. “나아가 아이들은 자라며 외모가 급격히 변하기 때문에 아동에 대한 얼굴 인식 시스템이 성공적일 확률은 적은 것으로 알려져 있으며 해당 시스템이 실종아동을 찾아낼 수 있다는 주장 또한 근거가 없는 것으로 판명됩니다.” – Daniel Secco, 상파울루 국선 변호인 사무소 아동청소년 특별센터 코디네이터 및 국선 변호인.

단체들은 해당 사업이 다른 국가에서 시행되는 정책 추세와도 역행하고 있다는 점을 지적합니다. 특히 유럽과 미국에서는 침해적인 특성과 감시 및 공공장소에 대한 모니터링을 촉진시킬 가능성으로 인해 얼굴 인식과 같은 기술의 대규모 사용을 제한하고 있습니다. 최근 몇 년 간 마이크로소프트, IBM 및 아마존과 같은 기업들 또한 잠재적인 인권 침해로 인해 경찰용 얼굴 인식 시스템 판매를 중단할 것이라 밝히기도 했습니다.

“시스템의 성능을 ‘향상’시키겠다는 약속이 있더라도 대량감시의 안전한 사용과 인권은 양립할 수 없는 문제입니다. 예를 들어 얼굴인식이 더 정확해진다면 감시되고 있는 공간을 오가는 사람들을 추적하기 더 쉬워질 것입니다. 어떤 경우에는 집회 및 시위에 대한 권리 행사에도 영향을 미칠 수도 있겠지요. 따라서 이러한 관행은 중단되고 금지되어야 할 필요가 있습니다.” “이번 소송은 브라질 전역에서 무차별적이고 대규모로 운용되는 기술인 공공장소에서의 얼굴인식 사용에 문제를 제기하는 첫 번째 소송입니다.” – Sheila de Carvalho, 아티클19 브라질 및 남아메리카 코디네이터

소송은 법원이 상파울루 메트로 사가 기관 시설에서의 얼굴인식 운용을 즉시 중단하도록 명령할 것을 요구하며 나아가 해당 기술이 승객의 권리에 끼친 피해에 대한 정신적 집단 손해배상으로 4200만 헤알 (계약서 상 해당 시스템의 구현에 제공된 금액, *한화 약 109억)의 배상금을 청구하고 있습니다.