소식지얼굴인식인공지능

[해외정보인권] Open letter calling for a global ban on biometric recognition technologies that enable mass and discriminatory surveillance{/}대량 감시와 차별적 감시를 가능하게 하는 생체 인식 기술에 대한 전세계적 금지를 요구하는 공개 서한

By 2021/06/22 6월 25th, 2021 No Comments

편집자주 :

이번에 소개할 것은 공개된 장소에서의 얼굴인식 및 원격 생체인식 기술에 대한 금지를 요구하는 전세계 시민 단체의 공개 서한입니다. 공공 감시 목적으로 활용되는 일부 보안 기술은 그것이 가져오는 사회적 혜택보다는 기본적 권리와 인권에 대한 침해로 인한 해악이 훨씬 더 큽니다. 특히 감시를 목적으로 한 얼굴인식 및 생체인식 기술은 사생활 침해부터 표현의 자유 및 집회 및 결사의 자유를 침해하고, 구조적인 차별에 스며들어 탄압과 억압의 도구로 활용되고 있습니다.
영상정보를 통한 감시라면 세 손가락 안에 드는 한국 사회도 예외는 아닙니다. 각 지방자치단체가 운영하는 CCTV통합관제센터의 카메라들은 하루가 멀다 하고 ‘지능형’으로 업데이트되고 있으며 무분별한 증식과 공유를 멈추지 않고 있습니다. 이미 얼굴인식 기술을 활용 중인 경찰 등의 기관 또한 보다 강력하고 보다 빠르며 포괄적인 사용의 기회를 노리고 있습니다. 감시기계에 대한 감시가 절실히 필요한 때입니다.

번역오류는 policy 골뱅이 jinbo.net 으로 알려주세요.
제목 : 대량 감시와 차별적 감시를 가능케 하는 생체인식 기술에 대한 전세계적 금지를 요구하는 공개 서한
원문제목 : Open letter calling for a global ban on biometric recognition technologies that enable mass anddiscriminatory surveillance
원문링크 : https://www.accessnow.org/ban-biometric-surveillance/
일시 : 2021년 06
작성 : Aceess Now, Amnesty International, European Digital Rights (EDRi), Human Rights Watch, Internet Freedom Foundation (IFF), and Instituto Brasileiro de Defesa do Consumidor (IDEC)

대량 감시와 차별적 감시를 가능하게 하는 생체 인식 기술에 대한 전세계적 금지를 요구하는 공개 서한

Open letter calling for a global ban on biometric recognition technologies that enable mass and discriminatory surveillance

우리 서명인들은 대량 감시와 차별적인 표적 감시를 가능하게 하는 얼굴 인식 및 원격 생체 인식 기술의 사용에 대한 전면 금지를 요구합니다. 이러한 도구는 어디서나 사람들을 식별하고 따라가고 선별하고 추적할 수 있는 능력을 가지고 있으며 프라이버시권 및 개인정보 보호, 표현의 자유, 집회 및 결사의 자유(시위의 범죄화와 위축을 초래함), 평등권과 차별 받지 않을 권리와 같은 인권을 훼손합니다.

우리는 얼굴 인식 및 원격 생체 인식 기술의 사용으로 발생한 수많은 인권 침해를 목격해왔습니다. 중국, 미국, 러시아, 영국, 우간다, 케냐, 슬로베니아, 미얀마, 아랍에미리트, 이스라엘, 인도에서는 시위대와 민간인에 대한 감시가 프라이버시권과 집회 및 결사의 자유에 대한 권리를 해치고 있습니다. 미국, 아르헨티나, 브라질에서 무고한 개인들에 대한 부당한 체포는 프라이버시권과 적법 절차에 대한 권리와 이동의 자유를 훼손했습니다. 중국, 태국, 이탈리아의 소수 민족 및 종교 등 소외되고 억압받는 공동체에 대한 감시는 프라이버시권과 평등권 및 비차별권을 침해했습니다.

이러한 기술들은 의도적으로 사람들의 권리를 위협하며 이미 심각한 피해를 입혔습니다. 어떠한 기술적 또는 법적 안전장치도 이러한 기술이 제기하는 위협을 완전히 제거할 수 없습니다. 그러므로 우리는 이러한 기술이 정부기관이나 민간 그 누구도 공공 장소 또는 공개된 장소에서 사용해서는 안 된다고 생각합니다. 남용의 가능성은 너무 크며 그 결과는 너무 심각합니다.

모라토리엄(일시중단)은 이러한 기술의 개발과 사용을 일시적으로 중단시켜 민주적 논의를 조직하고 증거를 수집할 시간을 벌 수 있지만, 이에 대한 조사와 논의는 공개된 장소에서의 이러한 기술 사용이 우리의 인권과 양립할 수 없으며 전면적이고 영구적으로 금지되어야 한다는 것을 입증할 뿐이라는 게 이미 분명해졌습니다.

그러므로 우리는 금지를 요구합니다.

 

요구의 범위

“얼굴 인식” 및 “원격 생체 인식” 이라는 용어는 전화의 잠금을 해제하거나 특정 장소에 접근을 허용하는 얼굴 인증(authentication) 시스템에서부터 사람의 걸음걸이를 식별하는 기술, 사람의 성 정체성이나 감정 상태를 감지하는 시스템에 이르기까지 광범위한 기술에 이르기까지 다양한 기술을 포괄합니다.

우리의 금지 요구는 얼굴 및 생체 “식별(identification)” 또는 일대다 매칭이라고 불리우는 다인 데이터베이스로부터 사람을 식별하거나 구별하기 위한 기술의 사용에 초점을 맞추고 있지만, 이에 국한되지는 않습니다. 우리는 이러한 기술이 대량 감시 또는 차별적인 표적 감시를 가능하게끔, 즉 종교적, 민족적, 인종적 소수자와 정치적 반체제 인사 및 기타 취약계층의 인권에 지나치게 영향을 미치는 감시로써 개인의 얼굴, 걸음걸이, 음성, 외양 또는 기타 생체 인식 식별자를 사용해 개인을 식별하고 선별하고 추적하는 데 기술이 사용되는 것을 우려합니다. 또 특정한 경우, 얼굴 및 생체 “인증(authentication)” 시스템(일대일 매칭)은 다른 목적으로 재사용될 수 있는 방대하고 중앙집중화된 생체 인식 정보 데이터베이스 구축과 같이 문제적 형태의 감시를 가능하게 하는 방식으로 사용될 수 있습니다.

일부 얼굴 인식 및 원격 생체 인식 프로그램은 법적인 신원과 연결점이 없어 사람들의 프라이버시를 보호한다고 주장하지만, 그럼에도 불구하고 이는 공공 장소에서 개인을 특정하거나 특징과 행동을 통해 개인을 추론하는 데 사용될 수 있습니다. 이와 같은 상황에서 개인 식별이 가능한 정보를 보호하기 위해 데이터를 익명화했는지, 로컬, 즉 “끝단”에서만 처리했는지 여부는 중요하지 않습니다. 이러한 도구는 기본적으로 우리의 권리와 양립할 수 없는 방식으로 사람들을 감시하도록 설계되어 있기에 권리 침해는 항상 발생할 것입니다.

게다가 사람들의 젠더, 감정 또는 다른 개인적 특성에 대해 추론·예측하는 많은 얼굴 및 생체인식 분류(classification) 프로그램은, 그 과학적 기반에 내재한 심각하고 근본적인 결함으로 진통을 앓고 있습니다. 이러한 프로그램이 사람들에게 내린 추론은 흔히 근거가 없으며, 심지어 어떤 경우에는 관상학과 골상학의 우생학적인 이론을 활용하여 차별을 영속화하고 우리를 감시하는 데 더해 잘못 판단하기까지 하는 등 해악을 추가하고 있습니다.

우리의 금지 요청은 이러한 기술이 공개된 장소와 사람들이 피할 수 없는 공간에서 감시 목적으로 사용될 때를 포괄합니다. 법 집행기관의 기술 사용은 주목과 비판을 받아왔지만, 민간 행위자의 기술 사용 또한 우리의 권리에 똑같은 위협이 될 수 있습니다. 특히 민간 행위자가 민관 협력관계에 있는 정부 및 공공 기관을 대신하여 효과적으로 감시에 참여하는 경우 또는 이러한 감시에서 도출된 정보를 당국에 제공하는 경우에 그렇습니다.

우리는 또한 얼굴 인식 시스템의 민간 제공자들이 “의심스러운” 개인들의 데이터베이스를 취합·결합하여 여러 클라이언트와 공유하는 우려스러운 상황을 보았습니다. 이는 비전문가의 재량에 따라 취합되고, 어떠한 감독도 받지 않으며, 해당 데이터베이스를 사용하는 모든 시설의 감시 목록에 오른 개인에 대한 차별을 초래할 수 있는, 민간 기업들 사이 공유되는 “전국적 데이터베이스”를 사실상 구축합니다.

공원, 학교, 도서관, 직장, 교통 시설, 스포츠 경기장, 주택 단지 그리고 심지어 소셜 미디어 플랫폼과 같은 온라인 공간에서 사람들을 감시하기 위해 이러한 기술을 사용하는 것은 인권에 실존하는 위협이 되고 있으며 반드시 중단되어야 합니다.

 

왜 금지인가?

현재 얼굴 인식 및 원격 생체 인식 기술은 어두운 피부색의 사람에게 정확도가 떨어지는 얼굴 인식 시스템의 예시처럼 중대한 기술적 결함이 있습니다. 아울러 이러한 시스템에 대한 기술적 개선이 있더라도 우리의 인권에 제기하는 위협은 제거하지 못할 것입니다.

보다 다양한 훈련 데이터를 추가하거나 정확성을 개선하기 위해 특정 조치를 취하는 것으로 현재의 문제 일부를 해결할 수 있지만, 이는 이러한 시스템을 궁극적으로 완벽한 감시 도구로 만들어 더 효과적으로 우리의 권리를 훼손시킬 뿐입니다.

이러한 기술은 두 가지 주요 방식으로 우리의 권리를 위협합니다.

첫째, 훈련 데이터(입력 데이터가 비교되는 얼굴 데이터베이스 및 이러한 시스템에 의해 처리되는 생체 인식 정보)는 일반적으로 당사자의 인지, 동의, 진정으로 자유로운 선택권 없이 수집되었습니다. 즉 이러한 기술은 설계 상 대량 및 차별적인 표적 감시 모두를 조장한다는 것을 의미합니다.

둘째, 공개된 장소에 있는 사람들을 즉시 식별하고 특정하고 추적할 수 있는 한, 사람들의 인권과 민권은 훼손될 것입니다. 이와 같은 기술이 공개된 장소에서 운영될지 모른다는 생각만으로도 사람들의 권리 행사가 제약되는 위축 효과(chilling effect)가 만들어집니다.

이러한 기술이 공공의 안전을 개선한다는 미심쩍은 주장도 있지만, 그 어떤 이익도 권리에 대한 체계적 침해에 상응하진 못할 것입니다. 이러한 기술이 어떻게 남용되었는지, 투명성이 부족하거나 전무한 상태에서 배치되었는지에 대한 증거는 늘고 있습니다.

치안 유지 활동의 역사적 수행 양태에 대한 모든 조사와 분석은, 감시 기술의 실험적 사용이 전통적으로 구조적 인종차별과 차별을 겪은 바로 그 유색 인종 공동체와 같은 저소득층 및 취약계층을 범죄화한다는 것을 보여줍니다. 얼굴 인식 및 원격 생체 인식 기술의 사용도 예외는 아닙니다. 그러므로 훨씬 더 위험한 감시 인프라가 구축되거나 영구화되기 전에 중지되어야만 합니다.

법 집행기관이 쓰든 민간 기업이나 민관 협력 관계가 쓰든, 이러한 도구는 그 존재만으로도 기능 확장을 촉진하고 공공 장소에 대한 감시를 강화하며 표현의 자유를 위축시키는 효과를 가져올 것입니다. 그 존재 자체가 우리의 권리를 침해하고, 기술의 남용을 막기 위한 실질적인 감독이 불가능하기 때문에 공개된 장소에서의 사용을 완전히 금지할 수밖에 없습니다.

 

금지는 어떤 형태인가?

너무 위험하기 때문에 기술이 해결하는 문제보다 훨씬 더 많은 문제를 야기하는 감시 기술들이 있습니다. 대량 감시와 차별적인 표적 감시를 가능하게 하는 얼굴 인식 및 원격 생체 인식 기술의 경우 그 남용의 가능성은 너무 크며 그 결과는 너무 심각합니다.

의심할 여지가 없습니다. 인권을 보호하기 위해 국가·주·지방 등 모든 정부 (모든 하위 부서 및 행정관청 그리고 특히 이러한 기술 없이도 안전을 유지할 수 있는 충분한 인적, 기술적 자원을 이미 보유하고 있는 법 집행기관과 출입국 관리 기관을 포함)가 이러한 기술을 공개된 장소에서 사용하는 걸 금지해야 합니다.

세계 시민사회단체의 네트워크로서, 우리는 모든 국가가 고유한 헌법, 관습, 법률 체계에 따라 인권을 우선시하는 해결책을 개발하는 여러 방법을 갖고 있다는 것을 알고 있습니다.

그러나 그 방법이 무엇이든, 공개된 장소에서 사람들을 감시·식별·추적·분류하기 위해 얼굴 인식 및 원격 생체 인식 기술을 사용하는 것은 전면적으로 금지되어야만 합니다.

그렇기에 우리는 다음을 촉구합니다 :

  1. 전 세계 모든 정부 차원의 정책입안자와 입법자들은 :
    1. 대량 감시 및 차별적 표적 감시를 가능하게 하는 얼굴 인식 및 원격 생체 인식 기술에 대한 모든 공공 투자를 중단하십시오.
    2. 다음의 내용을 담은 포괄적인 법률, 법령 및 규정을 채택하십시오.
      1. 국가·연방·주·지방 정부 등과 기타 하위  정부에 의한 또는 이들을 대신하여 대중 교통을 포함한 공공 장소 및 공개적으로 접근 가능한  공간의 감시 목적의 이러한 기술의 사용을 금지할 것. 이는 기관·부서·부처·사무국·이사회·위원회·계약자 및/또는 기타 하위 부서 및 행정관청을 포함하며 특히 모든 유형의 법 집행·범죄 수사·출입국 관리·정보 기관들에 중점을 둘 것.
      2. 대량 감시 또는 차별적인 표적 감시를 가능하게 할 수 있는 공공 장소 및 공개된 장소와 공공 숙박 시설에서 민간 행위자의 이러한 기술 사용을 금지할 것. 이는 공원, 학교, 도서관, 직장, 교통 시설, 스포츠 경기장, 주택 단지를 포함하되 이에 국한되지 않음
      3. 정부 기관, 특히 법 집행기관은 민간 기업과 기타 민간 행위자가 이러한 기술을 사용하여 얻은 데이터와 정보에 접근하지 못하도록 금지할 것. 감사 또는 법 준수 여부 확인 목적일 경우는 제외.
      4. 주거·고용·사회 복지·의료 등 경제·사회·문화적 권리와 관련된 문제에 대한 의사결정에 이러한 기술을 사용하지 못하도록 개인을 보호할 것
      5. 사람을 형사 기소하거나 고발하여 수감 또는 구속하는 증거로 이러한 기술 및 기술을 통해 파생된 정보가 사용되지 않게 할 것.
      6. 민간 기업이 보관하는 생체 인식 정보에 대한 정부의 접근을 제한할 것.
    3. 대량 감시와 차별적인 표적 감시를 가능하게 하는 용도로 정부 및 지방 기관이 이러한 기술을 조달하는 것을 금지하는 규칙 및 법령을 제정하십시오.
    4. 종교·민족·인종적 소수자와 정치적 반체제 인사 및 기타 취약계층에 대한 대량 감시 또는 차별적인 표적 감시를 위해 얼굴 인식 및 원격 생체 인식 기술을 사용하는 것을 중단하십시오.
    5. 인지 없이 해당 기술의 사용 대상이 되었고 그 사용에 대해 이의를 제기하기 위해 적법 절차에 대한 권리를 행사할 기회가 없는 개인에게, 이러한 기술 사용에 대한 공개를 의무화하십시오.
    6. 이러한 기술 사용으로 인해 피해를 입은 개인에게 적절한 보상을 제공하십시오.
  2. 법원과 법관은 이러한 기술의 사용으로 인해 발생하는 인권에 대한 실존하는 위협을 인식하고 그로 인한 피해를 예방하고 필요한 경우 시정 조치를 취하십시오.
  3. 개인정보 보호 및 소비자 보호 기관을 포함한 행정 기관은 이러한 기술의 사용을 중지하도록 기업에 촉구하는 것을 포함해 개인정보 보호와 소비자 권리 보호를 위해 모든 권한을 사용하십시오.

마지막으로, 우리는 얼굴 인식 및 원격 생체 인식 기술이 제기하는 실존하는 위협이 모든 종류의 국가와 정부 뿐만 아니라 국제 및 국가 수준의 다른 주요 행위자에 의해서도 가해진다는 것을 알고 있습니다.

그렇기에 우리는 다음을 요구합니다:

  1. 유엔인권최고대표사무소(OHCHR)과 같은 국제기구가 세계 전역에서 커뮤니티를 감시하는 데 사용되는 얼굴 인식 및 원격 생체 인식 기술의 현 개발 및 사용을 적극 규탄하십시오.
  2. 얼굴 인식 및 원격 생체 인식 기술을 개발 또는 사용하는 민간 영역은 :
    1. 대량 감시와 차별적인 표적 감시를 가능하게 하는 얼굴 인식 및 원격 생체 인식 기술의 생산·개발·판매·사용 중단을 공개적으로 약속하십시오.
    2. 대량 감시와 차별적인 표적 감시를 가능하게 하는 얼굴 인식 및 원격 생체 인식 기술의 생산을 즉각 중단하고, 데이터베이스를 구축하는 데 사용된 불법적으로 수집한 모든 생체 인식 정보와 이를 기반으로 구축된 모든 모델 또는 제품을 삭제하십시오.
    3. 이러한 기술의 제공에 대한 모든 공공 계약(중단되었거나 진행중이거나 협상중인 계약 포함)을 상세히 기술하는 투명성 보고서를 발행하십시오.
    4. 직장에서 대량 감시와 차별적인 표적 감시를 가능하게 하는 얼굴 인식 및 원격 생체 인식 기술의 개발에 이의를 제기하거나 거부를 조직한 노동자에 대한 보복을 멈추고 유의미한 협의를 진행하십시오.
  3. 기술 기업의 노동자는 노동조합의 지원을 받아 얼굴 인식 및 원격 생체 인식 기술의 개발 또는 판매에 대한 반대를 직장 내에서 가능한 한 조직해 주십시오.
  4. 투자자와 금융 기관은 :
    1. 투자가 진행중이거나 향후 투자할 얼굴 인식 및 원격 생체 인식 기술을 개발하고 판매하는 기업에 대해 기술이 인권 침해적인지, 대량 감시와 차별적 표적 감시를 가능하게 하는지를 알아내기 위해 인권 실사를 수행하십시오.
    2. 투자 기업에게 대량 감시와 차별적 표적 감시를 가능하게 하는 방법으로 이러한 기술을 생산·개발·판매 또는 다른 방법으로 이용하지 말 것을 요청하십시오.
  5. 후원 기관(donor organizations)은 법정에서 손해 배상을 청구하는 비정부 및 시민사회 단체의 소송 및 변호 자금 지원을 보장하고 지역·주·지방·국가·연방·초국가적·역내 및 국제 체제에서 정책 입안에 적극적으로 참여하십시오.

 

마치며

우리는 시민 사회, 활동가, 학계 및 전 세계의 기타 이해관계자들이 본 서한에 서명하여 공개된 장소에서의 얼굴 인식 및 원격 생체 인식 기술의 사용을 지금 당장 그리고 영구적으로 금지하여 우리의 인권을 보장하기 위한 투쟁에 동참할 것을 요청합니다.