캠페인: ADM(automated decision-making, 자동화된 의사결정)과 이동 중인 사람들{/}[해외정보인권] 자동화된 요새, 유럽 : 인권을 위한 자리는 없다

자동화된 요새, 유럽 : 인권을 위한 자리는 없다

지난 10년 동안 유럽연합(EU)에 도달하려다 지중해에서 29,000명이 사망했습니다. EU가 이 비극이 멈추기를 원하고 있다고, 유럽 전역의 과학자들이 최신 기술을 통해 이를 실현하기 위해 열렬히 노력하고 있다고 생각할 수 있습니다. 하지만 사실은 정반대입니다. 이른바 인공지능의 도움으로 디지털 국경 장벽이 높아지고 있으며, 납세자의 돈으로 자금을 조달되고 있습니다.

드론, 위성 및 기타 디지털 모니터링 시스템: 수십 년 동안 EU의 외부 국경은 소위 스마트 국경을 만들기 위해 최첨단 감시 기술로 업그레이드되었습니다. 이제 알고리즘과 인공지능이 국경에 점점 더 추가되고 있습니다.

이러한 기술 개발에는 Horizon 2020 또는 Horizon Europe과 같은 이름의 EU 연구 프로그램에서 수백만 유로의 자금이 지원됩니다. 자금을 지원받은 프로젝트는 마치 감시 기술의 카탈로그처럼 보입니다. 그들은 사람들의 목숨을 구하기는커녕 우리 모두를 위험에 빠뜨리고 있습니다.

대부분의 계획이 비밀로 유지되는 것은 놀라운 일이 아닙니다. 대중은 이에 대해 거의 아무것도 알지 못합니다. 법 집행 기관과 국경 당국은 자신들의 업무에 대한 통찰력을 제공하는 것에 (대중이) 신경쓰지 않는 것을 선호합니다. 그들은 이런 종류의 AI 기반 감시 기술의 연구 및 개발에 대한 민주적 논쟁을 피하려고 노력합니다.

우리는 EU가 대중의 눈에 띄지 않기를 원하는 것들이 무엇인지 알아냈습니다.

이러한 시스템이 개발되고 있는 연구 프로젝트에 대한 정보를 요청했지만, 실질적인 정보를 제공하지 않는다는 답변을 많이 받았습니다.

유럽연구집행기관(REA)은 Horizon 2020을 포함한 거의 모든 연구 분야의 혁신적인 프로젝트에 자금을 지원하고 관리하도록 EU 집행위원회로부터 권한을 위임받았습니다. 하지만 REA는 연구 프로젝트에 대해 따로 공개적으로 밝히지 않습니다.

예를 들어, 우리는 정보 공개 요청을 통해 ROBORDER 프로젝트의 ‘시스템 성능 평가에 적용된 방법론’에 대한 세부 정보를 얻으려고 시도했습니다. 처음에는 ‘공공 안전과 관련한 공익 보호’를 이유로 거부당했습니다. 윤리 검토 과정에 참여한 개인의 신원과 소속도 ‘사생활과 무결성’을 보호하기 위해 공유되지 않았습니다. REA는 또한 공개를 거부할 수 있는 합법적인 근거로 ‘상업적 이익’과 ‘지적 재산권 보호’를 언급했습니다. “이 정보를 공개하면 컨소시엄의 경쟁업체가 민감한 상업 정보를 자신에게 유리하게 사용할 수 있기 때문에 불공정한 이득을 얻을 수 있다”는 것이 그 이유입니다. 공개를 피하기 위해 제시된 이유들은 우리가 보낸 모든 요청에 대한 일반적인 반응이었습니다. 하지만 결국 REA는 방법론에 대한 정보를 제공했습니다.

더 많은 투명성이 절실히 필요합니다. ROBORDER는 무리를 지어 활동할 수 있는 무인 차량을 개발하여 EU 국경을 순찰하는 것을 목표로 하고 있습니다. 이러한 기능은 군대에서도 관심을 가질 가능성이 높습니다. 실제로 알고리즘워치와 ZDF 매거진 로얄의 조사에 따르면 ROBORDER 프로젝트 내에서 실시한 시장 분석에서 ‘군부대’가 이 시스템의 잠재적 사용자로 확인되었습니다. 우리가 입수한 문서에 따르면 연구팀원들이 그리스 해군의 예비 장교들을 만나 ROBORDER 시스템을 소개한 사실이 있습니다.

군사 응용 프로그램은 민간 응용 프로그램용으로 마련된 Horizon 2020 기금에서 ROBORDER를 제외합니다. 그러나 EU 집행위원회 대변인은 ‘군대’도 프로젝트 보급 대상으로 선정되었다는 사실만으로 ‘이 프로젝트의 틀 안에서 수행된 활동을 민간에 적용하는 것에 의문을 제기하는 것은 아니다’라고 말했습니다.

ROBORDER 프로젝트는 2021년 예정된 종료일까지 계획대로 실행되었습니다. 그 결과물은 이후 프로젝트에 기여했습니다. 그 일부 중 국가적 차원에서 EU의 국경 관리 및 비자 기관에서 자금을 지원하고 그리스 이민 및 망명부가 조정하는 것이 있습니다. 알고리즘워치와 ZDF 매거진 로얄은 ROBORDER를 조정하고 현재 그것을 연구하고 있는 그리스 연구 센터 CERTH에 정확히 어떤 결과나 구성 요소가 채택되었는지 문의했지만 답변을 받지 못했습니다.

끈질긴 노력 끝에 다양한 EU 지원 프로젝트에 대한 문서를 입수할 수 있었습니다. 우리가 받은 문서 중 일부는 너무 심하게 편집되어 어떤 내용인지 알 수 없었습니다. NESTOR 프로젝트의 보조금 계약서와 부속서에는 169페이지가 연속적으로 편집되어 있었습니다.

자동화된 성벽의 또 다른 벽돌에 불과합니다

자동화 요새가 된 유럽은 또한 모든 사람의 권리에 영향을 미칠 것입니다. 왜냐하면 정부가 우리에 대한 모든 것을 알아낼 수 있는 기술을 촉진하기 때문입니다.

어떻게 할 수 있을까요? 예를 들어 얼굴 인식을 사용하여 신원을 얼굴과 기타 측정 가능한 생체 인식 기능으로 축소하는 것입니다. 점점 더 정교해지는 생체 인식 시스템으로 얼굴을 캡쳐하고 분석할 수 있습니다. D4FLY 프로젝트에서는 “2D+열 안면, 3D 안면, 홍채 및 신체 유형 생체 인식”을 결합합니다. iBorderCtrl과 같은 프로젝트에서는 여행자가 (가상) 국경 관리에게 거짓말을 하고 있는지 평가하기 위해 감정과 “미세 표정”, 즉 몇 초 동안만 지속되는 찰나의 표정을 조사합니다. 이렇게 하면 위험 평가가 자동으로 생성되어 EU 국경에서 보안 검사가 더 엄격해질 수 있습니다.

이러한 EU 자금 지원 프로젝트는 인간의 이동을 디지털화, 전산화, 자동화하기 위해 설계되었습니다. EU는 법을 준수하는 여행자는 방해받지 않고 자유를 누리는 반면, ‘위험한’ 사람들은 자동으로 추가 검색을 받는 미래를 상상하고 있습니다.

Frontex의 부대표인 우쿠 사레칸노Uku Särekanno는 최근 인터뷰에서 다음과 같이 말했습니다: “다음 단계는 자동화에 대한 매우 진지한 논의입니다. 향후 5~10년 안에 어떻게 하면 더 자동화된 국경 통과와 더 원활한 여행 경험을 제공할 수 있을지 연구하고 있습니다.”라고 말했습니다.

여러 과학자들에 따르면, 이는 지난 20여 년 동안의 연구 결과이며, 궁극적으로는 완전한 원격 감시로 이어져 이러한 디지털 기술과 보안 정책의 기본 논리가 완전히 지배하는 완벽한 판옵틱 사회로 나아갈 수 있다고 합니다.

어떤 용도로 사용하나요? 감시 카탈로그 훑어보기

사람을 검사하려면 시간과 자원이 필요합니다. 따라서 일부 프로젝트는 국경 공무원들을 자동으로 ‘구제’하는 것을 목표로 하는데, 이는 더 객관적이거나 신뢰할 수 있다고 잘못 가정된 자동화 시스템의 보조자로 만드는 것을 의미합니다.

자동화 시스템은 개인, 단체뿐만 아니라 화물차나 기타 차량에 부착된 여러 센서를 통해 ‘비정상 행동’을 감지하고 ‘상황 인식’을 높이며 실시간 정보와 예측(‘즉시전송’)을 도출해야 합니다. Google 트렌드 데이터, Facebook 및 X(이전 트위터)와 같은 소셜 미디어 플랫폼의 콘텐츠, “전화 통화의 정량적(지리적 위치) 지표”를 분석하여 이동 경로를 알고리즘으로 예측합니다. 그러나 이러한 자동화된 시스템으로 이용 가능한 데이터를 취하고 알고리즘에 결정을 맡기는 방식은 정치적 결정을 대체할 수 없습니다. 결정은 정당화되어야 합니다. 또한 정치적 결정은 기술적 솔루션의 부산물일 뿐만 아니라 최우선적으로 고려되어야 합니다.

ITFLOWS 프로젝트의 EuMigraTool을 보면 위험성이 분명해집니다. 이 도구에는 “EU 내 망명 신청에 대한 월별 예측”이 포함되어 있으며, “트위터 감정 분석 모델 데이터를 입력으로 사용하여” EU 내 “이주민에 대한 태도”에 대한 “직관”을 제공함으로써 “이주민과 EU 시민 간의 잠재적 긴장 위험을 식별”하는 것으로 되어 있습니다. 적십자 및 옥스팜과 같은 단체가 참여하는 이 프로젝트의 사용자 위원회는 성명을 통해 “오용 시 국경 폐쇄, 폭력 선동, 반이민 정책에 대한 지지와 동의를 얻기 위한 정치적 목적에 악용될 수 있다”며 오용에 대한 경고를 보냈습니다. 그럼에도 불구하고 이 도구는 개발되었습니다.

EU가 자금을 지원하는 이 프로젝트에서 이동하는 사람들은 끊임없이 안보에 위협이 되는 존재로 묘사됩니다. FOLDOUT 프로젝트는 이 핵심 전제를 솔직하게 설명합니다: “지난 몇 년 동안 불규칙한 이주가 급격히 증가”했고, 따라서 “기존 시스템으로는 더 이상 관리할 수 없게 되었다”는 것입니다. 이제 법 집행 기관과 국경 당국은 범죄자와 테러리스트보다 “한 발 앞서” 대응하기 위해서는 특히 이주와 관련된 상황에서 자동화가 표준이 되어야 한다고 생각합니다.

FRONTEX: 어디에나 있습니다

국경 보안의 원동력 또한 주요 고객 중 하나입니다: FRONTEX입니다. 2004년에 설립된 유럽국경해안 경비청은 최근 몇 년 동안 EU의 연구 및 혁신 프로젝트에서 점점 더 중요한 역할을 담당해 왔습니다. 이 기관의 예산은 이전 예산 대비 194% 증가했으며, 지난 20년 동안 무려 13,200%나 증가했습니다. 하지만 FRONTEX의 영향력은 예산 규모를 훨씬 뛰어넘습니다. 이 기관은 인공 지능, 증강 현실 또는 가상 현실을 포함하여 “국경 보안에 중요한 광범위한 기술 역량”을 다루는 여러 Horizon 2020 프로젝트를 “돕고”, “적극적으로 참여하고”, “추진”하기 위해 개입했습니다.

2020년에는 EU 집행위원회의 이민 및 내무부(DG-HOME)와의 협력을 공식화했습니다. 이를 통해 FRONTEX는 “프로그래밍, 모니터링 및 프로젝트 결과의 활용” 분야에서 DG-HOME에 지원을 제공할 수 있게 되었습니다. 이 기관은 이제 “연구 활동 식별”, 연구 제안서 평가, Horizon Europe 연구 프로젝트의 “운영 관련성”에 대한 감독을 담당하고 있습니다.

따라서 이 기관은 EU 지원 프로젝트 시험, 시연 및 워크숍에 참여하고, EU 자금 지원 프로젝트와 관련된 행사를 개최하며, 심지어 국경 보안 분야에서 EU 자금 지원 프로젝트를 실행하는 데 도움을 주기 위해 연구소(국경 관리 혁신 센터, BoMIC)를 만들기도 했습니다. 이는 2022년 11월에 첫 번째 제안서 모집이 발표된 FRONTEX의 자체 “연구 보조금 프로그램”으로 보완되어 “실험실에서 나온 유망한 아이디어를 국경 보안의 실제 응용 분야에 적용”할 것입니다.

어떻게 현실화될까요?

NESTOR 프로젝트는 “해상과 육상 국경을 넘어 전방위적인 상황 인식을 제공하는 완전히 기능적인 차세대 종합 국경 감시 시스템”을 약속합니다. 이 시스템은 광학, 열화상, 무선 주파수 스펙트럼 분석 기술을 기반으로 합니다. 이러한 데이터는 고정식 설치물과 이동식 유인 또는 무인 차량(수중, 수면, 지상 또는 공중에서 작동 가능)으로 구성된 ‘상호 운용 가능한 센서 네트워크’를 통해 제공될 것입니다. 이 차량들은 또한 집단으로 작동할 수 있습니다. 이를 통해 사람, 선박, 차량 또는 드론과 같은 ‘움직이는 표적’을 감지, 인식, 분류 및 추적할 수 있습니다. “국경 지휘, 통제 및 조정 지능 시스템”은 “최첨단 인공 지능 및 위험 평가 기술”을 채택하여 “웹 및 소셜 미디어 데이터 분석과 함께 실시간으로 감시 데이터를 융합”할 것입니다.

여기서 핵심 용어는 “사전 인식”입니다. EU에 따르면 “사전 인식”은 “위험 분석 및 상황 인식을 통해 외부 국경을 관리하는 것과 관련된 외부 국경 너머의 지리적 영역”을 의미합니다. 즉, ‘국경’이라는 개념 자체가 궁극적으로 당국이 원하는 의미로 용해되는 것입니다.

결론: 자동화된 EU 요새의 혜택을 받는 사람은 극소수에 불과하며, 여러분은 그 중 한 명이 아닙니다.

프로젝트 목록은 계속 이어질 수 있지만(아래 참조), EU의 요점은 이해하실 수 있습니다: 그들은 이민자를 위협으로 인식하고 있으며, 기존의 국경을 훨씬 뛰어넘어 자동화를 지속적으로 개선하고 감시를 강화함으로써 이민자로부터 국경을 더 잘 보호하고자 합니다. EU는 기술적인 해결책을 통해서만 끝낼 수 있는 이주 ‘위기’의 이미지를 떠올리게 합니다.

이러한 믿음은 이미 잘 알려진 바와 같이 감시 및 보안 업계와 밀접한 관계를 맺고 있는 국경 및 해안 경비대 커뮤니티에서 광범위하고 점점 더 확고하게 형성되고 있습니다. 그러나 이는 사회 정의, 차별 금지, 공정성, 기본권에 대한 기본적인 존중을 위협합니다. ‘윤리 평가’는 이주 자동화의 복잡성 중 극히 일부에 불과합니다. 평가에서 시스템 사용이 정당화될 수 있는지 근본적으로 의문을 제기하더라도 시스템은 어쨌든 개발될 것입니다. 이러한 프로젝트 중 상당수는 애초에 자금을 지원받지 말았어야 하는 것이므로 추진하지 말아야 합니다.