소식지인공지능

[해외정보인권] 비밀정보기관의 혼란스러운 통치, 무법자 시장, 인종차별적 기술 및 알고리즘 감독(여부)

By 2023/03/20 No Comments
비밀 기관의 혼란스러운 통치, 불량 시장, 인종 차별적 기술 및 알고리즘 감독(여부)

편집자주 :

네덜란드의 인권과 기술이 교차하는 지점에서 일어난 1월의 이슈 즉, 비밀정보기관의 혼란스러운 통치, 무법자 시장, 인종차별적 기술 및 알고리즘 감독(여부)에 대해서 소식을 전하고 있습니다.

네덜란드에서는 인공지능시스템 사용 감독 및 필수적인 인권영향평가가 2021년 선거 캠페인에서 주요한 이슈였으며, Bits of Freedom, Amnesty 등의 단체들이 연합해 9개의 네덜란드 연립정당과 야당을 설득하여 서명을 받고 이들 내용이 연립정부 합의안에 반영되었습니다.
그러나 네덜란드 개인정보 감독기구(Dutch Data Protection Authority,DPA)가 위험을 식별하고 협업을 향상시키는 등 다양한 작업을 하고 있지만 시민의 불만을 처리하거나 집행 활동을 수행하지 않는 등의 폐쇄적인 정책을 새로운 역할에 그대로 적용하는 것에 대해 우려를 하고 있습니다.

네덜란드 내각이 지난  8년동안 비밀정보기관과 각료들이 시민과 의회를 볼모로 삼아 주도권쟁탈을 해왔다고 지적하고 있으며 보호장치를 약화시키면서 비밀정보기관에 많은 권한을 부여함으로서 혼란한 상황을 초래했다고 말합니다.

또한, 인공지능의 기회와 위험에 대한 의회에서 논의된 두 가지 쟁점은 첫째, 인종차별적 기술 사례를 들면서 특히, 공공기관에서의 알고리즘 차별에 대한 통제  둘째, 인공지능 법안에 대한 투명성, 설명가능성, 검증가능성의 중요성  세째, 실시간 원격생체인식에 국한된 것이 아닌 실시간, 기관, 일반행위자 등 생체감시에 대한 포괄적인 금지의 중요성을 주장하고 있습니다.

2021년 위트레흐트 시장은 위트레흐트 거주자를 텔레그램에 사용을 금지하는 명령을 내렸는데, 채팅 및 소셜미디어 공간을 “온라인 공공장소”로 간주하고 관할지역에서 시장이 개입할 권한이 있다고 주장했습니다. 이후, 시장이 내린 명령은 법원에서 이의를 제기했고 최근에 법원에서는 시장이 자신의 권한을 넘어섰다고 판결했습니다.


번역오류는 policy 골뱅이 jinbo.net 으로 알려주세요.
제목 :  비밀 정보기관의 혼란스러운 통치, 무법자 시장, 인종차별적 기술 및 알고리즘 감독(여부)
원문제목 : The secret services’ reign of confusion, rogue mayors, racist tech and algorithm oversight (or not)
원문링크 : https://edri.org/our-work/the-secret-services-reign-of-confusion-rogue-mayors-racist-tech-and-algorithm-oversight-or-not/

일시 :   2023년  3월 1일
작성 :   Evelyn Austin(에블린 오스틴), Executive Director(전무 이사), EDRi member(EDRi 회원), Bits of Freedom

알고리즘 감독관은 누구를 위해 일하는 건가요?

알고리즘 시스템 사용에 대한 감독과 인권영향평가의 의무화는 선거 공약의 핵심이었습니다. Bits of Freedom, Amnesty 등이 2021년 선거를 앞두고 9개의 네덜란드 연립정당과 야당을 설득하고 서명하도록 했습니다. 마침내 이들 내용은 연립정부 합의안에 반영되었습니다. 이러한 계획이 결실을 맺게되어 매우 기쁘게 생각합니다.

하지만, 우리는 네덜란드 개인정보 감독기구(DPA)가 알고리즘 감독자로서의 역할을 어떻게 해석하기로 결정했는지에 대해 우려하고 있습니다. 새로운 역할에서 DPA는 부문 간 위험을 식별하고, 지식을 공유하고, 협업을 향상시키며, 공동 표준설정에 기여하며, 적용 가능한 규칙의 개요를 작성할 것입니다. 그러나 DPA는 시민의 불만을 처리하거나 어떤 종류의 집행 활동도 수행하지 않습니다.

우리는 DPA가 폐쇄적인 정책을 새로운 역할에 그대로 유지하는 것에 대해 우려하지 않을 수 없습니다. 시민이 감독관에게 의지할 수 없다면 누구를 위한 감독관인지 의문이 듭니다.

내각은 비밀 정보기관의 감독과 보호장치를 계속 약화시키고 있습니다.

지난  8년 동안, 비밀정보기관과 그 기관을 책임지는 각료들은 시민과 의회를 볼모로 삼아 의미심장한 줄다리기(주도권 쟁탈)를 해왔습니다.

혼란과 소진(피로)은 시민, NGO(비정부기구), 의회의 강력한 반대에도 불구하고, 더 적은  보호장치로  비밀 정보기관에 많은 권한을 부여하도록 이끌어온 전략의 중심에 있습니다.  2017년에 시행된 네덜란드 정보 및 보안 기관법(Wiv 2017)이 발효된 이후, 우리는 하나의 입법 개정안이 실현되고 하나의 ‘임시 조치’ , 새로운 ‘임시’ 법안,  그리고 이번달에는 임시 법안에 대한 개정안 제안을 목격했습니다. 이는 현재 국회의원들이  법의 보충안을 논의하도록 요청받았으며, 보충안과 법안 모두 곧 개정될 예정입니다.

Bits of Freedom은 이 청문회에 응답하여(자세한 내용은 여기를 참조하세요), 이 보충안이 어떻게 감독과 보호장치를 약화시키고 “임시적” 조치와는 거리가 멀다고 지적하며 적법한 절차를 밟을 것을 촉구했습니다.

의회 라운드 테이블(원탁 회의)에서 논의된 인종차별적 기술과 AI 법안

몇 차례의 지연 끝에 마침내 의회는 인공지능(AI)의 기회와 위험에 대한 원탁회의를 개최했습니다. 두 가지 기고문이 두드러졌습니다.

네덜란드 인권연구소의 퀴린 에이크만(Quirine Eijkman)은 VU 암스테르담 대학교에서  차별적인 시험감독 소프트웨어 사용에 대한 로빈 포코니(Robin Pocornie)의 사례에 대해 언급했습니다. 코로나19 기간 동안 대학은 학생들이 시험을 치를 때 Proctorio를 사용하도록 했습니다. 학생 중 한 명인 포코니는 소프트웨어가 종종 자신의 얼굴을 제대로 ‘처리’하지 못하는 것을 발견했습니다.

그 결과, 포코니는 시험에 응시하는데 어려움을 겪었고, 심지어 얼굴에 밝은 불빛을 비추며 시험을 치르는 방법으로 대처했습니다. 인종차별 및 기술 센터(“네덜란드 인권 연구소: 부정행위 방지 소프트웨어 사용은 알고리즘 차별(즉, 인종차별)이 될 수 있다”)에서 지원을 받은 VU 대학생은 네덜란드 인권연구소에 불만을 제기했습니다. 2022년 말, 인권연구소는 그녀가 차별을 추정할 수 있는 충분한 사실을 제시했다고 판결했으며, 이제 VU 대학이 그 반대를 증명해야 합니다. 공공기관에서 알고리즘을 점점 더 많이 활용하고 있고 전 세계 정부가 알고리즘을 통제하기 위한 규칙을 결정하고 있는 상황에서 이와 같은 사례의 중요성은 아무리 강조해도 지나치지 않습니다.

두 번째 기고문은 Bits of Freedom의 나디아 베나이사(Nadia Benaissa)가 작성했으며, 특히 인공지능법에서 보호 수준을 높일 수 있는 기회에 초점을 맞췄습니다. 베나이사는 Bits of Freedom의 투명성, 설명가능성 및 검증가능성에 대한 입장을 전달했습니다. 또한 현행 법안이 사람들의 실효성있는 법적보호에 대한 권리를 보호하는데 얼마나 부족한지 지적했습니다. 마지막으로, 그녀는 ‘실시간’으로 이루어지는 신원식별을 포함하고, 집행기관뿐만 아니라 일반행위자에게도 적용되는 생체인식에 대한 포괄적인 금지(유럽 의회에서도 논의한 바 있음)의 중요성을 다시 한 번 강조했습니다.

그리고 마지막으로…

1월 18일, 뉴욕 타임즈(“네덜란드가 빅테크 기업을 길들이는 방법”)는 네덜란드의 개인정보보호 활동가 및 자문가들이 구글, 마이크로소프트, 줌에서 전 세계적으로 큰 변화를 일으키고 있다고 보도했습니다. 이 기사에서는 Bits of Freedom의 공동 설립자 소에라 나스(Sjoera Nas)와의 인터뷰를 통해 정부가 의뢰한 디지털 서비스에 대한 감사를 통해 빅테크 기업들이  ‘중요한 개인정보보호 변경’을 하게 한 것으로 나타나고, 그 영향이 전 세계적으로 미치고 있음을 밝히고 있습니다.

또한, 더 많은 지역뉴스에서 시장들이 온라인 배제 명령을 내리고, 권한을 시험해보고 있습니다. 채팅과 소셜미디어 공간이 “온라인 공공장소”로 간주되고 그들의 관할구역과 관련된 일(예: 누군가 시위를 요청하는 경우)이 발생하면 개입할 권한을 가지고 있다고 주장합니다. 2021년, 위트레흐트(Utrecht) 시장은 위트레흐트 거주자를 텔레그램에서 사용을 금지하는 명령을 내렸으며, 현재 법원에서 이의를 제기하고 있는 상황입니다.