[해외정보인권] 유럽의회: 인공지능(AI)법이 사람들의 권리를 보호하도록 하십시오!

편집자주 :

유럽의회의 인공지능(AI)법안 표결을 앞두고 시민사회단체는 유럽의회가 기본권을 우선시하고 인공지능시스템의 영향을 받는 사람들을 보호할 것을 촉구하고 있습니다. 유럽의 75개 시민사회단체는 인공지능법안에 대하여 3가지 의제를 보장할 것을 요구합니다.

첫째, 인공지능시스템의 영향을 받는 사람들의 권한을 강화할 것을 요구합니다. 이는 모든 인공지능시스템에 대한 수평적이고 포괄적인 접근성 요구 보장, 인공지능시스템에 의해 피해를 입은 사람들의 이의제기권, 대표를 선임하고 효과적인 권리구제를 받을 권리를 포함합니다.

둘째, 인공지능 사용에 있어 책무성과 투명성을 보장할 것을 요구합니다. 고위험 인공지능 사용자에 대해 도입 전 기본권(인권)영향평가를 시행하고 공개할 의무, 모든 고위험 인공지능시스템 사용자 및 모든 공공영역 인공지능시스템 사용자에 대해 배치 전 그 사용에 대해 공공 등록할 의무, 고위험 인공지능시스템 공급자에 대해 법적 조사를 우회할 수 있는 구멍이 없도록 조치가 필요합니다.

셋째, 기본권에 대하여 허용할 수 없는 위험을 초래하는 인공지능시스템을 금지할 것을 요구합니다
모든 유형의 원격생체인식, 법 집행 분야의 예측 및 치안시스템, 감정인식시스템, 민감한 속성을 사용하거나 공공장소에서 사용되는 생체인식분류시스템, 이주를 제한하기 위하여 출입국 단계에서 개인에 대하여 수행되는 위험평가 및 예측분석시스템을 완전히 금지해야 합니다.

이러한 규정이 기본권과 사회정의를 실현하는데 수단이 되도록 투표할 것을 촉구하고 있습니다.

번역오류는 policy 골뱅이 jinbo.net 으로 알려주세요.
제목 :  유럽 의회: 인공지능(AI)법이 사람들의 권리를 보호하도록 하십시오!
원문제목 : European Parliament: Make sure the AI act protects peoples’ rights!
원문링크 : Protect people’s rights in the AI Act – European Digital Rights (EDRi)
일시 :   2023년  4월  19일
작성 :   EDRi

유럽의회에서 인공지능법 표결을 앞두고 시민사회는 유럽의회 의원들에게 유럽연합 인공지능법안(AI법)이 기본권을 우선시하고 인공지능(AI)시스템에 의해 영향을 받는 사람들을 보호할 것을 보장하도록 촉구하고 있습니다.

점점 더 많은 인공지능시스템이 공공장소에서 우리를 모니터링(감시)하고 식별하며, 범죄 가능성을 예측하고, 이미 과잉 감시되고 있는 지역으로 치안 및 출입국 관리를 재조정하는데 활용되고 있습니다.  망명 신청권 및 무죄추정의 원칙을  침해하고, 우리의 감정을 예측하고 차별적 추론을 통해 우리를 분류하고 복지, 교육 및 고용에 대한 접근을 결정하는 우리에 대한 중요한 결정을 내리는데 사용됩니다.

적절한 규제가 없다면, 인공지능시스템은 대량감시, 구조적 차별, 대형기술회사(빅테크)의 중앙집권적 권력, 무책임한 공공 의사결정, 환경 파괴 등 기존의 사회적 폐해를 더욱 악화시킬 것입니다. 복잡성, 책임성 및 공공 투명성 부족, 구제 절차가 거의 없기 때문에 인공지능시스템으로 인해 피해를 입은 사람들이 자신의 권리를 행사하는데 어려움이 있습니다. 특히 이러한 장벽은 사회에서 가장 소외된 계층에게 특히 큰 위험을 초래합니다.

EU의 인공지능법(AI Act)은 이러한 문제를 해결할 수 있고, 또 해결해야하며, 인공지능 개발 및 사용이 책무성, 투명성 및 적절한 기본권 제한의 프레임워크 내에서 운영되도록 보장해야 합니다. 우리는 유럽의회가 인공지능법안 표결에서 다음 사항을 보장할 것을 촉구합니다:

1. 인공지능시스템의 영향을 받는 사람들의 권한을 강화

• 모든 인공지능시스템에 대한 수평적이고 포괄적인 접근성 요구사항 보장
• 인공지능시스템의 영향을 받는 사람들에게 인공지능 지원 결정 및 결과에 영향을 받을 때 통지를 받고 정보를 요청할 권리를 갖도록 보장합니다;
• 인공지능시스템 사용으로 인해 권리가 침해된 경우, 영향을 받은 사람이 국가 기관에 불만을 제기할 수 있는 권리를 포함합니다;
• 자연인을 대표할 권리 및 공익단체가 국가 감독기관에 독립적으로 불만을 제기할 수 있는 권리를 보장해야 합니다;
• 권리 침해에 대한 효과적인 구제책에 대한 권리를 보장해야 합니다;

2. 인공지능 사용에 대한 책무성과 투명성 보장

• 고위험 인공지능시스템을 배치하기 전에 사용자에게 기본권 영향평가를 수행하고 게시할 의무를 부과하고, 이 과정에서 시민사회와 영향을 받는 사람들이 의미있는 참여를 할 수 있도록 보장합니다.
• 고위험 인공지능시스템의 모든 사용자와 공공영역의 모든 시스템 사용자는 배치 전에 유럽 인공지능 데이터베이스에 사용을 등록하도록 요구합니다;
• 고위험 인공지능시스템에 대한 분류 과정이 법적 확실성을 우선시하고, 제공자(공급자)가 법적 검토를 회피할 수 있는 구멍이 없도록 합니다;
• 유럽연합을 기반으로 하는 인공지능 제공업체의 시스템이 유럽연합 이외 지역의 사람들에게 영향을 미치는 경우, 유럽연합 내부의 제공업체와 동일한 요건을  적용받도록 합니다.

3. 기본권에 대해 허용할 수 없는 위험을 초래하는 인공지능시스템 금지

• 모든 주체를 대상으로 공공장소에서 실시간 및 사후 원격생체인식 식별을 예외없이 전면 금지합니다;
• 법 집행 및 형사사법에서 모든 형태의 예측 및 프로파일링 시스템(위치/장소 기반 및 개인 기반)을 금지합니다;
• 개인의 개인정보 및 민감한 데이터를 기반으로 개인위험평가 및 프로파일링, 이동을 중단하거나 방지하는 경우 예측분석시스템을 이용한 이주 분야에서의 모든 형태 금지합니다.
• 개인 및 민감한 개인정보를 기반으로 개별 위험평가 및 프로필을 만들고, 이주를 차단, 축소 및 방지하기 위해 사용되는 예측분석시스템에 대한 이주 맥락에서의 인공지능을 금지합니다;
• 민감하거나 보호되는 속성에 따라 자연인을 분류하는 생체인식분류시스템과 공공장소에서의 생체인식분류 및 자동화된 행동감지시스템 사용을 금지합니다;
• 생체인식데이터뿐만 아니라 신체적, 생리적, 행동적 데이터로부터 사람들의 감정과 정신상태를 추론하는 감정인식시스템의 사용을 금지합니다.

우리는 유럽의회 의원들에게 이러한 보호조치를 인공지능법에 포함시키고, 이 규정이 기본권과 사회정의를 증진하는 수단이 될 수 있도록 투표할 것을 촉구합니다.

인공지능법안이 기본권을 어떻게 더 잘 보호할 수 있는지에 대한 자세한 개요는 123개 시민사회단체가 서명한 이 성명서를 참조하십시오. 시민사회가 제안한 개정안에 대한 자세한 내용은 여기 에서 확인할 수 있습니다.