편집자주 :
유럽연합 인공지능법안은 이제 집행위원회 및 EU 회원국 정부와의 협상을 남겨두고 있습니다. 올해 안으로 최종 승인될 것으로 보이지만, 아직까지 빅테크 등 업계 관계자들은 법안에 대한 로비를 멈추지 않고 있는 상황으로 보입니다.
이에 145개 이상 단체들이 최근 인공지능법안에 대한 의견을 냈습니다. 단체들은 유럽연합 인공지능법안의 보호 수준을 그대로 유지할 것과, ‘고위험’ 인공지능에 대한 분류 기준을 위원회 안 수준으로 복원할 것을 요구하고 있습니다.
법안에 따르면 ‘고위험’ 인공지능으로 분류된 경우 인공지능의 개발자와 배포자가 시스템이 안전한지, 차별적 편견이 없는지 확인하고 시스템 작동 방식에 대한 공개적으로 접근 가능한 정보를 제공하도록 하고 있습니다. 이미 인공지능이 많은 것을 관여하고 있는 이 사회에서, 인간에게 중대한 영향을 미치는 고위험 인공지능을 분류해 따로 관리하지 않는다면 아무도 설명할 수 없고, 아무도 돌이킬 수 없는 결과를 가져올 것입니다.
번역오류는 policy 골뱅이 jinbo.net 으로 알려주세요.
제목 : 공동 성명서: EU 입법자들은 AI 법의 허점을 막아라
원문제목 : Joint statement: EU legislators must close dangerous loophole in AI Act
원문링크 : https://www.accessnow.org/press-release/joint-statement-eu-legislators-must-close-dangerous-loophole-in-ai-act/
일시 : 2023년 9월 7일
작성 : Access Now
유럽연합(EU)은 인공지능법(AI법) 협상의 마지막 단계에 접어들고 있지만, 빅테크 및 기타 업계 관계자들은 고위험 분류 절차에 커다란 허점을 도입하기 위해 로비를 벌여 전체 법안을 약화시키고 있습니다. 우리는 EU 입법자들이 이러한 허점을 없애고, 높은 수준의 보호를 AI 법이 유지할 것을 촉구합니다.
EU AI법은 AI 시스템의 영향을 받는 사람들에 대한 보호를 개선할 수 있는 잠재력을 가지고 있습니다. 원래 법안에는 학생 모니터링, 소비자 신용도 평가, 구직자 평가, 복지 혜택 대상자 결정에 사용되는 AI 시스템 등이 포함된 AI의 ‘고위험 사용’ 목록이 명시되어 있습니다.
이 법안은 이러한 ‘고위험’ AI의 개발자와 배포자가 시스템이 안전한지, 차별적 편견이 없는지 확인하고 시스템 작동 방식에 대한 공개적으로 접근 가능한 정보를 제공하도록 요구합니다. 그러나 이러한 요구는 제6조의 고위험 분류 프로세스에 허점이 도입됨으로 인해 훼손될 수 있습니다.
유럽 위원회의 원안에서는 인공지능 시스템이 부록 III에 나열된 고위험 목적 중 하나에 사용될 경우 ‘고위험’으로 간주했습니다. 그러나 이사회와 유럽의회는 이러한 시스템의 개발자가 해당 시스템이 ‘고위험’이라고 판단해 스스로 결정할 수 있도록 하는 허점을 도입했습니다.1 법의 적용을 받게 될 동일한 회사가 일방적으로 법 적용 여부를 결정할 수 있는 권한이 주어집니다.
제6조에 대한 이러한 변경은 거부되어야 하며, 유럽 위원회의 원래 위험 분류 프로세스를 복원해야 합니다. 인공지능법에서 어떤 인공지능 시스템이 ‘고위험’에 해당하는지 결정하기 위해서는 객관적이고 일관되며 법적으로 확실한 절차가 있어야 합니다.
제6조의 변경이 철회되지 않는다면, AI 개발자는 고위험 시스템에 대한 모든 실질적 규정을 면제받기로 결정할 수 있게 됩니다.
AI법은 :
- 어떤 시스템이 ‘고위험’으로 간주되는지에 대한 높은 법적 불확실성을 초래합니다.
- 회원국마다 ‘고위험’을 구성하는 요소에 대한 해석이 달라 EU 단일 시장이 분열될 수 있습니다.
- 회원국 당국이 개발자의 자체 평가를 충분히 모니터링할 수 있는 충분한 리소스가 없어 법안을 집행하는 데 심각한 어려움에 직면하게 됩니다;
- 부도덕한 개발자가 시스템을 더 안전하고 안정적으로 만들기 위한 법의 기본 요건을 회피할 수 있도록 허용합니다. 이는 책임감 있는 AI 개발자에게 불이익을 줄 수 있습니다.
우리는 의원들이 이러한 변경을 되돌리고 제6조에서 위원회의 원래 문구를 복원할 것을 촉구합니다. 인공지능법은 인공지능 시스템에 의해 영향을 받는 사람들의 권리를 우선시하고 인공지능 개발과 사용이 책임감 있고 투명하게 이루어지도록 보장해야 합니다.
1. 유럽연합 이사회의 조문은 시스템의 출력이 ‘관련 조치 또는 결정과 관련하여 순전히 부수적인 것’인 고위험 시스템을 제외할 것을 제안합니다. 유럽의회 본문은 시스템이 기본권, 건강 및 안전에 ‘중대한 위험’을 초래하는 경우에만 고위험 시스템에 해당한다고 명시하고 있습니다. 개발자가 자신의 시스템이 그러한 위험을 초래하지 않는다고 판단하는 경우, 국가 기관에 통보해야 하며, 국가 기관은 3개월 이내에 응답해야 합니다.
2. 150개 시민사회단체는 AI법 3자 협의가 진행되는 동안 EU 기관에 AI법이 국민의 권리를 보호하도록 촉구했습니다(https://edri.org/wp-content/uploads/2023/07/Civil-society-AI-Act-triloguesstatement.pdf).
서명단체(알파벳 순)
Access Now
BEUC – The European Consumer Organisation
European Digital Rights (EDRi)
Access Info Europe
AlgoRace
Algorights
AlgorithmWatch
All Faiths and None
All Out
Alternatif Bilisim (AiA-Alternative Informatics Association)
Amnesty International
ARSIS Association for the Social Support of Youth
Article 19
Asia Indigenous Peoples Pact
Aspiration
Association for Legal Studies on Immigration (ASGI)
Association Konekt
Balkan Civil Society Development Network
Bits of Freedom
Bulgarian center for Not-for-Profit Law (BCNL)
Center for AI and Digital Policy (CAIDP)
Chaos Computer Club
Civil Rights Defenders
CIVIL SOCIETY ADVOCATES
CNVOS Slovenia
Coalizione Italiana Libertà e i Diritti civili
Comisión General Justicia y Paz de España
Controle Alt Delete
Corporate Europe Observatory (CEO)
D64 – Zentrum für Digitalen Fortschritt e. V.
DanChurchAid (DCA)
Danes je nov dan, Inštitut za druga vprašanja
Defend Democracy
Democracy Development Foundation Armenia
Digitalcourage
Digital Security Lab Ukraine
Digitale Gesellschaft
Digitalfems
DonesTech
dTest, o.p.s.
Eticas
EuroMed Rights
European Anti-Poverty Network (EAPN)
European Center for Not-for-Profit Law
European Civic Forum
European Movement Italy
European Network Against Racism (ENAR)
European Network on Statelessness
Fair Trials
Fair Vote UK
Fundación CIVES
Federación de Consumidores y Usuarios CECU
Federación de Sindicatos de Periodistas (FeSP)
Federation of German Consumer Organisations (Verbraucherzentrale Bundesverband – vzbv) FIPR
Fritidsodlingens Riksorganisation
Gong
Greek Forum of Refugees
Health Action International
Homo Digitalis
Hungarian Civil Liberties Union
I Have Rights
IDAY Liberia Coalition Inc.
Institute Circle
Institute for Strategic Dialogue (ISD)
Irish Council for Civil Liberties
IT-Pol
Iuridicum Remedium
KEPKA- Consumers Protection Center
Kif Kif vzw
KOK German NGO Network against Trafficking in Human Beings
Konsumentvägladarnas Förening
Kosovar Civil Society Foundation (KCSF)
LA LIGUE DE L’ENSEIGNEMENT
La Strada International
Lafede.cat
LDH (Ligue des droits de l’Homme)
Legal Centre Lesvos
Liberty
Ligue des droits humains
Metamorphosis Foundation
Migrant Tales
Mobile Info Team
Moje Państwo Foundation
National Federation of Polish NGOs (OFOP)
National NGO Coalition
New Europeans International
Norwegian Consumer Council
Novact
OCU (ORGANIZACIÓN DE CONSUMIDORES Y USUARIOS)
Ökotárs – Hungarian Environmental Partnership Foundation
Open Knowledge Foundation Germany
Panoptykon Foundation
Partners Albania for Change and Development
PIC – Legal Center for the Protection of Human Rights and the Environment
Platform for International Cooperation on Undocumented Migrants (PICUM)
Polish Women’s Strike Foundation
Politiscope
Privacy First
Privacy International
Privacy Network
PRO, Pensionärernas riksorganisation
Promo-LEX Association
Prostitution Information Center
Protection International
Red en Defensa de los Derechos Digitales
REPONGAC
SKPF Pensionärerna
SOLIDAR & SOLIDAR Foundation
Spiralis
Statewatch
Stichting LOS
Superbloom (previously known as Simply Secure)
Swedish Asthma and Allergy Association
SYMBIOSIS
Symbiosis – Council of Europe School of Political Studies in Greece
The Swedish Consumers’ Association
Wikimedia Deutschland e. V.
