[해외정보인권] 공동 성명서: 인공지능에 관한 유엔 총회의 첫번째 결의안에서 장점 찾기

이 성명서에 동참한 시민사회단체들은 미국이 주도한 유엔(UN) 총회 결의안 “지속가능한 발전을 위한 안전하고 안전하며 신뢰할 수 있는 인공 지능 시스템의 기회 포착”을 환영합니다. 국가가 신기술과 신흥 기술에 대한 입장을 명확히 하고 국제인권법을 포함한 국제법과 지속가능한 개발 약속이 인공지능과 같은 분야에 어떻게 적용되는지 명확히 할 때, 유엔과 멀리 떨어진 이해관계자들도 혜택을 볼 수 있습니다. 특히 인공지능을 둘러싼 모든 과대광고, 모호한 정의, 이기적인 부양책이 난무하는 상황에서 더욱 그렇습니다.

우리는 국가, 특히 다른 이해관계자들에게 “국제 인권법을 준수하여 운영할 수 없거나 특히 취약한 상황에 있는 사람들의 인권 향유에 과도한 위험을 초래하는 인공지능 시스템의 사용을 자제하거나 중단할 것”을 촉구하는 결의안의 운영 문구를 강력히 지지합니다. 시민사회는 이러한 메시지가 “힘든 싸움”이었기 때문에 이번 만장일치 결의안은 올바른 방향으로 나아가는 긍정적인 조치로 간주되어야 한다고 지적합니다. 우리는 각국이 이러한 권고를 실행하고, 특히 지난주 인공지능을 포함한 신흥 기술의 디지털 협력 촉진과 거버넌스 개선을 목표로 제로 초안이 발표된 유엔 글로벌 디지털 콤팩트(GDC) 및 기타 표준 제정 이니셔티브와 같은 향후 협상에서 이러한 합의에 주목할 것을 촉구합니다. 또한, 우리는 각국이 인간의 존엄성을 존중하지 않고 오히려 인권을 침해하는 이른바 감정 인식 및 성별 감지 기술 등 특정 기술에 대한 금지를 포함하도록 촉구합니다.

신뢰할 수 있는 인공지능과 인권에 관한 문구가 본문 전반에 걸쳐 일관되게 언급되어 있는 것을 보고 매우 기뻤습니다. 기술, 규제 및 교육 조치의 긴 목록은 설계 단계의 위험 및 영향 평가부터 배포 후 피드백 메커니즘에 이르기까지 인공지능 시스템의 수명 주기 전반에 걸쳐 피해를 방지하는 방법을 모색하는 국가와 기업에게 유용한 선택지를 제공합니다. 또한, 실질적인 실행을 위해 모든 커뮤니티, 특히 개발도상국의 참여를 유도하고 활성화해야 할 필요성에 대한 인식이 더욱 확산되어야 합니다.

그럼에도 불구하고 이번 결의안에는 몇 가지 우려되는 점이 있습니다:

첫째, 디지털 격차 해소를 촉구하는 단락은 자금 지원을 포함한 추가적인 약속이 시급한 상황에서 단순히 “더 강력한 파트너십”을 요구하는 것으로 구성되어 있습니다. 실행을 위한 요구와 세부 사항이 핵심이 될 것입니다. 안타깝게도 세부 사항은 결의안에 자세히 설명되어 있지 않으며, 현재 유엔 인공지능 고위급 자문기구의 중간 보고서에서도 다루고 있지 않습니다.

둘째, (1) 포괄적인 국가 안보/군사적 면제는 국제법에 부합하지 않으며, (2) 안전하고, 신뢰할 수 있고, 안전한 등의 인공지능 관련 용어는 민간용만큼은 아니더라도 군사적 용도에 적용되어야 하며, (3) 특히 이중용도 인공지능 시스템에 대한 차이에 대한 기준이 없다는 점에서 결의안이 군사 영역과 비군사/민간 영역을 구분하는 방법에 대해 깊은 우려를 표명합니다. 이는 가설이 아닙니다. EU 인공지능법은 법 집행, 이민 통제 및 국가 안보 당국이 인공지능을 사용하는 데 위험한 허점을 만들고 있으며, 유엔은 더 높은 기준을 설정할 필요가 있습니다.

셋째, 제안된 AI 거버넌스의 틀은 진정한 다중 이해관계자 모델을 반영하지 않으며, 특히 시민 사회, 취약하고 소외된 집단, 지역 및 원주민 커뮤니티가 자신에게 영향을 미치는 AI 관련 결정에 참여하는 의미 있는 참여와 포용성에 관해서는 더 강력할 수 있습니다. 예를 들어, 6항은 “포용적이고 공평한” 참여에 대한 요구를 회피하는 표현을 사용하고 있습니다.

넷째, 이 결의안은 정치적 의지와 협력의 부족이 진전을 가로막는 실질적인 장벽인 상황에서 유엔 지속가능개발목표(SDG)를 해결하기 위해 기술 해결주의에 크게 의존함으로써 인공지능에 대한 다른 글로벌 논의를 반영하고 있습니다. 기후 변화와 같은 문제를 해결하기 위한 지속적이고 강력한 글로벌 협력 없이는 인공지능이 결의안에 명시된 목표를 달성할 수 없습니다.

마지막으로, 이 결의안은 일부 인공지능 기술이 사회-경제-환경적 진전에 미치는 영향에 초점을 맞추고 있지만, 유감스럽게도 2030 지속가능발전 의제의 또 다른 필수적인 차원인 인권 보호는 충분히 포함하지 않고 있습니다. 인권의 의미는 다른 섹션에서 간략하게 언급되어 있지만, SDGs와 관련하여 강조하는 것이 중요합니다.

향후 AI 거버넌스 협상의 과제는 모든 국가가 지키기로 합의한 규범인 인권과 안보의 중심성을 꾸준히 주장하면서 권리를 존중하는 디지털 혁신과 함께 지속 가능한 개발을 진전시키는 것이 될 것입니다. 우리는 각국이 시민사회 및 기타 이해관계자들과 협력하여 유엔 인권 시스템의 맥락에서 지속 가능한 개발에 초점을 맞춘 이 결의안을 보완하는 AI 결의안을 개발할 것을 권장합니다. 또한, 이 결의안은 총회의 일반적인 위원회 기반 및 협력 프로세스가 아닌 본회의에서만 개발되었으므로, 향후 이 결의안이 반복될 경우 이러한 단독 접근 방식에서 벗어날 것을 강력히 권장합니다.

글로벌 차원에서 활동하며 특정 국가에서는 책임을 회피하는 민간 기업의 책임에 관한 약속이 이루어져야 할 것입니다. 또한 인권을 준수하지 않는 기술의 유통을 막기 위한 추가적인 기준과 메커니즘이 필요합니다. 노동과 환경에 대한 고려는 이러한 노력과 해당 기업 행위자의 규정 준수 평가의 핵심적인 부분이 되어야 합니다.

시민사회는 이 결의안이 구속력이 없고 강제 메커니즘이 포함되어 있지 않지만, 그럼에도 불구하고 만장일치로 채택되어 각국이 인공지능에 대한 글로벌 가드레일을 구축하는 데 사용할 수 있다는 점에서 주목할 만하다고 지적합니다. 따라서 우리는 모든 이해당사자, 특히 국가들이 이 결의안을 다른 관련 결의안 및 유엔 이니셔티브와 함께 사용하여 향후 논의, 특히 유엔 세계인권선언에 관한 협상에서 인공지능이 인권에 미치는 영향을 집중적으로 다룰 것을 촉구합니다. 좋은 출발점은 다음과 같은 기존 유엔 자료를 참조하는 것입니다:
(1) 각자의 임무에서 인공지능의 인권적 영향에 초점을 맞춘 유엔 특별보고관들의 권고,
(2) 작년 말에 처음 도입된 “디지털 기술 맥락에서의 인권 증진 및 보호” 결의안과 격년으로 발표되는 “디지털 시대의 프라이버시권” 결의안과 같은 결의안,
(3) 유엔 인권최고대표의 실리콘밸리 방문과 인권최고대표실 주최 ‘B-Tech 발전적 인공지능과 인권 서밋’에서의 발전적 인공지능에 관한 발언, 그리고 B-Tech 발전적 인공지능 프로젝트의 지속적인 작업 등 인권최고대표의 지속적인 작업.