네트워커 159 호
왜 인공지능 인권영향평가인가!
인공지능 인권영향평가(Human Rights Impact Assessment, HRIA)란 무엇일까요? 제가 챗gpt에 물어봤습니다. “인공지능 인권영향평가(AIHRIA)는 인공지능(AI)시스템이 인권에 미칠 수 있는 잠재적 영향을 평가하는 것을 목표로 하는 프레임워크입니다. AIHRIA의 목적은 AI기술이 인권을 존중하고 보호하는 방식으로 설계 및 배포되도록 하는 것입니다.” 챗gpt가 친절하게 설명을 잘해주었네요.
우리는 챗GPT 답변에 환호하며, 로봇이 배달을 하고, 인공지능이 그림을 그리고, 중요한 의사를 결정하는 시대에 살고 있습니다. 인공지능의 기술은 나날이 혁신적이고 놀랍도록 확장되고 있습니다.
그러나, 그 만큼 많은 문제를 야기하고 있는 것이 사실입니다. 일자리 감소, 편견과 차별, 개인정보보호 문제, 인공지능 의존도, 자율무기 등의 문제를 들 수 있겠죠. 예전, 아마존 채용면접에서 여성-이라는 단어만 있어도 백인 남성보다 감점처리했던 사건, 미국에서 범죄자의 재범가능성을 예측하는 컴파스(COMPAS)는 아프리카계 미국인(흑인)을 잠재적 범죄자로 취급하는 오류율이 높았으며, 자율주행차가 하늘의 밝은 빛으로 구름과 하얀 트럭을 구분하지 못하고 충돌하여 운전자가 사망한 사건, 인공지능 스피커에 부부의 사적인 대화가 녹음돼 지인에게 전송된 사건, 영국의 인공지능 비자신청프로그램에서 백인보다 비백인, 특정국가 출신의 심사를 거절한 사건, 인공지능 기반 무기개발과 전쟁에 이르기까지 수많은 문제가 잇따르고 있습니다.
이러한 인공지능의 차별과 편향으로 전 세계 국가는 인공지능이 인권에 미치는 부정적 영향과 위험을 방지하고 완화하려는 사전적 조치에 공감하고 있습니다. 예방적 조치로 인공지능 인권영향평가를 시행하고 확대하려는 것이고요.
위에서 챗GPT가 ‘인공지능 인권영향평가’를 설명해 주었듯이 국가, 지방자치단체, 기업 등 사업과정이나 정책 등에서 인권에 미치는 영향을 측정하고 평가하는 도구를 말합니다. 인권영향평가는 인권실사의 핵심도구인데요, 유엔 기업과 인권 이행원칙에서 ‘인권실사(Human Rights Due Diligence)’는 “기업 활동이 인권에 대한 부정적인 영향 및 위험을 파악하여 방지하고 완화하는 관리 프로세스”라고 명시하고 있습니다. 인권실사는 ①인권영향평가의 실시, ②내부통합, ③추적 및 검증, ➃소통의 4가지 과정으로 이루어져 있습니다. 그리고 그 중심축이 인권영향평가입니다. 그러나 국내에는 실태조사나 연구조차 미흡한 상황입니다. 국내 인권영향평가는 지방자치단체의 조례에 근거하여 제도화되기 시작하여 경영평가의 일부로 간접적으로 강제되는 등 제도적으로 불완전한 형태를 취하고 있습니다. 인공지능 기술에 대한 인권영향평가에서 명확한 법률적 근거를 마련할 필요성이 있는 것이죠.
이에 국가인권위가 연구용역을 발주하였고, 연구보고서 ‘인공지능 인권영향평가 도입 방안 연구’ – 한동대 유승익 교수를 책임연구원으로 진보넷도 함께 참여했습니다. 인공지능은 기존 제도로 감독하기 어려운 분야이며, 인공지능 인권영향평가의 시행 확대가 절실하게 필요한 시점입니다. 연구보고서에서 국내외 사례를 검토했습니다 그리고 인공지능 인권영향평가를 위한 절차 및 기준안을 제시했습니다. 관심있는 분들은 자료집에서 구체적인 내용을 확인하실 수 있습니다.
불타는 활동의 연대기
[이슈] 총회, 잘 마쳤습니다!
진보네트워크센터(진보넷) 2023년 총회가 2월 23일(목) 저녁에 개최되었습니다. 진보넷 활동가를 비롯하여 운영위원님들과 회원님들이 모여서 지난 한 해의 사업을 보고하고, 2023년의 계획을 나누는 자리였습니다. 특히, 중요한 뒤풀이 시간은요! 반가움으로 왁자지껄~소란 소란! 따뜻하게 마음을 나누는 시간이었습니다. 바쁘신 중에도 온라인으로 의결해주시고, 오프라인으로 함께 해주셔서 깊은 감사를 드립니다. 총회 결과는 메일을 통해서 보고드릴 예정입니다 🙂
