이슈리포트 <주요 분야 인공지능 정책 및 이슈 연구 : 공공, 법집행, 교육, 사회복지 분야> 발간
진보네트워크센터와 정보인권연구소는 이슈리포트 <주요 분야 인공지능 정책 및 이슈 연구 : 공공, 법집행, 교육, 사회복지 분야>를 발간하였습니다.
사회 여러 부문에서 다양한 AI 시스템이 급속하게 도입되고 있습니다. 그 결과, AI 시스템의 불안정성, 불투명성, 편향성, 그리고 감시 목적으로의 오용 등 여러 문제가 발생하고 있습니다.
지금까지 한국 시민사회는 AI 시스템을 둘러싼 다양한 우려를 제기해왔습니다. 이러한 우려에는 AI 챗봇 ‘이루다’의 혐오 발언과 개인정보 침해, 정보주체의 동의 없이 AI 개발업체에게 얼굴인식 데이터를 제공한 인천공항 출입국시스템 고도화 프로젝트, 적절한 위험 및 성능 평가 없이 공공기관에 도입된 AI 채용 시스템, 그리고 적절한 준비 없이 강행하고 있는 AI 디지털 교과서 등이 포함됩니다.
그러나 한국 사회 전반에 어떤 유형의 AI 시스템이 어떤 절차와 정책 하에 도입되고 있는지에 대해서 여전히 잘 알려져있지 않습니다. 이 보고서는 공공행정, 법 집행, 교육, 사회복지 등 주요 사회 영역에서 AI 시스템을 도입하는 기준이 무엇인지, 어떠한 AI 시스템이 도입되어 있는지, AI 시스템의 실제적 또는 잠재적인 문제는 무엇인지 분석합니다.
또한, 이 보고서는 2024년 12월 26일 국회를 통과한 AI 기본법의 주요 내용과 시민사회의 대응 과정, 그리고 문제점에 대해서 정리하였습니다. AI 기본법은 매우 미흡한 수준이지만, 제정 과정에서 시민사회가 제안했던 내용들은 향후 AI 기본법을 개선하는데 밑거름이 될 것입니다.
AI 시스템은 사회 모든 분야에 도입되고 있고, 따라서 모든 시민의 인권과 안전에 영향을 미치게 될 것입니다. 진보네트워크센터와 정보인권연구소는 향후에도 ‘영향받는 자’의 관점에서 AI 시스템의 도입 현황과 문제점을 분석해나갈 예정입니다.
이 이슈리포트는 정보인권단체의 국제적인 네트워크인 진보통신연합 APC(Association for Progressive Communications)의 후원으로 제작되었습니다.
