어린이집 AI CCTV 도입사업 즉시 중단 및 전면 폐기 촉구 기자회견

기자회견문

 

지난 10월13일 안산시는 안심보육시스템 강화를 위해 CCTV에 인공지능(AI)를 접목하는 ‘안심어린이집 시스템 구축’을 본격적으로 추진한다고 밝혔습니다. 이날 안산시는 시스템 구축 업체 소이넷, 시범실시기관인 시립센트럴포레어린이집과 업무 협약을 체결하였다. 안산시는 해당 협약이 “AI기술이 접목된 CCTV가 아동의 부정적 감정 표현 및 아동학대 징후 등을 포착해 사고를 사전에 발견·예방하는 아동안전 보호정책 체계를 만드는 것”이라 말했지만, 이는 기술과 인권보호 어느 측면에도 맞지 않는 주작부언입니다.

이에, 공공운수노조와 진보네트워크센터는(이하 우리단체) 보육교사들을 대표하여 안산시의 「인공지능 접목 CCTV 안심어린이집 시스템 구축」사업의 즉각적인 중단을 요구합니다. 아울러 아동과 보육교사의 인권까지 민간업체 기술개발에 넘기는 안산시의 행정 추진 행태를 강력히 규탄하며, 사유는 아래와 같습니다.

 

첫째, 보육교사와 아동의 기본권을 침해와 현행법 위반의 문제

해당 사업은 생체정보가 포함되는 CCTV 영상을 사회적 합의나 당사자와의 논의 없이 민간 기업의 인공지능 기술 개발을 이유로 무단 제공하면서 개인정보보호법 위반 여부나 인공지능 기술이 인권에 미칠 영향을 전혀 고려하고 있지 않습니다.

『영유아보육법』에 따라 아동안전 확보를 목적으로 어린이집은 CCTV를 설치해야 하지만 정보주체인 아동과 보육교사의 권리 보호를 위해 설치, 운영, 영상정보 처리와 열람을 매우 엄격하게 규정하고 있습니다. 그러나 해당 사업은 업무제휴를 맺은 민간 업체에게 어린이집 CCTV 영상정보를 6개월 간 제공하는 것으로 확인됩니다. 이는 명백한 기본권 침해이며 나아가 현행법 위반의 소지가 있습니다.

 

둘째, 표정만보고 범죄예방? 아동보육은 영화가 아닌 현실

아동보육은 영화가 아닌 현실입니다. 부정확한 얼굴표정과 단편적인 화면만으로 예측하여 범죄를 예방한다는 것은 영화에서나 가능한 이야기입니다. 해당 사업의 목표인 ‘아동의 부정적 감정표현·학대행위 감지’의 기반이 되는 ‘감정인식’ 기술은 대표적인 비과학적 인공지능 기술 중 하나입니다. 많은 인공지능 연구자와 심리학자들이 감정인식 기술은 신뢰할 수 없는 이론을 바탕으로 만들어졌고 정확도가 매우 떨어진다며 비판합니다. 이러한 기술로는 그 누구도 지킬 수 없으며 프라이버시의 침해만을 야기할 것입니다

 

셋째, 거짓과 꼼수로 추진되는 전시행정

안산시의 비정상적으로 무리하게 사업을 추진하고 있습니다. 안산시가 해당 기술도입 이유로 지속적인 관내 아동학대 발생 증가를 들었으나 안산시가 발표한 아동학대 발생의 지속적 증가는 거짓입니다. 안산시는 지난 기간 관내에 아동학대 발생이 지속 증가하여 기술도입을 통해 이를 낮추겠다고 밝혔으나, 실제 안산시의 2020년 아동학대 발생 건은 19년의 절반으로 감소하였습니다. 그러자 안산시는 2020년 자료를 발생이 아닌 신고 건으로 자료를 왜곡하여 사업을 추진하였습니다.

해당 사업이 안산시 의회에서 조차 보육교사와 아동인권 침해 우려로 반대의 목소리가 나오고, 2019년 서울시의 유사 사업이 반대로 무산된 사례에 비추어 기존 어린이집의 불참 및 보육교사의 사업 반대가 예상되자 신규 개소 어린이집의 위탁 선정기준으로 넣어 모집하는 꼼수로 사업을 추진하였습니다. 어린이집의 CCTV 설치현황은 보육사업포털에 공시되어야 하는 필수정보임에도 이번협약의 시범대상 어린이집은 10월1일 개소 후 현재까지 CCTV 정보가 미설치로 표기되어있는 상황입니다.

나아가 안산시장은 다음 달 정부로부터 꼼수로 추진되는 해당 사업을 사유로 보육사업 유공 국무총리 기관표창을 받는다며 대대적인 홍보를 하고 있는 중입니다. 코로나19 위기 속에서 묵묵히 현장을 지키며 진짜 안심보육 실현을 위해 앞장서 일하는 보육교사들을 잠정적 아동학대 가해자로 낙인찍어 내모는 사업으로 상을 받는 것이 오늘날 보육현장의 참담한 현실입니다.

이에, 우리 단체는 꼼수로 추진되는 안산시의 어린이집 인공지능 CCTV 도입 사업 추진의 즉간 중단을 촉구하여 다음과 같이 요구합니다.

 

하나. 기만적인 어린이집 인공지능 CCTV 도입사업 즉각 중단하라!

하나. 보육교사와 아동인권 민간업체 기술개발에 팔아넘기는 인공지능 CCTV 사업 전면 폐기하라!

하나. 표정만 보고 범죄판별? 검증 안 된 비과학적 기술의 어리이집 도입 중단하라!

하나. 보육현장에 영향을 미치는 정책 추진 시 당사자인 보육교사 및 노동조합의 참여를 보장하라!

 

2021. 12. 1.

공공운수노조 보육지부 / 진보네트워크센터

 

발언문

김민 진보네트워크센터 활동가

 

안산시 인공지능 기반 안심 어린이집 사업은 총체적 난국입니다.

먼저 부정적 감정 및 행위 또는 아동학대의 징후를 CCTV 영상 인공지능 분석을 통해 감지하는 것이 얼마나 말도 안되는 소리인지 사업 책임자가 알고 있는지 의문입니다. 인공지능 기술은 만능이 아닙니다. 특히 그중에서도 인공지능 기반 감정인식 기술은 그 정확성에 대한 신뢰도가 절대적으로 떨어지며 나아가 비과학적이라는 비판을, 유사과학에 근거하고 있다는 비판을 받는 한계가 확실하고 위험한 인공지능 기술이라고 할 수 있습니다.

우리는 상식적으로 얼굴 표정과 감정이 항상 일치하는 게 아닌 굉장히 복합적이라는 걸 알고 있습니다. 개인에 따라서, 또는 사회적 배경과 맥락 및 장소와 같은 상황에 따라서 감정이 신체로 표현되는 방식은 달라집니다. 이것은 단순한 저의 주장이 아니라 수많은 심리학자와 인공지능 연구자들이 주장하고 있는 내용입니다. 미국 심리과학협회는 2년간의 연구를 통해 감정인식 인공지능의 정확도가 30%에 불과했음과 동시에 애초에 얼굴 표정 변화와 감정에 대한 이론 자체가 과학적 타당성이 없다는 평가를 내렸습니다. 뉴욕대의 AI Now와 같은 인공지능 연구기관이나, 미국과학진흥협회의 과학자들 또한 비슷하게 부정적인 견해를 보이며 감정인식 인공지능 기술을 ‘21세기 골상학’이라고 비판하기도 했습니다. 연구자들 뿐만 아니라 민간 기업들도 마찬가지입니다. 한때 얼굴인식, 감정인식 기술을 개발하고 판매하던 마이크로소프트는 아예 감정인식 기술 자체에 대한 지원을 중단했습니다. 더불어 사람의 감정 상태가 얼굴 표정에 반드시 나오는 게 아니라고 덧붙이기도 했죠. 미국이나 한국의 AI면접 서비스 제공업체들 또한 영상 인터뷰를 통해 지원자의 심리 상태를 파악하던 기능을 중단한 바 있습니다. 이러한 기술로 무슨 아동학대를 감지한다는지 알 수 없는 노릇입니다.

해당 사업의 위험 요소는 불완전하고 위험한 기술인 것뿐만이 아닙니다. 그 기술을 개발하고 테스트한다는 명목으로 어린이집의 아동과 보육교사가 낱낱히 촬영된 CCTV영상을 민간 업체에게 무작정 제공한다는 게 사실 더 큰 문제입니다. 이렇게 제공되는 CCTV영상이 아동의 안전을 위해서 사용되는 게 아니라 업체의 인공지능 기술 고도화라는 사적인 이익을 위해 이용될 우려도 있습니다. 사적인 이익을 넘어서 아예 유출되거나 오용될 수도 있습니다. 최근에 이런 식으로, 공공의 목적을 위해 수집하는 수많은 개인정보를, 개발 명목으로 인공지능 업체에게 무단제공하는 사업들이 안산시 외에도 몇 건 있었습니다. 굉장히 논란이 되어 개인정보보호위원회 등이 조사중인, 법무부가 출입국관리를 위해 수집한 수억건의 얼굴 사진을 무단 제공한 사례가 있구요. 무엇보다 얼마 전 대구시에서는 CCTV영상을 업체에 인공지능 기술 개발용으로 제공했더니, 업체가 10만건의 영상정보를 무단으로 반출했다가 적발되었던 사건도 있습니다. 안산시는 아동과 보육교사의 얼굴과 일상이 담긴 CCTV영상이 이런 식으로 사적 이익에 쓰이거나, 유출되고 오남용될 수도 있다는 사실을 알고 있는 건지 모르겠습니다.

이처럼 기술의 한계와 위험성을 무시하며 안심 어린이집이라는 이름으로 감시용 인공지능 시스템을 개발하고 도입하는 사업은, 어떠한 아동학대도 막아낼 수 없습니다. 오히려 해당 사업을 진행하는 것이야말로 아동에 대한 심각한 사생활 침해로, 안산시가 아동학대를 자행하는 것이나 마찬가지입니다.

 

현장 발언문

안녕하세요?

저는 보육현장에서 근무하고 있는 보육교사입니다.

안산 AI 시시티비와 관련해서 하고 싶은 이야기가 있어 글을 쓰게 되었습니다.

현재 어린이집에는 CCTV가 아주 많이 설치되어 있고 교사들은 초미세 단위로 감시를 당하며 근무하고 있습니다.

그런데 안산에서는 이걸로도 부족한지 AI 시시티비를 설치하겠다고 합니다.

얼마 전 뉴스에서 강력 성범죄자로부터 피해자를 보호하기 위해 피해자 집 주변에 인공지능 CCTV를 설치하여 강력 성범죄를 예방한다는 뉴스를 보았습니다.

교사들을 강력 성범죄자와 똑같은 취급을 하겠다는 이야기로 밖에 들리지 않습니다.

우리는 잠재적 범죄자가 아닙니다.

CCTV는 아동보호 목적으로 설치가 됐지만 실제로는 교사들을 감시하는 목적으로 사용되는 경우가 많습니다.

아이들을 더 사랑해주고 싶어도 목적 외로 사용되는 CCTV의 감시 때문에 하루에도 몇 번씩 망설여집니다.

교사에게 애정표현을 하며 다가오는 아이를 안아주면서도 속으로는 ‘내가 아이를 너무 세게 안는 것처럼 보이지는 않을까?’ ‘학대처럼 보이지는 않을까?’라는 생각을 합니다.

낮잠시간 아이를 토닥이는 내 손길이 ‘아이를 때리는 것처럼 보이지는 않을까?’ ‘학대처럼 보이지는 않을까?’라는 생각을 합니다.

아이들과 역할놀이를 하며 괴물 역할을 하다가도 ‘내가 아이에게 위협적인 행동을 하는 것처럼 보이지는 않을까?’ ‘학대처럼 보이지는 않을까?’라는 생각을 합니다.

아동학대로 보일 수 있는 이러한 오해와 의심 때문에 교사들은 아이들을 사랑으로 더 보듬는다거나 친밀한 표현을 못하고 있는 상황입니다.

더 심한 곳은 CCTV를 악용하여 교사의 이런 동작들을 아동학대라며 몰아세우고 괴롭힘의 수단으로 삼기도 합니다.

인공지능 CCTV가 설치되면 보육교사들은 현장에서 아이들을 위한 제대로 된 보육을 할 수 없습니다. 더 위축되고 주눅이 들게 될 것입니다. 안산의 AI CCTV는 절대적으로 반대합니다

 

연대 발언문

황순식 정의당 경기도당 위원장

안녕하십니까, 정의당 경기도당위원장 황순식입니다.

저는 어린이집에 아이를 보내는 학부모입니다. 오늘 아침에도 저는 7살배기 둘째 아들을 어린이집에 맡기고 출근하였습니다. 입구에서부터 까불며 말 안 듣는 아이를 웃으며 받아주는 선생님을 보며 큰 고마움을 느꼈습니다.

아이가 밝게 자라나기 위해서는 학부모와 선생님 간의 신뢰가 가장 중요합니다. 그래야 아이를 기쁘게 맡길 수 있고, 선생님도 애정을 가지고 아이를 볼 수 있습니다. 선생님을 감시하며 예비범죄자 취급하는 CCTV 도입은 그 신뢰를 포기하는 것입니다. 그래서 저는 어린이집 CCTV 설치에 명확히 반대합니다.

AI CCTV를 도입하는 것은 사람보다 기계를 더 믿는다는 것입니다. 그럼 아예 선생님을 로보트로 대체하지 그러십니까? 그것이 사람이 사람답게 사는 세상이 될 수 있겠습니까? 서로 믿지 못하고 감시하는 시스템을 도입하는 것은 매우 신중해야 하고 최소한으로 해야만 합니다.

저는 10여년 전 과천시의원 시절부터 CCTV 설치에 신중을 기할 것을 요청해왔습니다.

물론 강하게 반발하는 주민도 있었지만 전 이것이 철학의 문제라고 생각했습니다. 학부모와 선생님이, 고용주와 노동자가, 공무원과 시민이, 서로를 적으로 생각하고 감시하며 싸우는 사회를 만들어 나갈 것이냐, 부족해도 서로 공존하기 위해 대화하며 대안을 만들어 나가는 사회를 만들어 나갈 것이냐의 문제입니다.

저는 후자의 사회를 만들어가기 위해 진보정치를 하고 있습니다. 정의당은 더 평등하고 공존하는 사회를 만들기 위해 존재하는 당입니다. 노동자의 인권을 위해, 노동이 아름다운 사회를 만드는 여러분의 투쟁을 지지합니다. 늘 함께 하겠습니다. 감사합니다.

 

(기타 첨부자료는 보도자료 파일을 통해 확인해주십시오.)