소식지

불타는 활동의 연대기 202101

By 2021/01/27 No Comments

</>정보인권

개발에만 치중한 AI산업육성, '이루다'는 예정된 참사

지난 12월 23일 출시된 스캐터랩의 대화형 챗봇 ‘이루다’를 둘러싼 논란이 한국 사회의 인공지능 이슈에 불을 지폈습니다. 해당 챗봇은 따뜻한 대화 상대가 되길 바랬다는 개발사의 바람과는 달리 사용자들의 성희롱과 폭언 등의 남용, 혐오표현에 대한 미온적 대응, 정보주체의 권리 침해 이슈로 약 약 2주 만에 운영이 중단되고 말았습니다. 진보네트워크센터는 특히 정보주체의 권리 침해와 인공지능 규제 부분에 주목하여 논평을 발행하였고, 이후 개인정보 보호법의 각 조항을 검토하여 개인정보 보호위원회에 민원을 제출했습니다. 또한 유튜브 따오기 채널을 통해 기술자의 입장에서도 해당 문제를 살펴보았습니다. 이루다 사태의 근본적인 원인 중 하나는 개발과 성장 논리에만 치중된 인공지능 산업 육성과 흔들리는 개인정보 보호 정책입니다. 지금 이 순간에도 사회 다양한 영역에서 인공지능 제품과 서비스가 개발되고 활용되고 도입되고 있으며 그중 일부는 상업용 챗봇 정도가 아니라 채용, 사회 복지 수급자 선정, 일자리 배치 등 국민의 삶에 중대한 영향을 미치는 영역에 자리를 잡았습니다. 이러한 상황에서 기업들의 인공지능 윤리 준수를 선의에만 기댈 수는 없습니다. 국민에게는 신뢰할 수 있는 인공지능 기술이, 그리고 인공지능 기술을 사회적으로 통제하기 위한 현실적인 법이 필요합니다.

인공지능의 공정성, 투명성, 책임성 보장을 위한 법제 정비 방안

2월 3일 수요일 오후 2시, 말도 많고 탈도 많은 최근의 인공지능 기술의 공정성, 투명성, 책임성 보장을 위해 어떤 접근과 법제 정비가 필요할지 논하는 토론회가 개최됩니다.

인공지능 기술이 여러 측면에서 국민에게 여러 혜택을 가져올 수 있는 반면, 편향적이고 불투명한 의사결정으로 소비자와 이용자의 기본권과 안전에 위협이 될 수 있다는 우려 또한 존재하고 있습니다. 작년 말 정부가 인공지능 법·제도·규제 정비 로드맵 추진 계획을 발표하며 올해 상반기부터 법제 정비에 들어갈 것을 계획하고 있는 가운데, 모든 국민에게 혜택이 돌아가는 인공지능 기술의 발전을 모색하고 그 예상되는 부작용을 최소화하는 국가 정책에 대해 논의해보는 자리를 가지려 합니다.

같은 국민인데 누구는 되고 누구는 안 되고

2017년 8월 시작된 청와대 국민청원은 온라인을 활용하여 청원의 문턱이 대폭 낮춰져 국민들의 폭발적인 관심을 받았습니다. 특히나 직접 글을 올리고 SNS에 퍼뜨리는 등 온라인 행동으로 이어져 실질적인 정책에 영향을 주는 모습도 보여줬지요. 이에 국회에 입법을 청원하는 국회청원 역시 ‘국민동의청원제도’로 전자적 시스템을 도입하였지만 이에 몇 가지 문제점이 있습니다.

국민동의청원의 경우 10만 명 이상이 동의해 청원이 성립되면 국회가 이를 소관 상임위원회에 회부해 심사할 의무가 생겨 입법으로 이어질 가능성이 생기는 등 효력이 더 크다고 볼 수 있지요. 때문에 국민이 민주적 결정 과정의 한 축으로서 참여할 수 있는 기회를 보다 잘 제공할 필요가 있습니다. 이른바 ‘정보접근권’의 보장이 전제되어야 하겠지요. 허나 국민동의청원 접수나 동의 의사 표시를 위해서는 무조건 휴대전화 또는 아이핀을 이용한 본인인증 과정이 필수적이고 결과적으로는 해외 거주 중인 재외국민이거나 모종의 사유로 본인 명의 휴대전화가 없는 경우 아예 제외되는 상황이 됩니다. 관련하여 진보넷 희우 활동가가 기고한 글입니다.

</> 프라이버시

국제인권기준에 따른 개인정보 보호 법제도 개선방안

사단법인 정보인권연구소가 <유럽연합 「개인정보보호 규정」(GDPR) 등 국제인권기준에 따른 개인정보 보호 법제도 개선방안 연구> 보고서를 발간하였습니다. 해당 연구에는 진보네트워크센터도 함께 참여했는데요. 인공지능과 빅데이터 등 기술의 발전으로 갈수록 불투명해지는 데이터 환경 속 희미해져가는 정보주체의 권리는 어떻게 보장 받을 수 있을까요? 소비자와 시민의 개인정보를 부당하게 사고 팔고 유출하는 기업들이 충분히 책임지는 모습을 본 적이 없는 것 같은데 4차 산업혁명이라는 구호를 어떻게 신뢰할 수 있을까요? 해당 보고서는 유럽연합의 GDPR 등 국내외 현황을 다각도로 살펴보며 정보주체에게 공정하고 투명하고 책임감 있는 개인정보 처리를 위한 정책 권고를 담고 있습니다.

2021년 한 해의 시작을 해당 보고서와 함께 해보는 것은 어떨까요? (길지만 재밌습니다)

개인정보 보호법 2차개정, 정보주체의 권리를 보호하라

진보네트워크센터를 비롯한 9개의 시민단체가 개인정보 보호법 2차 개정 방향에 대한 의견서를 제출했습니다. 2020년 개인정보 보호법이 신용정보법, 정보통신망법과 더불어 개정되었지만, 여기엔 정보주체의 동의 없이 개인정보를 활용할 수 있도록 하는 방향으로 치우친 내용만 가득할 뿐 신기술 시대에 개인정보를 보호할 수 있는 장치는 거의 존재하지 않습니다. 또한 개정 당시 분산된 개인정보 보호 법제로 서로 다른 개념을 사용하고 중복되고 유사한 규정이 여전히 존재하는 등 혼란을 초래하는 지점이 있어 법 개정 1년이 채 지나기 전에 2차 개정의 이야기가 나오고 있는 상황입니다. 시민사회는 정보주체 권리 보호 방안을 담을 것과 동시에 위와 같은 혼란스러운 법제의 정비, 그리고 개정 당시에 신경도 쓰지 않았던 시민사회를 포함한 이해관계자의 의견 수렴을 요구합니다.