네트워커 197호

네트워커 197 호

AI 산업 육성을 위해서는 뭐 다 해도 되는 거야 그런 거야?
정말 정말로?

인공지능 기술 개발을 명분으로 원본 개인정보를 정보주체의 동의 없이 수집 목적 외로 이용할 수 있도록 하는 개인정보보호법 개정안이 국회에서 논의되고 있습니다. 수집 목적 달성을 위한 최소한의 개인정보만 수집할 것, 수집 목적 내에서만 개인정보를 처리할 것, 이러한 규정들은 역사적으로 형성되어 온 개인정보 보호의 기본 원칙입니다. 한번 수집된 개인정보를 갑자기 나중에 다른 목적을 위해 필요하다고 자의적으로 활용할 수 있게 된다면 동의와 약관과 법률이 무슨 의미가 있겠습니까? 현재 국회에서 논의되고 있는 개인정보보호법 개정안은 개인정보 보호 원칙의 기본을 파괴합니다. 인공지능 기술 개발을 위한다는 명목 아래서 말이죠.

물론 기술 개발을 위해 개인정보가 필요할 수도 있지요. 이를 위해 이미 과학적 연구를 위한 가명정보 처리, 규제샌드박스 실증 특례 등 일정한 조건을 두고 개인정보를 목적 외로 활용할 수 있는 방법이 엄연히 존재합니다. 이번 개정안은 이러한 절차조차도 거치기 싫어 더 쉽고 값싸게 개인정보를 활용하고자 하는 산업계의 탐욕이 담긴 법안일 뿐이지요. 개인정보보호위원회가 해당 개정안을 위해 발벗고 나서고 있다는 지점은 더 통탄스럽습니다. 유수의 대기업에서 연이어 개인정보 유출 사고가 발생하는 것을 우리는 목격했습니다. 국내 개인정보 보호수준이 얼마나 허술한지 그대로 드러난 것이지요. 이런 기본적인 개인정보 보호 조치도 하지 않는 기업들에게 정부와 국회는 ‘원본 개인정보’자체를 넘겨주려고 합니다.

해당 개정안은 국회 정무위원회 통과를 넘어 이제 본회의만을 앞두고 있습니다. 헌법상 기본권과 인권의 가치를 내팽겨 치려는 개인정보보호법 개정안 논의는 당장 중단해야 할 것입니다.

불타는 활동의 연대기

휴대폰 개통 시 안면인증 의무화 정책… 과기부의 회피성 답변

디정넷과 시민사회는 지난 3월 18일, 휴대폰 개통 시 안면인증을 의무화하는 정책이 강행되는 것에 대해 과학기술정보통신부(이하 과기부)에 반대서명과 의견을 전달한 바 있습니다. 이에 과기부는 실제하는 위헌적 위법적 정책 요소는 고려하지 않은 채 그저 잘해보겠습니다 식의 회피성 답변을 내놓았지요. 반대와 비판, 인권위의 제도개선 권고 등이 이어지자 전면 시행이 6월 말로 연기된 정책인만큼, 정부는 보다 적극적인 소통과 논의를 이어나가야 할 것입니다.

연계정보 헌법소원 각하… 명확한 판단 포기한 헌법재판소

헌법재판소가 제2의 주민등록번호나 마찬가지인 연계정보(CI) 임시허가에 대한 헌법소원 사건을 각하했습니다. 이미 관련 법률이 개정되어 권리보호의 이익이 없다는 이유였는데요. 헌법소원 청구는 2021년, 관련 근거 법률 개정은 2024년입니다. 이를 2026년이 되어서야 법률 제정을 이유로 각하를 내린 것은 사실상 법률에 근거하지 않은 채 이뤄진 명백한 기본권 침해를 용인한 것이나 다름없습니다. 납득하기 어려운 판단이지요. 규제샌드박스라는 이름으로 개별 법에서 정한 기준과 원칙을 무력화시키고 헌법상 기본권이 제한되는 상황은 현재도 이어지고 있는데 헌법재판소가 이에 대해 명확한 판단 내리기를 사실상 포기한 것입니다.

인공지능 기본법, 인권기반접근에 따라 개선되어야

유엔인권최고대표 사무소를 비롯한 유엔인권기구는 각국 정부와 기술 기업에 대해 “인공지능에 대한 인권기반접근”을 요구해 왔습니다. 한국의 인공지능기본법은 이러한 기준에 따르면 중대한 문제가 있죠. 특히 ‘영향받는 자’에 대한 지점이나 정책 참여, 그리고 인권 침해의 위험이 결코 완화될 수 없는 ‘금지되어야 하는 인공지능’ 기술 개발과 활용 등에 대한 부분입니다. 관련해 디정넷과 기업과인권네트워크, 정보인권연구소에서 유엔인권최고대표를 만나 시민사회 의견서를 제출했습니다.

AI시민행동,「국방인공지능법」제정안에 대한 입법의견서 제출

인공지능을 사용한 무기의 개발과 활용은 이미 현재진행형인 비극입니다. 팔레스타인 가자 지구에서는 이스라엘이 ‘인류 역사상 최초로 인공지능을 사용한 집단학살’을 저지르고 있고 우크라이나와 러시아에서는 기술 기업들이 전쟁을 학습데이터와 테스트베드로 삼고 있습니다. 이런 상황에서 국회는 <국방인공지능법>을 논의하고 있습니다. 올해 초 인공지능기본법이 시행되었지만 국방 및 국가안보 목적의 인공지능은 법 적용 대상에서 제외됨에 따라 어쩔 수 없이 해당 분야에 대한 별도 규율이 필요한 상황이지요. 그러나 현재 국회에서 논의되는 법안은 국방 인공지능 개발 산업 육성만이 최우선이고 통제나 규제의 내용은 없다시피 합니다, 생명에 영향을 미치는 고위험 인공지능에 해당함에도 말이죠.

지방선거에도 만연한 장밋빛 AI환상

5월 22일, AI시민행동이 지방선거를 앞두고 각 후보자들에게 인공지능 정책에 대해 공개 질의하고 이에 대한 답변을 분석하고 평가하는 보고서를 발행했습니다. 전반적으로 인공지능이 사회에 미치는 영향이 거스르기 어려운 흐름이라는 분위기가 많았습니다. 일부 후보자들은 인공지능 기술을 실제로 어떻게 올바르게 사용할 것인지 고민하며 충분한 숙고와 논의가 필요하다는 인식을 보여주었으나, 대체적으로는 인공지능 기술과 관련된 공공성, 책임성, 민주적 거버넌스 실현을 위한 구체적이고 명확한 방안을 제시하지는 못하는 모습이었습니다.

이재명 정부의 혐오대응 대책, 차별금지법 제정이 그 시작이어야

이재명 대통령의 ‘일베 폐쇄’ 발언과 혐오표현 공론화 의견에 대한 SNS 글로, 정부의 혐오 대응 기조에 많은 관심이 생기고 있습니다. 혐오에 대응하는 흐름은 좋습니다만 어떠한 판단의 기준점이 되는 것이 없다는 게 문제죠. 이럴 때 기준점이 되어줄 수 있는 차별금지법의 제정 필요성은 계속해서 제기되고 있으나 의미 있는 진전을 이루진 못했습니다. 정부가 혐오에 대한 대응 의지가 있다면, 차별금지법 제정이 그 시작이어야 할 것입니다. 이와 관련하여 차별금지법제정연대에서 5월 29일 차별금지법 제정을 촉구하는 기자회견을 가졌습니다. 기자회견에 참석했던 디정넷 희우 활동가의 발언 일부를 인용합니다.

“…넷째, 근본적 해법은 검열이 아닌 ‘차별금지법 제정’에 있습니다.
정부와 정치권에 묻습니다. 도대체 무엇이 차별이고 무엇이 혐오입니까? 기준점이 되는 ‘차별금지법’조차 제정하지 않은 채 혐오표현만 규제하겠다는 것은 너무나도 편의적인 발상입니다. 인권단체들이 혐오표현에 반대하면서도 표현 규제에 신중했던 이유가 바로 여기에 있습니다.

지금 필요한 것은 기술적·행정적 규제를 하나 더 만드는 것이 아니라, 왜 한국의 공론장이 이토록 취약해졌는지, 어떤 구조적 요인이 혐오와 극단화를 만들어내는지 성찰하는 일입니다. 혐오 대응은 검열이 아니라 평등이라는 원칙 위에서 이루어져야 합니다.

권력이 자의적으로 혐오를 판단하는 구조를 멈추십시오. 개별 콘텐츠나 사이트 규제보다 ‘차별금지법 제정’이 우선되어야 합니다. 표현을 억압하는 것이 아니라 차별적 구조를 바꾸고 민주주의를 지키는 것이 본질적인 해법입니다. 혐오와 검열의 정치를 멈추고, 평등과 권리의 언어가 다시 우리 사회의 중심으로 자리 잡을 수 있도록 함께 행동해 주십시오.”

국정원 직무범위 확대 , 우려되는 권한남용. 국정원법 개정안 전면 재검토되어야

국가정보원의 직무범위를 확대하는 내용을 담은 개정안이 국회 정보위원회 의결을 거쳐 법제사법위원회에 계류 중에 있습니다. 이번 개정안은 국정원의 정보수집, 작성, 배포 범위에 ‘경제안보’를 추가하고 기존 ‘국제 및 국가배후 해킹조직’으로 한정되어 있던 정보 수집의 범위를 ‘국제, 국가배후 해킹조직의 활동으로 의심’되는 경우까지로 확대하고 있습니다.
2020년 국정원 개혁으로 축소했던 국정원의 국내 정보 수집과 공작 권한을 확대하겠다는 것입니다. 그러나 국정원에 대한 민주적 통제 장치가 여전히 부재한 상황에서 이러한 권한 확대는, 민간인 사찰 등 권한 남용으로 이어질 수밖에 없습니다. 국정원의 직무 범위 확대는 항상 비밀정보기관의 국내 정치 개입과 민간인 사찰이라는 폐단과 직결되어 왔습니다. 직무 확대가 필요하다면 폐단에 대한 방지책이 반드시 함께 제시되어야 할 것입니다.

해외정보인권

스마트 제노사이드: AI와 가자에서의 삶에 관한 단상

허름한 침대에 누워 좁은 방을 뒤덮은 어둠을 느낀다. 우리 삶을 뒤덮고 있는 그 어둠이다. 바깥 세상과 닿아 보려 전화기를 집어 들지만 인터넷이 연결되지 않아 실패한다. 주위를 둘러보며 생각에 잠긴다. 어떻게 도시 하나가 통째로 이런 끝도 없는 사투에 빠질 수 있지?

매일매일, “선진” 세계에서의 인공지능에 관한 글들에 적힌 것과는 완전히 동떨어진 현실을 마주한다. 전화기 화면을 통해 그런 세상을 — 자율주행 자동자, AI 병원, 스마트 시티 같은 것들이 나오는 동영상을 — 보다가 접속이 끊어져 현실로 돌아온다. 그 작은 화면으로 AI가 번창하는, 보건의료와 교육에 혁신을 일으키는 세상을 일별한다. 삶의 가장 기본적인 욕구를 위해서조차 하루도 빠짐 없이 싸워야 하는 가자에 살면서.

그런데 세상이 당신에게 말해주지 않는 것이 있다. 온갖 혁신의 동력인 그 기술이 또한 우리 머리 위 드론의 동력이기도 하다는 것. 다른 곳에서는 생명을 구하는 AI가 여기에서는 다음에는 우리의 어디에 폭탄을 떨어뜨릴지를 정밀 계산하는 데에 쓰인다는 것. 우리가 이르지 못한 진보가 아니라, 우리를 겨누는 무기가 되는 진보다.