소식지월간네트워커

네트워커 192호

By 2025/12/31 No Comments

네트워커 192 호


생성형 AI, 잘 쓰고 계신가요?


챗GPT, 제미나이, 클로드 등 생성형 AI 많이들 쓰고 계신가요? 최근 시민사회단체에서도 생성형 AI 서비스 활용이 늘어나고 있는 추세인데요, 반면에 아직 단체 차원의 활용 원칙이나 정책이 마련되지 않은 곳들이 많습니다.

생성형 AI는 일견 편리해보이지만 보안, 개인정보 보호, 허위정보, 편향, 윤리 문제 등이 발생할 위험이 있습니다. 때문에 단체의 통제 및 일관성 확보가 필요한 상황입니다.

이에 디지털정의네트워크는 다른 시민단체들과 협업해 관련 워크숍을 2차례 진행하고, <시민사회단체를 위한 생성형 AI 가이드>를 제작했습니다. 이 가이드는 시민사회단체 및 활동가들이 생성형 AI 활용 정책을 수립하고 AI를 단체 실무에 안전하고 일관되게 적용할 수 있도록 하는 것을 목표로 합니다.

해당 가이드는 아래의 가이드 홈페이지에서도 보거나 다운받을 수 있습니다. 시민사회단체 및 활동가들에게 많은 도움이 되길 바랍니다.

가이드 홈페이지 바로가기

불타는 활동의 연대기

인공지능기본법 하위법령 문제점과 대안을 짚는 시민사회 기자설명회 개최

22개 노동·시민사회단체가 인공지능기본법 시행을 앞두고 시행령·고시·가이드라인 등 하위법령이 고위험 이용사업자의 책무를 광범위하게 면제해 시민의 안전과 인권을 인공지능 위험에 방치하고 있다고 비판했습니다. 정보인권·교육·노동·문화·보건의료·소비자 분야별 우려를 공유하며 하위법령의 전면적 보완과 대안 마련을 촉구하는 기자설명회를 개최했습니다.

인공지능기본법 시행령안에 대한 국가인권위 의견 수용 촉구

국가인권위원회가 제시한 인공지능기본법 시행령안 개선 의견을 바탕으로, 고영향 인공지능 규정 부재와 이용사업자 책무 완화 등 인권 보호의 공백을 짚었습니다. 정부에 산업계 편향을 벗어나 인공지능 위험으로부터 영향받는 사람을 보호하도록 시행령안을 전면 보완·수용할 것을 촉구했습니다.

개인정보 원본 활용 개인정보보호법 개정안 반대 기자회견 개최

인공지능 기술 개발을 이유로 정보주체 동의 없이 개인정보 원본을 학습데이터로 활용하도록 하는 개인정보보호법 개정안의 쟁점을 분석하고, 개인정보 자기결정권 침해와 유출 위험을 문제로 제기했습니다. 개인정보를 공유재처럼 취급하는 입법 시도를 비판하며 관련 개정안 철회를 요구하는 기자회견을 개최했습니다.

개인정보 원본활용 개보법 개악 중단 촉구

쿠팡 대규모 개인정보 유출 등 잇단 사고에도 불구하고 정보주체 동의 없이 개인정보 원본을 인공지능 기술 개발에 활용하도록 하는 개인정보보호법 개정안 추진의 문제점을 짚고, 개인정보 자기결정권 침해와 안전성 부재를 지적했습니다. 정부와 국회에 원본 데이터 활용을 허용하는 이른바 ‘AI특례법안’의 즉각 중단·폐기를 요구하고, 개인정보보호위원회에 정보주체가 신뢰할 수 있는 보호 대책 마련을 촉구했습니다.

반복되는 개인정보 대량 유출에 대한 집단(단체)소송제도 도입 촉구 성명 발표

쿠팡 개인정보 유출 사태를 계기로 반복되는 대량 유출의 구조적 원인을 짚고, 기업의 보안 책임을 실질적으로 강화하기 위한 집단(단체)소송제도 도입의 필요성을 제기했습니다. 개인정보 유출에 대한 책임 회피 구조와 더불어 AI 개발을 명분으로 원본 개인정보 활용을 확대하려는 입법 시도의 위험성을 지적하며 정부와 국회의 즉각적인 제도 개선을 촉구했습니다.

개인정보 유출 피해구제와 집단소송 제도 개선을 논의하는 온라인 세미나 개최

SKT·KT·쿠팡 등 대형 기업의 반복적인 개인정보 유출에도 피해 회복이 어려운 한국 법제의 구조적 한계를 짚고, 집단소송·단체소송 제도의 필요성을 분석했습니다. 미국·EU·일본의 소비자 권리구제 소송 사례를 살펴보며 개인정보 유출 피해에 대한 실효적인 구제 방안과 제도 개선 방향을 논의했습니다.

단체소송 범위에 개인정보 유출에 대한 손해배상을 포함할 것을 국회 정무위에 요구

국회 정무위 법안심사1소위가 개인정보보호법 개정안을 심사하면서 단체소송 대상에 개인정보 유출에 대한 손해배상을 포함하지 않은 점을 문제로 제기했습니다. 반복되는 대규모 개인정보 유출에도 이용자 피해 구제를 외면한 결정을 비판하며, 상임위 단계에서 손해배상 단체소송을 포함하도록 재논의할 것을 촉구했습니다.

쿠팡 사태에 대한 국회의 철저한 청문을 요구하는 기자회견 개최

개인정보 유출, 자영업자에 대한 구조적 갑질, 반복되는 과로사와 산재, 노조 탄압 등 쿠팡을 둘러싼 복합적 문제에 대한 전면적인 진상 규명과 책임 추궁의 필요성을 제기했습니다. 국회에 쿠팡 경영진 출석을 포함한 철저한 청문과 제도 개선을 촉구하는 기자회견을 공동으로 개최했습니다.

쿠팡 탈퇴 운동 확산과 기업 책임을 촉구하는 기자회견 개최

개인정보 침해와 반복되는 산재·과로사, 부당노동행위 등 쿠팡의 구조적 문제를 짚고 소비자·시민의 자발적 ‘탈팡’ 움직임을 사회적 행동으로 확산시킬 필요성을 제기했습니다. 정의당·노동당·녹색당과 노동·시민사회가 함께 쿠팡에 대한 강력한 규제와 책임 추궁, 제도 개혁을 촉구하는 기자회견을 개최했습니다.

정보통신망법 개정안 졸속 처리 중단 촉구

더불어민주당과 조국혁신당이 허위조작정보 규제를 명분으로 표현의 자유를 침해할 우려가 큰 정보통신망법 개정안을 공청·숙의 절차 없이 추진하고 있는 문제를 지적했습니다. 언론과 시민사회 요구를 외면한 채 비공개 협상으로 강행 처리하려는 시도를 비판하며 개정안의 즉각 중단과 전면 재검토를 촉구했습니다.

국회 과방위 정보통신망법 개정안에 대한 시민사회 질의서 발표

허위조작정보 규제를 명분으로 추진 중인 정보통신망법 개정안이 표현의 자유를 침해할 위험이 여전히 크다는 점을 지적하며, 과방위 대안에 남아 있는 위헌적 요소와 구조적 문제에 대해 국회에 공식 질의를 제기했습니다. 허위조작정보 유통금지, 신고·조치 제도, 방미심위 권한 확대, 징벌적 손해배상, 혐오표현 규제 등 주요 쟁점에 대한 추가적인 사회적 논의와 입법 재검토를 촉구했습니다.

[이슈보고서] 인공지능에 대한 인권기반접근 : 영향 받는 사람들의 인공지능 발간

우리 사회는, 그리고 인공지능은, 인간의 존엄성을 보호해야 하며, 사람을 차별하거나 인권을 침해해서는 안 됩니다. 그런데 내년 1월부터 시행되는 한국의 인공지능기본법은 인권을 보호할 수 있을까요? 이런 고민을 담아 이슈보고서를 펴냈습니다.

해외정보인권

감시되고, 추적되고, 표적 되기 – 이스라엘의 감시 정권 치하 가자지구에서의 삶

사람들은 나에게 그들 자신의 생각 자체를 꺼트리게 되었다고 말했다. 심문관과 감시자들이 그들의 머릿속까지 들여다볼 수 있기라도 한 것처럼.
“정치적 성향이 없는 사람이란 존재하지 않습니다.”
“하지만 전 그걸 죽여버렸습니다. 전 그것에 대해 말하지 않기로 했습니다. 열쇠로 잠가버렸습니다.”

이스라엘의 가자지구 점령은 일시적이고 단순한 군사적 폭력으로 이루어진 것이 아니다. 오랜 시간에 걸쳐 구축된 감시 체제(surveillance regime)의 결과물이다. 가자지구 출신 팔레스타인 언론인 무함마드 알 므하위시는 이 글을 통해 그 사실에 대해 증언하며, 감시 기술이 어떻게 일상을 포위하고 사람을 분류하는지를 드러낸다. 얼굴 인식, 통신 감청, 위치 추적, 데이터베이스화된 관리, 그리고 인공지능 기반 표적 선정은 미래적 기술이 아니라 가자지구에서 이미 완전히 구현된 현재다.

현재화된 감시는 사람들의 사고방식과 관계 맺는 방식을 바꾼다. 팔레스타인 사람들은 전화 한 통, 문자 하나, 사진 촬영, SNS 게시물 업로드조차 이스라엘에게 보여질 것이라 가정하고 두려워한다. 무함마드는 ‘숨길 것이 없으면 두려워할 것도 없다’는 독재자들의 오랜 경고가 여기서는 아무 의미가 없다고 전한다. 가자지구에서 투명함은 안전이 아니라 오히려 노출과 표적화를 의미한다. 이스라엘이 사용하는 감시 기술은 단지 정보를 수집하는 데서 그치지 않는다. 감시는 한 인간을 관리가 가능한 개체로 데이터화하고 그가 발산하는 모든 신호를 수집해 무기로 사용한다.

이 감시 체제는 이스라엘만의 산물이 아니다. 몇몇 서구 정부와 마이크로소프트, 팔란티어, 구글 등 빅테크 회사들은 자신들의 자원과 기술을 쏟아부어 이러한 감시 체제를 고도로 발전시켰다. 통화 기록 저장, 클라우드 인프라 제공, 드론 전자 장비, 얼굴 인식 기술, 데이터 분석 도구 등은 기술이라는 이름 아래 군사 점령과 학살에 결합되었다. 국제사회는 이를 알면서도 제재하지 않았고 오히려 안보 협력과 기술 거래를 지속해 왔다. 그 결과 “이스라엘 정부는 우리의 가장 끔찍한 공포조차 뛰어넘는 감시 시스템을 개발해냈다.”

무함마드는 감시가 어떻게 사적인 공간, 친밀성, 사유의 자유 자체를 잠식하는지 반복적으로 증언한다. 검문소와 구금 시설에서 질문을 받기 전에 얼굴만으로 이미 식별되고 분류된다. 신분증을 제시하지 않아도 얼굴 인식 시스템이 먼저 작동해 이름과 가족관계, 과거의 이동 기록이 조회되는 것이다. 이 곳에서 심문은 정보를 묻는 과정이 아니라 이미 수집된 데이터를 확인하는 절차에 가깝다. 자신에 대한 수많은 기록을 그들이 갖고, 그 기록이 자신의 처우와 이동, 생존 가능성에 직접적으로 작용하고 있지만 정작 자신에 대해 무엇이 기록되어 있는지 볼 수 없다. 드론과 카메라는 거리와 검문소를 넘어 생활 공간까지 확장되고 휴대전화와 통신 기록, SNS 활동 등은 이미 공공연하게 감시·수집된다. 디지털 플랫폼 역시 안전한 공간이 아니고 언론인으로서 기록을 남기는 행위 자체를 경계하게 된다.

이 조건 속에서 무함마드의, 팔레스타인 사람들의 삶은 점차 축소된다. 항상 감시받고 있다는 감각 속에서 말은 줄어들고 관계는 조심스러워지며 “사생활은 사치”가 된다. 그러면서도 무함마드는 이 감시 체제가 자신이 남긴 모든 흔적을 독점하도록 내버려두지 않기 위해 계속해서 기록할 것을 택한다. “나는 우리의 뒤를 밟는 기록을 조회할 수 없지만, 적어도 내 손으로 직접 기록을 남길 수는 있다. 그래서 나는 전부 적는다. 이름, 시간, 장소. 우리의 일부로 존재하는 흔적들. 그들의 것이 아닌 것들. 그 어떤 파일도 그 안에 담긴 이들이 스스로 쓰기를 멈추지 않는 한 완전해질 수 없다.”

무함마드의 글 번역 전문 다운로드하기

디지털정의네트워크와 함께하기

디지털정의네트워크는 빅테크 등 자본과 국가 권력을 감시하고, 불평등한 사회구조에 맞서 정보사회의 기본권과 공공성을 수호하며, 민주적인 참여와 연대를 통해 정의롭고 지속가능한 세상을 만듭니다.