네트워커 193호

네트워커 193 호

산업 중심에서 ‘영향받는 사람들’의 권리로 전환하자

정부가 ‘AI 강국’을 내세우며 국가 전반에 인공지능 도입을 추진하고 있지만, 그 과정에서 인공지능의 위험을 어떻게 통제하고, 영향을 받는 사람들의 권리와 안전을 어떻게 보호할 것인지에 대한 논의는 충분하지 않습니다. 특히 국가 AI 정책은 기술과 산업 중심으로 설계되면서 민주적 통제와 책임성에 대한 고민이 빠져 있다는 지적이 이어지고 있습니다.

인공지능은 오류와 편향, 불투명성, 개인정보 침해 등 구조적인 위험을 내포하고 있으며, 그 영향은 노동, 복지·의료, 교육, 문화, 국방, 성평등 등 사회 전반에 걸쳐 나타납니다. 그럼에도 현재의 국가 AI 정책은 이러한 위험에 대한 실질적인 통제 장치나 피해 구제 방안을 충분히 담아내지 못하고 있습니다.

이에 18개 시민사회단체는 「대한민국 인공지능 행동계획」(안)의 문제점을 짚고, AI 정책이 산업 중심이 아니라 ‘인공지능의 영향을 받는 사람들’을 중심에 두는 방향으로 전환되어야 한다는 의견서를 공동으로 작성해 국가인공지능전략위원회에 제출했습니다. 이어 해당 의견서의 핵심 쟁점을 공유하고 시민사회의 문제의식을 분명히 하기 위해 기자설명회를 개최했습니다.

이번 기자설명회에서는 정보인권, 노동, 복지·의료, 국방, 성평등, 문화 등 각 영역에서 실제로 나타나는 AI의 영향과 위험을 짚고 민주적 거버넌스와 책임성 강화를 위한 대안을 제시했습니다. 인공지능 정책이 기술 발전의 속도만이 아니라 사람의 권리와 안전을 기준으로 다시 논의되기를 바랍니다.

불타는 활동의 연대기

국가 AI 행동계획안에 대한 의견서 제출

「대한민국 인공지능 행동계획」(안)이 산업·안보 중심으로 편향되어 AI 위험 통제와 사업자 책임성, 시민의 권리 보호를 외면하고 있다고 지적하는 의견서를 제출했습니다. 개인정보 보호 원칙을 훼손하는 정책 기조를 비판하며, AI의 위험성에 대한 안전장치 마련과 영향을 받는 사람들의 권리 보장, 민주적 거버넌스 강화를 요구했습니다.

AI 행동계획에 따른 국정원 사이버·AI 권한 확대 우려 제기

국정원감시네트워크와 함께 「대한민국 인공지능 행동계획」(안)이 국정원에 사이버·AI 안보 권한을 확대해 민간 영역에 대한 감시로 이어질 수 있다고 지적하는 의견서를 제출했습니다. 국정원의 역할을 해외 정보 협력 수준으로 제한하고 국가안보 목적 AI에 대한 법적 규율과 민주적 통제 장치를 마련할 것을 촉구했습니다.

감사원 감사 결과로 드러난 공공부문 AI 도입의 인권·안전 공백 지적

감사원 실지감사를 통해 공공부문 AI 도입 현황과 문제점이 공개된 가운데, 채용 AI와 지능형 CCTV 등에서 영향받는 자 보호와 성능·편향 검증이 미흡하다는 점을 지적했습니다. 인공지능 사회전환은 산업 육성이 아니라 인권에 기초해 시민의 안전과 신뢰를 보장하는 방향으로 재설계되어야 한다고 강조했습니다.

자율주행차 연구·개발 명분의 개인정보 원본 활용 법안 철회 촉구

자율주행차 연구·개발 단계에서 얼굴·행동·이동경로 등 개인정보가 포함된 영상정보를 동의나 비식별 조치 없이 수집·이용하도록 허용한 법 개정의 문제점을 지적했습니다. 기술 발전을 이유로 불특정 시민을 데이터 자원으로 삼는 입법을 비판하며, 개인정보 보호 원칙을 훼손하는 해당 법안의 재검토와 철회를 요구했습니다.

소비자 보호를 위한 집단소송법 제정연대 출범 기자회견 개최

쿠팡 대규모 개인정보 유출을 계기로 반복되는 소비자 피해를 구조적으로 해결하기 위해 19개 소비자·시민단체가 <소비자 보호를 위한 집단소송법 제정연대>를 출범했습니다. 집단소송법과 징벌적 손해배상, 입증책임 완화를 포함한 이른바 ‘쿠팡방지법’ 제정을 촉구하며 국회와 정부의 즉각적인 입법을 요구하는 기자회견을 개최했습니다.

휴대전화 개통 안면인증 의무화 정책 폐기 촉구 성명 발표

휴대전화 개통 시 안면인증을 의무화한 과기정통부 정책이 생체인식정보 동의를 사실상 강요하며 개인정보보호법과 인권 원칙을 위반하고 있다고 지적했습니다. 보이스피싱 대응의 책임을 시민에게 전가하는 정책을 비판하며, 안면인증 의무화 철회와 함께 정부·사업자의 보안 책임을 강화하는 근본적 대책 마련을 촉구했습니다.

22대 국회 차별금지법 발의 환영 성명 발표

22대 국회에서 차별금지법이 다시 발의된 것을 환영하며, 혐오표현을 개별적으로 규제하는 땜질식 접근이 아니라 평등의 기준을 세우는 기본법 제정의 필요성을 강조했습니다. 차별의 정의와 국가의 보호 원칙을 명확히 하는 차별금지법 제정을 통해 표현의 자유를 위축시키지 않으면서도 혐오와 차별을 구조적으로 해소할 것을 국회에 촉구했습니다.

군의 지방자치단체 CCTV 무제한 조회권한 회수 촉구 성명 발표

12·3 불법 계엄 당시 군이 스마트도시플랫폼을 통해 전국 지방자치단체 CCTV를 무제한 조회하며 시민과 공공기관을 감시한 사실이 드러난 데 대해, 위헌적 국민 감시의 즉각 중단을 촉구하는 성명을 발표했습니다. 군을 비롯한 국가기관의 CCTV 상시 열람 권한 회수와 스마트도시플랫폼의 탈법적 운영 중단, 향후 AI 기반 얼굴·동작 감시 확대에 대한 강력한 제도적 통제를 요구했습니다.

시민의 안전과 인권을 외면한 AI 기본법 시행, 전면적 개정 촉구

1월 22일부터 시행된 인공지능기본법이 고영향 AI 규제와 영향받는 사람의 권리 보호를 거의 담지 못한 졸속 입법이라는 점을 지적하며, 국회와 정부의 책임 있는 개정을 촉구하는 입장을 밝혔습니다. 시민의 안전과 인권을 보호할 실질적 규율과 책임성, 국가안보·수사 목적 AI에 대한 통제까지 포함하는 방향으로 기본법을 다시 바로잡아야 한다고 강조했습니다.

제2의 쿠팡사태 막자, 집단소송법 도입 촉구 공동 기자회견

국회와 소비자·시민사회단체가 반복되는 개인정보 유출 참사와 대규모 소비자 피해를 막기 위해 집단소송법 도입을 촉구하는 공동 기자회견을 열었습니다. 쿠팡 사태를 계기로 기업 책임을 실질적으로 묻고 피해자 구제를 가능하게 하기 위해 집단소송제, 징벌적 손해배상, 입증책임 완화 등 제도 도입이 시급하다는 점을 강조했습니다./p>

해외정보인권

알고리즘와치의 생성형 AI를 책임감 있게 사용하기 위한 가이드라인

생성형 AI가 사회 전반에 엄청난 속도로 파고드는 것을 다들 느끼셨을 텐데요, 지난해 말, 디지털정의네트워크는 빠띠·정보인권연구소와 함께 시민사회 활동가를 대상으로 하는 생성형 AI 가이드라인을 만든 바 있습니다. 이번에는 해외 시민단체 AlgorithmWatch의 생성형 AI 가이드라인을 소개합니다.

“생성형 인공지능은 우리 주변 어디에나 존재합니다. 하지만 동시에 많은 문제점도 안고 있습니다. 결과물이 신뢰할 수 없거나 정치적으로 편향된 경우가 많고, 이 기술은 막대한 양의 에너지와 물을 소비하며, 이러한 시스템이 실제로 어떻게 작동하는지 명확하게 밝혀지지 않은 경우가 많습니다. 그럼에도 불구하고 많은 사람들에게 생성형 인공지능은 일상 업무의 필수적인 부분이 되었습니다.

따라서 우리는 현재 많은 조직들이 고심하고 있는 질문, 즉 우리의 가치에 부합하는 방식으로 생성형 AI를 어떻게 활용할 수 있을까라는 질문에 직면하게 되었습니다.

우리는 이 문제를 해결하기 위해 충분한 시간을 들였습니다. 팀원들에게 AI가 어떤 면에서 도움이 될 수 있는지, 그리고 어떤 위험이 있다고 생각하는지 물어보았습니다. 이 설문조사를 바탕으로 직원들에게 다음과 같은 지침을 제공했습니다. AI를 사용하는 것이 적절한 경우는 언제일까요? AI 사용이 과도한 경우는 언제일까요? 고려해야 할 위험 요소는 무엇일까요? 그리고 품질, 보안 및 투명성을 어떻게 보장할 수 있을까요?

오늘 이 정책을 여러분과 공유하는 이유는 인공지능을 보다 책임감 있게 사용하고자 하는 모든 분들이 자신만의 방법을 찾는 데 도움이 될 수 있다고 믿기 때문입니다.”

모두와 함께 현명한 방법을 찾아 나아가기를 바랍니다.