[보도자료] ‘인공지능 책임성과 공공성 강화를 위한 시민사회 공동행동’ 발족

‘인공지능 책임성과 공공성 강화를 위한 시민사회 공동행동’ 발족

AI 책임성·공공성, 민주적 거버넌스 구축 목표
인권, 노동, 복지, 여성, 환경, 평화 등 전국 41개 시민사회단체 참여

오늘(3/31) 인권, 노동, 복지, 여성, 환경, 소비자, 평화 등 전국 41개 시민사회단체들은 ‘인공지능 책임성과 공공성 강화를 위한 시민사회 공동행동(이하, ‘AI시민행동’)’ 을 결성하고 발족기자회견을 참여연대 아름드리홀에서 개최했습니다. AI시민행동은 인공지능 개발과 활용에서 책임성과 공공성 강화, 민주적 거버넌스 구축, 민주적 공론장 형성을 주요 활동 목표로 선정했습니다. 또 인공지능 개발과 활용을 명목으로 데이터와 환경의 규제를 완화하고 그 영향받는 사람과 지역의 권리를 소홀히 취급하는 등 한쪽으로 치우친 정부 정책의 방향을 전환하는데 역량과 연대의 힘을 결집하겠다고 밝혔습니다.

국가 차원에서 인공지능산업을 육성하고 사회 전분야 걸쳐 인공지능 전환(AI AX)를 빠르게 추진하면서도 정착 일자리 대체와 노동강도 강화, 개인정보에 대한 권리 침해, 환경과 자원의 수탈, 학습데이터의 편향과 차별 등 다양한 문제들이 발생하거나 기존의 사회 문제가 더욱 심화하고 있는 현실은 도외시하는 정부 정책의 전환이 시급합니다. 그동안 시민사회는 정부에 인권과 안전, 민주주의가 보장되는 인공지능 기본법령과 정책을 요구해 왔습니다. 인공지능의 제 영역별로 관련 정책의 원칙과 방향을 제시하여 왔고 앞으로도 영역별 대응은 계속 이루어져야 할 것입니다. 그러나 한편으로는 다양한 분야에서 빠른 속도로 이루어지고 있는 인공지능 전환으로 인해 영향을 받고 있는 시민·노동자·지역의 목소리를 모아내는 시민사회 공동대응이 필요하다는 요구가 있었습니다. 시민사회는 지난 1월 8일 국가AI행동계획안에 대한 공동의 의견서 제출과 수차례의 토론과 숙의를 통해, 각 부문에서 쌓아온 경험과 노하우를 공유하면서, 동시에 인공지능 개발과 활용을 명목으로 데이터와 환경의 규제를 완화하고 그 영향받는 사람과 지역의 권리를 소홀히 취급하는 국가 정책의 방향을 전환하기 위해 공동의 활동목표와 방향을 마련하고 함께 역량과 연대의 힘을 모아나가기로 하였습니다.

AI시민행동은 신뢰가능한 인공지능, 안전하고 통제가능한 인공지능이 되기 위한 전제조건으로 지금까지의 기술위주 인공지능정책의 사회정책으로의 전환, 의사결정 과정에 다양한 이해관계자로서 시민 참여의 보장, 인간의 존엄과 인권을 보장하고 지속가능성을 약속할 것, 인공지능의 개발, 학습, 배포, 운영 등 전 과정에 걸쳐 인권과 개인정보자기결정권을 보장할 것, 정책수립 전반 성평등 실현, 환경과 기후위기 시대 지속가능성을 담보할 것을 요구하였습니다. AI시민행동은 이와 같은 요구들이 정책과정에 반영되고 관철되도록 함께 힘을 모으고 연대할 것을 선언하였습니다.

이재근 AI시민행동 공동집행위원장의 사회로 진행한 오늘 발족 기자회견에는, 오병일 공동집행위원장의 “인공지능 시대 시민사회의 과제와 역할” 에 관한 기조발제를 시작으로 “미국의 이란 침공과 인공지능 군사화의 문제”, “자율주행차 등 원본데이터 활용 허용으로 본 정보인권의 위기” 등 당면한 현안에 대해 참여연대 이미현 협동사무처장과 민변 디지털정의위원회 최호웅 위원장의 발언이 각각 이어졌습니다. 이어 부문별 인공지능 확산이 야기하는 사회 문제와 시민사회의 대응 설명이 있었습니다. 참가자들은 AI시민행동의 이름으로 인공지능 사회로의 정의로운 전환과 안전하고 통제가능한 인공지능이 되도록 하는데 역량을 집중할 것을 다짐했습니다. 끝.

노동과세계

<붙임자료 목록>
▣ 붙임1 : 발족 기자회견 개요
▣ 붙임2 : AI시민행동 준비 경과와 조직 구성
▣ 붙임3 : AI시민행동 활동 목표와 활동 방향, 주요 사업계획
▣ 붙임4 : 발족선언문
▣ 붙임5 : 기조발언문

▣ 붙임1 : 발족 기자회견 개요
제목 : ‘인공지능 책임성과 공공성 강화를 위한 시민사회 공동행동’ 발족 기자회견
일시 및 장소 : 2026. 3. 31.(화) 오전 10시, 참여연대 아름드리홀(2층)
주최 : 인공지능 책임성과 공공성 강화를 위한 시민사회 공동행동
프로그램
사회 : 이재근 참여연대 협동사무처장(공동집행위원장)
기조발언 : 인공지능 시대 시민사회의 과제와 역할 / 오병일 디지털정의네트워크 대표(공동집행위원장)
인공지능 이용 확산이 야기하는 위기
미국의 이란 침공과 군사AI / 이미현 참여연대 협동사무처장
자율주행차 원본데이터 활용 허용으로 본 정보인권의 위기 / 최호웅 민변 디정위 위원장(공동집행위원장)
인공지능 확산이 야기하는 사회 문제와 시민사회 대응
제2, 제3의 아틀라스와 노동권의 위협 / 홍지욱 전국민주노동조합총연맹 부위원장
데이터와 알고리즘의 젠더 편향성 문제, 차별과 폭력의 심화 / 양이현경 한국여성단체연합 상임대표
데이터센터 설립과 기후위기 심화 / 이헌석 에너지정의행동 정책위원
인공지능과 복지와 의료 공공성의 약화 / 전진한 건강권실현을 위한 보건의료단체연합 정책국장
인공지능과 문화환경의 변화 / 하장호 문화연대 문화정책위원장
AI시민행동 조직 경과, 활동 목표와 사업계획 발표 / 김선화 한국여성단체연합 정책국장 (공동집행위원장)
발족 선언문 낭독

제목 : ‘인공지능 책임성과 공공성 강화를 위한 시민사회 공동행동’ 발족 기자회견
일시 및 장소 : 2026. 3. 31.(화) 오전 10시, 참여연대 아름드리홀(2층)
주최 : 인공지능 책임성과 공공성 강화를 위한 시민사회 공동행동
프로그램
– 사회 : 이재근 참여연대 협동사무처장(공동집행위원장)
– 기조발언 : 인공지능 시대 시민사회의 과제와 역할 / 오병일 디지털정의네트워크 대표(공동집행위원장)
– 인공지능 이용 확산이 야기하는 위기
미국의 이란 침공과 군사AI / 이미현 참여연대 협동사무처장
자율주행차 원본데이터 활용 허용으로 본 정보인권의 위기 / 최호웅 민변 디정위 위원장(공동집행위원장)
– 인공지능 확산이 야기하는 사회 문제와 시민사회 대응
제2, 제3의 아틀라스와 노동권의 위협 / 홍지욱 전국민주노동조합총연맹 부위원장
데이터와 알고리즘의 젠더 편향성 문제, 차별과 폭력의 심화 / 양이현경 한국여성단체연합 상임대표
데이터센터 설립과 기후위기 심화 / 이헌석 에너지정의행동 정책위원
인공지능과 복지와 의료 공공성의 약화 / 전진한 건강권실현을 위한 보건의료단체연합 정책국장
인공지능과 문화환경의 변화 / 하장호 문화연대 문화정책위원장
AI시민행동 조직 경과, 활동 목표와 사업계획 발표 / 김선화 한국여성단체연합 정책국장 (공동집행위원장)
발족 선언문 낭독

▣ 붙임2 : AI시민행동 준비 경과와 조직 구성

AI시민행동 준비 경과와 조직 구성

1.준비 경과

2026.1.08. 국가AI전략위원회 <대한민국AI행동계획안>에 대한 제 부문별 의견서 제출 및 공동 기자설명회 개최
2026.1.11. 인공지능 시대 도래와 대응방안 모색 시민사회 워크숍 제안 시작
2026.2.10. 인공지능 시대 도래와 대응방안 모색 시민사회 워크숍 개최
2026.2.26. 인공지능 시민사회연대체구성을 위한 초동모임
2026.3.10. 인공지능 시민사회연대체구성을 위한 준비회의1
2026.3.17. 인공지능 시민사회연대체구성을 위한 준비회의2
2026.3.24. 인공지능 시민사회연대체구성을 위한 준비회의3
2026.3.31. <AI시민행동> 발족 기자회견

2.조직구성

1)명칭 : 인공지능 책임성과 공공성 강화를 위한 시민사회 공동행동(약칭 : AI시민행동)

2) AI시민행동 참가단체
(사)김용균재단,(사)서울여성노동자회,건강권실현을위한보건의료단체연합(건강권실현을위한행동하는간호사회, 건강사회를위한약사회, 건강사회를위한치과의사회, 노동건강연대,인도주의실천의사협의회, 참의료실현청년한의사회),국제앰네스티 한국지부, 녹색연합, 대구참여연대, 디지털정의네트워크, 디케입법정책연구원, 문화연대, 미디어기독연대, 민주사회를 위한 변호사모임, 빈곤사회연대, 사단법인 수원여성의전화, 사회적협동조합 빠띠, 서울YMCA 시민중계실, 소비자시민모임, 시민건강연구소, 에너지정의행동, 울산시민연대, 의료민영화저지와 무상의료실현을 위한 운동본부, 인권운동네트워크 바람, 인권운동사랑방, 전국민주노동조합총연맹, 정보공유연대, 정보인권연구소, 제주평화인권센터, 직장갑질119, 참여연대, 충북민주언론시민연합, 캣츠랩, 투명사회를 위한 정보공개센터, 팔레스타인평화연대, 표현의 자유와 언론탄압 공동대책위원회, 한국노동안전보건연구소, 한국노동조합총연맹, 한국소비자단체협의회, 한국소비자연맹, 한국여성단체연합, 한국여성민우회, 한국여성소비자연합, 환경운동연합(이상 41개 단체) (참관) 녹색당 과학기술위원회

3)집행위원회

참가단체별 대표자(각 1인)로 구성하여 월 1회 진행

<AI시민행동>의 결성과 해산, 주요 사업계획과 집행 계획 등을 논의하고 결정하는 주요 의사결정기구

4)공동집행위원장단

단체 책임자인 집행위원 중에서 5명 내외로 주기적 집행위원회를 진행하고 일상적 의사결정을 담당하며 실무 집행을 책임지도록 공동집행위원장을 선임함.

녹색연합 정규석 사무처장, 디지털정의네트워크 오병일 대표, 민주사회를 위한 변호사모임 최호웅 디지털정보위원회 위원장, 참여연대 이재근 협동사무처장, 한국여성단체연합 김선화 정책국장, 필요시 공집장 추가 예정

5)사무처

실무집행을 책임지는 단위로 사무처를 둠

참가단체에서 사무처로 파견된 활동가로 구성

정책기획팀, 시민행동팀, 조직운영팀 등 3개 팀으로 구성

▣ 붙임3 : AI시민행동 활동 목표와 활동 방향, 주요 사업계획

AI시민행동 활동 목표와 활동 방향, 주요 사업계획

1. 활동 목표

인공지능 개발과 활용에 있어 책임성과 공공성 강화
인공지능 관련 정책의 수립과 집행에 있어 민주적 거버넌스 구축
인공지능 공론장 형성과 시민사회 공동대응, 연대의 강화
인공지능 대응 시민사회 역량 강화

2. 활동 방향

인공지능 개발과 활용에 있어 책임성과 공공성 강화
인간의 존엄성, 성평등 가치 실현,
정보인권, 개인정보자기결정권 보장,
기후환경적 지속가능성과 정의로운 전환 보장
책임성과 공공성 강화를 위한 법제도 개선

인공지능 관련 정책의 수립과 집행에 있어 민주적 거버넌스 구축
정부 정책과 입법 논의에 다양한 이해관계자로서 시민의 참여 보장
빅테크 기업에 사회적 책임과 윤리 요구

인공지능 공론장 형성과 시민사회 공동대응, 연대의 강화
인공지능이 사회에 미치는 영향과 나아갈 방향에 대해 공론화
혐오와 차별, 성차별 등 인공지능의 한계를 지적하고 개선방안 다함께 모색
시민과 함께하는 있는 행동계획 수립, 이행

인공지능 대응 시민사회 역량 강화
시민활동가의 역량강화를 위한 교육과 방안 마련
새롭게 대두되는 사회문제 연구와 대안 모색

3. 사업계획(안)

정부(국가인공지능전략위원회, 각 부처, 지방정부 등)와 정당의 인공지능정책 모니터링
AI 민주적 거버넌스 구축을 위한 개입 및 활동
인공지능법 시민사회 개정안 마련(공공성, 책임성 강화 방안)과 입법운동
인공지능이 사회에 미치는 영향에 대한 공론화/캠페인(온오프라인 공론장, 숙의토론 등)
활동가 역량강화 위한 교육, 포럼
인공지능 관련 입장/활동 아카이빙

▣ 붙임4 : 발족선언문

‘인공지능 책임성과 공공성 강화를 위한 시민사회 공동행동’ 발족 선언문

인공지능 발전이 곧 우리의 삶의 향상을 의미하지 않습니다!

이재명 정부가 AI강국을 표방하며 국가적 차원에서 인공지능 산업을 육성하고 사회 각 분야에 인공지능을 배치하면서 이른바 인공지능전환(AX)이 빠르게 이루어지고 있습니다. 그러나 인공지능의 발전이 편익을 가져다 주는 만큼 우리 삶을 위협하는 양상도 급속화되고 있습니다.

이미 2020년에 인공지능 챗봇 이루다 논란에도 불구하고 여전히 여성이나 장애인에게 차별적인 인공지능 스피커가 학교 교육에 이용되고, 안전이 검증되지 않은 자율주행차량이 거리를 질주하면서 우리의 안전은 위협받고 있습니다. 알고리즘은 이미 언론 공론장과 노동을 통제하고, 금융서비스와 사회복지급여에 관여하고 있고, 심지어 사람을 대신하는 인공지능의 자동 행정과 의사결정도 이미 시작되었습니다. 최근 벌어지는 전쟁에서 인공지능 무기가 활용되고 인공지능 군사화 또한 빠르게 진행되고 있습니다.

노동 현장은 어떻습니까. 기업이 생산 효율·원가 절감을 이유로 노동자들과 사전 협의도 없이 일방적으로 생산현장에 인공지능로봇 배치계획을 발표하면서 일자리를 위협하고 있습니다. 콜센터 등 일찌감치 챗봇이 도입된 노동현장에서는 오히려 노동자들의 업무 강도가 비교할 수 없을 정도로 강화되고 있습니다.

AI는 개발, 훈련 과정, 배포 및 운영 등 전과정에서 막대한 전력 소비, 심각한 탄소 발자국, 데이터 센터 냉각을 위한 수자원 고갈, 하드웨어 제조 및 폐기 과정에서 발생하는 전자 폐기물 문제를 야기하는 등 환경과 자원문제도 심각합니다.

이처럼 인공지능 개발로 인한 개인정보 침해와 학습데이터의 편향과 차별, 알고리즘의 공론장 위협, 일자리 대체와 노동강도 강화, 환경과 자원의 수탈 등 다양한 문제들이 발생하거나 기존의 사회 문제가 더욱 심화하는 양상에 직면하고 있습니다.

인공지능에 대한 책임성과 공공성 강화를 요구합니다!

그럼에도 인공지능 국가정책은 육성과 진흥에만 치우쳐 있습니다. 지난 1월 22일부터 시행된 AI기본법은 기본법이라고 하기에도 무색하리만치 AI산업 진흥에 무게중심을 두고 있을 뿐 AI기업과 사용자의 책임과 의무 부과는 미미합니다. 2월 25일 국가AI전략위원회에서 확정한 국가AI행동계획 역시 사회적 인프라로서 자리매김하고 있는 AI의 공공성과 책임성을 강화하는 정책보다는 기술강화와 성장이 주를 이룹니다.

더 늦기 전에 인공지능 개발과 활용을 명목으로 데이터와 환경의 규제를 완화하고 그 영향받는 사람과 지역의 권리를 소홀히 취급하는 정부 정책의 방향 전환이 필요합니다. 더이상 인공지능 정책을 기술전문가와 관료들이 주도함으로써 민주적 절차와 통제 없는 공적 의사결정이 시민의 삶을 결정하도록 해서는 안될 것입니다.

그동안 시민사회는 정부에 인권과 안전, 민주주의가 보장되는 인공지능 기본법령과 정책을 요구해 왔습니다. 또한 인공지능 기업의 사회적 책임성 강화도 요구해 왔습니다. 개별 영역별로 관련 정책의 원칙과 방향을 제시하여 왔고 앞으로도 인공지능에 대한 영역별 대응은 계속 이루어질 것입니다. 동시에 다양한 분야에서 빠른 속도로 이루어지고 있는 인공지능 전환으로 인해 영향을 받고 있는 시민·노동자·지역의 목소리를 모아내는 시민사회단체 공동활동을 전개할 것입니다.

이에 우리는 오늘 ’인공지능 책임성과 공공성 강화를 위한 시민사회 공동행동’을 발족하며 인공지능 개발과 활용을 명목으로 데이터와 환경의 규제를 완화하고 그 영향받는 사람과 지역의 권리를 소홀히 취급하는 등 한쪽으로 치우친 정부 정책의 방향을 전환하는데 역량과 연대의 힘을 모으고자 합니다.

인공지능 정책에 영향받는자, 시민이 참여해야 합니다!

우리는 끊임없이 기업과 정부의 책임을 지적해 왔습니다. 그러나 이것만으로는 부족합니다. 보다 적극적으로 AI의 공공성을 확보하고 인권과 민주주의를 담보하는 사회정책으로의 전환을 요구하고 만들어야 합니다. 기술전문가와 관료들이 주도하는 인공지능정책이 국가표준인 것처럼 인식되는 작금의 현실을 바로잡아야 합니다. 영향을 받는 자의 목소리가 반영됨으로써 민주적 절차에 따른 의사결정이 시민의 삶을 결정하게 해야 합니다.

따라서 지금까지의 기술위주 인공지능정책은 사회정책으로의 전환이 필요하고 이를 위해 의사결정 과정에 다양한 이해관계자로서 시민의 참여가 반드시 보장되어야 할 것입니다. 인공지능 정책은 기업과 자본이 아니라 시민과 노동자의 필요를 충족시키고, 인간의 존엄과 인권을 보장하는 방향이어야 합니다. 인공지능의 개발, 학습, 배포, 운영 등 전 과정에 걸쳐 인권과 개인정보자기결정권을 보장해야 할 것입니다. 정책수립 전반에 걸쳐 성평등이 실현되어야 하고 환경과 기후위기 시대 지속가능성을 담보할 수 있어야 할 것입니다. 이러한 요구는 신뢰가능한 인공지능, 안전하고 통제가능한 인공지능이 되기 위한 기본 전제입니다.

이에 우리는 다음과 같이 정부와 기업 등 우리사회에 요구합니다.

하나, 인공지능 개발과 활용에서 책임성과 공공성을 강화하라.

하나, 인공지능 관련 정책의 수립과 집행에 있어 민주적 거버넌스를 구축하라.

하나, 인공지능에 대한 민주적 공론장을 만들어 가자.

이제 우리는 오늘 인공지능 사회로의 정의로운 전환을 요구하며, 시민사회 역량을 강화할 것을 다짐하며, ‘인공지능 책임성과 공공성 강화를 위한 시민사회 공동행동’을 발족하고, 함께 연대하고 활동할 것을 선언합니다.

2026. 3. 31.

‘인공지능 책임성과 공공성 강화를 위한 시민사회 공동행동’ 참가단체 일동

▣ 붙임5 : 기조발제문

인공지능 시대 시민사회의 과제와 역할

오병일 디지털정의네트워크 대표

대런 아세모글루는 <권력과 진보>에서 기술의 발전이 자동적으로 사회 전체의 이익으로

직결되지 않으며, 노동자 시민의 투쟁 과정을 통해 기술의 이익이 공유될 수 있는 방향으로

제도의 발전이 이루어져 왔음을 강조했습니다.

지금 인공지능은 어떻습니까? 인공지능 기술 발전의 방향이 사회 전체의 이익이 되도록

형성되고 있습니까? 그리고, 여러분은, 우리는 그 과정에 참여하고 있습니까? 안타깝게도 지금의 현실은 그렇지 않습니다.

어떤 인공지능을 개발하고 어떤 인공지능을 우리 사회에 도입할 것인가는, 사회적 논의와 민주적 결정의 결과라기보다 소수의 기업과 정부 관료들에 의해 결정되고 있습니다.

우리는 이미 인공지능이 만들어낸 변화 속에 살고 있지만, 그 변화의 방향을 결정하는 과정에서는 대다수 시민들이 배제되어 있습니다.

지금 인공지능은 고삐풀린 망아지처럼 아무런 통제없이 개발, 도입되고 있습니다.

인공지능 안전에 대한 우려가 전혀 없었던 것은 아니지만, 전 세계적인 AI 경쟁에서 앞서가야 한다는 명분 하에 시민의 안전과 인권을 보장해야 할 국가들마저 ‘바닥을 향한 규제완화 경쟁’을 하고

있습니다.

그런 논리라면 경쟁에서 벗어나 시민의 안전과 인권을 생각할 수 있는 시기가 오기는 하는

것인지 묻지 않을 수 없습니다.

이제 우리는 이미 우리 사회와 생활 속에 도입된 인공지능이 만들어내고 있는 변화와

위기를 보다 분명하게 직시해야 합니다.

우선, 무엇보다 인공지능은 생명과 안전을 위협하고 있습니다.

이스라엘은 인공지능을 이용해 대상자를 선정했고 정보요원들은 인공지능의 판단에 따라

공격 버튼을 누른 결과 수만명의 민간인이 희생되었고, 그 중 어린이와 여성이 70%를

차지합니다. 인공지능의 자동화된 대량 살상은 우크라이나-러시아 전쟁에서도, 이란에서도

벌어지고 있습니다.

빅테크를 비롯한 인공지능 개발 업체들이 전쟁에 복무하고 있지만, 그들은 아무런 책임

의식도 느끼지 못하고 있습니다. 인간의 생명에 대한 결정이 점점 인간의 손을 떠나 기기술

시스템으로 이동하고 있고, 그들은 인공지능에게 책임까지 미룰 태세입니다.

정보인권 침해와 저인망식 감시가 확대되고 있습니다.

타겟 광고를 목적으로 방문 기록과 구매 내역, SNS를 통한 민감한 사생활까지 데이터로

수집되고, 아무런 고지나 동의없이 인공지능 학습을 위해 이용되고 있습니다. 나도 모르게 수집되는 위치정보와 원격 얼굴인식 시스템은 개인에 대한 실시간 추적과 감시를 가능하게 합니다. 예측 치안, 맞춤 광고, 생체인식 감시 등 영화 <마이너리티 리포트>에서 상상했던 미래는 이미 시작되고 있습니다.

인공지능은 사회적 불평등과 차별을 재생산합니다. 현실의 편향을 학습한 인공지능은 여성, 장애인, 이주민 등 사회적 소수자의 불평등과 차별을 재생산할 가능성이 큽니다. 그러나 채용 영역에서, 사회 복지 영역에서, 형사 사법영역에서 인공지능이 도입되고 있지만, 이 인공지능이 불평등과 차별을 재생산하지 않도록 검사하고 문제를 시정하도록 요구하는 제도적 장치를 우리는 가지고 있습니까?

인공지능이 노동의 생산성을 향상시키고 새로운 일자리를 만든다고 하지만, 누군가의 노동은 대체되거나 불안정해질 것입니다. 특히 청년 세대는 업무에 대한 경험과 전문성을 쌓을 기회 조차 갖지 못할 수 있습니다.

인공지능은 기후위기와 환경 부담을 확대하고 있습니다.

인공지능의 개발과 운영을 위한 데이터센터는 막대한 에너지를 소비하고 있으며, 냉각을

위한 물 사용을 둘러싸고 공동체와 갈등을 빚고 있습니다. 데이터센터 구축에 천문학적인

돈을 공적으로 지원해주지만, 환경적인 부담은 우리 모두가 져야 합니다.

이처럼 인공지능은 단순한 기술 변화가 아니라, 우리 사회의 구조 전반을 바꾸고 있습니다.

왜 이러한 문제가 발생하고 있는 것일까요? 문제는 AI가 아닙니다. AI는 죄가 없습니다. 사실 진짜 문제는 사람입니다. 인공지능을 다루는 우리 사회의 방식이 문제입니다. 지금까지 우리는 인공지능을 산업정책의 관점에서만 바라보았습니다. 경쟁력, 투자,성장이라는 관점만이 강조되고, 노동, 안전, 인권, 환경과 같은 사회적 관점은 외면해 왔습니다. 일단 산업을 발전시키고 사회적인 문제는 천천히 얘기하자고 말입니다.

하지만 인공지능은 더 이상 산업정책이 되어서는 안됩니다. 인공지능은 우리 사회 전체를

재구성하는 핵심적인 사회정책의 문제입니다. 챗봇이 우리들에게, 특히 아동에게 어떠한

마치 이미 SNS에 대한 규제 대응이 너무 늦어버린 것처럼, 마냥 나중에로 미루기에는 인공지능이 야기하는 위험이 너무나 큽니다.

이제 누가 책임을 져야할지 얘기해야 합니다.

인공지능이 야기하고 있는 문제들에 대해 개발자도, 기업도, 국가도 명확하게 책임지지 않는 구조를 더 이상 방치할 수 없습니다. “AI가 결정했다”는 말로 책임을 회피할 수는 없습니다. 이러한 구조를 만들기 위해서는 거버넌스가 바뀌어야 합니다. 인공지능의 방향은 소수의 기업과 정부 관료에 의해 결정되고 있으며, 시민사회와 영향을 받는 사람들은 배제되어 왔습니다. 한국의 인공지능 기본법도 시민사회를 배제한 채 만들어졌고, 이런 비판에도 불구하고 국가 AI 전략위원회는 최근 조직 개편에서도 시민사회를배제했습니다. 영향을 받는 사람들이 결정하는 시스템이 민주주의입니다.AI 정책에서도 민주주의가 필요합니다.

시민사회의 역할은 분명합니다.

우선 우리는 ‘영향받는 사람’의 권리를 인공지능 거버넌스의 중심에 세울 것입니다. 인공지능의 영향받는 사람들이 개발부터 활용에 이르는 전 과정에,그리고 전 세계적인 규범 형성에서부터 우리 지역과 작업장에 도입되는 인공지능에 이르기까지,정책 결정에 참여할 권리가 있습니다. 예컨데, 현대 자동차 노동자들은 어떤 로봇을 개발하고 현장에 도입할 것인지에 대한 결정에 당연히 참여할 권리가 있습니다.

둘째, 우리는 기업과 국가에 대해 책임을 요구할 것입니다. 국가안보라는 미명하에 무고한 생명을 희생하지 않도록, 효율성이라는 미명하게 차별의 대상이 되지 않도록, 산업발전이라는 미명하게 지속가능성을 훼손하지 않도록. 이제 고위험 인공지능에 대한 적절한 규제는 선택이 아니라 필수입니다.

셋째, 우리는 민주적인 인공지능 거버넌스를 구축할 것입니다. 인공지능의 방향은 전문가나 기업이 아니라 사회 전체가 함께 결정해야 합니다.시민, 노동자, 소비자들이 실질적으로 참여할 수 있는 구조를 만들고, 정책 결정 과정의 투명성과 공공적 통제를 강화해야 합니다.

그래서 우리는 ‘공동행동’이 필요합니다.인공지능은 노동, 환경, 인권, 문화, 평화, 복지 등 사회 모든 영역에 영향을 미치고 있습니다. 이러한 변화에 대응하기 위해서는 개별적인 대응으로는 부족합니다.

지금 필요한 것은 연결된 대응, 공동의 행동입니다. 인공지능의 문제는 기술의 문제가 아니라 권력의 문제입니다. 우리는 인공지능의 단순한 사용자가 아니라, 그 영향을 받는 시민이며,인공지능은 시민의 통제 아래 있어야 합니다.

오늘 출범하는 인공지능 책임성과 공공성 강화를 위한 시민사회 공동행동은 인공지능 시대에 민주주의를 다시 세우기 위한 중요한 출발점이 될 것입니다.

감사합니다.

현안발언1.

미국의 이란 침공과 인공지능 군사화의 문제

이미현 참여연대 협동사무처장

미국과 이스라엘의 이란 침략전쟁은 AI가 전쟁의 전면에 등장한 최초의 ‘AI 주도 전쟁(AI-Centric War)’으로 평가되고 있습니다. 물론 이전에도 우크라이나와 러시아 전쟁에서, 이스라엘의 팔레스타인 가자 집단학살에서 군사AI를 사용했습니다. 우크라이나-러시아 전쟁에서는 전파 방해(재밍) 환경에서도 드론이 스스로 적을 추적하여 타격하는 자동 기능이 광범위하게 사용되었고, 이스라엘군은 ‘라벤더’라는 AI 기반 프로그램을 사용하여 하마스 무장 단체 소속 가능성이 높은 팔레스타인 사람들을 자동 선별해 마구 공격했습니다. 그 결과는 우리 모두 알다시피 무고한 희생자를 거르지도 못했고 전쟁을 막거나 조기 종식시키지도 못했습니다. 인공지능에 대한 찬사가 연일 이어지고 있지만 우리가 전쟁의 현장에서 확인할 수 있는 것은 인공지능에 대한 맹신이 얼마나 많은 무고한 생명을 앗아가는지 또한 전쟁을 얼마나 더 쉽게 결정하고 수행하게 만드는지에 대한 것입니다.

누군가는 미군이 팔란티어(Palantir) 등의 AI 기술을 활용해 초기에 1,000개 이상의 표적을 타격하고 단 40초만에 이란 수뇌부 48명을 살해했다는 기사에서 군사AI의 미래를 봅니다. 그러나 또다른 누군가는 업데이트 되지 않은 정보로 초등학교를 오폭해 175명의 어린 여학생들이 폭사당한 사실에서 군사AI의 미래를 보아야 합니다.

한국 정부는 어떻습니까? 뒤쳐지면 안된다는 조바심과 더 빠르고 폭넓게 살상력을 발휘할 수 있는 무기를 보유해야 한다는 집착으로 국방AI 도입을 단기간에 추진하려 하고 있습니다.

정부는 올해 초 국가인공지능행동계획을 발표하면서 국방AX 즉 국방AI로의 전환을 선언하고 관련 제도 마련과 투자를 공언하고 있습니다. 현재 국회에는 부승찬 민주당 의원과 유용원 국민의힘 의원이 공동발의한 국방인공지능법이 심사를 앞두고 있습니다. 정부 계획에 따르면 2분기 내에 법안을 제정한다는 계획입니다. 여야 공동 발의이다보니 국회 내에서 법안심사를 비판적으로 할 가능성이 현저히 낮습니다. 내용을 들여다봐도 문제가 많습니다. 인적 개입이라는 개념을 모호하게 씀으로 인해 인간이 단순히 형식적 승인을 하게 될 것이라는 우려를 잠재우기 어렵습니다. 군과 기술자 중심으로 국방인공지능위원회를 꾸린다고 하니 국제법 준수와 민간인 보호 문제 보다는 규제 완화를 중심으로 운영될 가능성이 높고 비중있게 다뤄지기 어렵습니다. 심지어 위원회 의결 사항에 대한 정보 공개나 국회 보고 의무도 명확히 규정되어 있지 않아 국방AI 정책 결정 과정에 대한 민주적 통제가 충분히 이뤄지기 어려운 구조적 한계가 있지만 국회는 스스로 이런 문제의식 조차 없는듯 합니다.

영국에서 실시된 3개 인공지능(AI) 모델로 실시한 가상 전쟁 실험 결과 21번의 전쟁에서 20번 핵무기를 선택했다는 소식 들으셨을 겁니다. 이처럼 전세계적으로 군사 영역에서 AI 활용 범위를 둘러싼 논쟁이 커지고 있지만 아직까지 국내에서는 그러한 목소리는 거의 들리지 않습니다.

오늘 이자리에 모인 시민단체들은 군사AI가 인간의 통제 없이, 인류가 그동안 합의하고 쌓아왔던 국제법과 무기통제를 위한 합의, 우리 사회의 기본 원칙인 헌법과 법률을 거스르는 미래로 나아가지 않도록 감시하는 역할을 하겠습니다. 안보사안이란 이유로, 기술 유출의 우려가 있다는 이유로 가로 막혀 쉽지 않겠지만 계속해서 목소리 높여 73년째 전쟁중인 국가의 군사기술 개발과 활용의 기준과 원칙은 어떠해야 하는지, 시민의 통제가 왜 필요한지 외치겠습니다. 헌법상 침략전쟁을 부인하고 국군의 의무를 국토방위로 한정하고 있는 국가의 군사AI 전략을 헌법에 위배되지 않도록 한국 정부와 방산기업들의 군사AI 개발과 활용, 관련 정책 전반을 감시하고 대응하겠습니다.

현안발언2.

자율주행차 원본데이터 활용 허용으로 본 정보인권의 위기

최호웅 민주사회를 위한 변호사모임 디지털정보위원회 위원장

안녕하세요. 민주사회를 위한 변호사모임 디지털정보위원회 위원장 최호웅입니다.

저는 인공지능산업 발전이라는 명목으로 시민의 개인정보가 공공재로 요구받고 있는 현실에 대하여 간단히 말씀드리고자 합니다.

지금 정부와 국회에서는 인공지능산업 활성화를 위하여 인공지능사업자가 인공지능개발을 위한 학습데이터로 시민 개인의 원본정보를 동의 없이 사용할 수 있는 법안들을 마련 중입니다.

자동차회사가 자율주행차 개발을 위하여 거리에서 일상생활을 하고 있는 시민들의 영상을 아무런 조치 없이 바로 학습데이터로 사용하고자 하며, 온라인 공간에 공개되어 있다는 이유로 시민의 개인정보를 바로 사용할 수 있도록 하거나, 심지어 시민의 개인정보자기결정권이라는 기본권을 구체화하고 있는 개인정보보호법에 인공지능개발을 위하여 개인에 관한 원본데이터를 정보주체 동의 없이 처리할 수 있도록 하는 특례규정을 도입하고자 하고 있습니다.

인공지능을 개발, 이용하더라도 설계 단계에서부터 활용까지, 전 단계에서 최우선적으로 개인의 정보를 보호받도록 하는 것은 지금까지 만들어 온 세계공통의 원칙과 인권 규범입니다. 시민의 개인정보를 보호하는 국가와 사회에서만 시민이 진정으로 자신의 개인적인 삶을 보호받고 이로 인하여 인간의 존엄과 개개인의 행복을 추구할 수 있기 때문입니다.

시민의 존재가치가 무너지는 사회는 더 이상 지속될 수 없을 것입니다. 인공지능 산업발전을 명분으로 시민의 존재 그 자체인 개개인에 대한 정보를 공공재로 사유하고 통제하려고 하는 것을 반대합니다. 시민이 국가와 자본으로부터 자신의 삶을 지키며 살아갈 수 있는 정의로운 인공지능시대를 준비하고 합니다.

시민사회 대응1.

제2, 제3의 아틀라스와 노동권의 위협

홍지욱 전국민주노동조합총연맹 부위원장

안녕하십니까, 민주노총 부위원장 홍지욱입니다.

인공지능 시대에 살고 있다고 하고, 정부는 인공지능 기본사회로 전환해야 한다고 이야기하고 있습니다. 하지만 무엇보다도 먼저, 인공지능이 만들어갈 사회가 누구를 위한 것인지, 누구의 통제 아래 놓일 것인지를 물어야 합니다. 현재 정부는 이른바 국가 경쟁력, 국내 인공지능 산업 발전과 국내 기업 육성 등의 이름으로, 모든 것을 희생해서라도 가야할 대한민국 전체의 길인 것처럼 강요하고 있습니다. 그러나 하지만 그 과정에서 가장 중요한 질문은 빠져 있습니다. 이 기술로 인해 영향을 받는 사람들의 권리와 삶은 어떻게 되는가?

노동자들의 일자리는 어떻게 되고, 산업 현장 노동자의 권리는 어떻게 보호받는가? 인공지능은 이미 노동을 바꾸고 있는 것처럼 보입니다. 플랫폼 노동, 데이터화, 알고리즘 등 노동을 더 통제하고, 더 쪼개고, 더 불안정하게 만드는 방향으로 작동하고 있습니다. 국내 산업, 국내 인공지능 기업을 키우고 발전시키는 것이 노동자의 권리를 빼앗고, 일자리를 위협하는 방향으로 전개되어서는 곤란합니다. 무엇보다도 인공지능의 도입이 노동자에게 어떤 영향을 주게 되는지, 그 영향으로부터 노동자의 권리와 일자리를 지키기 위해서는 무엇이 필요한지 먼저 제시되어야 합니다. 기기묘묘한 행동을 취할 수 있는 아틀라스, 피지컬 AI가 이제 노동자의 작업을 그대로 할 수 있다고 공언합니다.

아틀라스가 노동 현장에서 일할 수 있기 위해서는 무엇보다도, 그 현장 노동자들의 동의를 구해야 합니다. 그것이 헌법과 노동법이 보장하는 노동자의 권리입니다. 아틀라스든, 아틀란티스든, 거기서 일하는 노동자에게 물어야 합니다. 왜 필요하고 어떻게 작동하며, 함께 일하는 노동자는 어떤 영향을 받는지, 함께 논의하고 함께 이야기하지 않으면 안됩니다. 인공지능의 도입과 사용이 뭔가 불가피하고 필연적이라 윽박지르면서, 거기에 이의를 제기하고 수정을 요구하는 것을 묵살해서는 안됩니다. 인공지능이든, 아틀라스든, 인간을, 노동자를 더 이롭게 하는 방향이어야 하지 않겠습니까? 무엇인지도, 어떻게 작동하는지도, 어떤 영향을 미칠 것인지도 이야기하지 않고, 이야기하지 못하는 인공지능의 도입에 어떻게 노동자가 무조건 찬성할 수 있겠습니까? 일단 도입하고 나중에 규제할 수 있게 하면 되지 않느냐고 이야기합니다. 매우 위험합니다. 작업 현장에서는, 안전장치 없이, 안전하다는 확신 없이 새로운 기술이 사용되지 않습니다. 단순한 기술 문제가 아니라 생명과 안전, 권리의 문제인 것입니다.

마지막으로 공공성을 이야기해야 하겠습니다. 인공지능 산업의 발전을 위해 무차별적인 개인 정보, 데이터의 사용이 허용되어서는 안됩니다. 나아가 그러한 데이터들의 기반 위에 작동하는 인공지능이 사적으로, 소수의 이윤을 위해서만 사용되어서는 안됩니다. 공공 데이터 사용을 민주적으로 통제하고 인공지능이 공공성을 지키고 또한 침해하지 않도록 하기 위한 대책이 필요합니다. 노동자 등 ‘영향받는 자’의 참여 속에 구축되는 민주적 거버넌스가 필요합니다.

마지막으로 밝힙니다. 인공지능의 도입과 사용이 필요할 수도 있습니다. 하지만 그것이 어떤 현장을 만들지, 어떤 사회를 만들지는 우리가 선택할 수 있어야 합니다. 우리 사회, 우리의 노동이 작동하는 방식을 인공지능이 결정할 수는 없습니다. 노동권이 보장되는 인공지능, 책임성이 명확하고 설명 가능한 인공지능, 공공성과 민주적 통제가 보장되는 인공지능이 되지 않으면 안됩니다. 민주노총은 노동자와 함께 인공지능 시대의 정의로운 전환을 위해 끝까지 싸워나가겠습니다. 감사합니다.

시민사회 대응2.

데이터와 알고리즘의 젠더 편향성 문제, 차별과 폭력의 심화

양이현경 한국여성단체연합 상임대표

안녕하세요. 한국여성단체연합 상임대표 양이현경입니다.

정부는 약 10조원의 예산을 투여하며 AI 3대 강국을 향해 달려가고 있습니다. 작년 9월 국가인공지능전략위원회 출범식에서 대통령은 “국가 경쟁력과 미래 변혁을 좌우하는 핵심 동력으로서 인공지능(AI) 같은 첨단 기술은 국력이자 경제력이고, 곧 안보 영역이기도 하다”라고 말했습니다. 인공지능이 경제발전에 중추적인 역할을 할 것이라고 생각합니다. 제4차 산업혁명이라고 할 만큼 현재의 전환은 인류가 경험했던 어느 시대 보다 더욱 광범위하고 빠르게 바뀔 것입니다. 인간의 삶과 일, 인간관계 방식 그리고 일상생활 방식 전반에 걸쳐 변화가 가속화 될 것입니다.

그러나 인공지능 기술이 가져올 국가 발전, 경제 성장 뿐만 아니라 AI시대에 우리 사회가 지향해야 할 공동체적 가치는 무엇인지, 인공지능 기술에 영향을 받는 존재들의 삶은 어떻게 되어야 하는지도 함께 논의 되어야 합니다. 특히 인공지능 기술의 핵심인 데이터의 수집과 관리, 알고리즘 설계 전반에서 성평등과 인권 보장을 위한 실효성 있는 제도와 정책이 필요합니다.

성별고정관념을 강화하는 AI 비서·로봇의 여성형 설계, 인공지능 챗봇 이루다는 여성을 차별하고, 장애인, 성소수자, 흑인을 혐오하는 발언을 하여 오픈한지 3주 만에 폐쇄되었습니다. 아마존은 인공지능(AI) 채용 시스템은 도입했는데, AI가 추천한 지원자가 대부분 남성으로 드러났습니다. 용어에 중립적 평가를 하도록 개선했지만, 같은 문제가 반복되지 않으리라는 확신을 주지 못해 이 프로젝트는 무산되었습니다.

AI 기술은 딥페이크 성폭력 등 새로운 형태의 젠더폭력을 만들어내고 있습니다. 그러나 정부의 대응은 여전히 삭제와 차단, 수사 중심에 머물러 있으며, 플랫폼과 AI 개발기업의 문제, 피해자의 일상 회복과 2차 피해 방지에 대해서는 다뤄지지 않고 있습니다. 또한 AI 기반 채용·평가·업무 배치는 여성의 경력 공백을 불리하게 해석하고 남성 중심의 경력 패턴을 ‘우수 인재’ 기준으로 재생산함으로써 채용상 여성차별과 성불평등을 강화할 위험이 있습니다. 비정규·단시간·플랫폼 노동 비중이 높은 여성 노동자는 AI 전환 과정에서 더욱 쉽게 배제될 위험이 큽니다.

돌봄과 복지 영역에서 AI 활용이 확대될수록, 여성이 대부분 담당해 온 돌봄노동은 기술 뒤로 밀려나거나 일자리가 위협당할 우려가 큽니다. 여성 노동자의 일자리 보호와 전환 대책, 돌봄노동의 가치와 권리를 중심에 둔 정책 설계가 필요합니다.

대규모 데이터 통합 및 활용을 전제로 한 정책방향은 과잉 정보 집적을 초래해 개인정보와 민감정보 침해 또는 오남용 위험을 높일 수 있습니다. 특히 여성의 임신‧출산‧돌봄‧건강‧성폭력 피해 등에 대한 민감한 정보가 감시나 차별로 이어질 수 있습니다. AI 인프라 구축, 데이터 통합과 공유, 알고리즘 설계와 활용 전 과정에서 젠더 편향을 점검하고 차별을 예방하기 위한 장치가 필요합니다. 인간의 형태나 특징을 가진 휴머노이드, 피지컬 AI 등의 개발에서 기존의 성별고정관념을 강화하는 외관을 지니거나 성차별적 행위와 수행을 하지 않도록 하는 정책 마련 필요합니다.

AI 정책을 결정하는 거버넌스와 공론장에서 여성의 참여가 보장되어야 합니다. 양성평등기본법에는 정부 위원회를 구성할 때 특정 성별이 위촉직 위원 수의 10분의 6을 초과하지 않도록 하고 있습니다. 그러나 국가인공지능전략위원회의 민간위원 36명중 여성은 7명으로 19%에 불과합니다. AI가 생산/재생산하는 차별과 혐오의 문제를 총괄적으로 검토하고 의견을 제시해야할 성평등가족부는 정부 위원으로 들어가 있지 않습니다. 인공지능기본법 제2조 4항은 ‘고영향 인공지능’을 사람의 생명, 신체의 안전 및 기본권에 중대한 영향을 미치거나 위험을 초래할 우려가 있는 영역들을 정의하고 있습니다. 그러나 여기에 차별과 혐오 등 인권침해 문제, AI 기술로 발생되는 젠더폭력에 대한 내용이 빠져 있습니다. 인공지능기본법의 개정이 필요합니다.

AI는 사회를 혁신할 잠재력을 지닌 기술인 동시에, 기존의 성차별과 불평등을 답습하거나 심화시킬 위험을 내포하고 있습니다. 현재 인공지능의 제도와 정책은 기술의 성장와 활용에만 촛점이 맞춰져 있습니다. 성평등과 인권을 핵심 기준으로 사회 각 집단의 권리와 삶에 미치는 영향을 충분히 고려한 사회정책으로서의 전환이 필요합니다.

시민사회 대응3.

인공지능과 복지와 의료 공공성의 약화

전진한 건강권실현을 위한 보건의료단체연합 정책국장

정부가 ‘공공의료 AX’, ‘인공지능 기본의료’ 등을 추진하고 있습니다.

한국 의료의 문제를 AI로 해결하겠다고 합니다. 우리가 익히 알고 있는 응급실 뺑뺑이, 지역 의료 소멸, 돌봄 공백 같은 문제를 AI로 해결하겠다 합니다.

예를 들어 정부는 AI가 있으면 지역마다 병원을 지을 필요가 없다고 합니다. 그런데 우리나라 250개 시군구 중에 77곳에 분만실이 없고, 34곳에 응급실이 없습니다. 응급실 분만실이 있는 지역 중에서도 그 수가 너무 적어서 사람들이 제 때 의료기관에 도착할 수 없는 의료취약지가 시군구 전체의 40%나 됩니다. AI로 해결할 수 있을까요? 소위 환자 동선을 아무리 최적화해도 우리 지역에 병원이 없는 문제를 해결할 수는 없습니다. 이렇게 시민들을 기만하면서 정부는 지역마다 공공병원을 지으라는 요구를 거부하는 명분으로 삼고 있습니다.

복지도 마찬가지입니다. 정부는 AI로 복지사각을 찾는다는 데 방점을 두고 있습니다. 얼마전 송파 세모녀 12주기였습니다. 알려진 것과 달리, 송파 세모녀도 복지 신청을 했지만 보장을 거부당한 사례였습니다. 지금도 마찬가지입니다. 정부가 복지에 쓰는 돈 자체가 없는데 AI로 소위 대상자 ‘발굴’을 하면 뭘 하겠습니까? 복지 전체가 구멍이 뚫린 부실이자 사각인데 말입니다.

부족한 의사, 간호사를 AI로 대체할 수 있다고 합니다. 지역마다 특정 과목 의사가 한 명도 없는 지역이 부지기수인데 AI가 뭘 할 수 있겠습니까? 아마도 AI가 의료인을 대체할 수 있을 정도로 진단 정확도가 높다는 언론보도에 기대고 있을 것입니다. 그런데 지금 한국에서 나오는 그런 것은 모두 사실에 근거하지 않은 보도입니다. 의료기술의 일반적 평가절차를 거쳐 검증된 AI는 하나도 없기 때문입니다.

검증되지 않은 AI에 대한 환상을 부추겨서 정부가 결과적으로 하는 일은 이것입니다. 공공적 의료와 복지에 쏟아야 할 정책과 자원을 회피하는 명분으로 삼고, ‘똥인지 된장인지도 알 수 없는(현재로서는 된장은 아닌)’ AI 기업들 돈벌이에 온갖 지원과 규제완화를 쏟아주는 것입니다. 민영화, 긴축, 무분별한 규제완화입니다.

AI를 개발한단 명목으로 정부는 공공기관과 의료기관에 쌓여있는 민감한 질병정보 건강정보를 기업들한테 넘기겠다고 하고, 안 그래도 검증이 없어 문제인 AI 검증을 더 생략하겠다고 합니다. 기업이 전부터 하고 싶어했던 건강정보의 상업화, 의료기술 검증완화를 AI 환상을 등에 업고 하려는 참입니다.

AI는 광범한 기술을 포괄하는 개념입니다. 특정한 영역에서는 성능이 좋지만 모든 영역에서 그런건 아니고 근본적으로 할 수 없는 영역도 있습니다. 그런데도 AI가 우리가 맞닥뜨린 모든 문제 해결을 가능케할 거라는 식의 환상과 이를 근거로한 긴축과 민영화는 결국 사람들의 삶을 더 팍팍하게 하고 위험하게 할 것입니다. 이에 맞서서 저희도 목소리를 내겠습니다.

시민사회 대응4.

인공지능과 문화환경의 변화

하장호 문화연대 문화정책위원장

안녕하세요 문화연대 정책위원장 하장호입니다.

ai 정책 논의에서 문화예술 분야는 핵심적인 논의 분야는 아닙니다. 하지만 AI 기술이 소개 된 이후 가장 빠르게 변화하는 현장이 문화예술 현장입니다. ai는 창작 현장에서는 예술가의 창작 도구로 활용되고 있고, 예술활동을 위한 리서치 작업에서도 매우 중요한 도구로 활용되고 있습니다. 최근 예술지원 분야에서는 공모지원서의 양적 증가가 눈에띄게 나타나고 있는데 이 역시도 AI 를 활용한 기획안 작성이나 아이디어 영감을 받는 이들이 늘어나고 있기 때문이라 예상하고 있습니다. 현 시점에서는 대규모언어모델을 이용한 챗GPT와 같은 인공지능 기술이 주되게 활용되고 있기는 하지만 향후 무대 기술 장치나 자동화 된 설치 오브제, 로봇을 이용한 퍼포밍과 가상체험 영역까지 문화예술 분야에서의 ai 기술 활용은 우리가 생각하는 것보다 빠르게 확산될 것으로 예상됩니다.

하지만 이러한 문화예술 분야 AI 확장은 수많은 부작용을 만들어 내고 있습니다. AI 중심으로 재편된 콘텐츠 제작 현장에서 예술가의 일자리는 점점 사라져 가고 있으며, 많은 예술인들이 AI 가 만들어 낸 부실한 작업물을 끊임없이 보수하는 슬롭노동으로 내몰리고 있습니다. 또한 AI 창작물의 저작물로서의 모호한 성격으로 인해 예술인의 창작 권리와 보상체계가 위협받고 있으며, 학습데이터라는 명목으로 창작물에 대한 권리가 침해 받거나 알고리즘화 된 콘텐츠 생태계 안에서 예술가의 창작의 자율성과 다양성은 위협받고 있습니다.

문화예술을 향유하는 시민들에게 있어서도 AI 기술의 확산은 긍정적 변화만을 가져 오는 것은 아닙니다. AI 기술 기반의 플랫폼들이 제공하는 콘텐츠 향유 환경은 자율적 주체로서 시민 개개인의 선택의 권리를 빼앗아 버리거나, 문화예술 영역에서의 공공성을 위협하며, 소수자 문화나 로컬리티 기반의 독특한 지역문화를 배제하거나 지워버리는 결과로 이어질 수 있습니다. 또한 알고리즘 중심의 콘텐츠 제공 환경은 문화적 경험에 있어 특정한 경로의존성을 만들어낼 수 있으며 이는 현실에 대한 왜곡된 인식이나 편향된 가치체계를 확산하는 부작용을 낳을 수 있습니다.

물론 어떤 이들은 AI의 등장이 수많은 사람과 수많은 자원을 필요로 했던 창작 작업을 보다 수월하게 해준다는 점에서, 창작자에게 있어 보다 다양한 경험과 영감을 제공해 주고, 향유자에게도 다양한 기회와 창작자로서의 경험까지도 제공해 준다는 점에서 좋은 변화의 기회를 제공하고 있다고 말하기도 합니다. ‘잘만 사용하면’이라는 단서가 붙기는 하지만 AI가 변화를 위한 기회를 제공한다는 것도 분명한 사실입니다. 하지만 중요한 것은 이 ‘잘만 사용하다면’이라는 조건을 만들기 위해서는 이 기술을 안전하고, 올바르게 사용하기 위한 분명한 기준이 필요하다는 것입니다. 그리고 이를 위해서는 AI 기술이 가져올 장미빛 미래 만큼이나 그 위험성과 사회적 영향에 대한 준비된 대응이 필요합니다.

저희 문화연대를 비롯해 문화예술계의 많은 이들은 오늘 발족하는 AI 시민행동과 같은 시민사회의 연대가 AI 기술에 대한 올바른 기준과 사회적 합의를 만들어 가는 힘이 될 것이라 기대하고 있습니다. 어떻게 하면 산업적 드라이브를 더 강하게 걸 수 있을지 골몰하고 있는 문체부와 같은 정부 기관의 성과주의적 태도에 맞서 시민의 삶을 중심으로 AI와 함께 살아갈 안전한 미래를 준비하는 강력한 시민의 연대로 현 국면을 힘있게 헤쳐나갈 수 있길 기대합니다.

시민사회 대응 5.

데이터센터 설립과 기후위기 심화

이헌석 에너지정의행동 정책위원

안녕하세요. 이헌석입니다.

AI가 우리의 일상을 바꾸고 있습니다. 그러나 그 화려한 기술 뒤에는 거대한 에너지 소비가 숨어 있습니다. 국제에너지기구(IEA)에 따르면 전 세계 데이터센터 전력 소비량은 현재 약 415TWh에서 2030년 945TWh로 두 배 이상 증가할 전망입니다.

한국 역시 데이터센터 전력 수요로 신규 핵발전 건설을 추진하고 있습니다. 수도권 대형 데이터센터가 몰린 평촌, 김포, 용인 등지는 송전망 대란이 예상됩니다.

늘어나는 전력수요에 세계 각국은 데이터센터의 에너지 효율과 기후 책임에 대한 강력한 규제 체계를 갖추고 있습니다.

중국은 2021년 12월, 4개 부처 공동으로 ‘데이터센터 녹색 고품질 발전 추진 실시 방안’을 발표했습니다. 2025년까지 대형·초대형 데이터센터 PUE 1.3 이하, 국가 허브 데이터센터 PUE 1.25 이하를 의무화하고, 서부 지역 데이터센터 이용률을 30%에서 50% 이상으로 끌어올리며, 5G 기지국 에너지효율을 20% 이상 향상시키겠다는 구체적인 목표를 제시했습니다.

싱가포르는 2022년 데이터센터 신규 건설 모라토리움을 해제하면서도 PUE 1.3 이하 의무 기준과 엄격한 용량 통제를 조건으로 내걸었습니다.

유럽연합은 ‘Fit for 55’ 패키지의 일환으로 에너지효율지침을 개정하여, 2030년까지 에너지 소비 전망치 대비 11.7%를 감축하는 구속력 있는 목표를 설정했습니다.

2024년 5월부터 500kW 이상의 데이터센터 운영자는 에너지 성과를 매년 유럽 데이터베이스에 보고해야 하며, PUE, 수자원 사용효율(WUE), 에너지 재활용 비율(ERF), 재생에너지 비율(REF) 등 핵심 성과지표를 공개하도록 의무화했습니다. 1MW 초과 데이터센터에는 폐열 활용까지 요구하고 있습니다.

독일의 사례는 더욱 주목할 만합니다. 2023년 9월 통과된 에너지효율법(EnEfG)은 2026년 7월 이후 가동하는 신규 데이터센터에 PUE 1.2 이하를 의무화하고, 기존 데이터센터도 2030년까지 PUE 1.3을 달성해야 합니다. 재생에너지 전원 조달은 2024년부터 50%, 2027년부터 100%를 달성해야 하며, 신규 데이터센터는 2026년부터 폐열 재활용 비율 10%를 시작으로 2028년까지 20%에 도달해야 합니다. 모든 데이터센터 운영자는 2025년 7월까지 에너지 또는 환경 관리 시스템을 구축해야 합니다.

그러나 한국은 어떻습니까? 2024년 데이터센터 관련 법안이 통과되었지만, 그 내용은 재난 복구와 전력 공급 관리에 치우쳐 있으며, 에너지 효율 기준이나 재생에너지 의무 조달, 폐열 활용 같은 환경적 책무에 대한 구속력 있는 규정은 사실상 부재한 상태입니다. 한국은 AI 국가 전략과 탄소중립 전략이라는 두 정책 목표가 정면으로 충돌하는 지점에 서 있습니다.

저는 AI 시대를 맞아 반드시 다음과 같은 문제가 반드시 해결되어야 합니다.

첫째, 데이터센터 에너지효율 의무 기준을 법제화할 것을 요구합니다. EU와 독일처럼 PUE, WUE, ERF, REF 등 핵심 성과지표에 대한 법적 구속력 있는 기준을 도입해야 합니다.

둘째, 데이터센터의 에너지 사용 정보를 시민에게 공개할 것을 요구합니다. 전력 소비량, 재생에너지 비율, 폐열 활용 현황, 탄소 배출량을 매년 의무적으로 보고하는 투명성 체계가 필요합니다.

셋째, AI 산업 확장이 기후위기를 가속하지 않도록 재생에너지 100% 전환 로드맵을 수립할 것을 요구합니다. 데이터센터의 전력 수요를 핵발전소 증설의 명분으로 활용하는 것은 기후정의에도, 에너지 안보에도 부합하지 않습니다.

기술의 진보가 지구의 후퇴가 되어서는 안 됩니다. AI 시대의 혜택은 누리되, 그 비용을 기후와 미래 세대에게 전가해서는 안 됩니다. AI 시민행동은 기술과 기후 사이에서 시민의 목소리를 내겠습니다.