편집자주 :
이번에 소개하는 글은 2024년 미국 상원에서 발표된 AI 로드맵을 비판하고 다른 대안을 제시하고자 12개의 시민사회단체가 함께 쓴 섀도우 리포트Shadow Report의 써머리입니다.
슈머 상원 원내대표의 주도 하에 마련된 해당 AI 로드맵은 산업계의 주요 인사들이 참여했으며, 그런 만큼 AI 산업을 위한 정부의 지원에 방점을 찍고 있습니다. 시민사회단체는 섀도우 리포트의 첫머리에서 AI에 의해 영향받는 시민들의 인권과 안전을 위한 규제가 없다는 지점을 지적하고, ‘(AI 정책의)운전석에는 공익이 앉아야 한다”고 주장하고 있습니다.
한국에서도 지난 해 산업 진흥에 치우친 AI기본법이 발의되고 정부와 언론에서 통과를 부추기기도 했습니다. 이 섀도우 리포트에서도 지적하듯 AI는 현재 우리의 삶에 깊숙히 관여하고 있으며, 그 폐해가 이미 드러나고 있습니다. AI산업 진흥 이전에 인권과 안전에 대한 보장이 필요하다는 점, 이를 위해서는 제대로 된 규제가 필요하다는 점을 다시 한번 강조해 봅니다.
관심이 있는 분은 보고서 전문을 참고하시길 바랍니다.
번역오류는 jinbo.policy 골뱅이 gmail.com 으로 알려주세요.
제목 : 공익을 운전석에 앉혀라 : 미국 상원 AI 정책 로드맵에 대한 섀도우 리포트
원문제목 : Put the Public in the Driver’s Seat: Shadow Report to the US Senate AI Policy Roadmap
원문링크 : https://senateshadowreport.com/
일시 : 2024년 5월 18일
작성 : 12개의 시민사회단체(Accountable Tech, AI Now, Center for AI and Digital Policy (CAIDP), Climate Action Against Disinformation, Color Of Change, Economic Security Project, Electronic Privacy Information Center (EPIC), Friends of the Earth, Just Futures Law, Open Markets Institute, Surveillance Resistance Lab, TechTonic Justice, Workers’ Algorithm Observatory at Princeton University)
공익을 운전석에 앉혀라 : 미국 상원 AI 정책 로드맵에 대한 섀도우 리포트
2023년 4월, 슈머 상원 원내대표는 “AI를 규제하는 법안을 만들기 위한 의회의 노력을 주도”하고 “전문가들 사이에 광범위한 [입법] 프레임워크를 회람”하겠다는 의사를 밝혔습니다. 내년(2024년)에 슈머 원내대표는 공청회를 열고 법안을 발의하는 대신 하인리히(D-NM), 라운드스(R-ND), 영(R-IN) 상원의원 3명과 함께 불투명한 “인사이트 포럼” 과정을 기획했습니다. 이 포럼에는 엘론 머스크, 샘 앨트먼, 마크 안드레센, 호안 톤-탓 등 업계에서 가장 시끄럽고 이기적인 목소리를 내는 사람들이 초청되어 비공개로 의원 및 의원실 직원들과 의견을 나누었으며, 학계, 노동 단체 및 기타 시민 사회 구성원들도 포함되었지만 그들의 이해관계는 대화에서 소외되었습니다.
이 맞춤형, 업계 중심의 프로세스는 당연히 상원을 업계 친화적인 방향으로 이끌었고, 보고서에 대한 보편적인 찬사가 보여주듯 상원도 이에 동의했습니다. 슈머 상원 원내대표가 발표한 입법 로드맵은 AI 연구 및 개발에 320억 달러의 공적 자금을 투입하겠다고 약속한 반면, AI가 대중에게 미치는 해로운 영향으로부터 시민과 인권을 보호하는 데 시급히 필요한 규제 가드레일을 마련하는 데는 실패했습니다.
전 세계 규제 당국이 행동에 박차를 가하는 동안 의회는 여전히 제자리걸음을 하고 있습니다. 우리에게는 낭비할 시간이 없습니다: AI는 이미 학교, 직장, 주택 시장, 은행권, 형사사법 시스템 등에서 그 폐해가 나타나고 있으며, 미국 전역의 기관과 커뮤니티에 깊숙이 자리 잡고 있습니다. 이러한 AI 시스템의 대중적 사용의 위험성을 보여주는 증거는 이미 산더미처럼 쌓여 있습니다. 모든 경우에 이러한 피해는 불평등하게 고통을 받고 정부의 관심과 시정을 요구할 정치적 힘이 약한 역사적으로 억압받아온 커뮤니티에 더 큰 피해를 입힙니다.
이 보고서에서는 AI 규제를 위한 입법 조치를 뒷받침하는 증거를 11가지 범주로 정리하고, 206개의 리소스에 대한 링크를 제공하며, 이 리소스를 바탕으로 공공 정책을 수립할 수 있는 훨씬 더 큰 증거의 일부를 구성합니다. 이 중 상원 로드맵에 상원 위원회가 ‘고려’해야 할 사안으로 포함된 것은 소수에 불과하며, 환경에 대한 AI의 영향, AI가 빅테크에 집중된 권력을 더욱 공고히 하기 위해 제기하는 위협, 빈곤층 등 이미 제도적으로 소외된 커뮤니티에 대한 AI의 유해한 사용 등 상당수가 포함되지 않았습니다, 장애인, 이민자 커뮤니티와 같은 이미 제도적으로 소외된 커뮤니티에 대한 해로운 사용은 논의에서 완전히 배제되었습니다(예를 들어, AI의 “높은 영향력” 사용에 대한 포럼에서는 법 집행 기술에 대한 비판을 포함하지 못했고 “국가 안보”에 대한 포럼에서는 기술이 이민자 커뮤니티에 대한 치안에 사용되는 방법에 대한 비판을 포함하지 못했습니다).
이러한 혁신이 대중에게 어떻게 도움이 될지에 대한 비전 없이 ‘혁신’에 막대한 납세자 자금을 투입한 것입니다. 이는 명백한 실패입니다. 이와는 대조적으로, 이 보고서는 대중을 위한 혁신이 규제와 광범위한 민주적 책임에 의해 형성되어야 하는 방식을 강조하고, 공공의 이익을 중심에 두고 기술 산업의 권력 집중을 방지하는 긍정적인 산업 정책 의제의 필요성을 강조합니다.
ChatGPT가 공개되기 수년 전, 또 슈머 의원이 작년에 이 과정을 시작했을 때의 자료와 이를 작성한 시민 사회의 목소리를 포함한 이 방대한 증거는 AI가 더욱 널리 보급됨에 따라 공익을 보호하고 발전시키기 위한 진지한 노력의 출발점이 될 것입니다.
우리는 이 사례가 의원들에게 산업계가 운전석에 앉아서 시작하는 입법 과정은 공익에 실패할 뿐만 아니라 AI의 지속적인 피해를 더욱 악화시킬 수 있다는 점을 상기시키는 계기가 되기를 바랍니다. 대신 정부는 시행 가능한 규제 제안의 필요성을 보편적으로 지적하는 강력한 작업물을 참조하는 것부터 시작해야 합니다. 이 문제 목록은 당면한 우려의 천장이 아니라 바닥을 형성합니다. 상원 위원회가 다시 한 번 이 문제들을 고려해야 하는 만큼, 이 분야를 규제하는 시행 가능한 법률을 신속하게 통과시킬 것을 촉구합니다.
정책을 설계할 때 시민 사회, 노동자, 독립 연구자, 그리고 AI의 영향을 가장 많이 받는 커뮤니티를 대표하는 사람들의 역할이 중심이 되어야 합니다. 업계 대표들은 항상 수익을 우선시하는 반면, 시민사회 대표들은 공익의 필요를 중심에 두고 이미 AI로 인한 물질적 부담을 안고 있는 커뮤니티의 생생한 경험에 기반한 근거 있는 관점을 대화에 가져옵니다. 이는 모든 정책 논의의 중심이 되는 중요한 전문 지식입니다.
향후 AI 규제를 위한 입법 로드맵을 개발하기 위한 모든 노력은 시민사회의 의견을 수렴하고 영향을 받는 커뮤니티를 대표하는 사람들에게 의미 있는 권한을 부여하는 것에서 시작되어야 합니다. 아래의 수많은 증거에서 알 수 있듯이, 시민 사회의 역할은 단순히 “테이블의 한 자리”에 불과한 수준을 넘어섰습니다. 그 대신 공익이 운전석에 앉아야 합니다.
이 보고서는 슈머 원내대표와 상원 동료 의원들이 발표한 입법 로드맵에 대한 심층적인 분석을 제공하려는 것이 아닙니다. AI에 대한 의미 있는 조치를 지연시키려는 기업의 이해관계에 일관되게 부응하고, 옹호자, 조직자, 연구자들이 지속적으로 제기해온 문제를 표면화했을 뿐 다루지 않은 프로세스의 산물에 관여하는 것은 무의미합니다.
대신, 이 보고서는 의원들이 산업계보다 공공의 이익을 우선시하는 AI 정책 의제를 어떻게 만들 수 있는지에 대한 대안을 제시함으로써 현재 진행 중인 AI 정책 논쟁에 기여하고자 합니다. 또한 산업계의 요구가 중심이 되는 입법 과정이 얼마나 잘못될 수 있는지에 대한 경고의 의미도 있습니다. 시민사회, 노동자, 연구자들의 목소리는 산업계가 입법 과정을 장악하기 위해 정기적으로 무기화하는 로비 예산, 캠페인 기부금 또는 기타 자원을 가지고 있지 않지만, 그렇다고 해서 뒷전으로 밀려나거나 확인란에 체크하는 검증자로 전락할 자격이 있는 것은 아닙니다.
12개의 시민 사회 단체가 공동으로 작성하고 광범위한 연구자 및 옹호자 네트워크가 지지한 이 보고서와 지난주 슈머 의원이 발표한 입법 로드맵의 대조는 업계가 정책과 절차를 결정하도록 허용하는 것과 관련된 함정을 보여주며, 후자를 채택하는 의원들에게 교훈으로 반향을 불러일으킬 것입니다.
