네트워커 160 호
인공지능의 위험은 우리의 삶과 맞닿아 있습니다
“의료 인공지능으로 IBM이 개발한 ‘왓슨 포 옹콜로지’가 있습니다. 의사가 암환자 데이터를 입력하면 치료방법을 제시하는 프로그램이지요. 문제는 이 기술이 충분히 검증되지 않았고, 안전하지 않고 부정확한 치료법이라는 거죠.” 일부 의사들은 ‘왓슨 포 옹콜로지’를 쓰레기 취급했습니다. 그런데 이런 프로그램을 병원들은 도입했습니다. 왜냐하면요! “병원에서는 과장된 홍보로 암환자를 유인할 수 있고, 인공지능을 사용한다는 이유로 추가 비용을 청구할 수 있기 때문입니다.” 여기서 의미하는 바는 규제되지 않은 인공지능은 최악의 경우에 환자의 건강과 생명을 위협할 수 있고, 인공지능 알고리즘에 오류가 있으면 단기간에 수없이 많은 사람들에게 돌이킬 수 없는 피해를 줄 수 있음을 전진한 보건의료단체연합 정책국장은 설명합니다.
과방위 심사소위를 통과한 인공지능법안 ‘기자설명회’에서 뇌리에 각인됐던 내용입니다. 아마도 내게도 언제든 닥칠지도 모르는 일이기에 공감이 컸었던 모양입니다. 이렇듯 인공지능의 위험은 우리의 삶과 맞닿아 있습니다. 그래서 더 생명과 안전을 위해 제대로 잘 규제해야 합니다. 그러나, 국내에서는 인공지능을 규제할 수 있는 통로가 전무합니다. 이러한 상황에서, 인공지능법안은 되레 ‘산업 육성만’을 위해 ‘우선허용 사후규제’ 원칙이라는 독소조항을 포함하는 등 많은 문제를 담고 있습니다. 심지어 ‘지능정보화기본법’과 내용이 유사하여 이 법안의 필요성에 대한 의문도 제기되고 있습니다.
문제적 ’인공지능법안’은요, 2023.2.14. 인공지능과 관련한 법안 7개가 병합되어 국회 과학기술정보방송통신위원회(과방위) 법안심사소위를 통과했습니다. 이 법안이 그대로 통과되면 안됩니다! 진보넷을 비롯하여 시민사회단체는 ’인공지능법안’에 반대하며 이 법안의 구체적인 문제점 등을 설명하고 공론화하고자 기자들을 대상으로 설명회를 개최했습니다.
시민사회단체가 의견서에서 지적한 내용은, △인공지능 산업에 대한 안전과 인권 보장 규제를 모두 완화한 점, △ 인공지능윤리 및 신뢰성과 관련한 법령의 정비 등 제도개선 업무 등 인공지능과 사회정책 일반을 과기부가 소관하는 것은 부적절하며, △우선허용, 사후규제 원칙은 안전과 인권을 보호하기 위한 다른 법률의 정당한 조치와 다른 규제기관의 업무를 침범하고, △ 현행 지능정보화기본법과달리 고위험 인공지능을 정의하고 있기는 하나 고위험 인공지능의 정의가 자의적이며 부분적이며, △고위험 인공지능 규제가 형식적이어서 실질적인 위험방지 장치를 갖추지 못하는 등의 심각한 문제를 가지고 있어 전면 재검토를 촉구하고 있습니다. 전.면.재.검.토. 투쟁!
기자설명회 발표내용을 다 담아내진 못했습니다. 인공지능법안의 제정 경과 및 주요 쟁점에 대한 개요, 고위험인공지능 분류 및 규제 관련 유럽연합과 미국 등 해외 입법례와 과방위 통과법안의 근본적 차이, 과방위 통과법안의 독소조항 등 문제점, 과방위 통과법안이 타법과 충돌할 가능성, 타 규제기관의 작용을 방해하는 지점, 보건 및 의료 관련 인공지능 적용 사례를 통해 본 위험성과 특별한 규제 필요성_기자설명회 발표자료를 꼭 읽어보시면 좋겠습니다. 링크를 클릭하시면 첨부파일을 통해 자세한 내용을 확인하실 수 있습니다.
불타는 활동의 연대기
해외정보인권
– 비밀정보기관의 혼란스러운 통치, 무법자 시장, 인종차별적 기술 및 알고리즘 감독(여부)
네덜란드의 인권과 기술이 교차하는 지점에서 일어난 1월의 이슈 즉, 비밀정보기관의 혼란스러운 통치, 무법자 시장, 인종차별적 기술 및 알고리즘 감독(여부)에 대해서 소식을 전하고 있습니다.
네덜란드에서는 인공지능시스템 사용 감독 및 필수적인 인권영향평가가 2021년 선거 캠페인에서 주요한 이슈였으며, Bits of Freedom, Amnesty 등의 단체들이 연합해 9개의 네덜란드 연립정당과 야당을 설득하여 서명을 받고 이들 내용이 연립정부 합의안에 반영되었습니다. 그러나 네덜란드 개인정보 감독기구(Dutch Data Protection Authority,DPA)가 위험을 식별하고 협업을 향상시키는 등 다양한 작업을 하고 있지만 시민의 불만을 처리하거나 집행 활동을 수행하지 않는 등의 폐쇄적인 정책을 새로운 역할에 그대로 적용하는 것에 대해 우려를 하고 있습니다.
네덜란드 내각이 지난 8년동안 비밀정보기관과 각료들이 시민과 의회를 볼모로 삼아 주도권쟁탈을 해왔다고 지적하고 있으며 보호장치를 약화시키면서 비밀정보기관에 많은 권한을 부여함으로서 혼란한 상황을 초래했다고 말합니다.
또한, 인공지능의 기회와 위험에 대한 의회에서 논의된 두 가지 쟁점에서 첫째, 인종차별적 기술 사례를 들면서 특히, 공공기관에서의 알고리즘 차별에 대한 통제 둘째, 인공지능 법안에 대한 투명성, 설명가능성, 검증가능성의 중요성 세째, 실시간 원격생체인식에 국한된 것이 아닌 실시간, 기관, 일반행위자 등 생체감시에 대한 포괄적인 금지의 중요성을 주장하고 있습니다.
2021년 위트레흐트 시장은 위트레흐트 거주자를 텔레그램에 사용을 금지하는 명령을 내렸는데, 채팅 및 소셜미디어 공간을 “온라인 공공장소”로 간주하고 관할지역에서 시장이 개입할 권한이 있다고 주장했습니다. 이후, 시장이 내린 명령은 법원에서 이의를 제기했고 최근에 법원에서는 시장이 자신의 권한을 넘어섰다고 판결했습니다.
[이슈] ‘탈시설연대’ 연대 발언
위의 사진(출처-비마이너)은 지난 3월14일 ‘전국탈시설장애인연대’가 탈시설 장애인 개인정보 요구로 서울시를 인권위에 진정했는데요. 국가인권위 앞에서 기자회견을 열었을때, 오병일 진보네트워크센터 대표가 연대 발언하는 모습입니다.
오병일 대표는 공공기관이 개인정보를 수집할 때는 반드시 법적 근거가 있어야 한다. 서울시가 어떠한 법적 근거로 탈시설장애인에 대한 전수조사를 시행하고, 개인정보를 요구하는지가 명확하지 않다. 심지어 정보주체인 장애인 당사자의 동의도 받지 않았다고 지적했습니다. 설령, 서울시의 조사가 법령에 근거하더라도 개인정보를 수집하는 기관과 정보주체에 통보했어야 한다고 발언했습니다. 개인정보보호는 인간의 존엄성과 자율적인 삶을 위한 필수적인 전제조건임을 강조했습니다.
