네트워커 162 호
고위험 인공지능, 너의 목소리가 들려~
세계 곳곳에서 인플루언서들의 인공지능 관련 규제의 목소리가 들려옵니다.
최근, 딥러닝의 아버지로 불리우는 제프리 힌튼(Geoffrey Hinton) 박사는 BBC 인터뷰에서 구글을 퇴사하며 인공지능 챗봇 성능이 인간을 곧 추월할 것임을 경고하고 있습니다. 인공지능 위험성에 대해서 지적하고 있습니다.
AI윤리 전문가인 팀닛 게브루(Timnit Gebru) 박사는 얼굴인식 인공지능이 여성이면서 피부색이 어두워질수록 인식을 못한다는 편향성을 비판했었고, 구글에서 해고 당한 후 논란이 됐던 인물입니다. AI타임스 인터뷰에서 그는 인공지능의 윤리적인 발전을 위해서는 개발자가 마음껏 목소리를 낼 수 있는 환경이 필요하며 인공지능 개발 속도가 빨라서는 안 된다고 말합니다. 초연결사회에서 고려해야 할 지점이 많기 때문에 인공지능은 천천히 발전해야 한다고 강조합니다.
테크크런치(TechCrunch), 지디넷코리아에 의하면, 오픈 AI, 챗GPT를 개발한 샘 알트먼(CEO, Sam Altman)은 미의회에 출석해 인공지능 기술의 오남용을 우려하며 규제와 국제기준이 필요하며 위험요소에 대한 평가기준을 만드는 것이 중요하다고 강조했습니다. 그런데 규제를 강조하던 샘 알트먼은 갑자기 영국에서 열린 한 행사에서 규제를 준수하기 어렵기에 서비스를 중단할 것이라는 발언을 합니다. 초대형 언어모델(LLM)이 고위험 인공지능으로 분류되는 것에 회의적이며, 유럽연합 인공지능법안의 과도한 규제를 방지하려는 입장으로 급 돌아선 것입니다. 그리고 바로 며칠 전(5.27) 다시 말을 번복하며 다시 유럽을 떠날 계획이 없음을 밝히고 있습니다. 사실 어이가 없지만, 규제와 개발 사이에서 접점을 찾는다는 것은 쉬운 문제가 아니긴합니다. 그러나 그 중심을 어디에 두느냐가 중요한 포인트가 되겠죠. 무엇보다도 인간의 존엄성, 생명, 안전이 우선이어야 합니다. 글로벌 기준이 되고 있는 유럽연합의 규제는 인공지능 위험을 4가지 단계로 나뉘고 있습니다. 수용할 수 없는 인공지능(금지), 고위험 인공지능, 제한된 위험, 최소위험으로 분류하고 인공지능의 위험성을 제대로 규제하려고 하고 있습니다.
그러나 국내의 경우, 인공지능을 규제할 만한 제대로 된 법이 없습니다. 국회 심사소위에서 인공지능법안이 통과되었는데, 이는 산업육성에만 초점이 맞춰져있을뿐이고, 규제라고 말하기도 어려운 법안입니다. 인공지능 ‘기본법’이라고 만들면서 인공지능 위험성에 대한 실질적인 규제는 안중에도 없는 법안입니다.
진보네트워크센터(이하 진보넷)는 지난 2월 14일, 「인공지능산업 육성 및 신뢰 기반 조성 등에 관한 법률안(이하, ‘인공지능법안’)」이 국회 과방위 심사소위를 통과하고, 그 이후 지속적으로 대응을 하고 있습니다. 인공지능법안과 관련하여 인권시민단체는 3월 2일 반대의견서를 제출하였으며, 3월 9일 기자회견을 개최하였고, 관련 부처에 의견서를 제출하였습니다. 또한, 연대하는 단체들과 함께 국회의원과 보좌관 등 의원실 면담을 통하여 ‘인공지능법안이 무엇이 문제인지’를 구체적이고 상세히 전달하였습니다. 이는 산업육성에만 초점을 맞춘 인공지능법안 전면 재검토를 위한 시민사회의 투쟁이고 현재진행중입니다. 국내는 해외의 규제 움직임과 달리 국내시장의 위축을 걱정하며 규제로 기술발전을 저해하면 안된다는 인식이 산업계를 중심으로 확산되고 있습니다.
지난 4월 26일, 과학기술정보통신부(이하 과기부)에서 위의 인권시민단체 의견서에 대한 답변서를 보내왔습니다. 과기부의 답변서는 시민사회 우려에 대한 제대로 된 답변으로 볼 수 없었으며, 앞서 의견서를 제출한 16개 인권시민단체는 5월 16일 과기부에 의견서를 제출하였습니다.
인공지능법안은 국제인권규범 및 해외 입법정책과 비교하여도 소관부처의 적절성, 안전과 인권에 미치는 인공지능 위험 규제의 효과 측면에서 중대한 문제를 가지고 있습니다. 특히 “우선허용, 사후규제” 조항은 국민에게 위해를 가할 수 있는 인공지능의 우선 출시로 국민의 개인정보, 소비자권리 및 인권을 위험에 처하게 할 수 있는 독소조항으로 즉각 폐기되어야 함을 강조하며 전면 재검토 의견을 낸 바 있습니다. △ 인공지능 산업 진흥에 대한 기본법을 중복 제정하고, △과학기술정보통신부가 실질적인 역할을 수행하기 어려울 것으로 판단되는 인공지능과 관련한 사회정책 일반까지 단독으로 소관하며, △ 안전과 인권을 보호하기 위한 다른 법률의 정당한 조치와 다른 규제기관의 업무를 침범하는 사후규제 독소조항을 두고 있고, △ 과학기술정보통신부가 운영하는 인공지능위원회의 결정이 다른 규제기관의 작용을 방해할 우려가 있을 뿐더러, △ 고위험 인공지능의 정의가 자의적이며 부분적이고, △고위험 인공지능 규제가 형식적이어서 실질적인 위험 방지 장치를 갖추지 못했다는 점에서 비판을 했습니다.
과기부를 비롯한 정부와 국회는 인공지능 산업의 진흥만을 위한 인공지능 기본법을 전면적으로 재검토하고 인공지능의 위험으로부터 국민의 안전과 기본권을 보호할 수 있는 국제적 수준의 인공지능법을 마련해야 합니다.
불타는 활동의 연대기
– 오병일 대표의 글이 2023.5.23. APC(진보통신연합, Association for Progressive Communications)에 게재되었습니다.
지난 4월13일, 대법원 판결에서 ‘미국 법령에서 비공개의무가 있는 것으로 규정한 사항에 대해서는 공개할 의무가 없다’고 한 것을 뒤집어, 외국 법령이 있음에도 불구하고 비공개 해야할 정당한 사유가 없거나 비공개 사유가 종료되었을 경우에는 해당 정보를 열람, 제공해야 한다고 보았습니다. 이 소송에 원고로 참여한 진보네트워크센터 오병일 대표가 소송 관련 내용에 대해 APC(진보통신연합)에 기고한 칼럼입니다.
해외정보인권
– 유럽의회 : 인공지능(AI)법이 사람들의 권리를 보호하도록 하십시오!
유럽의회의 인공지능(AI)법안 표결을 앞두고 시민사회단체는 유럽의회가 기본권을 우선시하고 인공지능시스템의 영향을 받는 사람들을 보호할 것을 촉구하고 있습니다. 유럽의 75개 시민사회단체는 인공지능법안에 대하여 3가지 의제를 보장할 것을 요구합니다.
첫째, 인공지능시스템의 영향을 받는 사람들의 권한을 강화할 것을 요구합니다. 이는 모든 인공지능시스템에 대한 수평적이고 포괄적인 접근성 요구 보장, 인공지능시스템에 의해 피해를 입은 사람들의 이의제기권, 대표를 선임하고 효과적인 권리구제를 받을 권리를 포함합니다.
둘째, 인공지능 사용에 있어 책무성과 투명성을 보장할 것을 요구합니다. 고위험 인공지능 사용자에 대해 도입 전 기본권(인권)영향평가를 시행하고 공개할 의무, 모든 고위험 인공지능시스템 사용자 및 모든 공공영역 인공지능시스템 사용자에 대해 배치 전 그 사용에 대해 공공 등록할 의무, 고위험 인공지능시스템 공급자에 대해 법적 조사를 우회할 수 있는 구멍이 없도록 조치가 필요합니다.
셋째, 기본권에 대하여 허용할 수 없는 위험을 초래하는 인공지능시스템을 금지할 것을 요구합니다
모든 유형의 원격생체인식, 법 집행 분야의 예측 및 치안시스템, 감정인식시스템, 민감한 속성을 사용하거나 공공장소에서 사용되는 생체인식분류시스템, 이주를 제한하기 위하여 출입국 단계에서 개인에 대하여 수행되는 위험평가 및 예측분석시스템을 완전히 금지해야 합니다.
이러한 규정이 기본권과 사회정의를 실현하는데 수단이 되도록 투표할 것을 촉구하고 있습니다.
[이슈] 지식 독점에 맞선 고 남희섭 변리사
지난 5월 13일, 고 남희섭님의 추모회가 있었습니다. 누구시길래 그를 기억하고자 이렇게 사람들이 모여서 추모를 하는 것일까요? 고 남희섭님이 궁금해졌습니다. 그 분이 어떤 신념과 가치를 가지고 왔는지 살펴보고자 하는 마음이 생긴 것이죠. 그리고 그의 사상과 신념을 짧게라도 소개하고픈 마음이 들었습니다.
고 남희섭은 모든 사람이 과학과 문화 발전의 혜택을 향유하면서 자유롭게 창작에 참여하길 소원했습니다. 창작자가 보호받는 세상, 인권에 기반한 과학, 정보, 문화 생태계를 만드는 것은 그가 평생에 걸쳐 추구한 화두입니다. 그는 반인권적인 지식 독점 체제에 맞서 싸우면서 다른 한편으로 대안적인 제도를 실현하고자 헌신했습니다.
생전에 그는 특허권으로 독점하는 기업에 맞서 투쟁을 했습니다.
2001년 봄 노바티스는 전 세계에 동일하게 글리벡 100mg 1캡슐 당 25,000원 내외의 약값(월 300~750만원)을 요구했던 사건을 기억하시나요? 2001년~2003년 ‘글리벡 문제해결과 의약품 공공성 확대를 위한 공동대책위원회’는 ‘글리벡 약가인하, 보험적용확대, 강제실시’를 요구하는 투쟁을 벌였습니다.
2002년 1월 30일, 남희섭 변리사는 글리벡에 대한 강제실시를 청구하였습니다. 생명과 직결된 문제로 백신에 특허권리는 없다는 것이죠. 2003년 3월 4일 특허청이 강제실시 청구를 기각하자 건강보험적용이 되지 않는 한국의 환자들이 인도제약사 낫코(Natco)로부터 ‘비낫(Veenat)’을 자가 직수입할 수 있도록 지원하였습니다. 또한 2004년 홍콩과 싱가폴의 만성골수성백혈병환자 지원그룹과 교류하며 International Coaliton to Addres Access to Glivec을 추진하기도 했습니다.
이제 그는 떠났지만, 그가 가졌던 신념과 가치를 되새기며 그의 지적 성과물을 보존하고 발전시키는 것은 우리 모두의 과제임을 마음에 새기게 됩니다.
고 남희섭 변리사 2주기를 맞아 그가 생전에 작성한 칼럼, 논문, 발제문, 보고서, 발표문 등을 모은 아카이브를 구축하였습니다.
