편집자주 : 발전하는 인공지능 기술이 우리에게 중립적이고 장밋빛인 미래만 약속한다면 얼마나 좋겠습니까. 불행히도 인공지능을 개발하고 도입하고 사용하는 것은 탐욕스런 인간입니다. 규제완화를 주장하는 이들은 딥러닝 인공지능이 블랙박스라서 인간이 설명할 수 없고 통제도 불가능하다고 주장합니다. 그러나 인공지능이 국민에게 미칠 영향에 대해 설명하고 합의할 수 없다면, 인공지능을 공공부문에 도입해선 안될 것입니다.
지난해 개최된 국제 개인정보보호기구회의(ICDPPC)에서는 인공지능 시스템이 인간 존엄성을 존중하고, 차별을 금지하고, 정보인권을 존중해야 한다고 선언했습니다. 사람들이 인공지능 시스템을 통제하고 이해할 수 있도록 해결책을 마련할 것 또한 촉구했습니다. 특히 인공지능이 개인정보 처리 뿐 아니라 차별, 표현 및 정보의 자유 등 기본적 인권에 미치는 영향이 크기 때문에 이 문제에서 개인정보 감독기구들과 인권기구들이 협력할 필요가 있다는 지적이 눈에 띕니다.
번역오류는 policy 골뱅이 jinbo.net 으로 알려주세요.
제목 : 인공지능 윤리 및 개인정보 보호에 대한 선언
원문 : Declaration on Ethics and Data Protection in Artificial Intelligence
작성 : 2018년 10월 23일, ICDPPC(*)
(*) ICDPPC :
International Conference of Data Protection and Privacy Commissioners. 국제 개인정보보호기구회의. 세계 각국 개인정보보호 감독기구 대다수가 가입되어 있는 협의체로서, 정기 회의를 통해 개인정보 보호 관련 최신 의제와 공동의 입장을 논의함.
인공지능 윤리 및 개인정보 보호에 대한 선언
제40회 국제 개인정보보호 감독기구 회의는 다음과 같이 선언한다.
마라케시에서 개최된 제38회 국제 개인정보보호 감독기구 회의에서 인공지능, 로보틱스, 프라이버시 및 개인정보 보호에 관하여 초벌 논의했던 내용을 고려하고,
인공지능시스템이 처리 속도 향상 및 의사결정 지원, 민주적 절차 참여를 위한 수단 창출, 공공부문 및 산업에서 효율성 증진, 보다 공평한 자원 및 기회 배분, 공중보건·진료·보안·지속가능한 발전·농업·유통 등 다양한 부문에서 신규 방법론 및 해결책 제공, 학술연구 및 교육에 있어 새로운 기회 제공, 개인에게 보다 맞춤한 서비스 제공 등 이용자 및 사회에 상당한 혜택을 가져올 수 있다는 점을 인정하고,
정보의 대규모 처리, 인간 행동 및 특성에 대한 분석 및 예측, 로보틱스·컴퓨터비전·자동화 시스템 관련 분야 등 특정 부문에서 인공지능이 상당히 발전하여 근미래에 상당한 성취를 이룰 것이라는 사실을 고려하고,
딥러닝 기술 개발 등 머신러닝에서 두드러지는 빅데이터 및 인공지능의 급격한 발전이 장래의 의사결정으로 이어지는 복잡한 작용을 알고리즘이 해결하도록 하는 반면, 그런 절차가 갈수록 불투명해지고 있다는 사실에 주목하고,
프라이버시권 및 개인정보 보호에 대한 권리를 존중하는 일이 인공지능의 발전으로 갈수록 문제시되고 있다는 사실과 이러한 발전이 윤리적이고 인권적인 관점에서 보완되어야 한다는 점을 확인하고,
특히 머신러닝 기술과 전반적인 인공지능 시스템이 그 개발에 있어 대규모 개인정보 세트의 처리에 의존적이기 때문에 개인정보 보호 및 프라이버시에 영향을 미칠 수 있다는 사실을 감안함에, 시장이 인공지능 분야에 집중하고 있는 최근의 추세가 잠재적인 위험을 야기할수 있다는 사실을 고려하고,
개인정보의 수집, 이용, 공개 등 전통적인 프라이버시 및 개인정보 보호 영역이 특히 차별, 표현 및 정보의 자유 등 보다 광범위한 인권에 직접 미치는 영향과 관련이 있다는 사실을 인식함에, 개인정보 보호 및 프라이버시 감독기구들이 인권을 보다 광범위하여 고려하고 다른 인권기구들과 협력해야 할 필요성을 인정하고,
머신러닝 기반 인공지능 시스템을 학습시키는데 사용되는 저런 데이터세트에서 내재적인 편향성이 발견되는 바, 이는 특정 개인 및 집단에 부당한 차별을 야기하는 의사결정을 낳을 수 있고, 특정 서비스나 내용에 대한 이용을 제한할 수 있으며, 고로 표현 및 정보의 자유와 같은 개인의 권리에 간섭하거나 개인, 사회, 직업 생활의 어떤 측면에서 사람들을 배제하는 결과를 낳을 수 있다는 사실을 지적하고,
그 의사결정이 설명될 수 없는 강력한 인공지능이 프라이버시 및 개인정보 보호 관련 법률에 대한 책임성 뿐 아니라 오류나 피해 발생 시 법적 책임을 지는 문제에 있어 근본적인 의문을 제기하고 있다는 사실을 강조하고,
많은 인공지능 분야 관련자들이 인공지능의 악의적인 이용이 야기할 위험 뿐 아니라 프라이버시, 개인정보 보호 및 인간 존엄성에 관련된 위험에 대해 우려를 표하고 있다는 사실을 감안하고, 일례로 인공지능의 발전이 대량 감시에 결합하여 기본적 인권과 자유를 박탈하는 데 사용될 수 있다는 우려가 일고 있다는 사실을 지적해 두며,
그러한 위험성과 문제들이 개인과 사회에 영향을 미칠 수 있는데 이것이 야기할 결과의 정도와 성격이 현재로서는 불투명하다는 사실을 강조하고,
신뢰의 중요성이 강조되는 바, 강력한 개인정보 보호와 프라이버시권 보장조치는 사람들이 자신의 개인정보가 처리되는 방식에 대해 신뢰를 수립할 수 있도록 도울 것이기 때문에 이는 데이터 공유를 장려하고 혁신을 촉진할 것이며,
인공지능과 머신러닝 시스템의 발전으로 촉발된 현재의 문제들로 인해 국제적 수준의 모든 디지털 개발에 있어 인권을 증진하고 보장하기 위해 국제적인 대응과 기준을 시급히 채택할 필요가 있다는 관점을 수립하였으며,
개인정보 보호 감독기구들과 ICDPPC가 미래의 변화에 대비하기 위해 자원을 할당하고 역량을 발전시킴으로써 최근의 환경 변화에 개인정보 보호와 프라이버시 원칙을 적용하기 위해 노력해 왔다는 점을 재차 확인한다.
제40회 국제 개인정보보호 감독기구 회의는 모든 인공지능 시스템의 생성, 개발 및 사용에 있어서 인간 존엄성, 차별금지 및 기본적 가치를 비롯하여 개인정보에 대한 권리 및 사생활에 대한 권리 등 인권을 완전히 존중해야 하며, 사람들이 인공지능 시스템을 통제하고 이해할 수 있도록 해결책을 마련해야 한다고 생각한다.
그러므로 협의회는 다음과 같은 가이드라인 원칙을 지지하는 바이며, 이 원칙들의 핵심 가치는 인공지능 발전에서 인권을 보존하고자 하는 데 있다.
1. 인공지능 및 머신러닝 기술은 기본적인 인권을 존중하며 설계되고 개발 및 이용되어야 하고, 다음과 같은 공정성 원칙을 따라야 한다.
a. 인공지능시스템을 본래 목적과 일치되게 사용하고 개인정보가 수집된 본래 목적에서 벗어나는 방식으로 사용되는 일이 없도록 보장함으로써 개인의 합리적인 기대 수준을 감안한다.
b. 인공지능의 사용이 개인에게 미치는 영향 뿐 아니라 집단이나 사회 일반에 미치는 집합적인 영향도 고려한다.
c. 인공지능 시스템이 인간 발전을 촉진하고 이를 방해하거나 위협하지 않는 방식으로 개발되도록 보장하고 특정한 용도에 대해서는 기술하고 한정할 필요가 있다.
2. 인공지능시스템이 보장해야 할 책임성 뿐 아니라 그것이 미치는 잠재적인 영향 및 결과에 대해 다음과 같이 지속적으로 주의하고 경계한다.
a. 인공지능 시스템에 대한 사후감사, 지속적인 모니터링 및 영향평가를 실시하고 감독 체제에 대한 정기적인 검토 등을 통해 개인, 감독기구 및 기타 제3자에 이르기까지 모든 관련 이해관계자들의 책임성을 촉진한다.
b. 행위자 및 이해관계자의 전 단계에 협력 기준 개발과 모범사례 공유 등을 포함하여 집합적, 공동의 책임을 도모한다.
c. 인공지능에 대해 상당한 수준의 정보를 갖추기 위해 인식을 제고하고 교육하고 연구하고 훈련시키고, 인공지능과 그것이 사회적으로 미칠수 있는 영향을 이해할 수 있도록 노력한다.
d. 신뢰할 수 있는 제3자(TTP) 마련이나 독립적인 윤리위원회 설립 등 관련된 모든 행위자들에 대해 가시적인 거버넌스 절차를 수립한다.
3. 인공지능 시스템의 투명성 및 명료성(intelligibility)이 향상되어야 하며, 다음과 같이 그 효과적인 구현을 목표로 한다.
a. 설명 가능한 인공지능(explainable artificial intelligence)에 대한 공공과 민간의 학술연구에 투자한다.
b. 혁신적인 통신 방식의 개발 등을 통해 투명성, 명료성, 접근가능성을 향상시키고 각각의 관련 당사자에게 필요한 다양한 수준의 투명성 및 정보를 고려한다.
c. 특히 알고리즘 투명성 및 시스템 감사가능성을 향상시켜 제공되는 정보의 의미성을 보장하는 한편, 기관의 관행을 보다 투명화한다.
d. 개인이 인공지능시스템과 직접 상호작용하거나 이들 시스템에 개인정보를 제공하여 처리되도록 할 때 언제든지 적절히 정보를 제공받을 수 있도록 보장하여 개인정보에 대한 자기결정권을 보장한다.
e. 시스템이 개인의 기대에 계속 일치하는지 확인하고 전반적으로 인간적으로 통제할 수 있도록 인공지능 시스템의 목적과 효과에 대한 적절한 정보를 제공한다.
4. 전반적인 “윤리적 설계(ethics by design)” 접근의 일환으로서, 인공지능 시스템은 다음과 같이 프라이버시기본설정(privacy by default)과 프라이버시중심설계(privacy by design) 원칙을 적용함으로써 책임감 있게 설계되고 개발되어야 한다.
a. 정보주체의 프라이버시권과 개인정보에 대한 권리를 보장하기 위해, 정보처리 수단을 결정할 때나 정보를 처리하는 순간 모두에서 개발 중인 시스템의 유형에 비례적인 기술 및 관리적 조치 및 절차를 실행한다.
b. 인공지능 프로젝트의 시작 단계 및 관련 개발의 모든 단계에서 개인과 사회에 미칠 것으로 예상되는 영향에 대해 평가하고 문서화한다.
c. 모든 인공지능 시스템의 개발과 운영의 일환으로 윤리적이고 공정한 시스템 이용과 인권 보장을 위한 요건을 구체적으로 명시한다.
5. 다음과 같이 모든 개인의 역량을 향상해야 하고, 개인의 권리 실현이 증진되어야 할 뿐 아니라, 대중 참여의 기회가 창출되어야 한다.
a. 개인정보에 대한 정보공개권, 열람권, 처리반대권, 삭제권 등 개인정보 및 사생활에 대한 권리를 적절하게 보장하고 교육 및 인식 제고 캠페인을 통해 이러한 권리들을 향상시킨다.
b. 차별금지, 표현 및 정보의 자유 등 관련된 권리를 보장한다.
c. 개인의 발전 및 의견에 영향을 미치는 기술들에 대해 반대할 권리 및 이의를 제기할수 있는 권리를 확인하고, 자동화된 처리가 개인의 권리에 상당히 영향을 미칠 때 오로지 여기에 기반하는 의사결정에 종속되지 않도록 개인의 권리를 적절히 보장하고, 부적절할 때는 그러한 의사결정에 문제를 제기할 수 있는 권리를 보장해야 한다.
d. 적응형 인터페이스 및 접근도구 등을 통해 개인 역량을 동등하게 향상시키고 대중적인 참여를 확대하기 위해 인공지능 시스템의 성능을 이용한다.
6. 인공지능에서 개인정보의 사용으로 초래될 수 있는 불법적인 편향과 차별은 다음과 같이 감소되고 완화되어야 한다.
a. 인권 및 차별금지에 대한 국제법적 규범을 준수한다.
b. 편향을 식별하고 조치하고 완화할 수 있는 기술적 방식에 대한 연구에 투자한다.
c. 자동화된 의사결정에서 사용되는 개인정보가 정확하고 최신이며 가능한한 완전하도록 보장하는 합리적인 조치를 취한다.
d. 편향과 차별을 다루는 구체적인 지침과 원칙을 정교화하고 이 문제에 대한 개인 및 이해당사자의 인식을 제고한다.
제40회 국제 개인정보보호 감독기구 회의는 위의 원칙을 고려하면서, 윤리 및 인권의 가치에 부합하고 인간 존엄성을 존중하는 인공지능의 발전과 사용을 위해 인공지능에 대한 공통의 거버넌스 원칙을 수립하고, 이 분야에서 일치된 국제적 노력을 경주할 것을 촉구한다.
이러한 공통 거버넌스 원칙이 모든 부문간 쟁점 사안을 다루기 위해서는 다자간 협력 방식에 기반하여 인공지능 기술의 급속한 발전으로 제기되는 문제에 대응할 수 있어야 한다. 인공지능 발전이 초국적인 현상이고 모든 인류에 영향을 미칠 수 있기 때문에 이러한 거버넌스는 국제적 수준에서 이루어져야 한다.
우리 협의회는 이러한 국제적인 노력에 참여할 것이며, 공정거래, 시장규제 및 소비자 규제 등 타분야 일반/부문별 기구에 협력하고 이를 지원할 것이다.
그러므로 제40회 국제 개인정보보호 감독기구 회의는 국제적 수준에서 미래의 공통 거버넌스에 기여하고 인공지능 윤리 및 개인정보 보호 원칙에 부합하는 지침을 추가적으로 정교화하기 위하여, 인공지능 발전 문제를 다루는 상설 실무단을 설립한다.
이 인공지능 윤리 및 개인정보 보호 실무단은 정부 및 공공기관, 표준기관, 인공지능 시스템 개발자, 제공자 및 연구자, 기업, 시민 및 인공지능 이용자 등 인공지능 개발에 참여하는 모든 관련 단위가 오늘 결의에 담긴 원칙을 보다 더 이해하고 존중할 수 있도록 복무할 것이다.
인공지능 윤리 및 개인정보 보호 실무단은 협의회 다른 실무단이 수행하는 업무를 고려하고 정기적으로 그 활동을 협의회에 보고할 것이다. 이 분야에서 강력한 윤리적 문화 및 개인적 인식 제고를 목표로, 협의회는 디지털 윤리에 대한 활발한 사회적 토론에 주도적으로 기여하기 위해 노력할 것이다.
