소식지인공지능

[해외정보인권] ALGORITHM CHARTER FOR AOTEAROA NEW ZEALAND{/}아오테아로아 뉴질랜드 알고리즘 헌장

By 2020/09/21 10월 20th, 2020 No Comments
번역오류는 policy 골뱅이 jinbo.net 으로 알려주세요.
제목 : 아오테아로아 뉴질랜드 알고리즘 헌장
원문제목 : ALGORITHM CHARTER FOR AOTEAROA NEW ZEALAND
원문링크 : https://data.govt.nz/use-data/data-ethics/government-algorithm-transparency-and-accountability/algorithm-charter/
일시 : 2020년 7월
작성 : New Zealand Government, Stats NZ
편집자 주 :
인공지능 기술은 이미 우리의 삶에 영향을 미치고 있습니다. 일상화된 인공지능의 사용은 공공영역에도 뻗어가 정책 계획, 공공 서비스 대상자 선정, 대상자 선별, 노동과 채용 과정 등 다양한 의사결정 과정에서 활용되고 있습니다. 인공지능 기술은 여러 편익을 가져다줄 수 있지만, 허나 인공지능의 도입이 그 자체로 공정성과 객관성을 담보해주진 못합니다. 오히려 그 특성 상 사회의 기존 편견을 학습하고 고착시키거나 구조적 차별을 재생산하는 등 인권침해가 발생할 여지가 크지요. 무심코 도입된 기술이 오히려 사회적 약자에게 해악을 가져오곤 합니다. 그렇기에 최소한 공공영역의 경우, 기술의 도입에 앞서 신중한 태도로 여러 문제에 책무성을 가져야만 할 것입니다. 뉴질랜드 알고리즘 헌장은 이에 대한 고민이 담긴 결과물입니다.

아오테아로아 뉴질랜드 알고리즘 헌장

ALGORITHM CHARTER FOR AOTEAROA NEW ZEALAND

알고리즘의 가치

정부 기관은 매일 뉴질랜드 국민들에게 제공되는 서비스를 알리고 개선시키고 제공하기 위해 데이터를 활용한다. 간단한 알고리즘은 한정된 자원이 공평하게 배분될 수 있도록 업무 과정을 표준화시키는 데 사용될 수 있다. 더 복잡한 알고리즘은 방대하고 복잡한 데이터 세트에서 주요 정보를 추출하여 인간의 의사결정에 도움을 주고 인간의 분석만으로는 쉽게 파악할 수 없는 통찰력을 발휘하는 데 사용될 수 있다.

이러한 알고리즘은 정부가 뉴질랜드와 뉴질랜드인을 더 잘 이해하도록 돕는 데 사용될 수 있다. 이와 같은 지식은 정부가 좋은 결정을 내리고 더 효율적이고 효과적인 서비스를 제공하는 데 도움이 된다. 알고리즘의 사용은 인간의 편견이 정부 서비스의 집행에 개입하는 위험을 줄이고 모두에게 혜택을 가져다 줄 수 있다.

하지만, 그러한 기회는 새로운 문제를 가져오기도 한다. 예를 들어 세심하게 설계거나 운영되지 않는 알고리즘에 의해 인간의 편견이 굳혀지거나, 심하게는 강화될 수도 있다. 투명성과 책무성(accountability)은 정부가 이러한 도구를 적합한 방식으로 사용하도록 대중이 신뢰할 수 있고 지지할 수 있게끔 하는 데 매우 중요하다.

본 헌장은 개인정보 보호와 투명성 사이의 올바른 균형을 유지하고, 의도치 않은 편견을 방지하며 와이탕이 조약(Treaty of Waitangi)의 원칙을 반영하기 위해 알고리즘이 어떻게 사용될 것인지 신중하게 다루기 위한 정부 기관의 약속이다.

 

정의

‘알고리즘’이라는 용어에 걸맞는 다양한 진보적인 분석 도구들이 있다. 이 도구들은 주로 예측을 돕고 업무 과정을 간소화시키는 회귀 모델(regression model)과 의사결정 나무(decision tree)처럼 조금은 후진적인 기술부터, 기계학습의 특성을 갖고 더 나은 계산과 예측을 내놓는 신경망(neural network)과 베이시안 모델(bayesian model)과 같은 더 복잡한 시스템까지 다양하게 존재한다.

‘뉴질랜드 정부의 인공지능 사용 (Government Use of Artificial Intelligence in New Zealand, New Zealand Law Foundation and Otago University, 2019)’에는 다양한 유형의 예측 알고리즘과 이를 정의하기 위한 문제와 관련해 좋은 논의가 수록되어 있다. 알고리즘과 관련된 위험과 편익은, 사용 중인 알고리즘의 유형과는 큰 상관이 없다. 아주 단순한 알고리즘일지라도 당면한 내용, 목표, 업무 과정에서 의도한 대상자에 따라 가장 복잡한 알고리즘만큼이나 큰 편익 또는 위험을 가져올 수 있다. 그렇기에 본 헌장은 알고리즘의 기술적 정의를 명시하지 않는다. 대신 서명기관은 의도치 않은 결과를 가져올 수 있는 위험성이 크거나, 사회적으로 특히 취약한 집단에게 있어 문제가 생길 경우 중대한 영향을 미칠 수 있는 알고리즘에 집중하여 살펴볼 것을 약속한다.

 

검토

아오데아로아 뉴질랜드 알고리즘 헌장은 새로운 기술에 대응할 필요가 있으며 또한 정부 기관의 목적에도 부합해야 하는, 발전하는 결과물이다. 12개월 후 알고리즘 헌장에 대한 검토를 진행해, 혁신을 억제하거나 지나친 규정을 부담시키는 일 없이 정부의 투명성과 책무성을 개선시킨다는 의도된 목적을 달성하고 있는지 확인할 것이다.

기반

알고리즘 헌장은 광범위한 생태계의 일부로서 다음과 같은 기존의 도구, 네트워크, 연구와 함께 작동한다 :
Principles for the Safe and Effective Use of Data and Analytics (Privacy Commissioner and Government Chief Data Steward, 2018)
Government Use of Artificial Intelligence in New Zealand (New Zealand Law Foundation and Otago University, 2019)
Trustworthy AI in Aotearoa – AI Principles (AI Forum New Zealand, 2020)
Open Government Partnership, an international agreement to increase transparencyData Protection and Use Policy (Social Wellbeing Agency, 2020)
Privacy, Human Rights and Ethics Framework (Ministry of Social Development).

 

발생가능성과 영향을 평가하기

알고리즘 평가 보고서는 더 나은 분석과 데이터 사용이 공공 서비스 제공에 있어 필수적인 부분이라는 것을 발견했다. 모든 업무 규칙과 그 과정에 헌장을 적용하는 일은 기관이 준수하기에는 불가능하며 헌장이 의도하는 편익도 달성할 수 없을 것이다.

하지만, 국민의 복지에 중대한 영향을 미칠 수 있는 방식으로 정부 기관이 사용하고 있거나, 많은 사람들이 의도치 않은 부작용을 겪을 가능성이 높다면 헌장을 적용하는 것이 합당하다.

헌장 서명기관은 아래의 위험성 매트릭스(Risk Matrix)를 사용하여 알고리즘 결정을 평가할 것이다. 이는 전체적인 위험 수준을 도출하기 위해 상대적인 영향 수준에 대한 의도치 않은 부작용의 발생가능성을 수치화함으로써 평가를 돕는다.

위험성 등급에 의해 헌장의 적용 여부가 결정된다.

 

위험성 매트릭스

발생가능성 

개연성 높음

일반적인 작업 중 자주 발생할 가능성

종종 그럴 수 있음

일반적인 작업 중 가끔 발생할 가능성

개연성 낮음

가능성이 낮지만 일반적인 작업 중 발생할 수 있음

영향 낮음

결정의 영향이 분리되어 있거나/또는 심각하지 않음

보통

결정의 영향이 중간 정도의 사람에게 영향을 미치고 심각성도 보통

높음

결정의 영향이 광범위하고  심각함

위험성 평가

낮음

알고리즘 헌장이 적용되어야 할 수도 있음

보통

알고리즘 헌장이 적용되어야 함

높음

알고리즘 헌장이 반드시 적용되어야 함

적용과 약속

본 헌장은 각각의 서명기관에게 다르게 적용될 것이다. 위험성 매트릭스 접근방식은 서명기관이 위험성이 높은 결정에 먼저 집중할 수 있고, 법률적 요구를 맞추고 통상적인 업무 수행을 위해 정부기관이 매일 사용하는 대부분의 업무 규칙은 제외할 수 있다는 뜻이다. 이는 뉴질랜드인에게 의도치 않은 심각한 피해를 입힐 가능성이 있거나 그럴 가능성이 높은 알고리즘의 사용에 집중하기 위함이다. 본 약속은 범위 검토의 일부로써 12개월 후 검토될 것이다.

아오데아로아 뉴질랜드 알고리즘 헌장 

(ALGORITHM CHARTER FOR AOTEAROA NEW ZEALAND)

본 헌장은 정부 기관이 알고리즘을 사용하는 방법에 대해 뉴질랜드인이 신뢰를 갖게끔 하는 약속이다. 본 헌장은 정부가 데이터 사용에 있어 투명성과 책무성을 보여주는 다양한 방법 중 하나다. 하지만, 마오리 데이터 주권(Māori Data Sovereignty)과 같은 중요한 사항은 복합적이며 별도의 검토가 필요하기 때문에 충분히 다룰 수 없었다.

약속 :

우리 조직은 알고리즘을 이용해 만들어낸 결정이 뉴질랜드 국민에게 영향을 미친다는 것을 이해한다. 우리는 우리의 알고리즘에 기반한 결정의 영향을 평가할 것을 약속한다. 더 나아가 우리는 확인된 위험성 등급에 따라 알고리즘 헌장 약속을 적용할 것을 약속한다.

알고리즘 헌장 약속 :

투명성

알고리즘에 의해 결정이 어떻게 영향을 받았는지 명확하게 설명함으로써 투명성을 유지한다. 이는 다음을 포함한다 :
–>> 알고리즘을 평이한 영어로 문서화
–>> 데이터와 처리과정에 관한 정보를 접근가능하게 만들기(법적인 제한이 있지 않는 이상)
–>> 데이터가 어떻게 수집되고, 저장되고, 보호받는지에 관한 정보 공개

파트너쉽

다음과 같은 조약의 약정을 통해 명확한 공익을 제공한다
–>> 와이탕이 조약의 원칙에 부합하는 알고리즘의 사용 및 마오리족 세계관(Te Ao Māori)의 관점을 포함하는 알고리즘 개발

사람

다음과 같은 방법으로 사람에 초점을 맞춘다.
–>> 알고리즘에 관심이 있는 사람, 집단, 커뮤니티를 찾고 적극적으로 관계맺기, 알고리즘 사용에 영향을 받는 사람들의 자문

데이터

다음과 같은 방법으로 데이터가 그 목적에 부합하는지 확인한다.
–>> 한계를 이해하기
–>> 편향을 식별하고 관리하기

개인정보 보호, 윤리 그리고 인권

다음과 같은 방법으로 개인정보, 윤리 그리고 인권에 대한 보호를 보장한다
–>> 의도치 않은 결과를 평가하고 이에 대한 조치를 취하기 위한 정기적인 제3자 검토

인간의 감독

다음과 같은 방법으로 인간의 감독을 유지한다
–>> 알고리즘에 대한 공개적인 조사 요구(public inquiry)를 위한 담당자 지명
–>> 알고리즘에 영향을 받은 결정에 대해 이의를 제기하고 항소하기 위한 수단 제공
–>> 알고리즘에 영향을 받은 결정 속 인간의 역할에 대한 명확한 설명