소식지

[해외정보인권]Triple A: Affirmative Action for Algorithms | Artificial Intelligence, Machine Learning & Gender: A concrete Call to Action{/}트리플 A – 알고리즘에 대한 효과적 조치 | 인공지능, 머신러닝 그리고 젠더

By 2019/09/17 10월 17th, 2019 No Comments

편집자주 :

Women@theTable은 스위스의 여성단체로, 더 많은 여성들이 통치, 경제, 기술, 지속 가능성, 평화에 관한 의사결정 테이블(decision-making table)에서 더 많은 목소리, 더 많은 좌석, 더 많은 영향력을 가질 수 있도록 돕기 위해 설립되었습니다. 이들은 지금이야말로 여성의 영향력을 강화하고 새로운 규범을 확립해야 한다고 주장하면서 여러 정책과 규범에 대해 논의하고 관여하며 여성들의 주장을 가시화시키려 노력하고 있습니다.
이번에 소개하는‘트리플 A : 알고리즘에 대한 적극적 평등조치 – 인공지능, 머신러닝과 젠더 : 구체적인 행동 촉구’는 이들의 그러한 행동의 일환입니다. 이들은 지금 이 시점이 새로운 ‘알고리즘 의사결정 시스템’이 도입되는 중대한 전환점이라고 지적합니다. 그리고 여성을 체계적으로 배제해 왔던 낡은 시스템이 미래의 시스템에도 적용되지 않도록 하려면 인공지능 의사결정 시스템에 강력한 책무성을 부여하고 성평등 지침과 인권기준을 적용하는 등 적극적인 평등조치에 나서야 한다고 말합니다. 왜냐하면 알고리즘 의사결정 시스템은 지난 시대의 사고방식과 데이터셋으로 ‘머신러닝’ 즉 학습되어 만들어지기 때문이죠.
w@t는 이번 글을 통해 앞으로 어떤 시대가 오던 간에 누구도 뒤처져 남겨지는 일이 없어야 한다고 촉구하고 있습니다.

번역오류는 policy 골뱅이 jinbo.net 으로 알려주세요.

제목 : 트리플 A – 알고리즘에 대한 효과적 조치 | 인공지능, 머신러닝 그리고 젠더
원문 : Triple A: Affirmative Action for Algorithms | Artificial Intelligence, Machine Learning & Gender: A concrete Call to Action
작성 : 2019.06, Women at the Table, Women in Big Data Conference에서의 행동강령

트리플 A – 알고리즘에 대한 효과적 조치

(Affirmative Action for Algorithms)

 

인공지능, 머신러닝 그리고 젠더

 


 

우리는 중대한 전환점에 있다. 급변하는 글로벌 환경에서 혁신과 번영을 위해 새로운 규범이 필요하다. “표준화된 남성”은 현재 우리가 일하는 방식을 통제하고 있는 결함 있는 시스템과 문화적 기준의 디폴트(기준값)로서, 너무나 표준화돼 알아차리지도 못하고 있다. 20세기 약물 실험, 국제 표준 및 국제 거래 규칙에서부터 21세기 과학 의사결정, 머신러닝 시스템에 이르기까지 이러한 디폴트로 인해 사람들이 피해를 입는 것은 자명한 사실이다. 사실 민주주의 자체가 위험에 처해 있다. 우리는 새로운 규범을 확립해야 한다.

우리는 여성과 소녀들의 모든 형태와 교차점에 초점을 두고 있다. 사회 시스템의 오래된 규범을 정하는 데 있어서 여성을 체계적으로 배제했기 때문에-그리고 새로운 규칙을 정할 때에도 여성을 계속 배제해 왔다- 우리는 우리가 창출하는 새로운 시스템에서 성평등을 달성하고, 민주주의를 강화하기 위해 법률, 규정 및 규범에서 전략적이고 혁신적인 사고를 옹호하는 새로운 연합을 활발히 해야 한다. 여성들-필수적이고 미개발된 자원-은 우리 사회의 시스템을 재편성하는 힘을 가지고 모든 차원의 의사결정에 영향력을 행사해야 하며, 오래된 규범과 고정관념이 미래의 머신러닝 시스템에 주입되기 전인 지금 변화가 일어날 수 있다.

특히 ADM 시스템과 머신러닝이 사용되고 있는 규모를 감안해보면 알고리즘에 대한 차별 철폐 조치가 시급히 필요하며, 우리는 여성들이 현재 그리고 미래에 그들의 완전한 참여와 권리를 달성하지 못하게 막는 실제 삶의 편견과 장벽을 바로잡아야 한다.

마샬 맥루한의 “우리는 우리의 도구들을 만들고, 그로 인해 우리의 도구들이 우리를 구체화한다”는 말은 잘 알려져 있다.

이것은 우리의 당면 과제다. 우리는 지금 그리고 이후 시대에 걸쳐서 지속적인 제도적, 문화적 시스템 변화를 위한 새로운 도구와 새로운 규범을 확립해야 한다. 이것은 세계 각지에 관한 것이다. 지금 우리가 여성과 남성 모두에게 성평등과 민주주의에 초점을 맞추는 것은 중요하다. 그렇게 하면 모두가 성공할 수 있다. 우리는 우리 뒤에 아무도 남겨두고 가지 말아야 한다.


 

우리는 정부, 민간부문시민사회단체에 다음과 같은 것을 요청한다.

1. 공공 부문과 민간 부문 모두에서 ‘알고리즘 의사 결정(ADM)’에 대한 책임성과 투명성을 확립하는 지침을 옹호하고 채택하라.

우리는 반드시 우리의 모든 미래에서 머신러닝이 이미 편향되어버린 시스템을 포함하지 않도록 해야 한다.

행동하라 :

  • 여성과 소녀들이 전면적인 참여와 동등한 권리의 즐거움을 성취하지 못하게 하는 실제 삶의 편견과 장벽을 바로잡기 위한 공평한 알고리즘 운동
  • 공공기관의 시범 및 선례 : 공공기관이 ADM를 시범 도입할 때 배치된 알고리즘에 대한 확인 조치. 사회적 인센티브와 보조금 또는 장학금을 배분하는 오래된 그리고 새로운 사회과학 연구에 기본 도입하라. 이것은 전통적으로 여성들이 예전의 제도에 의해 뒤쳐져 온 것이다. 이것은 우리가 오랫동안 수용해 온 평등의 가치를 발전시키고, 인구에 비례해 여성의 가시성과 자질, 영향력을 교정하기 위한 긍정적인 의제다.
  • 공공 부문 및 민간 부문 알고리즘 영향 평가(AIA) : 국민의 알 권리를 존중하고, 책임과 공정성의 원칙에 따른 자체 평가 프레임워크.
  • AI시스템의 수명 주기 전반에 걸친 강도 높은 테스트 : 테스트는 제품 수명 주기에 걸쳐 교육 데이터, 테스트 데이터, 모델, 애플리케이션 프로그램 인터페이스(API) 및 기타 구성 요소의 출신과 쓰임새를 고려해야 한다. 테스트는 편향 및 기타 위해성 시험을 위한 사전 테스트, 공정한 검사와 인증 및 지속적인 모니터링을 포함해야 한다. ADM은 인간의 경험을 통제하는 것이 아니라 질을 향상시켜야 한다.
  • 책임 증진을 위한 강력한 법적 프레임워크 : 부문별 특정 기관에 대한 잠재적 권한 확대 또는 공공 및 민간 부문의 규제 감독과 법적 책임에 관련한 ADM 시스템을 감독, 검사 및 모니터링하기 위한 새로운 기준 조건의 생성을 포함한다.
  • 젠더 대응 지침 : ADM 성평등 지침을 개발하기 위한 조직 및 정부의 모든 수준, 그리고 그러한 원칙을 적용하기 위해 필요한 조직 및 정부의 역할 및 책임에 대해 개략적으로 설명하라.
  • 데이트 세트 개선젠더에 따라 세분화되고 개방된 데이터, 데이터 수집, 포괄적인 품질 데이터 세트 : 젠더에 따라 세분화된 개방형 데이터 세트를 능동적으로 생성하라. 이것은 궁극적으로 머신러닝 시스템의 성능을 향상시키고, AI의 편견의 원천을 더 잘 이해할 수 있게 해준다. 데이터 수집 프로세스와 인간참여형 검증을 감독하기 위한 규제에 투자해서 전통적으로 소외된 다른 집단을 희생시켜 데이터를 수집하지 않도록 하라. 양 뿐만 아니라 데이터셋의 품질에도 중점을 두는, 보다 포괄적인 데이터 수집 프로세스에 참여하라.

2. ADM의 생성, 설계 및 코딩에 있어 동등한 수의 여성과 소녀와 다양한 교차점을 포함하도록 명확한 사전 조치를 수행하라.

새로운 기술은 새로운 아이디어와 새로운 팀을 필요로 하고, 진정으로 새로운 구조의 창조를 포함한 새로운 기회를 제공한다.
현실세계에서 제거되고 있는 성역할들은 성별, 인종, 계급의 구체적이고 전형적인 개념과 연관성을 가진 새로운 ADM으로 만들어지고 있다. 혁신적이고 포괄적인 사고가 필요하다. 이러한 상상력과 기술은 지구상에 가장 큰 미개발 지적 자원인 여성과 소녀들이 제공할 수 있다.

행동하라 :

  • AI 의사결정의 젠더 균형 : ADM의 자금, 설계, 채택 및 평가에 관련된 관계자들의 모든 공식 의제에 의사결정에 대한 젠더 균형을 넣어야 한다.
  • 디자인 팀의 젠더 균형 : ADM 시스템의 설계에 페미니스트와 교차하는 강력한 다양성을 채용하면 혁신과 창의성이 증대될 뿐만 아니라 여성, 소녀 등 전통적으로 제외된 여성에 대한 편견과 유해한 영향을 감지하고 완화할 수 있다.
  • 기업들이 디자인 팀의 젠더 균형을 적극적으로 공개하고 보고할 것을 요구한다. 균형 잡힌 팀의 기업에게는 인센티브를 부여하라.
  • 대학과 스타트업이 보조금을 신청할 때, 업스트림을 포함한 연구 및 설계팀의 성균형을 적극적으로 공개하고 보고하도록 요구한다.균형있고 다분야적인 팀에게는 인센티브를 부여하라.
  • 연구 기금 : 디지털 리터러시를 구현하는 새로운 방법을 포함시키기 위해 컴퓨터 과학과 공학 렌즈를 넘어 다분야적인 접근법을 통해 젠더와 AI, 머신러닝, 편견과 공정성의 영향을 탐구하고, 여성과 전통적으로 규칙 결정과 의사 결정에서 제외된 사람들의 삶에 ADM이 미치는 경제적, 정치적, 사회적 영향을 연구하기 위한 연구 기금을 조성하라.

3. 인권에 기반한 ADM과 머신러닝에 대한 국제 협력 및 접근방법

왜곡된 데이터 시스템의 대규모 수정을 통해 우리의 뒤에 아무도 남겨두지 않을 수 있도록 하려면 다자간 그리고 국제적 협력이 필요할 것이다.

행동하라 :

  • ADM, 머신러닝 및 젠더 관련 기존 국제 인권법 및 표준 적용에 대한 UN 기관 차원의 검토 : 빠르게 변화하는 디지털 시대에서 목적에 맞는 인권에 기반을 두고 접근하기 위한 창조적 사고를 유도하고 자극할 수 있다.
  • 디지털 통합에 대한 일련의 지표 개발 : UN, 국제통화기금, 국제전기통신연합, 세계은행, 기타 다국적 개발은행 및 OECD와 같은 기관의 연례보고서를 통해 전세계적으로 측정되고, 성별에 따라 세분화된 데이터로 상세하게 나타나야 한다.

Women at the Table
2019년 6월, Women in Big Data Conference에서의 행동강령
스위스 취리히