소식지인공지능

[해외정보인권] Civil Rights Principles for Hiring Assessment Technologies{/}채용 평가 기술에 대한 시민권 원칙

By 2021/01/27 No Comments
번역오류는 policy 골뱅이 jinbo.net 으로 알려주세요.
제목 : 채용 평가 기술에 대한 시민권 원칙
원문제목 : Civil Rights Principles for Hiring Assessment Technologies
원문링크 : https://civilrights.org/resource/civil-rights-principles-for-hiring-assessment-technologies/#
일시 : 2020년 07
작성 : ACLU, AI Now Institute, American Association of University Women (AAUW), Center for Democracy & Technology 등

채용 평가 기술에 대한 시민권 원칙

Civil Rights Principles for Hiring Assessment Technologies

 

머리말

채용은 자신과 가족을 부양하기 위해 취업 할 수있는 사람이 결정되는 과정으로, 경제적 기회의 중요한 지점이다. 기술은 채용 절차의 모든 단계마다 빠르게 변화하고 있다. 고용주들은 이제 인공지능과 알고리즘에 의존하는 새로운 평가 도구를 활용해 구직자를 선별하고 선발하고 있다. 이러한 기술의 발전은 정책 입안자들로 하여금 채용 평가가 공정하게 진행될 수 있도록 보호장치를 명확히 하고 강화해야 할 필요성을 보여준다.

채용 평가(hiring assessment)는 화상 면접, 게임화된 평가, 이력서 검사를 포함해 다양한 형태를 취하고 있다. 다수의 공급업체들은 이러한 도구가 직무 적합성, 성공가능성과 관련된 특성이나 프로필에 있어 지원자를 객관적으로 평가한다고 주장한다. 고용주들은 성공적인 고용에 필요한 시간과 비용을 절감하고, 때로는 더 다양한 구직자를 고용하기 위한 노력의 일환으로 이러한 평가 도구를 활용한다. 허나 평가 기술은 어떤 지원자들을 더 신중히 평가할지 결정함으로써, 수많은 거절을 눈에 띄지 않게 자동화시킬 수 있다. 그렇기 때문에 채용 평가 기술에 대한 면밀한 조사가 필요하다.

오늘날의 노동 인구는 인종, 민족, 성(성적 지향과 성 정체성포함), 장애와 나이, 그리고 다른 요소들에 기반해 수십 년간의 차별을 반영하고 있다. 채용 평가 기술은 노동 인구의 공정함과 포용성을 저해할 수 있는 많은 장애물 중 하나다. 인공지능은 본질적으로, 과거 차별로 인해 대표성이 충분치 않은 현재의 노동 인구 데이터에 의존할 때 현존하는 불평등을 모사하고 악화시킬 위험성이 있다. 채용 평가 기술은 채용 절차에 인위적인 장애물을 세우는 게 아니라 공정성을 증진시켜야만 한다. 이를 위해 고용주, 공급업체, 정책 입안자들의 사전적인 개입이 필요하다.

채용 과정의 차별을 방지하고 공정성을 증진시킨다는 목표를 갖고 채용 평가 기술의 개발, 사용, 감사 및 감독을 가이드하기 위해 다음 원칙이 권고된다.

 

원칙

이 원칙은 채용 평가 기술의 개발, 사용, 감사 및 감독을 가이드할 것이다. 이는 채용 및 선발 절차와 관련된 기존의 법적 의무를 보충하고 강화시킨다. 고용주에게는 차별없는 채용 절차를 집행해야 할 중대한 의무가 이미 존재한다. 공급업체와 기술 제공업체는 이러한 의무가 이행되는 데 있어 보다 더 중요한 역할을 해야 할 필요가 있다. 정부는 이러한 원칙을 촉진하기 위해 기존 법률의 강력한 집행을 보장해야만 한다. 그리고 정책 입안자들은 노동자의 권리를 보호하기 위한 새로운 법률과 지침을 만들어야 할 필요가 있다.

이하 서술에 사용된 ‘채용 평가 기술(hiring assessment technology)’은 구직자 평가를 돕기 위한 컴퓨터 알고리즘 또는 통계적 모형을 포함해 기술 전체 또는 일부에 의존하는 모든 평가를 의미한다. ‘조직(organization)’은 고용주, 채용 업체, 채용 평가 개발자 및 공급업체, 취업 알선과 모집을 돕는 업체를 포함하여 채용 평가 기술을 생성, 제공 또는 사용하는 모든 주체를 의미한다.

 

1.차별 금지 (Nondiscrimination)

채용 평가는 인종, 피부색, 민족, 종교, 국적, 성별, 성 정체성, 성적 지향, 나이, 가족 상태, 장애, 유전자 정보 등 보호받는 특성에 기반해 차별을 해선 안된다. 

  • 과거의 데이터를 사용하여 구축된 채용 평가는 이미 노동 인구에 존재하는 구조적 차별의 패턴을 재생성할 수 있다. 기계학습 알고리즘은 보호받는 특성을 모형 구축 과정에서 의도적으로 누락시킨다 하더라도 미묘한 상관성과 대리 데이터를 찾아낼 수 있다.

조직들은 차별적인 채용 패턴이 지속되지 않도록 채용 평가 모델을 신중히 시험하고 면밀히 조사해야 한다. 단순히 모델 구축 과정에서 인구통계학적 데이터를 제거하는 것만으로는 이 목표를 달성할 수 없을 것이다. 

  • 게임 또는 얼굴 및 음성 분석과 같은 새로운 절차가 포함된 채용 평가 기술들은 장애인을 포함한 지원자들에게 새로운 장벽이 될 수도 있다. 특히 얼굴 및 음성 분석 기술은 피부색, 원어민 억양이 아닌 영어 사용자, 트랜스젠터, 논바이너리, 젠더 비순응자(gender nonconforming people) 등에 대해 부정확한 것으로 나타났다. 조직은 장애를 포함해 사람을 배제하지 않는 방식으로 채용 평가가 설계되고 진행되며 적절한 편의가 제공되도록 해야 한다. 장애의 다양성에 대한 자료가 한정되어 있기 때문에, 조직들은 통계적인 감사만으로는 차별을 방지할 수 없다. 또한 조직들은 기술이 피부색, 영어가 익숙하지 않은 사람, 논바이너리, 트랜스젠더, 젠더 비순응자를 부당하게 차별하지 않도록 해야 한다. 

 

2. 직무 연관성 (Job-Relatedness)

채용 평가는 직무 수행에 중요한 특성과 능력을 측정해야 한다. 직무 수행에 불필요한 기준을 기반으로 한 평가는 구직의 기회에 인위적 또는 차별적인 장벽을 만들 위험이 있다.

  • 일부 채용 평가 기술은 실제 직무 요구사항과 관계없이, 특정 인구 및 환경에서 직무 성과와 통계적으로 연관성이 있는 특성을 파악하기 위해 기계학습을 이용한다. 통계적 모형은 엄밀한 직무 분석을 대체할 수 없다. 조직은 특정 직무에 필요한 지식, 기술 그리고 능력을 연구하고 이해하는 데 필요한 작업을 해야 하며, 직무와 연관된 기준을 파악하는 대신 성과를 예측한다고 주장하는 채용 평가 기술에 의존해서는 안된다. 게다가 특성과 ‘직무 성과’ 간의 단순한 상관성만으로는 그러한 특성을 고려해 나오는 부정적인 영향을 정당화하기에 충분치 않다.
  • 기계학습모형은 종종 지원자, 고용주, 심지어는 모형 개발자가 철저히 검토하거나 투명하지 않은 복잡한 특징에 근거해 지원자를 평가하고는 한다. 조직들은 채용 평가가 무엇을 왜 판단하는지 설명할 수 있어야 하며, 채용 평가가 판단한다고 주장하는 것이 실제로 판단되고 있는지 그 활용 전에 보여줄 수 있어야 한다. 

 

3. 통지와 설명 (Notice and Explanation)

지원자가 기존의 시민권 보호에 따른 구제를 요청하거나 적절한 편의를 요구할 수 있게끔 그들이 어떻게 평가 받을지에 대한 의미있는 통지를 받아야 한다. 

  • 지원자들은 자신이 평가 받는 방법이나 성과의 피드백에 대한 설명을 거의 받지 못한다. 조직은 구직자를 평가하기 위해 수집된 정보를 포함해, 지원자에게 채용 평가가 어떻게 진행되는지 의미있는 공시를 제공하고 고용에 대한 결정을 알려줘야 한다. 기존 법에 따르면 고용주는 채용 평가 운영에 대한 충분한 정보를 제공해야 하며, 이를 통해 지원자가 적절한 편의 제공을 요청해야 하는지 여부를 결정하고 요청 절차를 명확하게 하며 그 과정에서 불이익을 받지 않도록 해야 한다. 이는 모든 조직에 해당한다.
  • 채용 평가 기술은 적합한 규모에서 의미있는 피드백이 자동으로 전이되게끔 설계될 수 있다. 예를 들면 신용과 같은 다른 정책의 맥락에서, 연방법은 소비자가 자신에게 불리한 결정이 내려진 이유를 설명해주는 표준화된 공지(Adverse Action Notice)를 받을 권리를 인정하고 있다. 조직은 지원자에게 채용 평가 결과에 대한 피드백을 합리적으로 그리고 적시에 제공해야 한다.

 

4. 감사 (Auditing)

채용 평가는 배치 전후 차별과 직무 연관성에 대해 정기적으로 철저하게 감사 받아야 한다. 조직과 정책 입안자들은 지원자가 보호 받을 수 있도록 새로운 기술 및 법적 표준을 만들어야 할 수도 있다.

  • 기계학습 모델을 감사하는 것은 종종 학습 데이터, 설계, 지원자 정보, 평가 기준, 평가 결과 및 최종 채용 결정과 같은 정보의 문서화와 보존을 요구로 한다. 조직은 합당한 개인정보 보호와 정보 보안의 요건을 갖추고, 차별과 직무 연관성에 대한 정기적 감사에 필수적인 데이터를 명확하게 파악하고 보존해야 한다.
  • 인종, 민족, 젠더, 연령에 따른 이질적 영향에 대한 통계적 테스트는 중요하지만 모든 형태의 차별을 방지하기에는 충분하지 않다. 예를 들어 사람의 장애는 매우 다양하기 때문에, 통계적 테스트로는 채용 평가가 특정한 장애를 가진 개인에게 어떠한 영향을 미치는지 알기 힘들다. 조직은 반드시 채용 평가를 지속적이고 전체적으로 감사해야 한다. 이는 채용 평가의 내용을 면밀히 조사하고, 그 결과를 판단하며 고용주의 전체적인 채용 과정을 고려해보는 것을 의미한다. 
  • 조직은 배치 전후에 채용 평가 기술에 대한 엄격한 자체적인 테스트를 거쳐야 하지만, 감사는 보통 더 높은 수준의 책무성과 공정성을 제공할 수 있는 독립적인 제3자에 의해 수행되는 것이 가장 좋다. 조직은 제3자와 협력하여 차별적인 설계 및 효과와 관련해 그들이 배치한 채용 평가를 정기적으로 감사해야 한다. 조직은 자체적인 테스트와 제3자 감사의 방법과 그 결과를 공개해야 한다.
  • 공급업체 소유의 데이터와 설계를 이용해 개발되고 테스트된 모델은 실제 지원자를 대상으로 활용될 경우 다른 결과를 가져올 수 있다.

채용 평가가 배치되면, 지속적인 감사를 통해 실제 환경에서의 성능과 테스트와의 격차를 확인해야 한다.

 

5. 감독과 책무성(Oversight and Accountability)

연방 및 주 정책 입안자들은 새로운 기술 및 법적 표준을 개발하고, 규제기관에게 유효한 조사권과 더불어 채용 평가 사용에 있어 동등한 기회가 보장될 수 있도록 조직에게 책임감을 부여할 수 있는 능력을 갖추도록 해야 한다.

  • 지원자는 일반적으로 채용 평가 기술의 영향과 설계 등 채용 관행에 대한 통찰력이 부족하며 혼자서는 자신의 권리를 효과적으로 주장할 수 없다. 규제기관은 조직의 채용 평가 개발과 사용에 대한 정보를 요청하는 능력을 포함해 사전적인 감독과 그 집행을 수행하는 데 필요한 법적 권한, 자원, 전문성을 가져야 한다. 정부기관 고용주의 채용 평가 기술에 대한 조달과 사용은 인가 및 투명한 집행의 대상이 되어야 한다. 지원자가 부당한 취급을 받아 그에 대한 이의를 제기하는 것에 의존하는 것은 효과적인 감독이라 할 수 없다.
  • 오늘날의 법과 규제지침은 현대적인 채용 평가 기술에 시민권 보호를 적용하려는 조직, 노동자, 집행 기관에게 너무 많은 모호함을 남겨두고 있다.

정책 입안자들은 예상 가능한 채용 도구를 고려하여 시민권 및 인권과 관련한 법률을 해석하는  새로운 규제와 지침을 고려하고 제3자 감사의 기준 개발을 장려해야 한다. 기관은 최소한 연방 정부와 주 정부의 현대적인 채용 기술의 설계 및 사용을 감독할 수 있는 능력에 대한 기탄없는 반성을 포함해 채용 평가 및 시민권에 대한 연구를 수행하고 발행해야 한다.

 

서명 :

The Leadership Conference Education Fund

The Leadership Conference on Civil and Human Rights

ACLU

AI Now Institute

American Association of University Women (AAUW)

Center for Democracy & Technology

Center for Law and Social Policy (CLASP)

Center on Privacy & Technology at Georgetown Law

Color of Change

Lambda Legal

Lawyers’ Committee for Civil Rights Under Law

NAACP

NAACP Legal Defense and Educational Fund, Inc.

National Association of Councils on Developmental Disabilities

National Center for Law and Economic Justice

National Employment Law Project

National Employment Lawyers Association (NELA)

National Organization for Women

National Partnership for Women & Families

National Women’s Law Center

New America’s Open Technology Institute

Open MIC (Open Media and Information Companies Initiative)

Public Knowledge

UnidosUS

Upturn

Workplace Fairness