AI면접 정보공개 소송 일부 승소, 공공기관의 심각한 책무성 부족이 사실로 밝혀져
AI면접 접속 오류 기록에도 관련된 정보는 ‘부존재’
채용AI의 무분별한 사용에도 규제는 ‘부존재’
1. 우리 단체들은 2022년 5월 26일과 6월16일, AI면접 등 공공기관의 채용 과정에 도입된 인공지능 시스템에 대하여 제기했던 정보공개 거부처분 취소소송에서 일부 승소하였다. 우리 단체들은 이번 소송에서 인공지능 채용 도구를 무분별하게 도입해 온 공공기관들이 법적으로 요구되는 자료들조차 구비하지 않는 등 심각한 책무성 부족을 확인하였다.
2. 우리 단체들은 지난 2020년, 공공기관에서 사용하는 인공지능 채용도구의 △공공기관의 공정한 채용절차 준수 유무 △개인정보 침해 여부 검토 △AI면접의 차별성과 편향적 결과 검토 등의 실태를 파악하고자 인공지능 채용을 진행한 13곳의 공공기관에 정보공개를 청구하였다. 그 중 단순한 계약 자료 등 기초적인 정보에 대해서도 대부분 부존재한다고 답변했던 기관인 한국국제협력단, 그리고 AI면접과 AI서류평가 등의 채용도구를 적극적으로 사용하고 있는 기관인 한전KDN 두 기관을 대상으로 2020년 10월 정보공개 거부처분 취소소송을 제기하였다. 그리고 약 1년 6개월 이후인 2022년 5월(수원지방법원 한국국제협력단 사건)과 6월(광주지방법원 한전KDN 사건)에 모두 원고 일부 승소 판결을 받았다.
3. 각기 공개가 인용된 정보들은 다르지만 우리가 청구한 정보 중 부존재하거나 이미 공개되었다고 볼 수 있는 정보를 제외한 나머지 기관이 보유하고 있는 모든 정보는 공개하라는 것이 법원의 일관된 판단이었다. 법원은 특히 “이 사건 정보를 공개함으로써 공공기관의 계약 관련 정보에 관한 국민의 알 권리를 충족하고, 용역업체를 통해 인공지능 프로그램을 면접에 활용하는 과정에서 개인정보가 안전하게 잘 관리되고 있는지 등을 확인할 수 있는 계기가 될 수 있다.”라며 정보공개 청구의 정당성을 판결문에서 언급하였다.
4. 이번 소송을 통해 우리 단체들은 공공기관이 채용 과정에 인공지능 도구를 도입해 판단을 자동화하면서도, 그 결과에 대해 적절하고 합리적인 설명을 보장하기 위한 자료를 갖추어 두지 않았음을 확인하였다. 피고 기관들은 인공지능 도구를 제공하는 사기업에 채용절차를 일임한 채 의사결정에 필요한 자료는 물론이고 공정한 채용절차, 개인정보보호법, 나아가 공공계약에 있어 책임을 다하기 위해 필요한 자료들 또한 구비해두거나 점검하지 않고 있었다.
5. 특히 피고 기관 중 하나인 한국국제협력단의 경우, 2019년 AI면접 프로그램 접속 오류로 면접이 중단된 구직자에게 재응시의 기회를 주지 않고 불합격 처리하였고 이로 인해 감사원에서 주의 조치까지 내린 사실이 있다. 그러나 해당 기관은 ‘인공지능 프로그램 구동 과정에서 발생하는 돌발상황 및 응시자 민원에 대한 해결 내역을 알 수 있는 문서’, ‘인공지능 프로그램이 채용에 실제 투입될 당시 인공지능의 기능별 오류/오차율’ 등에 대한 정보공개 청구에 대하여 해당 정보가 부존재한다고 답변하였으며, 소송 과정에서도 기관의 AI면접이 문제없이 진행되었고 그렇기에 그것을 기록한 정보 또한 없어 정보가 부존재한다고 답변하는 무책임한 모습을 보였다. 한편 피고 기관 중 하나인 한전KDN의 경우 2019년부터 AI면접을 사용하며 이를 점수에 반영하는 등 적극적으로 활용해왔으며 최근에는 AI면접을 넘어 자기소개서까지 자동화된 평가에 맡기는 AI서류평가 소프트웨어를 사용하고 있다. 해당 기관은 채용 과정 중 1차 서류전형을 오로지 AI서류평가로 진행하여 구직자를 탈락시키거나, 최종 합격을 위한 전형을 AI면접+AI자기소개서 평가로 구성하는 등 완전히 자동화된 방식을 통해 채용을 진행하며 사기업의 인공지능 프로그램에 의존해왔다. 그럼에도 한전KDN은 AI면접시 주어지는 질문사항에 관한 어떠한 검토도 없이 그 내용을 용역업체에 포괄적으로 위임한 채 채용의 의사결정자에게는 AI면접과 관련한 아무런 자료도 제공하지 않았다. 채용 당사자나 감독기관이 채용 당락에 대한 이유를 물어도 제대로 설명할 수 없는 상태인 것이다.
6. 이러한 공공기관의 무분별한 인공지능 도입과 그에 비해 한참 부족한 책무성, 설명불가능성은 국내외 인공지능과 관련된 인권 규범에 모두 역행하는 것이다. 지난 5월 국가인권위원회가 발표한 <인공지능 개발과 활용에 관한 인권 가이드라인>은 공공기관이 인공지능의 개발과 활용 계획 등을 사전 공개하고 관련 당사자들의 의견을 공청회 등으로 수렴할 것을 권장하고 있으며, 나아가 인공지능을 통한 의사결정을 할 때 설명할 수 없는 인공지능을 활용해서는 안 된다는 것을 분명히 하고 있다. 또한 인공지능에 의한 자동화된 의사결정에 있어 영향을 받는 당사자가 그 결정의 이유에 대한 설명을 듣고 당사자 진술을 하며 이의를 제기할 수 있어야 한다는 점, 완전히 자동화된 의사결정으로만 개인에게 법적 효력 또는 생명·신체·정신·재산에 중대한 영향을 미치는 일은 제한되어야 하며 이 경우 당사자에게 해당 방식을 거부하거나 인적 개입을 요구할 수 있는 권리가 보장받아야 한다는 점도 강조되어 있다. 국외에서는 일반적인 가이드라인을 넘어 고용 영역에서의 인공지능 기술 사용에 대한 보다 강력한 규제가 마련되었거나 준비되고 있다. 유럽연합은 2021년 4월 <인공지능법(AI ACT)>를 발의하고 입법 절차를 밟고 있는데, 해당 법안은 고용 영역에서의 인공지능을 고위험 인공지능으로 분류하고 위험 평가 및 완화, 데이터셋의 고품질 보장, 기록 및 문서화, 정보 공개, 인적 통제 등의 의무를 부과하고 있다. 미국 정부와 의회는 고위험 자동화된 의사결정 시스템에 영향 평가 의무를 부여하는 연방 입법을 추진하고 있으며, 일리노이주와 뉴욕시 같은 지방정부는 채용과정의 인공지능에 특별히 주목해 ‘인공지능 영상면접법(Aritificial Intelligence Video Interview Act)’, ‘자동화된 채용 결정 도구에 관한 법(Automated employment decision tools)’ 등을 통과시켜 인공지능 면접에 대한 정보 제공, 편향성 감사의 의무화 등의 규제를 마련하고 시행 중에 있다.
7. 현재도 다수의 공공기관은 채용 과정에 인공지능 기술을 도입하여 사용하고 있다. 그러나 채용은 당사자에게 현재와 미래의 생계로 이어지는 경제적 기회를 제공하는 중대한 의사결정이다. 공공기관이 채용에 사용되는 기술의 의사결정에 대하여 설명할 준비를 갖추지 않고, 검증도 감독도 없이 민간회사에게 일임하는 방식의 무책임한 인공지능 도구의 도입은 중단되어야만 한다. 또한 국가와 감독기관은 공공 영역의 인공지능 기술 사용에 대한 인권영향평가 등 인권에 중대한 영향을 미칠 수 있는 영역에서의 인권침해와 차별을 방지하기 위한 제도적 대책을 서둘러 마련해야 할 것이다.
8. 우리 단체들은 앞으로도 공공 영역의 인공지능이 마땅히 갖추어야 할 투명성과 합법성, 차별금지를 촉구하고 감시하는 활동을 계속할 예정이며, 이번 정보공개거부처분 취소소송을 통해 공개된 자료 분석을 통해 공공기관의 무분별한 인공지능 도입에 대한 후속적인 문제제기를 계속할 것이다. 끝.
2022년 7월 7일
민주사회를 위한 변호사모임 디지털정보위원회, 사단법인 정보인권연구소, 진보네트워크센터
