소식지

[해외정보인권] “Negotiating the Algorithm”: Automation, Artificial Intelligence, and Labor protection {/}알고리즘 교섭 : 자동화, 인공지능 그리고 노동자 보호

By 2021/07/26 No Comments

편집자주 :

이번에 소개할 것은 국제노동기구(ILO)에서 발행한 자동화와 노동에 대한 보고서 중 인공지능과 노동자 감시에 대한 부분입니다. 노동 감시는 새로운 일이 아니지만 새로운 기술은 노동 감시의 행태를 급격하게 변화시켰습니다. 특히 인공지능 기술은 과거에 생각할 수 없던 방식으로 광범위하게 노동자의 데이터를 수집하고 처리하여 효율적인 노동착취라는 끔찍한 목표를 달성하는데 활용되고 있습니다.

번역오류는 policy 골뱅이 jinbo.net 으로 알려주세요.
제목 : “알고리즘 교섭” : 자동화, 인공지능 그리고 노동자 보호
원문제목 : “Negotiating the Algorithm”: Automation, Artificial Intelligence, and Labor protection
원문링크 : https://www.ilo.org/wcmsp5/groups/public/—ed_emp/—emp_policy/documents/publication/wcms_634157.pdf
일시 : 2018
작성 : 국제노동기구 (ILO)

3. 발전된 기술의 노동자 감시(monitoring): 인공지능, 빅데이터, 알고리즘에 의한 차별의 위험

 

현대 일터에서 기술적 도구와 디지털화된 감독 시스템은 감독을 위해 점점 증가하고 있다. 물론 노동감시가 새로운 일은 아니며, David Landes와 같은 기업 역사학자들은 분산된 과제에 근거한 과정의 가능성 보다는 더 나은 감시와 감독을 위해 기계화 이전부터 시작된 공장에서의 노동자들에 집중한 장문의 논문들을 발행해왔다. 포디스트-테일러리스트 기업 모델들은 또한 광범위한 노동 감시에 근거하고 있다.

하지만 정보 기술과 인공지능은 원칙적으로 과거에 생각할 수 없었던 방식으로 광범위하게 노동자들의 행동을 모니터링하고 감시할 수 있도록 함과 동시에 이와 관련된 엄청난 양의 데이터를 수집하고 처리할 수 있도록 하고 있다. 예를 들어, 더 많은 노동자들이 몸에 부착 가능한 작업 도구들을 사용하는데, 이는 그들의 행동과 장소를 분 단위로 등록할 수 있게 하며 그들의 작업 속도는 물론 휴식시간도 기록한다. 사회 관계를 측정하는 배지를 포함하여 착용 가능한 기기를 통한 데이터 수집은 특정한 업무를 수행하는 노동자들의 생산성과 건강을 가늠하기 위해 인공지능을 활용하여 분석되곤 한다. 부착 가능한 것들은 또한 창고 및 노동자들의 다음 업무를 지시하기 위해 일터에서 이용되고 실험되기도 한다. 예를 들어, 아마존 창고의 상품들은 무작위로 쌓여 있다. 아마존의 노동자들은 기술적 도구를 활용하여 다음 물건을 찾고 처리하도록 권고받고 있으며, 해당 시스템은 기업이 자동으로 노동자 개개인의 속도와 효율성을 측정하고 추적하도록 해 준다.

GPS 시스템은 트럭이나 화물차 운전기사 뿐만 아니라 배달 기사들 및 온디멘드 플랫폼에서 일하는 승차 공유 운전자들의 위치와 속도를 모니터링할 수 있도록 한다. 예를 들어, GPS 시스템은 만약 노동자들이 특정한 장소에 모여 있다면 단체 행동을 막거나 대응하는데 쓰일 수 있다. 자동화된 시스템에 의한 감독을 받는 창고의 노동자들과 비슷하게, 플랫폼 노동자들은 앱에 의한 알고리즘으로 다음 일거리를  배정받는데 이는 속도와 노동자가 일을 마치기까지의 근면함을 측정하며, 고객이 노동자에게 매긴 별점(rating)과 리뷰를 고려하도록 되어있다. 알고리즘 기준선 아래의 나쁜 점수나 수행 능력은 노동자들을 플랫폼으로부터 배제시킬 수 있고 그 결과 “해고”상태로 이어질 수 있으며 자영업 상태의 노동자로 만들기 쉽다. 이는 “on-the-road”(이리저리 옮겨다니는) 직종에 국한되지 않는다. 온라인 “프리랜서 시장”의 노동자와 고객의 집에서 일을 하기 위해 플랫폼과 계약을 한 가사 노동자들은 점수 매기는 것과 다음 일을 배정하는데 플랫폼의 알고리즘이 어떻게 작용할지 걱정하며 산다.

이런 관리 체계가 작동하는 방식은 대부분이 절대 투명하지 않으며 기업들은 점수 매기는 것과 노동자들에 대한 고객들의 피드백이 어떻게 모이고 처리되는지 방법을 공유하지 않는다. 점수를 매기는 방식의 관리는 플랫폼 노동을 넘어서 퍼지기 시작했으며 고객이나 식당의 개인 웨이터들에게도 앱을 통해 적용되도록 하고 있다.

증가된 감시 형태가 저임금 직종이나 블루칼라 직업에만 국한되어 있다고 가정해서는 안되는데, 인적 관리(HR) 관행이 ‘알고리즘에 의한 관리’와 ‘전자 성능 모니터링’을 용이하게 하는 인공지능 형태에 의존하여 화이트칼라 직업에서도 광범위하게 사용되고 있기 때문이다. 전자 성능 모니터링(Electronic Performance Monitoring, EPM)은 Phoebe Moore 외에 의해 묘사되어 왔는데, 이는 “이메일 모니터링, 전화 도청, 컴퓨터 내용 및 사용 시간 추적, 비디오 모니터링, GPS 추적”을 포함한다. 해당 연구에 의하면, “생성된 데이터는 생산성 지표, 노동자들의 위치 지표, 이메일 사용, 웹 사이트 브라우징, 프린터 사용, 전화기 사용은 물론 대화중 목소리 톤과 육체적 움직임까지 나타낼 수 있다”고 한다. 이러한 데이터는 “빅데이터: 분석 기구의 사용과 결합되어 이른바 People Analytics 관행의 기초가 되기도 한다. Matthew Bodie, Miriam Cherry 외 가 진행한 이 주제에 대한 선구적인 법률 연구는 다음과 같이 “People Analytics”를 정의한다.

업무 성과에 대한 통찰력을 포착하기 위한 “빅데이터” 사용에 기반한 인적자원관리의 과정 및 방법의 핵심 아이디어는 비정형 주관적 판단이 인재를 평가하거나 인재 정책을 만드는 방법으로 엄격하거나 신뢰할 수 없다는 것이다. 대신 데이터는 일반적으로 양적인 객관적 데이터의 큰 풀로써 인적 자원 공간에서 의사 결정을 위한 기초를 형성해야 한다는 것이다.

따라서 데이터는 광범위한 소스의 집합체로부터 수집 되어야 한다. 예를 들어, 이러한 관행의 최전선에 있는 회사들 중 하나인 Humanize는 웹페이지에 “이메일 및 통화 시간 기록, 보낸 채팅 메시지 수, 회의 기간 등을 측정하여 팀이 실제로 어떻게 작업하는지 패턴을 파악할 수 있다”고 보고한다. 이는 회사가 “메타데이터의 이름이나 콘텐츠가 없다”고 주장하는 것처럼, 반드시 메시지와 채팅의 실제 내용을 조사한다는 것을 의미하지는 않는다.

그럼에도 불구하고, 만일 개인정보에 해당하는 내용이 수집 되지 않거나 효과적으로 익명처리된다고 할지라도, 수집 관행은 매우 침투적이 될 수 있고, 동료들과의 소통의 수준 및 노동자들의 유머(인간성) 예를 들어 “사회 관계적 배지”라고 불리우는 것을 통해 인간적으로 근본적인 것을 추적하는 것에 초점이 맞춰질 수 있다.웨어러블 장치는 노동자들의 위치, 동작 등을 모니터링 할 수 있도록 하며 노동자의 대화를 실제로 녹음하지 않고도 노동자의 분위기를 분석할 수 있다.

인공지능은 재택근무와 스마트워크 배치에서 노동자를 감시하는데도 이용되고 있는데, 이는 노동자들이 전통적인 직장 밖에서 활동을 할 수 있게 해주며, 따라서 보통 더 큰 노동자의 자율성과 관련된다. Crossover같은 회사들은 워크스마트 생산성 도구(Worksmart Productivity Tool)같은 시스템을 판매하는데 해당 시스템은 재택 근무자나 떨어져서 일하는 노동자들의 컴퓨터의 스크린샷을 찍음으로써 감시(monitoring)하며 회사의 웹사이트 설명에 의하면 “키보드 활동, 어플리케이션 활용, 스크린샷, 10분마다 찍히는 웹캠 사진”을 포함한 데이터와 고정된 간격으로 수집되는 데이터를 활용한다. 그런 다음 “모든 시간 카드가 표시되는 로그북과 시간을 어떻게 보냈는지 보여주는 대시보드가 시간 카드의 요약”을 통해 직원 및 관리자에게 공유된다. 다른 회사들은 Interguard 같은 웹 기록과 대역폭 활용률과 같은 데이터를 기록 및 보고하는 웹 필터링 소프트웨어를 판매한다.

비즈니스에서 후원하는 웰니스 프로그램도 직원의 건강 상태를 추적하기 위해 Fitbit과 같은 소프트웨어를 활용한다. 다른 것들 중에서도 이것은 작업시간이 아닐때의 노동자들의 활동과 관련된 정보에 접근할 수 있도록 한다. 근무시간이 아닌 상태의 노동자들의 활동을 감시하는 것도 새로울 것은 없지만 자동차 회사 중에서 노동자들의 라이프 스타일을 추적하기로 유명한 포드의 사회부서를 떠올리게 하기엔 충분하다. 하지만, 일과 생활의 경계가 모호해지고, 개인의 온오프라인 활동으로부터 데이터를 수집할 수 있는 소셜 네트워크, 기술 장치 등 IT 기기 및 디지털 서비스와의 지속적인 상호연계가 가능해짐에 따라, 그것을 정량화 하거나 미리 제한하기 매우 힘들어지고 있다. 소셜 네트워크 활동과 현황 등을 기웃거려 사기를 막기 위한 감시 관행 사례도 언론에 보도됐다. 인터넷에서 수집된 개인 정보는 물론 소셜 네트워크를 통해 입수 가능한 정보가 늘어남에 따라 채용 결정에 점점 더 많이 이용되고 있으며, 종업원에게 소셜 네트워크 비밀번호를 공개하도록 요구하는 관행도 확산되어 미국 18개별 주가 명시적으로 이를 금지하는 법안을 통과시키고 있다.

물론 이러한 모든 관행은 때로는 생산성 향상과 보안 수준 향상과 같은 진정한 비즈니스 요구에 뿌리를 두고 있을 수 있으며, 직원 개개인의 이익에도 기여할 수 있다. 예를 들어, 건강 정보를 분석하는 웨어러블 기기들은 스트레스를 포함한 건강과 안전에 있을 위험을 최소화 하기 위해 적용 될 수 있으며, 사고를 막을 수도 있다. 노동자들은 또한 현장 및 현장 밖 모두에서 업무에 집중하고 활동을 충실히 기록하여 잘못될 경우 부지런히 행동했음을 증명할 수 있도록 도와주는 시스템을 사용하는데 관심이 있을 수 있다. 기업과 노동자는 또한 온라인에서 발생할 수 있는 괴롭힘의 형태뿐 아니라 사기 같은 불법 행위를 예방하는데도 관심을 가질 수 있다. 게다가 People Analytics라고 하는 인적 자원 관행은 인공지능이 감독자의 개별적인 편견을 없애고 보다 객관적이고 중립적인 측정기준으로 대체함으로써 노동력을 보다 효율적으로 관리하는데 도움을 줄 수 있다는 생각에도 바탕을 두고 있다. 결국 인공지능 및 다른 기술적 도구를 활용한 노동 활동의 감독은 반드시 부정적인 것과 관련되어 있다고만 할 수 없다.

하지만 위에서 논의한 관행들은 예를 들어 의료 보험 청구에 근거하여 임신의 의도와 질병 발생 가능성에 대한 데이터에 접근 하는 것을 포함해 극도로 민감한 정보에 접근할 수 있게 함으로써 노동자들의 사적인 생활에 심각한 침해가 되거나 그들의 프라이버시를 실질적으로 침해할 수 있게 된다. 웨어러블 기기와 보안 카메라, 온·오프라인 활동을 등록하고 컴퓨터 스크린샷을 찍는 프로그램도 끝없는 감시 관행으로 변질될 수 있다. 이러한 모델은 인력 성과 육성과는 거리가 먼 스트레스뿐만 아니라 부작용도 유발할 수 있으며 효율성과 생산성의 급격한 저하를 초래할 수 있다.

여기에 더해, 알고리즘과 인공지능에 의한 관리가 필연적으로 보다 객관적이고 편견이 없는 HR 관행을 이끌어 낼 수 있다는 발상은 실질적으로 잘못된 것으로 판명될 수도 있다. 위험은 이러한 시스템이 인간 프로그래머의 편견을 반영하고, 예를 들어, 구직자나 장애가 있는 노동자를 폐기하거나 불이익을 주거나 프로그래머가 가졌던 기대와 다른 특징을 갖는 등 생산성과 업무성과에 관한 아이디어에만 초점을 맞춘다는 것이다. 기술적 기업들의 다양성의 부족은 이러한 현상을 가속화시킬 수 있다. 인공지능에 대한 공식적인 의견 중, EU 경제적 사회적 위원회는 최근 다음과 같이 관찰했다. “인공지능의 발전은 주로 젊은 백인 남성들로 구성된 동일한 환경 내에서 이루어지고 있으며, 무엇보다 인공지능 시스템이 훈련 데이터를 통해 학습하기 때문에(의도적이든 의도적이지 않든) 문화적, 성별적 불균형이 인공지능에 내제되는 결과를 낳고 있다”. 위원회는 데이터가 객관적이라는 정의에 대한 잘못된 인식에 대해 경고했다. 대신, 데이터는 “조작하기 쉽고, 편견이 있을 수 있으며, 문화를 반영할 수 있고, 젠더 및 다른 편견과 선호를 반영할 수 있으며, 오류를 포함할 수 있다”고 했다.

따라서 일터에서의 알고리즘 및 인공지능을 활용한 관리의 위험은 중립적인 결과 및 차별을 줄이는 것과 거리가 멀다는 것이며 차별적 관행을 증가시킬 수 있다는 것이다. 이러한 위험은 매우 일반적인 사전 정의된 결과에 도달 할 수 있도록 자신만의 기준과 지표를 재프로그래밍할 수 있는 자기학습 인공지능을 기반으로 할 때 더욱 위험해진다. 투명성의 결여와 비인간화의 작업의 위험은 더욱 가속화될 것이다.

또한 인공지능 기술에 내재된 생산성과 효율성에 대한 일차원적 기대가 반드시 더 나은 사업 성과로 이어질 것이라고 당연히 여겨서도 안된다. 알고리즘은 예상 사업 수요에 따라 노동력의 수치를 조정하고 이동을 수행하는 적시 근무 관행을 구현하기 위해 자주 이용되곤 하며 따라서 플랫폼 경제의 ‘유력한 용의자’(usual suspect)를 훨씬 뛰어 넘는 업무 패턴의 캐주얼화와 일자리와 소득 불안정에 기여하고 있다. 예를 들어 소매업에 종사하는 노동자들을 대상으로 이뤄진 여러 대학의 연구들은 이러한 알고리즘이 효율성에 대한 매우 제한된 개념에 기초하고 있기 때문에, 따라서 일정상의 불안정성에 관련되어 나타나는 수 많은 숨겨진 비용은 고려하지 않는 결과를 초래할 수 있다는 것을 보여준다.

자동화된 발전의 형태의 종종 간과되는 차원은 인공지능에 의해 촉진되는 노동자들의 기술 발전형 관리가 도입하는 잠재적 역할이다. 섹션2에서 논의된 EU 의회 보고서에서 정의하듯이, 스마트로봇은 “센서를 통한 자율성 확보 및/또는 환경(인터커넥션성)과 데이터 교환을 통한 자율성 확보 능력”과 “환경에 대한 행동과 행동을 적응시키는 능력”을 가진 로봇이다. 피트니스 어플리케이션 및 웨어러블과의 상호작용을 통해 생물학적 데이터를 측정하는 등 직원의 개인 정보를 수집해 생산성을 높이거나 작업 속도나 기타 특징을 작업자의 특정 조건에 맞추는 로봇의 도입이 불가능한 것은 아니다. 이는 위에서 논의한 바와 같이 “인간과 직접적인 물리적 상호작용”을 의미하고 노동자와 작업공간을 공유하는 것을 의미하는 공동 봇’co-bot’에 특히 해당하는 바이다.

알고리즘이나 People Analytics에 의한 관리의 인공지능의 사용은 그 자체로는 중간 관리의 자동화 형태 및 관리적 역할이다. 노동자의 등급을 통해 플랫폼 노동자를 관리하고 규율하는 것은 알고리즘에 의해 촉진된 고객에게 작업 성과 평가를 아웃소싱하는 방법임에 틀림없다. 또한 EPM은 HR과 같은 핵심 비즈니스 기능을 점차적으로 자동화하고 관련 사무직 직종을 대체함으로써 자동화에 의해 심각한 영향을 받을 수 있는 전문가 목록과 변호사, 의사 목록을 추가할 수 있다.

따라서 관리적 관행의 실행은 정책 입안자와 학회의 지대한 관심을 보증하고 프라이버시의 결과, 다양성, 고용은 기업 생산성 못지 않게 주의해서 평가되어야 한다. 웰니스 프로그램을 포함한 가장 선의의 조치조차도 직장에서의 기술 사용에 대한 진지한 반성이 이루어지지 않는 한 디스토피아적이고 온정주의적인 통제의 형태로 변질될 위험이 있다.

EPM 이면의 온정주의는 현장 및 원격 노동자를 위한 모니터링 시스템인 Interguard를 판매하는 회사인 Awareness Technology의 CEO의 이 진술에서 잘 나타난다. “만약 당신이 십대 아들이나 딸을 둔 부모이고 이들이 집에 늦게와서 숙제를 하고 있지 않다면 그들이 뭘 하고 있는지 궁금해 할 것이다. 이는 직원들에게도 마찬가지다.”

직원들을 미성년자 아들이나 딸에 비유하는 것은 새로운 게 아니다. 1884년 Matthew Finkin은 테네시 주 대법원이 자녀에게 쇼핑할 곳을 지시할 수 있기 때문에 고용주에게 쇼핑할 곳을 알려 주는 것에 반대하지 않았다고 회상했다. 가장 첨단의 노동 환경에서 어떻게든 복제된 아주 오래된 주장을 발견하게 된다는 아이러니를 넘어, 경영진이 과도하게 노동자의 자율성과 프라이버시를 압축할 가능성은 고용계약의 구조적인 특징이다. 학자인 Bodie, Cherry 외가 지적했듯이, 규제가 특별히 경영상의 특권을 제한하지 않는 한, “직장 내에서는, 감시에 대한 법적 보호가 없다(…) 모니터링의 필요성은 통제에 기반한 고용에 대한 우리의 법적 개념이란 측면에서 다음과 같다. 고용인은 고용주에의해 통제되는 사람이다.” 그리고 직접적으로 특정한 행동을 고용인에게 지시하는 것은 고용주의 권리이며 “이는 독립적인 계약자로부터 고용인을 분리”한다. 다음 절에서는 법 이외의 사회과학에서 간과되는 고용계약의 이러한 구조적 특징을 검토한다.