편집자주 :
전 세계적으로 불안정한 노동형태가 확산되면서 독립계약자로 일하는 노동자가 폭발적으로 증가하고 있습니다. 그 중의 하나가 크라우드 워크(crowdwork)입니다. 사전적의미로 Crowd와 Work 결합어로 온라인상에서 불특정한 다수에게 일자리를 열어놓았다는 의미에서 크라우드워크라고 합니다. 현재, 플랫폼노동, 긱 노동 등 용어가 혼재되어 사용되고 있어 혼란스럽지만, 공통적으로 플랫폼을 기반으로 합니다.
아래의 글은 “얼굴에 대한 달러: 머신러닝 모델 뒤에 숨은 인물들을 만나다”라는 제목의 글입니다. 플랫폼회사와 긱 노동(Gig Worker) 사이의 ‘개인정보 마켓’에 관한 내용입니다. 참고로 긱 노동은 1920년대 미국 재즈클럽에서 단기계약으로 연주자를 섭외하고 공연한 것에서 유래했다고 합니다.
Clickworker(클릭워커)는 독일에 본사를 둔 회사로 크라우드 플랫폼에 속하며, 수많은 긱 노동자(독립계약자)들이 속해 있습니다. 기술 기업들은 머신러닝 모델을 학습하기 위해 독일에 본사를 둔 서비스 제공업체를 고용하여 저임금 긱 노동자(Gig workers)들의 셀카와 신분증 사진을 구매하고 있습니다.
Clickworker의 주 수익원은 셀카(웃는 얼굴, 찡그린 얼굴, 놀란 표정)와 신분증 영상 같은 개인정보를 판매하도록 유도하면서 수익을 창출합니다. 머신러닝 개발을 위한 학습데이터가 필요한 고객(기업)을 위한 개인정보 마켓플레이스의 역할을 하는 것이죠. 이렇게 형성된 ‘개인정보 시장’은 법적 사각지대에 있다고 지적합니다.
긱노동자의 인터뷰에서 그들은 개인정보 관련 작업을 하는 것에 불편함을 느끼고 있었으며 결국, 셀카 또는 셀카 영상 한 장당 3-5유로를 받으며 일을 하는 사람은 가장 가난한 사람들이라고 말합니다.
프랑스 국립과학연구센터 파올라 투바로(Paola Tubaro) 교수의 베네수엘라 긱노동자 인터뷰, Clickworker 관리자인 마이오네(Maione)의 Clickworker기업과 클라이언트의 작업자 개인정보처리에 관한 설명, 그리고 필리핀 미디어대안재단 자마엘 제이콥(Jamael Jacob)은 필리핀이 개인정보보호의 사각지대임을 드러내고 있습니다.
특히, 필리핀에서는 개인정보보호법에 따라 자신의 신분증 사진이 누구에게 판매되는지 알권리가 있음에도 고객을 전혀 알지 못했다고 말합니다. 또한, 한 여성이 케임브리지 애널리티카(Cambridge Analytica) 사건 이후 메타(Meta)를 상대로 소송을 제기하려했지만 기각된 점, 개인정보유출이 있었던 우버(Uber)나 외국기업을 상대로 소송을 제기하지도 않은 점 등 필리핀이 개인정보에 대한 불모지임을 지적합니다.
이는 한 국가의 경제상황과도 맞물려 있습니다. 필리핀의 경제상황이 심각한만큼 사람들이 신분증 등 개인정보를 Clickworker와 같은 플랫폼 회사에 제공하는 것에 대해 놀라지 않을 것이라고 말합니다. 그리고 이런 상황을 악용하는 기업에 대해서 비판하고 있습니다. 그리고 되묻습니다. 유럽연합(EU)시민의 개인정보를 Clickworker 같은 회사가 요구한다면 동의하시겠습니까?
번역오류는 policy 골뱅이 jinbo.net 으로 알려주세요.
제목 : 얼굴에 대한 달러: 머신러닝 모델 뒤에 숨은 인물들을 만나다
원문제목 : A dollar for your face: Meet the people behind Machine Learning models
원문링크 : A dollar for your face: Meet the people behind Machine Learning models – AlgorithmWatch
일시 : 2023년 2월 23일
작성 : Josephine Lulamae(조세핀 룰라매)/ AlgorithmWatch
기술 기업들은 머신러닝 모델을 훈련하기 위해 독일에 본사를 둔 서비스 제공업체를 고용하여 종종 권리를 무시당하는 저임금 긱 노동자(Gig workers)들의 셀카와 신분증 사진을 구매하고 있습니다.
가족을 부양하기 위해 부업을 찾고 있던 M은 Clickworker(클릭워커)를 발견했습니다. 그녀는 필리핀에서 신분증 사진 두 장을 보내면 미화 1달러를 받을 수 있다는 제안을 받았습니다. 그녀는 의심스러웠습니다. 첫 번째 사진을 업로드한 후 링크가 만료되었기 때문입니다. “이 작업이 유효한지 모르겠습니다.”라고 그녀는 웃는/땀 흘리는 이모티콘(😅)을 추가하며 글을 썼습니다. 그녀는 대가를 받지 못했습니다.
지난 몇 달 동안 약간의 여분의 돈을 벌기 위해 Clickworker에서 일해왔다는 A씨는 신분증 인식을 하는 앱을 훈련시키는 위해 정부 신분증 사진을 보내달라는 요청도 받았다고 말합니다. 그는 그렇게 하지 않았습니다. “필리핀에서는 사기가 끊이지 않기 때문에 개인 신분증을 보내지 않는 것이 당연한 것”이라고 그는 말합니다. (M과 A는 이 기사에서 실명을 밝히지 말아 달라고 요청했습니다.)
개인정보 마켓플레이스
Clickworker(클릭워커), Amazon의 Mechanical Turk(아마존 메커니컬 테크), Appen(아펜)과 같은 앱은 머신러닝 모델을 개발하는 고객을 위해 데이터 라벨링과 같은 작업에 대해 몇 센트를 받는 긱 노동자, 즉 ‘마이크로 워커’를 모집합니다. 최근 몇 년 동안 Clickworker의 초기 작업 중 일부(카피라이팅, 제품 분류)는 점점 더 자동화되고 있습니다.
뉴욕과 독일 서부의 대도시 에센에 지사를 두고 있는 Clickworker의 주요 수익원은 셀카(웃는 얼굴, 찡그린 얼굴, 놀란 표정) 또는 ID카드 영상과 같은 개인정보를 판매하도록 유도하는 것입니다. 실제로 “초기 경쟁사 대부분은 이제 인공지능(AI) 학습 데이터에 집중하고 있습니다.”라고 Clickworker의 마케팅 매니저인 이네스 마이오네(Ines Maione)는 말합니다. “사람의 훈련(학습)데이터는 그렇게 빨리 대체할 수 없기 때문에 미래에 대비할 수 있습니다.”
프랑스 국립과학연구센터의 파올라 투바로 교수는 Clickworker(클릭워커)와 Appen(아펜)과 같은 플랫폼으로 인해 이제는 “개인데이터 시장”이 생겨났으며, 이는 법적 사각지대에 존재한다고 말합니다. 셀카 또는 셀카 동영상 한 장당 3~5유로를 벌 수 있습니다. 노화를 인식하기 위해 얼굴인식을 훈련하기 위해 시간이 지남에 따라 찍은 셀카를 요청하는 작업의 경우 가격이 약간 더 높아질 수 있습니다.
작업자 의심
투바로(Tubaro)는 지난 몇 년 동안 베네수엘라에서 클릭워커와 마이크로워커를 통해 일자리를 구한 사람들을 인터뷰했습니다. 그녀는 인터뷰한 사람들 중 일부는 개인정보와 관련된 작업을 하는 것에 불편함을 느꼈다고 말합니다. “결국 이런 일을 하게 된 일부 노동자들은 5달러를 받는 일을 거절할 수 없는 가장 가난한 사람들입니다.”라고 그녀는 말합니다.
베네수엘라 국민은 적어도 2010년부터 높은 인플레이션과 심각한 경제 위기로 고통받고 있습니다. 월 최저임금은 월 3~5달러까지 떨어졌습니다. “한 남자가 나에게 말했습니다: 30분 동안 셀카를 찍어주면 5달러를 벌 수 있다고 해서 그렇게 했습니다.”라고 투바로는 회상하며, “다른 상황이었다면 그렇게 하지 않았을 것이라고 덧붙였습니다.”라고 말합니다.
또 다른 사례로, 한 남성은 투바로에게 셀카를 업로드하는데 동의한 사람을 알고 있는데 나중에 어떤 웹사이트의 광고에서 자신의 얼굴을 발견하고는 사진을 삭제하기 위해 여러 차례 연락을 취해야 했다고 말했습니다. “그 이야기가 사실인지는 모르겠습니다.”라고 투바로는 말합니다.” 하지만 온라인 포럼에서 직원들끼리 이 문제를 논의하지 않았을 것이기 때문에 이 문제는 분명 직원들이 우려하고 있는 사안입니다.
익명의 고객
지난 여름, 독일 이민난민청 BAMF는 논란이 되고 있는 방언(사투리) 인식 소프트웨어를 훈련하기 위해 음성 녹음에 클릭워커(Clickworker)를 사용한다고 밝혔습니다. 클릭워커(Clickworker) 매니저인 마이오네는 “[BAMF]가 우리에게 [개인정보 제공을] 요청했을 가능성이 매우 높습니다.”라고 말합니다.
누가 고객이 될 수 있나요? Clickworker에서는 모든 회사 및 교육기관이 개인정보를 구매할 수 있습니다. 기술 회사에서 “10년에 걸친 일련의 인물사진”를 요청할 수도 있습니다. 이 경우 공식적인 사진인지 확인해야 한다고 마이오네는 말합니다. 또한 고객은 “크라우드 워커의 개인정보를 인공지능(AI) 학습에만 사용하겠다”고 약속하는 계약서에 서명해야 합니다. (그리고 다른 누구와도 개인정보를 공유하지 않겠다고). 종종 Clickworker는 모델이 어떤 제품에 사용될지 모릅니다. 투바로에 따르면 머신러닝 공급망은 너무 길어서 고객도 모르는 경우가 많다고 합니다.
한 번은 고객이 양로원에 있는 노인들의 사진을 요청했습니다. Clickworker는 현실적인 이유로 이 작업을 거절했습니다. 마이오네는 “양로원에 가서 사진 몇 장만 찍어달라고 할 수는 없습니다.”라고 말합니다. “우리 회사에서 일하는 모든 직원은 18세 이상이기 때문에 아기 사진도 제공할 수 없습니다.”라고 마이오네는 말합니다. 윤리적 이유로 누드 사진도 요구하지 않는다고 마이오네는 덧붙입니다. 포르노도 마찬가지입니다. “우리는 클릭워커의 권리를 침해하는 어떠한 요청도 받아들이지 않습니다.”
고객들은 Clickworker 웹사이트에 자신이 소개되는 것을 거의 원하지 않습니다. 또한 일반적으로 작업자가 자신이 누구인지 알기를 원하지 않습니다. 마이오네는 “그렇게 되면 수천 명의 사람들로부터 질문을 받게 될 테니 무척 혼란스러울 것”이라고 설명합니다.
예를 들어, 누락된 결제에 대한 질문이 있을 수 있습니다. 또는 작동하지 않는 작업에 대한 질문. EU의 개인정보보호법 GDPR에 따라 노동자는 고객이나 Clickworker에 개인정보 삭제를 요청할 수도 있습니다. (하지만 투바로는 GDPR이 무엇인지 모르는 유럽 외 지역의 사람들에게는 “이 보호 기능이 실제로 존재하지 않는다”고 말합니다.) Clickworker는 이러한 문제를 해결해야 합니다: 마이오네는 “고객을 위한 우리의 서비스는 모든 것을 처리하는 것입니다.”라고 말합니다.
만약 노동자가 인터넷 어딘가에서 자신의 사진을 발견하고 Clickworker에 연락하면 “우리는 고객을 고소하고 법적 조치를 취하고 있다고 말해야 할 것입니다.”고 마이오네는 말합니다. 아직 그런 사례는 없었다고 마이오네는 덧붙입니다: “다행이죠.”
개인정보보호 권리 시행
필리핀에 본부를 둔 미디어 대안 재단의 법률 및 정책 고문인 자마이엘 제이콥은 이러한 ‘익명 고객’ 접근방식을 다음과 같이 설명합니다: “마치 에어비앤비(Airbnb)처럼 집을 빌리는 사람들에게 집의 실제 주인이 누구인지 알려주지 않는 것과 같습니다.” 예를 들어 고객이 개인정보 유출 사고를 겪어 마이크로워커의 개인정보가 유출되면 어떻게 될까요? “그들은 자신의 정보가 유출로 인해 영향을 받았다는 사실조차 알지 못할 것입니다.” 고객이 비윤리적인 관행에 연루된 경우에는 어떻게 하나요?
제이콥은 이렇게 덧붙입니다: “적어도 개인정보는 상품에 가깝기 때문에 개인정보 주체를 노동자라고 부르는 것조차 정말 어렵습니다.” (Clickworker에서는 마이크로워커를 ‘군중’ 또는 밝은 사람의 그림자를 형상화한 회사 로고에 빗대어 ‘다채로운 군중’이라고도 부릅니다.)
해외 기업에도 적용되는 필리핀 개인정보보호법에 따라 필리핀의 크라우드 워커는 자신의 신분증 스냅 사진이 누구에게 판매되는지 알 권리가 있습니다. 필리핀 신분증 사진을 찍고 싶지 않다는 S. 씨는 과거에 Clickworker 업무를 위해 셀카를 찍을 때 고객의 이름을 볼 수 없었다고 말했습니다. 잠재적으로 필리핀 개인정보보호 당국이 Clickworker를 조사할 수 있습니다.
그러나 작년에 한 여성이 케임브리지 애널리티카 스캔들(수백만 명의 필리핀인이 관련 데이터세트에 포함됨) 이후 메타를 상대로 소송을 제기하려 했을 때, 당국은 해당 여성이 페이스북의 잘못에 대한 증거를 직접 제시하지 못했다는 이유로 소송을 기각한 바 있습니다. 또한 많은 필리핀 운전자에게 영향을 미친 개인정보 유출 사고가 발생했던 Uber나 다른 외국 기업을 상대로 소송을 제기하지도 않았습니다.
조사를 위한 자원이 부족합니다. 로드리고 두테르테 전 대통령 하에서는 개인정보보호에 대한 지식이 있는 전문가를 임명하지 않았습니다. 그리고 새 개인정보보호 부위원장의 두드러진 유일한 자격요건은 현 대통령 페르디난드 마르코스 주니어의 부인의 로펌에서 일한 적이 있다는 것뿐입니다. 제이콥은 “간단히 말해서 우리는 여전히 개인정보보호 기관이 취약합니다.”라고 말합니다. 그는 개인정보보호 기관이 처음 설립되었을 때 그 기관의 일원이었습니다.
착취
현재 필리핀의 경제적인 상황이 심각한만큼, 제이콥은 사람들이 정부에서 발급한 신분증과 같은 개인정보를 Clickworker와 같은 플랫폼에 제공하는 것에 대해 놀라지 않을 것이라고 말합니다.
“그리고 이런 상황을 이용하는 기업들에 대해 할 말이 있다고 생각합니다.”라고 그는 말합니다. “거기에는 어느 정도의 착취도 있습니다. EU 시민, 독일 시민이 이러한 정보를 회사가 요구하는 것에 동의할 것이라고 생각하십니까?”
마이오네는 “국가와 인종에 따라 원하는 사진을 정확히 말하는” 고객들의 압력에 시달리던 독일과 미국에서 더 많은 사람들이 자신의 셀카나 동영상 업로드에 동의하도록 하기 위한 캠페인을 6개월 전에 시작했다고 말합니다. 마이오네는 지금까지 독일과 미국의 마이크로워커들은 대부분 이런 유형의 작업을 거부했다고 말합니다.
마이오네는 셀카 촬영에 대해 모든 사람이 똑같은 보수를 받는 것은 아니라고 말합니다. “전 세계의 사진이 필요하고 극단적인 예로 스위스 사람이 필요하다는 것을 알고 있다면, 그렇지 않으면 데이터를 얻을 수 없기 때문에 그들(가상의 스위스인)에 대한 가격을 정할 수 있습니다.”
