편집자주 : 이른바 ‘4차 산업혁명’을 미래 먹거리로만 본다면 시민과 노동자의 권리는 양보할 수 밖에 없습니다. 특히 정보·수사기관의 미래 신기술 사용을 어떻게 민주적으로 통제하여 국민의 인권을 보장할 것인지에 대해서 우리 사회의 논의가 매우 빈약합니다. 미국이 오바마 대통령 시절 발간한 빅데이터 보고서들 중에서는 빅데이터와 시민권의 문제도 다룬 바 있습니다. 전체 보고서 내용을 간략히 요약한 팩트 시트를 번역 소개합니다.
번역오류는 della 골뱅이 jinbo.net 으로 알려주세요.
[요약] 큰 위험, 큰 기회 : 빅데이터와 시민권의 교차지점
- 최근 백악관 빅데이터 보고서는 공정과 기회를 향한 경로를 세웠다. 동시에 알고리즘 시스템에 의한 편견과 차별의 재부호화 또한 경고했다.
이전의 구입 결정을 반영한 맞춤 광고. 학위와 사회관계망에 기반한 맞춤 구인공고. 대학 입학 및 재정 지원을 예측하는 정보 다발. 대출이 필요하십니까? 그런 앱이 여기 있습니다.
기술이 진보하고 경제, 사회, 시민적 삶이 점점더 디지털화할수록, 우리는 대단히 중요한 윤리적 질문을 맞닥뜨린다. 빅데이터와 관련 기술은 추정을 재고하고 대신 데이터주도형 결론을 내릴 수 있는 거대한 새로운 기회들을 창출한다. 적절하게 활용될 때 빅데이터는 오랜 세월 계속된 편견을 극복하고 차별을 뿌리뽑는 도구가 될 수 있다.
동시에 빅데이터 시대는 위기로 가득차 있다. 데이터를 정보화하는 알고리즘 시스템은 무오류가 아니다. 이는 불완전한 입력, 로직, 개연성, 자신을 설계하는 사람들에 의존하고 있다. 성공예측기는 진입장벽이 될 수 있다. 신중한 마케팅이 스테레오타입에 뿌리박혀 있을 수 있다. 세심한 돌봄 없이는, 이 혁신은 손쉽게 차별을 고착시키고 편견을 강화하고 기회를 은폐할 수 있다.
기술 혁신이 거대한 기회이자 거대한 위기이기 때문에, 백악관은 대화를 촉진하고 이 중요 이슈를 진전시키려는 취지에서 빅데이터에 대한 몇몇 보고서를 발간한 바 있다. 데이터 분석에 대한 이전 보고서 주제들은 프라이버시, 시장 가격, 소비자 보호법을 포괄하였다. 오늘은 빅데이터에 대한 마지막 보고서를 발표한다. 이 보고서는 알고리즘 시스템, 기회, 시민권에 초점을 맞추었다.
첫번째 빅데이터 보고서는 “자동화된 결정에서 차별의 잠재적인 재부호화”를 경고하였다. 차별이 “빅데이터 기술이 조직되고 사용되는 방식이 낳은 의도치 않은 결과물”일 수 있다는 것이다. 이런 위험을 이해하고 선한 방향으로 기술을 활용하려는 책무는 우리로 하여금 특히 빅데이터와 시민권 간의 교차지점을 조사하게끔 촉진했다.
오늘 발표하는 보고서는 신용 대출, 고용, 고등교육, 형사처벌 등에 대한 사례 연구를 검토하면서, 어떻게 빅데이터 기술이 편견을 감지하고 차별을 방지하는데 사용될 수 있는지 서술하였다. 또한 보고서는 특히 기술이 세심하거나 의도치 않게 차별을 영속시키고, 악화시키고, 은폐하는 방식에서 수반되는 위험을 서술하였다.
보고서의 목적은 빅데이터가 제기하는 이슈에 대해 구제대책을 제시하는 데 있지 않다. 그보다는 기술자들, 학계, 정책담당자, 시민 등 간에 이 이슈를 규명하고 대화, 연구, 때로는 행동을 촉진하는 데 있다.
보고서는 이 새로운 데이터와 윤리 분야를 진전시키기 위해 몇가지 권고를 포함하였다. 기술 리더십을 확장하고 다양화하는 연구에 투자하고, 상호교육에 투자하고, 데이터 차별에 대한 리터러시 확대에 투자할 것과, 책임을 강화할 것과, 정부와 민간 부문 모두 사용 기준을 신설할 것 등이다. 보고서는 또한 컴퓨터 및 데이터 과학 프로그램과 전문가들에 대해 책임감 있고 윤리적인 데이터 사용에 대한 전반적인 책무의 일부로서 공정성과 기회를 증진할 것을 요청했다.
오늘날 빅데이터는 이를 어떻게 사용할 것인지에 대한 질문을 제기한다. 시민권과 기회를 증진시킬 것인가 아니면 이를 잠식할 것인가. 백악관은, 연방정부가 시민권과 기회를 증진하기 위해 기술을 사용하는데 앞장서게끔 깊이 전념하고 있다. 이런 노력의 한 가지 사례로서, 정부가 모든 시민들에 접근가능하고 이용자 친화적이 되게끔 정부내 첨단 기술과 기법의 사용 분야에 데이터 과학자를 고용하려고 계속 노력해 온 것을 들 수 있다. ‘기회 프로젝트’는 이에 대한 가능성을 보여준 사례이다. 이 프로젝트는 자신들이 필요로 하는 자원에 대한 정보를 검색할 수 있도록 가족, 공동체, 지역의 리더에게 데이터와 디지털 툴을 제공하였다.
기술을 선하게 이용하는 것에 관심이 있다면, 올바르게 방향을 잡은 것이다. 우리가 오늘 발표하는 보고서는 기술을 통해 기회를 창출하려는 백악관 업무의 단편일 뿐이다. 더 많은 참고를 위해서는 ‘모두를 위한 컴퓨터과학’, ‘STEM 이미지’, ‘테크하이어’를 살펴보시라. 또한 AI와 머신러닝을 주제로 올해 봄과 여름에 개최될 일련의 공개토론회에 참여할 것도 권한다.
