2018년 1월 7일 일요일

독서 기록 - 전문가의 독재(The Tyranny of Experts) 및 대량살상 수학무기(Weapons of Math Destruction)

내가 즐겨 읽는 책은 바로 이런 부류의 것들이다. 요즘은 여기에 더하여 소설책을 읽으려고 노력하는 중이다.


전문가의 독재(The Tyranny of Experts)

  • 윌리엄 이스털리(링크) 지음
  • 김홍식 옮김
'빈 서판(書板; 라틴어 tabula rasa, 영어로는 blank slate)'이라는 개념이 있다. 종이와 펜이 귀하던 시절, 학생들은 수업시간에 서판에 글씨를 쓰고 지우고를 반복했을 것이다. 빈 서판 이론은 인간의 본성은 타고난 것이 적다는 철학적 이론이다. 즉 깨끗이 닦인 빈 서판에 글씨를 쓰듯이 교육을 통해서 인간에게는 그 어떤 생각이든 가르칠 수(주입할 수) 있고 또 어떤 사람이든 될 수 있다는 뜻이다. 경제발전으로 가난한 나라를 일으켜 세우는 것도 빈 서판에 글씨를 써 내려가듯이(역사적·지리적 맥락을 무시하고) 가능하다는 것도 이 이론에 바탕을 둔 것으로 본다. 즉 테크노크라트(기술관료)적 접근 - 전문가들이 문제점을 진단하고 빈곤 해결을 위한 방안을 수립하여 정부는 이를 강력하게 추진 - 이 반드시 필요하고 그 과정에서 어느 정도의 '인자한 독재자(우리에게는 박정희라는 사례가 있다)'가 능력을 발휘한다는 것이 일반적인 믿음이다. 그러나 저자 이스털리는 이것은 일종의 환상이며, 가난한 나라에 부족한 것은 기술이나 정책이 아니라 개인의 권리라는 것을 주장하고 있다.

부유한 서방 세계에서 20세기 초반 가난한 나라에 대한 원조가 시작된 것은 보편적인 인권 개념과는 무관한 것이었다. 동아시아에서 존재했었던 '인자한 독재자'에 의한 경제적 발전은 허구이다. 국가의 중요성을 부정하는 것은 아니지만, 가난한 자들의 권리를 신장시키는 것이 경제적 번영을 일구어 나가는 근본적인 요인이 된다는 것이다.

빈곤이 전문적인 능력의 부족에서 비롯된다고 믿는 테크노트라트적 환상은 새로운 권력과 정당성을 자연스럽게 국가에게 안긴다. 그러나 기술적 문제는 빈곤의 여러 <증상> 중 하나이지, 빈곤의 <원인>이 아니며, 빈곤의 원인은 정치적, 권리적 권리의 부재라는 것이 이 책의 일관적인 주장이다.

15세기 중반까지만 해도 유럽보다 우월한 삶을 영위했던 중국은 왜 그 후에 몰락하였나? 똑같은 식민지였으면서도 왜 북미와 남미는 이렇게 다른 길을 걸어가게 되었나? 현재의 경제적 번영은 개방과 국외 무역을 중시하고 엘리트의 독식 구조를 타파하며 개인의 권리를 위해 오랜 기간 투쟁해온 공동체·나라들의 손에 돌아갔다는 것을 역사가 증명하고 있다.

이 책은 특히 탐욕스런 자본주의의 정신의 지주로 일컬어지는 애덤 스미스의 인용문은 실제로 가장 잘못 이해되고 있는 것이라고 하였다(p.375~).
개인들은 최대한 많은 가치를 생산하려고 부단히도 자기 일에 주력한다. 자신의 이득만을 보고 하는 일이지만, 다른 많은 일에서도 그렇듯 개인은 이런 식으로 보이지 않는 손에 인도되어 자신이 전혀 의도하지 않았던 목적에 기여하게 된다. 그가 의도하지 않아다고 해서 꼭 사회에 나쁜 것은 아니다. 사람들이 공익에 기여하기를 바랄 때보다, 오히려 그런 생각 없이 자신의 이익을 추구하는 바로 그 행위가 공익에 더 효과적으로 기여할 때가 많다.
이 인용구에 대한 가장 큰 오해는 스미스가 <탐욕은 좋은 것>이라고 생각했다는 것이다. 하지만 그는 독점의 폐해를 분명히 지적하였다. 스미스가 주장한 자유 시장은 기존의 상인을 더 부자가 되게 만들자는 것이 아니라 그들의 독점권과 특권을 박탈하여 그들의 부를 줄이자는 것이었다. 그가 주양한 자유 무역은 빈곤층을 위한 저렴한 식량의 수입을 촉진하여 그러한 거대 지주들을 약화시키는 것이었다(p.377).

이 책의 2장에서 소개한 프리드리히 하이에크와 군나르 뮈르달에 대한 공부가 숙제로 남았다. 아울러서 진정한 '자유'와 '권리'란 무엇인지에 대해서도 말이다. 특히 우리나라만큼 자유주의의 의미가 왜곡되어 쓰이는 곳도 흔치는 않을 것이다.

대량살상 수학무기(Weapons of Math Destruction)

수학이라는 멋진 도구를 현실 세계에 반영한다는 것은 '더 멋진' 일이 아닐 수 없다. 그러나 이 도구가 자본에 종속되어 사람들의 권리를 침해하고 약탈자로 둔갑하기 시작하였다. 그럼에도 불구하고 우리나라에서는 공공 데이터(요즘 유행하는 빅데이터)를 이용하여 비즈니스 기회를 창출하지 못하면 제4차 산업혁명시대에 당장 뒤쳐질것이라는 불안감을 이용한 마케팅이 횡행하고 있다.

방대한 분량의 데이터를 분석하여 지혜로운 판단을 내리려는 것은 매우 합리적인 행동이다. 이 과정에서 수학과 인공지능이라는 기법이 필수적으로 쓰인다. 이를 위해서는 데이터를 이용하여 어떤 수학적 모델(모형)을 만드는 것이 필요하다. 서두에서 저자는 다음과 같이 분명하게 밝혔다.
우리는 개인이든 기업이든 누가 모형을 만들었는지, 그리고 개발자가 모형을 통해 성취하려는 목표가 무엇인지 알아야 한다.
개인은 저마다 다 다르다. 인간의 뇌는 이를 적당히 구분짓는 놀라운 능력을 갖고 있다. 아마 이것은 맹수에 쫓기고 야만인의 위협을 받던 오래 전에 진화적으로 만들어진 능력일 것이다. 내가 생활자금이 부족해서 금융권으로 대출 심사를 받으려고 하는데, '당신은 이러이러해서 부적격자이므로 대출이 불가합니다'가 아니라 '당신은 우리가 수집한 정보에 의하면 이러이러한 세부 그룹에 속하는 사람이고, 그 그룹은 대출금을 상환할 능력이 없다는 것이 우리의 판단이니, 대출이 불가합니다'라는 판정을 받는다면?

이 책은 수학이라는 도구 자체를 불신하는 것은 아니다(제목만 보면 오해를 하기 쉽다). 요리사의 손에 들린 칼과 강도의 손에 들린 칼이 그 의미가 다르듯이, 도구를 쥔 자가 어떤 의도를 갖고 있는지를 중요시해야 한다. 피터 드러커가 이런 말을 했다고 한다.
If you can't measure, you can't manage. (측정하지 못하면 관리하지 못한다 - 즉 개선할 수 없다)
이것에 대한 반론(fobes에 실린 글 - 나중에 읽어보자)도 물론 존재한다.

우리는 모두 측정과 줄 세우기의 노예가 되었다! 교육 예산이 부족하니 무능한 교사를 퇴출하기 위해서, 연구 예산이 부족하니 불량한 과제를 자르기 위하여, 기업의 경영상태가 부실하니 저성과자를 내보내기 위하여, 신입사원 50명을 뽑는데 2,000명이 원서를 냈으니 이중에서 적합한 자를 사전 선별하기 위하여...

생존권이 달린 문제를 놓고 누군가는 이들을 줄을 세워 잘라야 한다. 하지만 뒷말이 없는 공정한 기준을 만드는 것 자체가 힘들고, 선정 과정에 들여야 할 노력도 엄청나다. 이를 위해서 나름대로 정교하게 만들어졌다고 주장하는 수학적 모델을 도입하는 것으로 면죄부를 주려한다. 그러나 이러한 수학적 모델이 이용하는 변수들은 불완전하고, 변수를 수집하는 과정에서 인권 침해의 여지가 다분하고, 알고리즘도 완벽하지 않으며, 영업 기밀이라는 이유로 공개는커녕 피드백도 허용하지 않는다. 과거에 인기를 끌었던 비과학적 골상학에 디지털이라는 기술을 입힌 것에 불과하다. 이 책에서는 이와 관련한 많은 사례를 소개하였다.

이 책의 223쪽에 나온 사례를 소개해 보겠다. 뱅크오브아메리카에서는 팀별 생산성의 차이가 나는 이류를 알기 위해 직원들에게 socio-metric batch를 6주간 착용하여 그들의 동선과 어조 및 제스쳐를 16 밀리초 간격으로 측정하였다. 그 결과는 놀라웠다. 동료간의 대화가 많은 팀이 고객의 요구에 가장 신속하고 효율적으로 반응했다고 한다. 만약 근무태도에 대한 일반적인 수학 모형을 만든다면 동료와 대화하는데 많은 시간을 들인 사람은 단순히 노닥거리면서 시간을 낭비한 사람으로 낙인을 찍게 될 것이다.

빅데이터를 이용하면 헬스케어 또는 웰니스 분야에서 엄청난 사업 기회가 생길 것이라고 많은 사람들이 기대를 한다. 그러나 이것도 프라이버시 침해와 강제성 문제가 생길 수 있다. 어렵사리 직업을 구한 뒤 정식으로 입사하기 전에 건강검진을 받는 것을 요즘은 당연한 것으로 생각하지만, 조금만 다른 방법으로 생각해 본다면 이것은 또 다른 차별적 요인일 수도 있는 것이다.

337쪽의 결론 부분을 이용하는 것으로 독서 기록을 마치고자 한다.
데이터 처리 과정은 과거를 코드화할 뿐, 미래를 창조하지 않는다. 미래를 창조하려면 도덕적 상상력이 필요하다. 그런 능력은 오직 인간만이 가지고 있다.
(339쪽) 2008년 금융시장이 붕괴한 이후에 금융공학자 이매뉴얼 더만과 폴 윌모트는 실제로 모형 개발자를 위한 히포크라테스 선서를 작성했다.

  • 나는 내가 세상을 만드는 것이 아니며, 세상이 내 방정식을 따르지 않음을 명심하겠습니다.
  • 나는 가치를 추산하기 위해 모형을 대담하게 사용할지언정, 수학에 지나치게 감동받지는 않겠습니다.
  • 나는 이유를 설명하지 않고는 우아함때문에 현실을 결코 희생시키지 않겠습니다.
  • 나는 내 모형을 사용하는 사람들이 그 정확성에 대한 거짓된 위안을 갖도록 하지 않겠습니다. 대신에 나는 모형에 이용된 가정과 간과된 점들을 분명히 밝히겠습니다.
  • 나는 내 일이 사회와 경제에 지대한 영향을 끼칠 수 있음을, 그런 영향의 상당 부분이 나의 이해 수준을 능가하는 것임을 명심하겠습니다.

댓글 없음: