박재용의 '4차산업 혁명에 이의 있습니다' - ②쓸쓸한 인공지능의 뒷면
'범용 인공지능'이란 특이점은 올 것인가
현재 우리에게 꽤 친숙한 인공지능 두 가지가 있습니다. 하나는 알파고이고 다른 하나는 파파고입니다. 알파고는 다 아실 터이고 파파고는 네이버에서 개발한 번역 인공지능입니다.
이들의 공통점은 좁은 의미의 인공지능이라는 거지요. 알파고는 바둑만 잘 두고, 파파고는 번역만 잘 합니다. 즉 바둑 잘 둔다고 번역도 똑 같이 잘하는 것이 아니고, 번역 잘 한다고 바둑 잘 두지 못한다는 의미입니다. 이건 어떤 사람은 바둑을 더 잘 두고, 다른 이는 체스를 더 잘 둔다 정도의 의미가 아닙니다. 알파고는 바둑 두는 것 말고 다른 일은 할 수 없다는 뜻이지요. 파파고도 번역 말고 다른 일은 할 수 없다는 의미고요. 이런 인공지능을 좁은 의미의 인공지능이라고 합니다.
우리가 흔히 상상하는 인간이 하는 일을 모두 스스로 학습해서 인간만큼 혹은 인간보다 더 잘하는 인공지능은 이와 다르게 ‘범용 인공 지능’ 혹은 ‘일반 인공 지능‘이라 부릅니다. 인간을 대체하고 혹은 지배하는 초지능은 바로 범용 인공 지능을 두고 하는 말입니다. 이런 인공지능이 나타나서 스스로 자신의 존재 이유를 정하고, 그에 따라 다른 인간을 지배하는 사회가 우리가 그토록 두려워하는 사회지요. 흔히 인공지능을 두려워하는 사람들이 말하는 특이점(singularity)은 바로 이런 범용 인공지능이 탄생하는 시점을 일컫는 단어입니다. 그럼 실제 인공지능을 연구하는 이들은 이를 어떻게 전망할까요?
제가 만나본 그리고 책이나 인터뷰로 접한 인공지능 전문가들은 한결같이 두 가지 모습을 보입니다. ‘정말 그런 걸 만들어보고 싶다.’가 하나고, ‘그러나 거의 불가능하다. 혹은 100년 이내로는 절대 불가능하다.’가 다른 하나입니다. 즉 그런 인공지능을 만들고는 싶지만 현재로는 도저히 안 된다는 거지요. 그들은 지금의 인공지능을 학습하는 딥러닝 등의 방식으로는 절대로 범용 인공지능을 만들 수 없다고 말합니다. 알파고나 파파고 모두 처음 세팅을 하고 데이터만 입력하면 알아서 척척 스스로 배우고 학습하는 것 같지만 실제로는 전혀 아니올씨다라는 거지요. 물론 세팅을 하고 데이터를 집어넣어 학습을 하는 것은 맞습니다. 그러나 세팅을 하고 학습을 시킨 뒤 그 결과를 보고, 세팅 자체를 다시 수정하고, 데이터를 다시 넣고, 다시 결과에 따라 또 수정하고, 학습을 시키는 과정 전체는 결국 사람이 한다는 것이 그 첫 이유입니다.
두 번째는 목표가 무엇이냐에 따라 세팅하는 알고리즘 자체가 완전히 바뀐다는 겁니다. 즉 알파고를 학습시키는 방식으로 파파고를 학습시킬 순 없다는 거지요. 자동차를 만들던 공장에서 선박을 만들 수 없는 거나 마찬가지입니다. 물론 그랜저를 만들던 라인에서 조금 수정을 거쳐 소나타를 만들 순 있지만, 완전히 성격이 다른 텔레비전이나 선박을 만들 순 없다는 거지요. 물론 인공지능 전문가들도 범용적 학습방법을 고민하고 있습니다. 딥러닝도 일정 부분 그런 측면을 가지고는 있습니다. 그러나 현재의 수준으로는 하나의 영역에 특화된 인공지능을 만드는 것에만 전 세계의 내로라하는 과학자들이 떼로 모여들어도 몇 년 씩 걸리는 것이 사실입니다. 바둑에서 세계 정상에 섰던 알파고가 2년도 더 지난 지금도 스타크래프트에서 정상을 차지하지 못하고 있는 현실은 이를 단적으로 보여주고 있습니다.
물론 미래는 속단할 수 없는 일이니까 언젠가는 그런 범용적 인공지능이 나올 수도 있을 겁니다. 그에 대한 우려도 이유가 없는 것은 아니지요. 하지만 당장 우리가 우려해야할 것은 지금 현실화된 ‘좁은 의미의 인공지능’에서 발생하는 문제일 것입니다.
편견에 빠진 인공지능, 소수자를 차별하다
인공지능이 제대로 작동하려면 엄청난 양의 데이터로 학습을 해야 합니다. 그런데 이 데이터가 문제가 됩니다.
가령 인물 사진을 보고 누군지 가려내고 어떤 상황인지 판단하는 이미지 식별 인공지능의 경우 여러 사진을 가지고 학습을 합니다. 그런데 이 인공지능에게 주어지는 사진의 절반 이상이 미국과 영국의 사진입니다. 그래서 백인들의 얼굴은 구분을 잘 하지만 동양인이나 기타 인종의 사진은 잘 구분을 하지 못하지요. 백인이 웨딩드레스를 입고 있는 사진은 ‘결혼식 드레스’ 등으로 인식하지만, 제 3 세계 여인이 고유의 결혼식 복장을 입고 있는 사진에는 ‘행위 예술, 시대극 복식’등으로 인식하는 겁니다. 또 부유한 이들과 가난한 이들을 구분할 때, 범죄자와 일반인을 구분할 때 인종적 편견을 가진다는 지적도 나옵니다. 현재 미국의 오래된 역사적 결과로 백인이 부유한 경우가 많고 흑인들이 가난한 경우가 많고, 이 사실을 사진을 통해서 학습한 인공지능은 백인 사진과 흑인 사진을 그렇게 이해한다는 거지요.
바로 이런 문제가 인공지능의 학습과정에서 비일비재하게 나타나게 됩니다. 이를 연구자들이 수정하고 편견을 바로잡는 과정이 필수적이지요. 즉 ‘인공지능 학습에서의 윤리’문제가 중요하게 대두됩니다. 인공지능이 학습의 시작부터 편견을 가진다면 그 인공지능을 활용한 결과물도 마찬가지고 편견에서 벗어날 수 없는 거지요.
인공지능의 윤리문제는 또 다른 측면에서도 대두됩니다.
2017년 9월 미국 스탠퍼드대 마이클 코신스키 교수 연구진은 사람들의 얼굴을 보고 성적 취향을 알아맞히는 AI 소프트웨어를 개발했습니다. 남성의 얼굴 사진 한 장을 보고 동성애자를 구분하는 실험에서 AI는 81%의 정확도를 보였다고 합니다. 여성은 71%였습니다. 한 인물 당 5장의 사진을 보여주자 남성의 경우 정확도는 91%로 올라갔습니다. 여성은 83%였습니다요. 이 AI는 인터넷 데이트 사이트의 사진 3만 5천여 장과 이들이 직접 밝힌 성적 취향 정보로 학습을 했고, 이를 통해 외모에 나타난 동성애자의 특징을 파악했다고 합니다. 당연히 동성애자 단체로부터 항의가 있었습니다. AI에 의해 강제로 아웃팅을 당하게 된다는 거지요. 동성애자에 대한 차별과 혐오가 아직도 사회 곳곳에 뿌리 깊은데 자신의 의지와 무관하게 동성애자로 밝혀지는 것에 대한 항의였습니다.
얼굴 인식기술은 이미 오래전부터 연구되고 실용화되어왔습니다. 애플과 삼성은 face ID로 스마트폰 잠금 해제를 할 수 있도록 개발 시판했고, 구글은 ‘구글 포토스’ 사진 저장 서비스에서 사람, 장소별로 사진을 분류하고 있습니다. 물론 앞으로 맞춤형 광고에 써먹겠다는 생각이겠지요. 페이스북은 사진을 올리면 얼굴을 인식하고 자동 태그를 달기도 합니다. 네이버, 알리바바, 바이두 등 다른 인터넷 기업들도 마찬가지죠.
문제는 이 얼굴 인식 기술이 개인이 ‘NO!’를 할 수 없다는 것입니다. 지문은 우리가 손가락을 갖다 대야만 찍힙니다. 홍채나 정맥 같은 경우도 마찬가지입니다. 하지만 얼굴은 그렇지 않습니다. 매일 수 억 명이 SNS에 올리는 사진만의 문제가 아닙니다. 아침에 집을 나서서 집에 들어올 때까지 우리는 자신도 모른 채 수많은 CCTV에 노출됩니다. 이 CCTV와 AI가 결합한다면? 상상만 해도 끔찍한 일입니다. 누구도 그런 생각을 하지 않을 거라는 순진한 생각은 마셔야합니다. 미국의 코리 닥터로우가 쓴 ‘리틀 브라더’ (코리 닥터로우 지음ㆍ최세진 옮김, 아작 출판, 2015년 10월 20일 출간)란 소설이 있습니다. 끔찍한 테러가 일어나고, 그 후 (소설 속의 가상 조직인) 국토안보부는 테러로부터 국가와 국민을 보호한다는 미명 아래 헌법을 유린하고 SNS를 조작하며, 선거에까지 개입하려 합니다. 이에 맞서는 고등학생 해커 마커스 얄로우의 활약을 그린 소설인데 국토안보부는 대중교통수단 및 자가용 모두를 추적하고, CCTV를 활용하여 모든 시민의 일거수일투족을 추적합니다.
경찰이 범인 검거를 위해 범죄 현장 주변의 CCTV를 활용하는 것을 우리는 이미 숱하게 접하고 있습니다. 아니 오히려 CCTV가 없어서 범인을 추적하기가 힘들다는 것이 뉴스에 나올 정도입니다. 2017년 6월에 발생한 연세대 폭발물 사건에서 경찰의 브리핑에 실제로 나온 말이죠.
중국에서는 현재 공안(경찰)이 바로 이 인공지능을 이용해 검문검색을 실시하고 있습니다. 안경모양의 안면인식기기를 착용하고 지나가는 사람들을 바라보면, 얼굴의 70% 이상이 찍힌 이들을 인식해서 범죄인 데이터베이스와 대조하는 식으로 작동하는 거지요. 그 외에 어깨에 착용하거나 가슴에 패용하는 형태의 카메라도 있습니다. 중국은 전국에 1억 7000만 개의 CCTV가 설치되어 있고 2020년까지 4억 개가 더 설치될 것으로 보입니다.
이 인공지능을 개발한 업체에 따르면 2억명 중 특정인을 찾는데 몇 초면 충분하다는 겁니다. 하지만 이런 기능을 국가가 범죄 예방용도로만 사용할 리가 없습니다. 중국에서도 분리독립 움직임이 활발한 신장위구르자치구에서는 반체제 인사들을 통제하는데 벌써 이용되고 있습니다. 안면인식을 통해 정해진 구역에서 300m이상 떨어지면 경보를 울리는 거지요.
이런 인공지능으로 국가가 모든 국민을 통제하고 정보를 거머쥐는 일종의 판옵티콘이 만들어질 수 있다는 점은 정말 심각한 문제가 아닐 수 없습니다.
인공지능 때문에 누가 얼마나 직업을 잃는가
그게 어디에 쓰이든 인공지능은 꽤나 유용한 물건-물리적 실체가 있는 건 아니지만-이 될 듯합니다. 그런데 과연 누구에게 유용한 물건일까요? 온통 영화나 애니가 인공지능과의 사랑, 인공지능의 감성을 논할 때 저는 그 인공지능을 파는 이와 이용하는 이를 봅니다. 영화 <HER>에서 테오도르가 인공지능 사만다와 사랑을 하기 위해선 우선 ‘그녀’를 개발하고 판매하는 기업에서 구매를 해야 합니다. 마치 우리가 ‘지니’나 ‘알렉사’ 스피커를 구매하듯이 말이죠. 그러나 실제 세계에선 마이크로소프트의 오피스를 구매하다가 이젠 1년 단위로 대여하듯이, 인공지능도 대여할 것입니다. 이미 IBM의 인공지능 왓슨이 임대 형식으로 제공되고 있으며, 다른 인공지능 서비스도 플랫폼 형식에 기반을 둔 임대서비스를 염두에 두고 사업화되고 있습니다. 요사이는 이를 구독 서비스라 하더군요.
앞으로 각종 영역에 특화된 인공지능 서비스가 등장할 겁니다. 번역, 통역 서비스는 물론이고, 전문 영역의 검색 서비스도 이미 준비 중입니다. 변호사들이 하는 업무 중 가장 많은 시간을 차지하는 일이 기존 판례를 검색하는 것인데 이와 관련한 서비스도 시작되었습니다. 미국의 대형 법무법인 베이커앤드호스테틀러는 2016년부터 인공지능 로스ROSS를 도입했습니다. 로스는 관련 판례 수천 건을 수집해 분석한 뒤 필요한 내용을 골라내는 일입니다. 주로 초보 변호사들이 맡던 업무죠. 우리나라의 법무법인 대륙아주의 인공지능 ‘유렉스’도 비슷한 일을 하고 있습니다. 법원도 예외는 아닙니다. 법원 행정처는 현재 ‘지능형 개인회생파산 시스템’을 구축하고 있는데 2020년에는 전국의 회생ㆍ파산 재판부에 인공지능 기반 시스템 ‘E-로클럭’을 도입하겠다는 계획입니다.
물론 변호사나 판사가 필요 없어질 거라는 뜻은 아닙니다. 재판 관련 업무의 대단히 많은 부분이 단순 서류 작업과 검색인데 이를 인공지능에게 맡기면 빠르고, 싸고, 정확하게 수행한다는 뜻이지요. 따라서 재판 1건 당 필요한 인력 수요가 줄어들 것이고, 그에 따라 더 많은 재판을 하든가 혹은 같은 일을 하는데 필요한 인원이 준다는 겁니다.
자연스레 재판과 관련한 비용도 줄어들 수 있습니다. 법무법인이나 개인 변호사에게 사건을 의뢰할 때 드는 비용은 거개가 인건비와 관련된 것들인데 인건비가 꽤 많이 줄어들 것으로 예상되니까요.
하지만 이 과정에서 ‘누군가’는 직업을 잃게 됩니다. 고소득의 파트너급 변호사가 아니라 제일 아래에서 판례를 검색하고, 서류 작업을 하던 소위 초짜 변호사들이 실직을 하게 되겠지요. 법원에서도 판사가 아니라 판사 밑에서 보조 역할을 하던 사람들이 줄어들 겁니다. 일반 사무직도 마찬가지겠지요. 현재 사무직에 근무하는 사람들은 대부분 아실 겁니다. 자신의 업무 중 진짜 ‘창의적인’ 부분은 들이는 시간으로 보면 적고, 단순 업무가 많다는 걸요. 아래 직급으로 내려갈수록 그렇습니다. 이 단순 업무는 그러나 나름의 노하우가 필요한 것이어서 이때까지 쉽게 자동화되지 못했습니다. 그러나 이제 인공지능은 마지막 단순 업무의 영역을 대체할 준비를 갖추고 있습니다.
서비스직도 마찬가지지요. 시티은행은 2017년 전국 지점 133곳 중 90개를 폐점했습니다. 애초에는 101개를 없애려 했지만 노조의 반발로 그나마 11곳이 살아남았지요. 75%가 사라지고 겨우 25%만 남았습니다. 사라진 지점에서 일하던 은행원들은 고객가치 집중센터에 배치가 되었습니다. 이름이 애매한데 쉽게 말해서 콜센터입니다. 결국 차츰 퇴사하게 되겠지요. 다른 은행의 미래이기도 합니다. 다른 은행도 점점 지점을 줄이면서 전체 직원 수도 줄고 있습니다. 2017년에만 전체 11만 명 조금 넘는 직원 중 3600여명이 줄었습니다. 약 3% 정도가 줄어든 거지요.
가장 중요하게는 은행원이 고객과 직접 얼굴을 맞대야 할 필요가 점점 줄어들고 있기 때문이지요. 저도 은행 직원과 얼굴을 마주친 건 요 10년 내에 많아야 서너 번이네요. 현금의 출납은 ATM이 맡고, 대출이나 계좌 개설 정도가 일반적으로 남은 은행원의 업무인데 이마저도 점차 자동화되고 있습니다. 여기에 인터넷 은행인 카카오뱅크와 K뱅크까지 가세했지요. 그리고 이제 인공지능이 대출심사 영역까지 맡아버리면 정말 은행원이 직접 고객을 만나야 할 이유가 거의 사라지게 됩니다. 물론 프라이빗 뱅킹을 이용하는 아주 돈 많은 고객을 위한 대면 서비스는 오히려 강화됩니다. 이 분들은 은행 입장에서도 소중하니까요.
인공지능은 일반인들의 삶을 좀 더 편하게 만들어주는 효과도 있지만, 가장 큰 수혜자는 인건비를 줄이고, 고객에 대한 맞춤 서비스를 강화할 수 있는 기업이 될 것입니다. 결국 인공지능을 만들고, 이용하는 한 쪽이 있고, 인공지능에 의해 직업을 잃게 되는 다른 한 쪽이 있는 거지요.
한 명의 업무 중 단순 반복 및 검색 등이 차지하는 영역이 적게 잡아서 50% 정도 된다면 회사는 인공지능을 도입하면서 둘 중 한 명에게 나머지 일을 몰아주고 한 명을 퇴사시킵니다. 만약 100명의 사무직이 있던 회사면 인공지능을 도입하면서 40~50명의 인력을 감축할 수 있게 되는 거지요. 평균 연봉과 기타 비용을 따지면 기업에서 절약할 수 있는 금액은 최소 연간 40~50억 정도가 됩니다. 인공지능을 개발하는 것도 아니고, 임대해서 쓰는 것이니, 1년 계약금액이 20억 정도가 된다고 하더라도 기업입장에서는 훨씬 이익이지요. 더구나 인력이 줄면 필요한 사무실도 적어지고, 관리비용도 줄어들게 됩니다. 기업 입장에서는 이는 해도 좋고, 하지 않아도 별반 문제가 없는게 아니지요. 경쟁 기업이 도입해서 비용을 줄이고, 그만큼의 경쟁력으로 단가를 낮추거나 같은 매출에 더 높은 이익을 챙기면 도태될 수밖에 없습니다. 이제 인공지능의 도입은 사활의 문제가 되는 거죠.
기업에서 사활이 걸린 문제니 당연히 피도 눈물도 없는 정리해고가 이어집니다. 해고된 이들은 다른 자리를 알아보겠지요. 그러나 비슷한 업무를 하는 다른 기업들도 마찬가지로 인력을 줄이는 형편일 터, 재취업은 거의 불가능에 가까울 수밖에 없습니다.
이들은 어디로 가야하고, 사회와 국가는 이들에 대해 어떤 대책을 취해야할까요? 전직을 위한 훈련 프로그램, 몇 개월치의 실직 수당이 대책의 전부라면 사실 이들을 내팽개치는 것과 다름 없습니다. 또 이들의 자리를 빼앗은 인공지능을 개발한 회사들에게는 책임이 없는 걸까요? ‘창조적 파괴’란 용어가 있지요. 조지프 슘페터가 처음 쓴 용어죠. 지금은 ‘혁신’이란 그럴 듯한 용어로 대체되고 있기도 합니다. 그 때 파괴되는 것이 단순한 인습, 관행, 제도가 아니라 ‘실직’과 ‘가정 붕괴’로 이어진다면, 원인 제공자에게 뭔가 ‘책임’을 물어야지 않을까요?
