리더 없는 인공지능(AI)은 끔찍한 재앙

순전히 우연의 일치거나 AI의 어떤 추론 기능이 작동한 결과겠지만 실제로 겪어보면 ‘SNS 귀신이 마음까지 꿰뚫어보며 24시간 나를 감시하나’ 싶어 오싹해진다.AI가 우리 곁에 불쑥 다가온 것은 2016년 3월, 6년 전이다. 바둑 명인 이세돌과 AI프로그램 알파고(AlphaGo)가 서울에서 세기의 대결을 벌였는데 5전 1승 4패로 인간 이세돌이 지고 말았다. 

그때까지 전문가들은 장기, 체스와 경우의 수가 비교불가인 바둑만큼은 컴퓨터가 인간을 절대 이길 수 없다고 했다. 딥러닝(Deep Learning)이 세상에 모습을 드러내는 순간이었다.『인공지능은 무엇이 되려 하는가』를 기획한 존 브록만(John Brockman)은 국내로 치면 ‘삼성 세리’(SERI) 같은 온라인 지식살롱 ‘엣지’(edge.org)를 설립한, 역량 출중한 지식개발 선구자다. 그는 “500년 전의 위대한 미개척지는 지식이었다. 

오늘날 미개척지는 프로그래밍”이라며 AI기술의 비약적 발전이 쿠텐베르크 금속활자나 지구 공전을 확인한 코페르니쿠스 대전환을 능가하는 혁명임을 탐구한다. 동시에 국제 뉴스 메이커인 테슬라의 일론 머스크, 천재 물리학자 스티븐 호킹 등 선지자들이 AI의 심각성을 경고했다는 사실도 함께 탐구한다. 

중요한 것은 후자다.‘빅 브라더(Big Brother)’가 인류를 통제하는 조지 오웰의 소설 『1984』나 헉슬리의 가상소설 『멋진 신세계』처럼 AI가 인류를 돕는 것을 넘어 지배할 수도 있다. 사이버네틱스(Cybernetics) 창시자 노버트 위너의 “미래 세계는 결코 인간을 섬기는 로봇 노예가 대기하는 편안한 해먹 위에 있지 않다”는 경고가 현실이 된 지금이야말로 ‘AI가 무엇이 되게 해야 하는가’에 대한 진지한 지구 차원의 성찰이 필요하다는 것이 존 브록만과 스티븐 핑거를 비롯한 석학들의 호소다.

AI경찰로봇이 순찰 중 흉악범죄를 저지른 수배자 신체 정보와 99% 일치하는 혐의자를 발견, 프로그래밍에 따른 자체 판단으로 현장에서 저격할 경우 1%의 오인사격은? 100% 일치하는 혐의자가 어린 아이를 안고 있는데도 저격을 한다면? 이런 예는 비록 낮은 수준의 AI 담론일 뿐 스스로 계산하고 판단하는 AI가 끝내 인간을 치명적으로 위협하는 지점이 현재 우리 곁에 와 있기 때문이다.아인슈타인이 그토록 아름다운 명제 을 발견했을 때만 해도 원자폭탄이 히로시마와 나가사키를 초토화시키고, 인류를 백 번은 멸망시키고도 남을 핵폭탄이 지구 곳곳에 깔리게 될 줄은 상상도 못했을 테니 말이다.

▲<인공지능은 무엇이 되려 하는가> 존 브록만 엮음 / 스티븐 핑커 외 지음 / 김보은 번역 / 프시케의숲 펴냄