AI와 테러, 돌발사태 예측

[이일환의 情(정보의 눈으로)•世(세상)•思(바라보기)]

청장정보연구원 이일환 원장 입력 : 2020.01.21 10:21

AI(인공지능)는 모두가 아는 범용어가 되었다. AI라는 단어가 끼지 않으면 상품도, 전략도, 마케팅도 시행할 수 없는 상황으로 발전했다. 이세돌 9단이 은퇴대국으로 우리나라가 개발한 ‘한돌’과 2점 접바둑으로 3판을 두어 1승 2패를 함으로써 알파고에 이어 다시 한번 AI에 대한 관심과 그 능력에 대한 관심을 불러일으켰다. 알파고와는 호선이었던 것이 ‘한돌’과는 2점을 깔고 두어야 할 만큼 AI기술은 날로 장족의 발전을 거듭하고 있다. AI는 이같이 ‘4차 산업의 핵심’이란 추상적 개념에서 벗어나 우리의 일상에 점점 깊숙이 파고들고 있다. 사람들은 AI를 시켜 전화를 걸거나, 문자를 보내고, 아이들은 모르는 영어 단어의 뜻을 알기 위해 AI스피커를 찾을 정도가 되었다. AI는 단순히 사람처럼 발음하는 것뿐만 아니라 사람과 같은 감정을 표현해낼 정도로 진보하고 있다.


자살 예방 기능도 훌륭하게 수행하고 있다. ‘트리홀 프로그램’이 대표적이다. 네덜란드 암스테르담 자유대학교 컴퓨터공학과의 중국계 연구원 황즈성과 베이징 수도의과대학 뇌연구센터가 공동 개발했다. 이 시스템은 중국 <웨이보> 글에서 자살을 암시하거나, 심각한 우울증을 호소하는 글을 올린 사용자에게 전문심리 상담사가 다가가 자살을 막는다. 자살위험지수를 0-10단계로 설정하여 AI가 6단계까지 걸러내도록 되어 있다. 이 덕분에 “중국은 1년에 1000여 명의 목숨을 구했다”고 홍콩 <사우스차이나모닝포스트>지가 보도한 바 있다.


AI 기술의 발전은 안보적 측면에서 다양한 가능성과 기회를 열어주고 있다. 그 가능성 중의 하나가 AI가 테러 등 중요 돌발사태(surprise attack)에 대한 예측에 얼마나 기여할 수 있는가 하는 것이다. 즉 AI의 기능을 통해 테러음모 등을 사전에 예측하여 차단해보자는 연구가 미국 등을 중심으로 활발히 진행되고 있다. 특히 궤멸 수준에 이르렀다고 판단해온 ISIS(이슬람국가)가 “이라크를 중심으로 전투원이 5000여 명으로 증가하는 등 과거의 위세를 복원하고 있다”는 BBC의 12월 23일 보도를 감안하면, 테러공격에 대한 사전 예측과 조기 경보의 중요성은 부언할 필요가 없다. 정보는 예측이 생명이기에 더욱 그렇다. 각국 정보기관은 24시간 정보를 수집하여 경보기능을 제대로 수행하고자 노력한다. 그러나 그간의 예측활동은 주로 정보관이나 분석관의 감각이나 경험에 의존해왔기에 사후약방문식 대처가 많았다. 불의의 기습을 받고 나서야 테러행위에 대처하는 ‘지체현상’을 반복해 왔다. 인간은 태생적으로 갖고 있는 구조적 편견으로 인해 중요한 의사결정 때마다 오류를 범하곤 했다. 그래서 AI는 인간의 구조적인 편견을 극복할 수 있는 수단이 될 것이란 희망도 크다. 자유시민들의 권리에 대해 침해하지 않고 효과적으로 테러를 방지할 것으로 기대한다.


일반적으로 테러를 방지하는 방법은 두 가지다. 첫 번째는 억지(deterrence)다. 정보보안기관들의 활동이나, 공항 같은 안보거점 지역에서 출입국자를 체크하거나, 강한 징벌을 통해 테러 의지를 분쇄하는 것이다. 둘째는 테러를 수행하는 능력을 제거하는 것이다. 테러 분자 충원을 막거나, 음모를 찾아내며, 미래의 테러리스트 양성을 억제하는 방법이다. 그러나 이 과정에서 종종 시민들의 기본권을 침해하기도 했다. 이는 테러 방지와 시민들의 기본권 보호라는 상반된 과제를 조화시켜야 하는 숙제를 던져주었다. 시민들의 기본권 침해를 최소화하면서 대다수 시민을 보호하는 최적점을 찾아내야 하는 과제이다.


여하튼 테러리스트들의 행위나 공격을 예측하는 기법을 발전시킨다면, 보다 효율적으로 테러를 예방할 수 있을 것이다. 인공지능이 학습과 적응능력, 이해와 상호작용 능력, 추론과 기획능력을 더 발전시킨다면, 그 어느 장치보다 테러 예측 활동에 광범위하게 활용될 수 있다. 이를 위해서는 다양한 디지털 데이터에서 예측적인 첩보를 추출해내는 능력이 그 무엇보다 긴요하다. 빅데이터와는 구별해야 한다. 빅데이터는 보통 4Vs(velocity, veracity, variety, volume)를 강조하지만, 데이터의 성격에 바탕을 둔 기술적 측면을 강조한다. AI는 빅데이터 분석을 넘어서고자 한다. 빅데이터 분석방법과 중복되는 면도 있기는 하다. 빅데이터는 데이터를 해석하는 데 AI를 필요로 하고, AI는 AI를 발전시키기 위해 빅데이터를 필요로 한다.


고무적인 일은 데이터 수집과 저장 비용이 점차 낮아짐으로써 감시기능 확충에 필요한 경제적 부담이 줄어들었다는 점이다. 얼굴인식 기술은 각지에 널려 있는 CCTV 덕분에 큰 비용 들이지 않고 급속한 기술발전을 이루고 있다. AI에 기반을 둔 메시지 분석은 과거 인간 분석관들이 했던 일들을 빠르게 대체하고 있다. AI에 기반한 예측적 수단들은 도시지역 갱들에 대한 SNS분석, 도시 전역의 경보시스템, 범죄 빈발 장소 예측 등에 적용되어왔는데, 정보보안 기관들도 이런 기능들을 사용하기 시작했다. 인간전문가와 정교한 예측 수단들이 협업을 통해 테러리스트들을 모니터하거나, 테러행위를 사전 저지하는 지름길이 개척된 것이다.


금융분야에서는 음험한 테러 자금 거래도 보다 치밀하게 찾아낼 것이다. 정보보안기관들의 그간의 수사방법은 테러음모가 포착되면 그때서야 테러조직 핵심부를 파악하거나, 다른 연계 단체를 찾아내기 위한 활동에 포커스를 두어왔다. AI기술의 발달은 테러를 예측하기 위해 모든 개인의 일상을 분석할 수 있게 해주었을 뿐 아니라, 특정 그룹의 행위 속에서 ‘눈에 띄는 그 무엇’을 찾아주고 있다. 개인이 만들어내는 방대한 디지털 정보를 바탕으로 특정한 사람들의 행위 동선 등을 정밀하게 파악할 수 있는 단계로 진화하고 있다.


테러 예측을 가정할 때, 가장 중요한 포인트는 테러지점과 시점을 찾아내는 일이다. 그간 테러 예측에 대한 접근법은 두 가지였다. 하나는 ‘충격효과(aftershock effect)’이다. 테러 공격이 발생한 시점을 전후하여 강도사건과 같은 현상이 늘어나는 것에 주목하여 테러를 예측하는 방법이다. 두 번째는 정치적 상황을 보고 예측하는 것이다. 한 IT기업이 PredictifyMe라는 예측기술을 통해 자살 공격에 대해 72%의 적중률을 보인 적이 있으며, 공개첩보를 중점 분석하여 예측하는 EMBERS(the Early Model-Based Event Recognition using Surrogates)도 개발되었다. 나아가 전염병 발병•소요 발생 등을 여러 예측모델과 결합하여 특정사건을 예측하고자 한다. 예를 들어, 자살 암시 등 정신건강에 문제가 있음을 보여주는 내용들은 극단주의 이념에 빠져들 위험성이 많다. 이에 Jigsaw 프로젝트는 동영상 공유사이트를 통해 ISIS 선전을 자주 접하는 이용자를 찾아내어, 그들에게 ‘진실한 내용’에 접하도록 유도하는 활동을 하기도 한다.


미국 NSA(국가안보국)가 2007년 파키스탄 테러리스트 색출을 위해 사용한 SKYNET은 양적 분석 방법이 상당히 유용함을 입증해주었다. 5500만 명의 파키스탄 전화보유자를 분석했다. machine learning model을 사용하여 이들을 두 그룹으로 분류했다. 테러리스트 couriers(안내자)로 알려진 소집단과 자주 통화하는 사람들이 한 부류이고, 나머지를 또 하나의 그룹으로 분류했다. 오류확률은 0.008%에 불과했으나, 파키스탄 전체 인구 2억 명에 비추어보면 약 1만5000명이 잘못 파악한 대상이었다. 이 때문에 비효과적이란 비판도 받았으나 의미 없을 것 같은 데이터가 테러연계성을 캘 수 있었다는 점에서 긍정평가를 받았다. ‘예측AI’는 이제 정보 및 보안기관을 넘어 IT기업으로까지 ‘예측AI’개발에 나서고 있고, 정부도 개발을 지원하는 만큼 AI를 통한 테러예측 능력은 한층 더 발전될 것이다.


그러나 AI예측 기술은 개인의 갖가지 데이터에 의존한다는 점에서 프라이버시 등 기본권 침해 우려 또한 무시할 수 없는 문제이다. 전체주의적 감시사회를 일찍이 예견한 조지 오웰의 <1984>라는 소설이 현실화될 수 있다는 염려도 많다는 점을 정부 당국자나 정보기관 관계자들은 항상 명심해야 할 것이다. 데이터 경제사회에서 정보주체의 권리를 보장하면서 동시에 인공지능의 발전과 조화 및 균형을 찾을 수 있는 방안을 정립해야 할 것이다.


이일환 청장정보연구원 원장
한양대 자문교수
정치학 박사


▶본 기사는 입법국정전문지 더리더(the Leader) 1월호에 실린 기사입니다.

semi4094@mt.co.kr
PDF 지면보기