18일 네이버 본사에서는 인공지능 보안에 대한 경각심을 제고하고 직원들의 기술 역량강화를 위한 강연이 열렸다. 이례적으로 육군 대위가 강단에 섰다. 강사로 나선 권현(만 31세) 대위는 카이스트(KAIST)에서 위탁교육을 받고 있으며 지난 해 ‘네이버 우수 연구자’로 선정되어 네이버사의 요청에 의해 강연을 하게 됐다.
4차 산업혁명 시대에 각광을 받고 있는 인공지능은 고성능 컴퓨터 연산 및 로봇기술과 융합해 산업현장은 물론 일상생활과 국방 등 사회전반에 걸쳐 점차 확산되고 있다. 기술 발전과 더불어 인공지능을 악용하는 경우도 있어 인공지능 보안 분야에 대한 관심이 요구되고 있다.
이날 강의에서 권 대위는 ‘인공지능의 Evasion attack과 대응방안’이라는 주제로 강연하며 인공지능 시스템 보호방안으로 ‘Friend-safe evasion attack’을 제안했다.
그는 “인공지능이 데이터 변조 공격(‘Evasion attack')에 노출될 경우 여러 문제가 발생될 수 있는데 예를 들어 사람이 보기에는 이상이 없는 좌회전 표지판을 자율주행차량은 우회전으로 잘못 인식하게 하거나 음성인식 스피커에서 어떤 물건을 주문할 때 잘못 인식하게 해서 엉뚱한 물건이 주문되게 한다든지, 개인정보를 다른 기계로 보내는 등 오작동을 발생시킬 수 있다”고 지적했다.
권 대위는 “세상을 이끌 안전한 인공지능 환경을 함께 만들어가자”고 강조하며 인공지능 기술의 데이터 변조 보안문제를 해결할 시스템 보호방안을 소개해 참석자들의 공감을 이끌어냈다.
인공지능 및 보안 관련 카이스트 박사 과정을 밟고 있는 권 대위는 최근 이슈가 되고 있는 인공지능 음성인식과 사물인식의 보안 취약점에 대한 연구를 하며 국제 저명학술지인 SCI에 논문 6편, 국제학술대회에 논문 5편을 게재하는 등 국제적으로도 연구 성과를 인정받고 있다.
특히 ‘Adversarial Example that is Safe for Friendly Deep Neural Networks’라는 논문의 주저자로서 지난 한 해 국가정보원이 후원하는 사이버 안보(보안) 논문 공모전에서 장려상을 수상하기도 했다.
이외에도 미국 군사 분야 최고학회인 ‘Milcom’과 일본 인공지능 통신학회에 논문을 발표하고 국내 대학교에서 특강을 하는 등 활발한 학술활동을 이어가고 있다.
권 대위는 “발표한 연구를 확장시켜 군사용 표지판, 위장이나 은밀채널, 인공지능 인식 회피 등에 접목할 수 있다”며 “향후 발전될 인공지능 보안 분야에서 아군을 보호하고 적은 불리하게 통제할 수 있는 기술을 개발해 국방기술 발전에 기여하고 싶다”고 말했다.
또 “민간에서 앞서 나가고 있는 학술 분야를 군에 접목시키기 위해 끊임없이 노력하는 연구자이자 군인이 되고 싶다”며 앞으로의 포부를 밝혔다.
