AI 개발? ‘인간 권익·존엄성’이 먼저다!

의회에 따르면 서울시의회 왕정순 의원(더불어민주당·관악구)은 지난 11월 ‘서울시 인공지능 기본조례안’을 대표발의했다. 왕 의원은 “AI 기술이 급속도로 발달하면서 시민 생활에 미치는 영향이 커지고 있다”며 “이런 상황에서 안전하고 신뢰할 수 있는 AI 개발과 제도적 기반을 마련하기 위해 발의했다”고 설명했다.

조례는 △인공지능 개발과 이용의 기본원칙 수립 △인공지능위원회 설치와 운영 △인공지능 윤리 가이드라인 수립 △관련 산업 지원 등의 내용을 담고 있다.

특히 AI를 개발할 때 시민의 권익과 존엄성을 보호해야 한다는 내용도 명시했다. 사회적 약자 보호를 기본원칙으로 명시해 인공지능 발전 과정에서 발생할 수 있는 부작용을 최소화하고 시민의 권리를 보호하는 데 중점을 뒀다.

왕 의원은 “이번 조례를 통해 AI 시대의 새로운 도전과 기회에 체계적으로 대응할 수 있는 기반이 마련될 것”이라며 “특히 개인정보 보호, 알고리즘 편향성, 윤리적 문제 등 새로운 형태의 시민권리 침해 가능성에 대한 제도적 보호장치가 될 것”이라고 말했다.

왕 의원은 “조례에 인공지능 관련 산업 지원과 전문인력 양성 조항도 포함해 서울시가 글로벌 AI 산업 경쟁에서 우위를 확보하는 데도 기여할 것”이라고 했다.

▲ 왕정순 서울시의회 의원/사진제공=서울시의회

◇“글로벌 기업들 AI 전쟁 중인데…‘기본법’은 아직”
세계는 지금 AI를 둘러싼 총성 없는 전쟁 중이다. 구글, 마이크로소프트(MS), 메타, 오픈AI, 엔트로픽 등 글로벌 기업들은 자본과 기술력을 앞세워 AI 시장을 빠르게 잠식하고 있다. 각국에서는 제도를 마련해 산업을 지원하거나, 악용되지 않도록 규제를 마련하고 있다. 유럽연합(EU)은 빅테크들이 만든 거대언어모델에 강력한 규제를 가하는 내용이 중점적으로 담긴 세계 최초 AI 법 시행을 앞두고 있다. 미국은 AI 산업 진흥에 초점을 맞춘 ‘AI 정책’을 시행하고 있다.

국회 과학기술정보방송통신위원회는 인공지능 산업 발전을 위한 ‘AI 기본법 제정안’을 11월 26일 통과시켰다. ‘AI 기본법 제정안’은 AI 산업 발전을 위한 근거와 책임소재 등 사용 윤리 기준을 담고 있다. 인간의 생명이나 신체 안전과 관련한 AI 기술은 ‘고영향 AI’로 분류해 정부가 사업자에 책임 조치를 요구할 수 있도록 했다.

AI를 악용한 ‘가짜 뉴스’나 ‘딥페이크’ 같은 범죄가 일어나고 있어 지자체와 의회 차원에서도 AI 대응을 늦출 수 없다는 목소리가 커지고 있는 상황이다. 왕 의원은 “서울시가 조례를 제정해 지방정부 차원의 AI 거버넌스 모델을 제시할 수 있을 것”이라며 “이번 조례가 제정되면 서울시가 인공지능 시대를 선도하는 스마트도시로 한 걸음 더 나아갈 수 있을 것”이라고 말했다. “시민의 삶의 질 향상과 미래 산업 발전을 위한 입법활동에 최선을 다하겠다”고 덧붙였다.