“인공지능, 인류 통제 벗어날 수도”…터미네이터 순간 오나

AI 알고리즘, 서로 논쟁 벌일 정도로 진화…인류, 이들의 상호작용 거의 알지 못해

인공지능(AI)에 기반한 로봇이 반란을 일으켜 인류를 멸종시키는 영화 ‘터미네이터’와 같은 일이 실제로 일어날 수 있다는 불안이 고조되고 있다. 영국의 천재 물리학자 스티븐 호킹과 엘론 머스크 테슬라 최고경영자(CEO) 등 유명 인사들이 거듭 AI 시대의 위험성을 경고하고 있다.

많은 사람이 이런 경고를 단순한 일회성 화젯거리 정도로 취급하고 있다. 그러나 영국 파이낸셜타임스(FT)는 6일(현지시간) AI의 진화가 가파르게 이뤄지고 있어 인류의 통제를 벗어나는 순간이 올 수도 있다고 보도했다.

FT는 인터넷 백과사전인 위키피디아 사례를 들었다. 경영컨설팅 업체 맥킨지는 한 실험에서 일부러 위키피디아의 한 페이지를 엉망으로 만들었다. 직원 중 한 명이 맥킨지를 설립했다는 허위 정보를 넣은 것이다. 불과 수분 만에 해당 페이지를 작성한 직원은 위키피디아로부터 그가 편집한 내용이 잘못돼 오류를 수정했다는 이메일을 받았다. 이런 일을 가능하게 한 것이 AI 기반 프로그램인 ‘봇(Bot)’이다. 봇은 매일같이 4000만 개의 페이지를 체크해 문제점을 파악하고 정정한다. 2014년 봇은 위키피디아 내 편집의 약 15%를 책임졌다.

그러나 이런 AI 알고리즘은 방어는 물론 공격에도 사용될 수 있으며 심지어는 인간이 의도하지 않고 예측할 수 없는 방식으로 서로 상호 작용할 수 있다고 FT는 경고했다. AI 알고리즘은 이미 소셜미디어와 금융시장, 사이버 보안, 무기시스템에서 자율주행차량에 이르기까지 다양한 영역에서 핵심이 된 가운데 어떤 일이 벌어질지 아무도 모르게 된 것이다.

예를 들어 지난달 미국 학술지 ‘플로스 원’에 실린 한 논문에 따르면 위키피디아 내에서 쓰이는 봇들이 무려 수년간 서로 충돌하고 대립했다는 사실이 밝혀졌다. 예를 들어 ‘Xqbot’과 ‘Darknessbot’, 이 두 봇은 알렉산더 대왕에서부터 영국 축구클럽에 이르기까지 3629개 항목에서 상대방이 편집한 내용을 삭제하고 수정했다. 한 마디로 AI가 인간처럼 서로 ‘키보드 배틀’을 벌인 셈이다.

해당 논문을 작성한 옥스퍼드인터넷연구소와 앨런튜링연구소 소속 연구원들은 “인류는 AI의 삶과 진화에 대해 거의 알지 못한다”며 “이들의 상호작용에 더욱 주의를 기울일 필요가 있다”는 결론을 내렸다.

심지어 위키피디아의 봇 생태계는 닫힌 가운데 모니터링되고 있지만 다른 인터넷 세계는 그렇지 않아 악의적인 봇들이 거칠게 움직일 수 있다. 예를 들어 봇이 소셜미디어에서 인간을 흉내내다가 악의적인 메시지에 감염돼 이를 퍼뜨리고 공개적 담론에 영향을 미칠 수 있다. 유럽 전문가들은 빅데이터와 AI 시대에 민주주의가 살아남을 수 있는지 의문을 표시하고 있다고 FT는 덧붙였다.