‘챗GPT 아버지’도 경고…과학자·경영인 350명 “AI, 코로나·핵전쟁 만큼 무섭다”

“인류 절멸 위험…국제사회 우선순위로 다뤄야”
오픈AI CEO·MS CTO 등 AI 혁명 주도 인사 대거 참여
허위정보 확산·일자리 위협·사회적 혼란 유발 위험

▲인간 모형 뒤로 인공지능(AI) 단어가 화면에 나타나 있다. 로이터연합뉴스

인공지능(AI) 업계 리더들과 과학자들이 AI 기술이 언젠가 인류에게 실존적 위협이 될 수 있으며, 전염병이나 핵전쟁과 동등한 사회적 위험으로 간주해야 한다고 경고했다.

30일(현지시간) 뉴욕타임스(NYT)에 따르면 비영리단체 AI안전센터(CAIS)는 이날 성명에서 “AI에 의한 인류 절멸 위험을 낮추는 것은 신종 전염병이나 핵전쟁과 같은 위험과 함께 국제사회에서 우선순위로 다뤄져야 한다”고 촉구했다.

한 문장의 짧고도 간결한 이 성명은 첨단 AI의 가장 심각한 위험에 관해 토론의 장을 여는 것을 목표로 한다고 CAIS는 설명했다. 그러면서 “AI 전문가, 정책입안자, 언론인들은 물론 대중까지도 AI의 긴급한 위험성을 인식해왔다”며 “그러나 훨씬 더 다양한 분야에 대한 해결책이 논의돼야 한다”고 강조했다.

공개 성명에는 AI 분야에서 일하는 경영진과 연구원, 과학자 등 350명 이상이 서명했다. 여기에는 생성형 AI ‘챗GPT’의 창시자 샘 올트먼 오픈AI 최고경영자(CEO)도 포함됐다. 또한 미라 무라티 오픈AI 최고기술책임자(CTO), 케빈 스콧 마이크로소프트(MS) CTO, 구글 AI 부문 책임자인 릴라 이브라힘과 메리언 로저스 등이 이름을 올렸다.

지난해 말 챗GPT의 등장을 계기로 세계적인 AI 열풍이 불면서, 이 기술이 지닌 잠재적 피해에 대한 우려도 커지고 있다. 기술 발달이 허위 정보 확산, 일자리 위협은 물론 엄청난 사회적 혼란을 야기할 수 있다는 경고가 나왔다. 에릭 슈미트 전 구글 CEO는 AI가 사람을 다치게 하거나 죽일 수도 있다고 주장했다.

AI가 실제 피해를 불러온 사례도 있었다. AI가 만든 가짜 펜타곤(미국 국방부 청사) 폭발 사진이 22일 금융 시장을 출렁이게 한 것이다. 당시 뉴욕증시 S&P500지수는 일시적으로 0.3%가량 하락했다.

이 밖에도 수갑을 찬 도널드 트럼프 전 미국 대통령 사진, 명품 패딩을 걸친 프란치스코 교황 사진이 인터넷을 통해 대거 퍼진 뒤에야 AI가 만든 가짜 사진이라는 사실이 밝혀졌다. 민주주의 선진국인 미국과 영국이 주요 선거를 앞둔 상황에서 AI를 통한 가짜 뉴스 확산에 대한 경계의 목소리는 더욱 커지고 있다.

이에 따라 전문가들은 AI의 위험을 완화하고 관리할 적절한 규제와 국제 표준이 필요하다고 강조하고 있다. 일론 머스크 테슬라 최고경영자(CEO)를 포함한 다수의 IT 전문가들은 올해 초 6개월간 최첨단 AI 시스템 개발을 일시 중단하자는 제안을 내놓기도 했다. 올트먼 CEO는 “국제원자력기구(IAEA)처럼 AI의 잠재적 위험을 통제하고 부작용을 막기 위한 국제기구가 필요하다”고 밝혔다.