[마감 후] 온디바이스 AI 시대가 왔다

12일(현지시간) 폐막한 전 세계 최대 정보기술(IT)·가전 전시회 CES 2024의 주인공은 단연 인공지능(AI)이었다. 특히 앞으로 열릴 온디바이스 AI에 대한 기대가 한층 커졌다.

온디바이스 AI는 기기 자체에 AI가 장착된 것을 말한다. 지금까지 AI 기능은 인터넷이 연결돼야 만 구동이 가능했다. 인터넷을 통해 특정 사이트에 접속하거나, 앱을 구동해 클라우드에 저장된 정보를 가져오는 과정을 거쳐야 하기 때문이다.

그러나 온디바이스 AI는 클라우드를 거치지 않고 기기에서 바로 명령과 실행을 할 수 있다. 비행기 안처럼 인터넷 연결이 어려운 상황에서도 실시간 번역, 이미지 생성 같은 AI 기능을 사용할 수 있는 얘기다.

게다가 온디바이스 AI가 소비자를 학습한다면 맞춤형 환경으로 보다 개인화된 경험을 제공하며 업무 효율도 높일 수 있다. AI가 학습한 모든 개인정보는 스마트폰에만 저장되고 외부로 유출되지 않아 사생활도 보호할 수 있다.

CES가 열린 미국 라스베이거스 컨벤션센터(LVCC) 내 퀄컴 부스에는 자사 모바일용 AI 반도체 ‘스냅드래곤 8 3세대’가 탑재된 샤오미 14 프로 스마트폰이 전시돼 있었다.

이 폰은 ‘비행기 모드’로 인터넷이 끊겨 있었지만, 직원이 이미지 생성형 AI 앱 ‘스테이블 디퓨전’을 실행하고 ‘귀여운 강아지를 그려줘’라고 말하자 1초 만에 AI가 분홍색 꽃을 꽂은 크림색 푸들 사진을 만들어냈다. 빅테크의 클라우드와 연결된 상태에서만 가능했던 AI 서비스가 손바닥만한 스마트폰으로 가능해진 것이다.

4년 만에 찾은 올해 CES에서는 ‘온디바이스 AI’ 시대의 시작을 전시장 곳곳에서 볼 수 있었다. 팻 겔싱어 인텔 최고경영자(CEO)는 “클라우드 없이 AI 기능을 사용하는 PC가 등장하고 있고, 미래에는 PC에 인공신경망 기능을 직접 추가하는 방식의 AI PC가 나올 수도 있다”고 말했다.

삼성전자는 이달 초 세계 첫 AI 노트북인 ‘갤럭시북4′를 출시했고, 17일에는 AI 스마트폰으로 알려진 갤럭시S24를 공개한다. 갤럭시S24에는 인터넷 연결이 필요 없는 실시간 통역 기술이 탑재될 것으로 알려졌다.

앞으로 AI 비서의 쓰임새도 더 다양해질 것으로 보인다. 온디바이스 AI가 사용자의 활용 방식에 맞춰 진화하기 때문이다. 이른바 온디바이스 AI와 생성형 AI의 접목이다. 크리스티아누 아몽 퀄컴 CEO는 CES 기조연설에서 “AI가 기기에 탑재된다는 것은 클릭 하나, 터치 하나가 모두 AI에 학습된다는 뜻”이라고 밝혔다.

온디바이스 AI 시대가 열린다는 건 반도체 업계에 도전이자 기회다. 온디바이스 AI를 구현하기 위해선 데이터센터에 들어가는 AI 칩을 경량화해 각각의 기기에 탑재해야 한다.

동시에 수많은 데이터를 처리해야 하기 때문에 고성능은 물론 고용량 메모리도 함께 필요하다. 스마트폰이나 PC에 사용된다는 점을 감안하면 전력 소모는 최대한 줄여야 한다.

삼성전자와 SK하이닉스를 비롯해 엔비디아, AMD등 글로벌 반도체 기업들이 이번 CES에서 생성형 AI·온디바이스 AI 시장을 겨냥한 신기술과 신제품을 대거 선보인 이유다.

국내 반도체 스타트업의 약진도 주목된다. 팹리스(설계전문) 반도체 업체 ‘딥엑스’는 온디바이스 AI에 쓰이는 저전력 신경망처리장치(NPU) 솔루션 4종으로 혁신상 3관왕에 올랐다. 딥엑스의 NPU는 가격과 전력 대비 성능 비율을 모두 잡았다는 평가를 받았다. 이를 통해 국내외에서 40곳 이상의 고객사를 이미 확보했다.

오세훈 서울 시장은 CES를 처음 관람한 소감에 대해서 “결국 반도체 전쟁에서 승리하는 회사가 미래의 주도권을 쥐고 갈 것”이라며 “‘반도체 전쟁에서 과연 누가 승자가 될 것이냐’가 이번 CES의 관전포인트 같았다”고 말했다.

CES가 막을 내린 이제부터 진검 승부다. 온디바이스 AI 반도체 시장의 주도권을 잡기 위한 각국 주요 기업들의 경쟁은 시작됐다. 그 주도권 싸움에서 경쟁국에 승리해야 K-반도체 명성을 이어갈 수 있다.