'이게 맞나?' AI도 뇌처럼 의심한다

카이스트, 뇌과학·인공지능 융합연구 실시
AI, 환각 극복하나…인간처럼 적응한다
기존 모델보다 31% 더 정확한 ‘뇌 기반 AI’
국제 학술지 '네이처 커뮤니케이션스' 게재

(오픈AI '달리'로 생성한 이미지)

국내 연구진이 인간의 뇌처럼 스스로 가설을 세우고 이를 검증하는 인공지능(AI) 기술을 개발했다는 연구 결과가 나왔다. 이에 기존 AI의 한계로 지적되던 '환각(AI가 허위·거짓 정보 혹은 편향된 사실을 진짜인 것처럼 생성하는 현상)'을 해결할 수 있다는 가능성이 제기된다.

한국과학기술원(카이스트)은 이상완 뇌인지과학과 교수와 정민환 생명과학과 교수 연구팀이 이 같은 내용의 실험을 완료했다고 2일 밝혔다. 이들은 일관된 행동 전략을 유지하면서도, 본인의 가설을 스스로 의심하고 검증하면서 환경 적응력을 높인 뇌과학적 원리를 AI에 적용할 수 있는지 연구했다.

AI는 학습된 데이터를 기반으로 답변을 확률적으로 생성해, 한 번 학습한 정보는 무조건 맞는다고 확신하는 특성이 있다. 반면 인간의 뇌는 자신의 판단을 지속해서 검증하면서, 새로운 정보를 접하면 기존의 가설을 수정하는 과정을 거친다. 연구팀은 이 같은 가변적인 뇌과학 원리를 AI에 융합할 수 있는지를 규명했다.

연구팀은 △2단계 의사 결정 실험 △확률 기반 선택 실험 △미로 탐색 실험 △뇌 신경세포 억제 실험 등을 거쳤다. 이를 기반으로 연구팀은 '뇌처럼 스스로 가설을 세우고 이를 수정하는 AI 모델'을 제안했다. 이 AI 모델은 가설의 예측 오류 가능성을 바탕으로 행동 전략을 비대칭으로 바꿨다. 카이스트에 따르면, 이 AI 모델은 챗GPT, 딥시크 등 기존 AI보다 평균 15%, 최대 31% 더 정확하게 행동을 예측하는 성과를 보였다.

이번 연구는 뇌과학·인공지능 융합 연구로서 실제 분야에 범용적으로 활용될 수 있다. 연구팀은 맞춤형 교육 커리큘럼 디자인, 인사 채용(HR) 시스템, 인간·컴퓨팅 커뮤니케이션 분야에 적용할 수 있다고 봤다.

연구 책임자인 이상완 교수는 "이번 연구는 인공지능의 강화 학습 이론으로만 설명할 수 없는 뇌의 가설 기반 적응 학습 원리를 밝혀낸 흥미로운 사례ˮ라며 "스스로 의심하고 검증하는 뇌과학 이론을 대규모 인공지능 시스템 설계와 학습 과정에 반영하면 신뢰성을 높일 수 있을 것ˮ이라고 말했다.

이번 연구엔 뇌인지공학 프로그램 양민수 박사과정 학생이 1저자, 생명과학과 정민환 교수가 공동 저자, 뇌인지과학과 이상완 교수가 교신저자로 참여했다. 해당 논문은 국제 학술지 `네이처 커뮤니케이션스(Nature Communications)‘ 2월 20일 자로 게재됐다.

한편 이번 연구는 과학기술정보통신부, 정보통신기획평가원 SW스타랩, 한계도전 연구·개발(R&D) 프로젝트, 한국연구재단 중견연구자 및 카이스트 김재철AI대학원 사업 지원을 받아 수행됐다.