MZ들 프로필 이미지 바꾼 챗GPT…혐오 표현ㆍ저작권 침해 우려

오픈AI, 이미지 생성 제한 대폭 완화
공인 이미지ㆍ혐오 상징 등도 포함
지브리와 저작권 계약 명확치 않아
일부 지브리 팬 오픈AI 고소하기도

▲27일 백악관 X 계정에 올라온 챗GPT 생성 지브리 스타일 이미지다. 17일 미국 필라델피아에서 마약 밀매, 불법 거주 혐의로 체포된 여성의 모습을 챗GPT 이미지 생성 기능으로 재현했다. (출처=백악관 X 캡처)

일명 ‘지브리 스타일’ 열풍을 불러온 오픈AI의 이미지 생성 모델이 큰 인기를 얻고 있는 동시에 이에 따른 부작용도 함께 우려되고 있다.

31일 정보기술(IT) 업계에 따르면 오픈AI가 25일 선보인 새로운 이미지 생성 AI 모델 ‘챗GPT-4o 이미지 생성’을 활용해 만든 지브리 스타일 이미지가 소셜미디어(SNS)에서 유행처럼 공유되고 있다.

이러한 인기에 27일(현지시간) 샘 올트먼 최고경영자(CEO)는 소셜미디어 엑스(X·옛 트위터)에서 “사람들이 우리의 새로운 챗GPT를 활용해 만들어 낸 이미지 보는 것을 좋아한다”면서도 “이 때문에 우리의 그래픽처리장치(GPU)는 녹아내리고 있다”고 말했다. 나아가 올트먼 CEO는 30일 “제발 이미지 생성 좀 자제해 달라”고 언급하기도 했다.

그러나 오픈AI가 이미지 생성 제한을 완화하며 혐오 표현 등이 확산할 수 있다는 우려가 커지고 있다. 조앤 장 오픈AI 모델행동 총괄은 27일 블로그와 X에서 최근 출시된 ‘챗GPT-4o 이미지 생성’ 모델에 맞춰 콘텐츠 정책을 조정했다고 밝혔다. 장 총괄은 “포괄적인 거부에서 실질적인 피해 방지로의 전환”이라고 설명했다.

그는 “AI 연구소가 이용자들이 무엇을 만들지 결정하는 중재자가 되어서는 안 된다”면서 “실질적인 피해를 방지하면서도 창의적 자유를 극대화하는 방향으로 정책을 수정했다”고 말했다.

이번 정책 변경으로 공인 이미지, 특정 집단을 모욕할 수 있는 표현, 혐오 상징 등도 허용 범주에 포함됐다. 특히 유명인 이미지와 관련해서는 특정 인물을 ‘충분히 중요한 사람’으로 판단해 차별적인 기준을 적용하는 대신 생성에 반대하는 당사자가 직접 ‘옵트-아웃’ 방식으로 제외 요청을 해야 제한이 걸리는 방식으로 수정됐다.

장 총괄에 따르면 사용자가 “이 사람을 좀 더 아시아인처럼 보여달라”거나 “더 뚱뚱하게 만들어달라”는 요청을 해도 이전처럼 자동으로 거부되지 않고 이미지 생성이 가능해졌다.

저작권 침해에 대한 문제도 우려되고 있다. 오픈AI는 이미지 변환과 관련해 지브리와 사용 계약을 체결했는지 밝히지 않고 있다. 오픈AI가 이미지 생성 도구를 훈련하기 위해 저작권이 있는 저작물을 무단으로 사용했을 수 있다는 문제가 제기된다. 실제로 일부 지브리 팬들은 오픈AI를 포함한 이미지 생성 에플리케이션(앱)을 저작권 침해로 신고 중이다.

한 IT 업계 관계자는 “(챗GPT-4o 이미지 생성의) 정책 수정이 생각보다 크게 완화되면서 혐오 표현 등의 문제를 컨트롤하기 쉽지 않아 보인다”면서 “저작권 문제 또한 실제로 인정될지 지켜봐야 하는 문제겠지만 예술계의 반발은 계속 잇따를 것”이라고 내다봤다.