그러면서 "그록을 계속 감독하고 평가할 것"이라며 "위반 사항이 발견되면 재차 서비스를 중단하는 등 시정 조치를 할 계획"이라고 덧붙였다.

일론 머스크 테슬라 최고경영자(CEO)의 AI 회사인 xAI의 그록은 지난해 12월 말 인공지능(AI)을 이용한 '딥페이크'(이미지 합성 기술)로 비키니 수영복 등을 입은 아동 사진을 생성한 뒤 엑스(X·옛 트위터)를 통해 유포해 논란을 일으켰다.

이 사진들은 "여성들 사진을 비키니 차림으로 편집해 달라"는 일부 이용자들의 요청에 따라 생성됐으며 1∼2살 영유아로 보이는 아동 사진도 포함됐다.

그록이 성 착취물 생성으로 논란이 일으킨 후 인도네시아는 세계에서 처음으로 이 서비스 접근을 차단했다.

이후 유럽 국가들과 말레이시아 등도 이 문제를 조사하겠다고 나섰고, 호주와 인도도 관련 콘텐츠를 단속하겠다고 밝혔다.

영국 미디어 규제 당국 오프콤(OfCom)과 미국 캘리포니아주 검찰은 그록과 관련해 엑스에 대한 수사에 착수했으며 필리핀 정부도 그록 접속을 차단했다가 최근 6일 만에 해제했다.

논란이 커지자 엑스와 xAI 측은 그록의 이미지 생성·편집 기능을 프리미엄(유료) 구독자만 할 수 있게 제한하고, 실제 인물의 이미지로 비키니 수영복이나 속옷 차림 등 노출이 심한 이미지를 만들지 못하도록 제한하는 조치를 했다.

son@yna.co.kr