MBN골드

뉴스

‘비키니 아동’ 딥페이크 아웃…그록, 인도네시아서 세계 첫 접속 차단	2026-01-11 14:23
최근 인공지능(AI)을 이용한 ‘딥페이크’(이미지 합성 기술)로 성착취물을 생성해 유포했다가 논란을 일으킨 챗봇 ‘그록’ 서비스가 인도네시아에서 차단됐다. 이는 세계에서 첫 차단 사례다. 11일(현지시간) AFP·블룸버그 통신 등에 따르면 무티아 하피드 인도네시아 통신디지털부 장관은 전날 테슬라 최고경영자(CEO)의 AI 회사인 xAI의 그록 서비스를 일시 중단했다고 밝혔다. 그는 성명에서 “AI 기술로 생성한 가짜 음란물 콘텐츠의 위험으로부터 여성과 아동 등을 보호하기 위해 정부는 그록 애플리케이션 접근을 일시적으로 차단했다”며 “(인도네시아) 정부는 디지털 공간에서 동의 없이 벌어지는 딥페이크는 인권과 존엄성을 침해하는 중대 행위로 간주한다”고 강조했다. 전세계에서 무슬림 인구가 가장 많은 인도네시아는 음란물로 간주하는 콘텐츠의 온라인 공유를 금지하는 엄격한 규정을 시행하고 있다. 앞서 인도네시아 통신디지털부는 xAI 관계자들을 불러 최근 논란과 관련한 사실관계를 확인하기도 했다. 그록은 인도네시아 정부의 애플리케이션 차단 조치와 관련해 소셜미디어(SNS) 플랫폼 엑스(X·옛 트위터)에 “불편을 드려 죄송하다”며 “이번 문제를 해결하기 위해 노력하고 있다”고 입장을 밝혔다. 그록은 최근 비키니 수영복 등을 입은 아동 사진을 생성한 뒤 엑스를 통해 유포해 논란을 일으켰다. 이 사진들은 “여성들 사진을 비키니 차림으로 편집해 달라”는 일부 이용자들의 요청에 따라 생성됐으며 1∼2살 영유아로 보이는 아동 사진도 포함됐다. 수천장의 사진을 딥페이크 기술로 만든 성 착취물들은 대부분 피사체인 당사자 동의 없이 생성됐다. 한 이용자가 문제를 제기하자 그록은 그제서야 “안전장치의 허점을 확인했다”며 해당 사진들을 뒤늦게 삭제했다. 유럽연합(EU) 집행위원회는 최근 X에 알고리즘을 포함한 불법 콘텐츠 관련 자료를 연말까지 보존하라고 명령했고, 영국 정부도 X에 대한 접속 차단 가능성을 시사했다. 말레이시아도 이 문제를 조사하겠다고 나섰고, 호주와 인도도 관련 콘텐츠를 단속하겠다고 밝혔다. 미국에서도 민주당 소속 론 와이든 상원의원(오리건) 등이 애플과 구글 최고경영자(CEO)에게 서한을 보내 앱스토어에서 그록과 엑스를 퇴출하라고 요구했다. 논란이 커지자 엑스와 xAI 측은 전날부터 엑스에서 그록의 이미지 생성·편집 기능을 프리미엄(유료) 구독자만 할 수 있게 제한하는 방침을 적용했다. 일론 머스크는 10일(현지시간) 자신의 계열사 엑스(X·옛 트위터), 인공지능(AI) 챗봇 ‘그록’을 상대로 딥페이크 음란물 규제에 나선 영국 정부를 “파시스트”라고 몰아세우며 강력 반발했다. 머스크는 이날 자신의 엑스 계정에 올린 글에서 “영국 정부는 왜 이렇게 파시스트적인가?”라며 영국이 세계에서 온라인 범죄 단속 건수가 가장 많다는 그래프를 리트윗(재인용 공유)했다. 이어 “이용자가 보는 게시물과 광고를 결정하는 데 쓰이는 새 X 알고리즘을 7일 이내에 개방형(오픈소스)으로 공개하겠다. (공개 대상에는) 모든 코드도 포함된다”고 밝혔다. 이는 투명성 강화를 통해 이 같은 위기를 정면 돌파하려는 의도로 풀이된다. [ⓒ 매일경제 & mk.co.kr, 무단전재 및 재배포 금지]

‘비키니 아동’ 딥페이크 아웃…그록, 인도네시아서 세계 첫 접속 차단

2026-01-11 14:23

최근 인공지능(AI)을 이용한 ‘딥페이크’(이미지 합성 기술)로 성착취물을 생성해 유포했다가 논란을 일으킨 챗봇 ‘그록’ 서비스가 인도네시아에서 차단됐다. 이는 세계에서 첫 차단 사례다.
11일(현지시간) AFP·블룸버그 통신 등에 따르면 무티아 하피드 인도네시아 통신디지털부 장관은 전날 테슬라 최고경영자(CEO)의 AI 회사인 xAI의 그록 서비스를 일시 중단했다고 밝혔다.
그는 성명에서 “AI 기술로 생성한 가짜 음란물 콘텐츠의 위험으로부터 여성과 아동 등을 보호하기 위해 정부는 그록 애플리케이션 접근을 일시적으로 차단했다”며 “(인도네시아) 정부는 디지털 공간에서 동의 없이 벌어지는 딥페이크는 인권과 존엄성을 침해하는 중대 행위로 간주한다”고 강조했다.
전세계에서 무슬림 인구가 가장 많은 인도네시아는 음란물로 간주하는 콘텐츠의 온라인 공유를 금지하는 엄격한 규정을 시행하고 있다.
앞서 인도네시아 통신디지털부는 xAI 관계자들을 불러 최근 논란과 관련한 사실관계를 확인하기도 했다.
그록은 인도네시아 정부의 애플리케이션 차단 조치와 관련해 소셜미디어(SNS) 플랫폼 엑스(X·옛 트위터)에 “불편을 드려 죄송하다”며 “이번 문제를 해결하기 위해 노력하고 있다”고 입장을 밝혔다.
그록은 최근 비키니 수영복 등을 입은 아동 사진을 생성한 뒤 엑스를 통해 유포해 논란을 일으켰다.
이 사진들은 “여성들 사진을 비키니 차림으로 편집해 달라”는 일부 이용자들의 요청에 따라 생성됐으며 1∼2살 영유아로 보이는 아동 사진도 포함됐다.
수천장의 사진을 딥페이크 기술로 만든 성 착취물들은 대부분 피사체인 당사자 동의 없이 생성됐다.
한 이용자가 문제를 제기하자 그록은 그제서야 “안전장치의 허점을 확인했다”며 해당 사진들을 뒤늦게 삭제했다.
유럽연합(EU) 집행위원회는 최근 X에 알고리즘을 포함한 불법 콘텐츠 관련 자료를 연말까지 보존하라고 명령했고, 영국 정부도 X에 대한 접속 차단 가능성을 시사했다. 말레이시아도 이 문제를 조사하겠다고 나섰고, 호주와 인도도 관련 콘텐츠를 단속하겠다고 밝혔다.
미국에서도 민주당 소속 론 와이든 상원의원(오리건) 등이 애플과 구글 최고경영자(CEO)에게 서한을 보내 앱스토어에서 그록과 엑스를 퇴출하라고 요구했다.

논란이 커지자 엑스와 xAI 측은 전날부터 엑스에서 그록의 이미지 생성·편집 기능을 프리미엄(유료) 구독자만 할 수 있게 제한하는 방침을 적용했다.
일론 머스크는 10일(현지시간) 자신의 계열사 엑스(X·옛 트위터), 인공지능(AI) 챗봇 ‘그록’을 상대로 딥페이크 음란물 규제에 나선 영국 정부를 “파시스트”라고 몰아세우며 강력 반발했다.
머스크는 이날 자신의 엑스 계정에 올린 글에서 “영국 정부는 왜 이렇게 파시스트적인가?”라며 영국이 세계에서 온라인 범죄 단속 건수가 가장 많다는 그래프를 리트윗(재인용 공유)했다.
이어 “이용자가 보는 게시물과 광고를 결정하는 데 쓰이는 새 X 알고리즘을 7일 이내에 개방형(오픈소스)으로 공개하겠다. (공개 대상에는) 모든 코드도 포함된다”고 밝혔다. 이는 투명성 강화를 통해 이 같은 위기를 정면 돌파하려는 의도로 풀이된다.

[ⓒ 매일경제 & mk.co.kr, 무단전재 및 재배포 금지]