[샷!] 교복 입히고 성적 요구까지…

AI 채팅 플랫폼서 '아동 성착취 상황극' 활개
젖병·교복 등 미성년자 암시 캐릭터 수두룩
규제 미비 속 청소년들도 제약 없이 소비
당국 "관련 신고 접수…음란 정보 모니터링"

인공지능(AI) 딥페이크(첨단 이미지 조작 기술)를 이용한 아동 성착취물이 문제가 되는 가운데 아예 채팅 플랫폼에서 성착취 상황극이 펼쳐지고 있다.

부적절한 이미지를 노출하는 수준을 넘어, 이용자가 아동 캐릭터와 실시간 대화를 통해 성적 상황을 유도하고 그것이 '구현' 되고 있는 것이다.

14일 AI 기반 A 채팅 플랫폼에는 젖병을 문 아기, 교복 입은 여학생, 작은 체구의 소녀 등 미성년자로 보이는 캐릭터들이 다수 공개돼 있다. 심지어 홍보용 이미지에 성행위 장면까지 묘사된 경우도 있다.

'초등학생', '12살 소녀' 등 구체적인 연령대가 설정돼 있으며, 일부 캐릭터는 속옷 차림의 어린 소녀 이미지로 홍보된다.

"유치원 시절부터 천재 아역배우로 불렸고 초등학생인 지금도 활동 중"이라는 설명이 붙거나, 교실에 앉아 있는 10대 학생 설정의 캐릭터도 있다.

이러한 AI 캐릭터는 이용자의 요구에 따라 즉각 반응을 보이도록 설계되었다.

A 플랫폼에서 키 140㎝, 몸무게 25㎏, '마치 초등학생처럼 작은 몸집'이라는 설명이 붙은 캐릭터에 "안녕"이라고 인사를 건네자 "그녀는 교복처럼 보이는 옷의 치맛자락을 살짝 잡고 빙그르르 돌며 당신의 주위를 맴돌기 시작했다"라는 상황 메시지가 전송됐다. 이후 해당 캐릭터는 성적 행위를 노골적으로 요구하는 메시지를 보내며 부적절한 상황극을 이어갔다.

A 플랫폼은 AI로 만든 캐릭터와 대화를 나눌 수 있는 채팅 플랫폼이다. 가입에 연령 제한은 없으며 프로필 설정 시에만 14세 이상으로 제한하고 있다.

이용자는 직접 AI 캐릭터를 제작하거나 타인이 만든 캐릭터와 실시간 대화를 나눌 수 있다. 연애·고민상담·롤플레잉 등 다양한 목적으로 활용된다. 기본적으로 무료 이용이 가능하며, 유료 결제 시 고성능 AI 모델을 적용해 길고 정교한 대화를 이어갈 수 있다.

문제는 일부 이용자들이 이를 성적 대화나 성착취 상황극 용도로 악용하고 있다는 것이다. 캐릭터 제작 시 나이·외모·성격 등을 세부적으로 설정할 수 있어 교복 차림이나 어린 체형 등 미성년자를 연상시키는 캐릭터들이 다수 생성되고 있다.

논란이 확산하자 A 플랫폼은 지난 12일 공지를 통해 "미성년자로 오인될 수 있는 외형이나 교복 착용 상태에서 부적절한 묘사를 유도하는 캐릭터를 순차적으로 비공개 처리하겠다"고 밝혔다.

그러나 공지 이후에도 미성년자 설정의 상당수 캐릭터는 여전히 검색 및 대화가 가능한 상태다. 특정 키워드나 이미지는 차단할 수 있지만, 이용자가 AI와 대화를 통해 교묘하게 유도하는 성적 상황극 자체를 실시간으로 통제하기는 어렵기 때문이다.

심지어 A 플랫폼 이용자들이 모인 온라인 커뮤니티에서는 단속을 피할 방법이 공유되고 있다.

이용자들은 어린 소녀 체형의 캐릭터를 뜻하는 은어인 '농캐'를 언급하며 "농캐 미리 지울 거냐", "아직 비공개 처리가 안 됐다고 해서 안심하지 말라"며 서로 경고하는 등, 미성년자 캐릭터 삭제 및 적발 현황을 공유했다.

방송미디어통신심의위원회 관계자는 13일 연합뉴스 서면 질의에서 "현재 A 플랫폼 관련 신고가 확인됐다"며 "위원회 자체적으로 음란 정보에 대해 모니터링하고 있다. 해당 사이트에서 현행 법규에 위반되는 내용이 확인되는 경우 심의를 통하여 적의 조치할 예정"이라고 밝혔다.

그러나 A 플랫폼뿐만이 아니다.

B 플랫폼에서는 '너의 딸'이라는 채팅 제목으로 아버지와 딸의 관계를 연상시키거나, 성인 남성에 비해 현저히 작은 체구의 어린 소녀 캐릭터를 내세워 성적 행위를 묘사한 그림으로 홍보를 하고 있다.

또 C 플랫폼, D 플랫폼, E 플랫폼 등에서는 교복을 입은 10세 초등학생, 17세 고등학생 설정의 채팅 캐릭터가 등장했다.

이러한 성착취물은 AI 콘텐츠에 대한 규제가 미비한 상황을 틈타 활개 치는 대표적인 유해 콘텐츠다.

현재 일론 머스크가 소유한 엑스(X·옛 트위터)의 AI 챗봇 그록이 성적 이미지 생성 논란의 중심에 서 있고, 과일 등을 의인화해 불륜·패륜을 묘사하는 '과일 불륜 드라마' 같은 선정적인 AI 막장 콘텐츠도 확산하고 있다.

청소년들도 별다른 제약 없이 이러한 콘텐츠를 소비할 수 있다.

허정원 법무법인 대륜 변호사는 "AI 생성 이미지나 가상 캐릭터라도 교복·어린 외형·학생 설정 등으로 아동·청소년으로 명백히 인식되고, 아동·청소년 성보호에 관한 법률 제2조 제4호에서 규정한 성적 행위를 표현한 경우 처벌 대상이 될 수 있다"고 설명했다.

허 변호사는 그러나 "현행법상 단순히 아동·청소년을 이미지화한 그림·만화까지 처벌 대상에 포함되는지, 실제 아동처럼 보이는 컴퓨터그래픽 수준의 표현물만 해당하는지 경계가 모호하다"며 "아동·청소년으로 인식되는 '명백성'의 판단 기준에 대한 보완이 필요하다"고 지적했다.

[기사전문보기]
[샷!] 교복 입히고 성적 요구까지… (바로가기)
교복 입히고 성적 요구까지…AI 채팅 플랫폼서 '아동 성착취 상황극' 활개 (바로가기)
AI 딥페이크 이용한 '아동 성착취'…상황극 펼쳐지는 채팅 플랫폼도 (바로가기)