후원하기
구독하기
기사제보
- “12살 설정에 성적 요구까지”…AI 채팅 플랫폼 규제 공백 충격
AI 기반 채팅 플랫폼에서 미성년자를 연상시키는 캐릭터를 이용한 성착취 상황극이 무분별하게 확산되며 논란이 커지고 있다. 교복 차림의 학생 설정이나 어린아이 외형을 가진 AI 캐릭터들이 성적 대화를 유도하는 방식으로 운영되면서 규제 필요성에 대한 목소리도 높아지고 있다.
일부 플랫폼에서는 ‘초등학생’, ‘12살 소녀’, ‘고등학생’ 등의 설정이 붙은 AI 캐릭터가 공개적으로 운영되고 있으며, 이용자들은 실시간 대화를 통해 성적인 상황극을 이어갈 수 있는 것으로 나타났다. 특히 교복, 젖병, 작은 체형 등 미성년자를 연상시키는 요소들이 반복적으로 사용되며 우려가 커지고 있다.
문제는 이러한 콘텐츠가 별다른 연령 제한 없이 노출되고 있다는 점이다. 일부 플랫폼은 가입 시 최소 연령만 형식적으로 제한할 뿐 실제 청소년 접근 차단은 제대로 이뤄지지 않는 상황이다. 유료 결제를 통해 더 정교한 AI 대화 기능까지 이용할 수 있어 사실상 성착취형 AI 콘텐츠가 산업처럼 확산하고 있다는 지적도 나온다.
논란이 커지자 일부 플랫폼은 미성년자로 오인될 수 있는 캐릭터를 비공개 처리하겠다고 공지했지만, 여전히 상당수 캐릭터는 검색과 대화가 가능한 상태인 것으로 전해졌다. 이용자 커뮤니티에서는 단속을 피하는 방법이나 삭제 현황까지 공유되는 모습도 포착됐다.
법조계에서는 현행법 적용 가능성을 주목하고 있다. 전문가들은 AI 이미지나 가상 캐릭터라고 하더라도 교복·학생 설정·어린 외형 등을 통해 아동·청소년으로 명백히 인식되고 성적 행위가 표현된다면 아동·청소년성보호법 위반 소지가 있다고 보고 있다.
다만 실제 아동이 등장하지 않는 AI 생성물까지 어디까지 처벌 대상으로 볼 것인지에 대해서는 법적 기준이 아직 명확하지 않다는 지적도 나온다. 단순 그림 수준인지, 실제 아동처럼 보이는 표현인지에 따라 판단이 달라질 가능성이 있기 때문이다.
방송통신심의위원회는 현재 관련 신고 내용을 확인하고 있으며 플랫폼 내 음란 정보와 아동 성착취 표현물에 대한 모니터링을 진행 중이라고 밝혔다. 전문가들은 생성형 AI 기술 발전 속도를 고려하면 기존 음란물 규제를 넘어선 별도의 AI 성착취 대응 체계가 필요하다고 지적하고 있다.
사건저널은 다양한 사건·사고 관련 제보를 받고 있습니다.
전체댓글 0
NEWS TOP 5
추천뉴스
