호주 eSafety 위원회가 최근 폭발적으로 확산된 AI 누디파이(nudify) 서비스에 대해 강력한 조치를 내렸습니다. 이 플랫폼은 실제 인물의 사진을 업로드하면 성적 딥페이크 이미지를 자동 생성하는 기능을 제공하고 있으며, 지난 6개월 동안 호주에서만 월 4만 건에 가까운 접속이 발생한 것으로 확인됐습니다.
위원회는 아르헨티나 기반 운영사에 대해 14일 내 미성년자 접근을 완전히 차단하라는 ‘Direction to Comply(법적 준수 명령)’을 발동했습니다. 이는 올해 3월부터 시행된 연령 제한 콘텐츠 규정이 적용된 첫 사례로, 포르노·고위험 폭력·자해 조장 콘텐츠에 대한 아동 접근을 막기 위한 법적 장치입니다.
eSafety 커미셔너 줄리 인먼 그랜트는 이 서비스가 아동뿐 아니라 성인(특히 여성)에게도 심각한 위험을 초래한다며, 사이버 괴롭힘·성적 갈취·이미지 기반 성폭력에 악용될 수 있다고 강하게 경고했습니다. 그녀는 “이런 서비스에 긍정적 활용 사례를 찾기 어렵다”며 AI가 이미 현실에서 돌이킬 수 없는 피해를 만들고 있다고 지적했습니다.
운영사는 규정 시행 직후부터 여러 차례 접촉을 시도한 eSafety의 요구에 응답하지 않았고, 보호 조치 도입에도 협조하지 않은 것으로 드러났습니다. 이에 따라 위원회는 제재 수위를 높였으며, 14일 내 조치가 이행되지 않을 경우 최대 4,950만 달러의 민사 벌금과 검색엔진 차단 명령(디리스팅)까지 내려질 수 있습니다.
이번 조치는 2025년 말, 학교 내에서 아동 성착취 딥페이크가 생성된 사건 이후 세 곳의 누디파이 서비스가 호주 시장에서 퇴출된 데 이어 또 한 번의 강력한 규제 사례입니다. 정부는 이미 지난해 누디파이 기술 전면 금지 법안을 추진하겠다고 발표한 바 있어, 향후 더 강한 규제가 이어질 가능성이 큽니다.
전문가 시각에서 보면, 이번 조치는 AI 기반 이미지 조작 기술이 가져오는 사회적 위험을 제도적으로 통제하려는 흐름의 연장선입니다. 동시에 해외 기반 플랫폼이라도 호주 이용자를 대상으로 한다면 국경을 초월해 규제하겠다는 강력한 메시지로 해석됩니다.
