EU는 Grok에 집중하지만 AI 누드 앱은 무시한다
유럽연합 당국은 인공지능 Grok 도구가 사람들의 누드 이미지를 제작할 가능성에 대해 우려를 표명했습니다. 그러나 이러한 입장은 훨씬 더 광범위하고 확립된 기술적 현실을 간과합니다. 이 편집기에 대한 접근을 제한하는 논의가 진행되는 동안, 수많은 동일한 기능을 가진 애플리케이션이 세계 최대 배포 플랫폼에서 장애 없이 계속 이용 가능합니다. 📱
공식 스토어의 거대 생태계
최근 기술 투명성 프로젝트(TTP)의 연구가 이 현상에 대한 수치를 제시합니다. 이 조사는 Google Play와 Apple App Store에서 사람들의 사진에서 옷을 디지털 방식으로 제거하도록 특별히 설계된 100개 이상의 앱을 식별했습니다. 이러한 도구들은 주로 여성 초상화에 집중하며, 피사체를 완전히 누드하거나 부분적으로 벗거나 옷을 거의 입지 않은 상태로 보여줄 수 있습니다.
TTP 보고서의 주요 데이터:- Google Play에서 55개 앱, Apple App Store에서 48개가 발견되었습니다.
- 이 앱들의 총 다운로드 수는 전 세계적으로 7억 500만 회를 초과합니다.
- 추정 수익은 약 1억 1,700만 달러입니다.
비동의 성적 이미지 생성 메커니즘은 널리 배포되어 있으며 쉽게 접근할 수 있습니다.
Grok에 대한 조치는 제한적인 해결책이다
Grok의 이미지 편집기에만 제한을 두는 것은 갈등의 작은 부분만 건드리는 조치처럼 보입니다. 이 광범위한 전문 앱 카탈로그의 존재는 문제가 구조적임을 보여줍니다. 하나의 서비스에만 집중하는 동안 완전한 생태계가 면죄부를 받고 수억 명의 사용자에게 도달하는 것은 제안된 대응의 실제 효율성을 의심하게 합니다. 🚨
효과적인 규제를 위한 도전 과제:- 대응은 앱 스토어를 직접 포함시켜 검토 정책을 강화하도록 요구해야 합니다.
- 개별 도구에 대한 고립된 조치가 아닌 포괄적인 접근이 필요합니다.
- 일부 앱은 필터를 통과하지만 다른 앱은 지목되는 규범 적용의 불균형이 드러납니다.
디지털 이중 잣대의 결론
이 상황은 디지털 환경의 역설을 드러냅니다: 이미지에서 사람을 벗기는 것이 이를 방지하기 위한 일관되고 공정한 통제를 구현하는 것보다 기술적으로 더 쉽습니다. 하나의 행위자에 주목하는 동안 수십 개가 모두의 눈앞에서 운영되며, 이는 규범이 때때로 이중 잣대를 입고 있음을 시사합니다. 진정한 해결책을 원한다면 즉각적인 목표를 넘어 이러한 도구를 배포하는 플랫폼에 행동해야 합니다. ⚖️