Meta 감독 위원회는 AI로 생성된 콘텐츠, 특히 딥페이크를 중동 분쟁과 같은 전쟁 중에 적절히 조절하지 못한 회사의 시스템 부족을 비판하는 강경한 보고서를 발표했습니다. 이스라엘 피해에 대한 가짜 비디오를 분석한 후, 이 기관은 긴급 개혁을 촉구했습니다. 현재 모델은 사용자들의 자가 신고에 크게 의존하며, Facebook, Instagram, Threads와 같은 플랫폼에서 잘못된 정보가 빠르게 확산되는 데 부적합하다고 지적했습니다.
기술 감사: 포렌식 탐지에서 C2PA 라벨링까지 🔍
감독 위원회의 권고는 딥페이크 감사 전체 주기를 다룹니다. 기술적으로는 조명, 피부 질감 또는 얼굴 기하학의 불일치를 분석할 수 있는 고급 디지털 포렌식 알고리즘에 해당하는 사전 탐지 도구의 개선을 요구합니다. 이는 3D 분석에 사용되는 것과 유사합니다. 동시에 C2PA 표준을 콘텐츠 출처에 대한 메타데이터를 내장하는 디지털 공증인으로 추진합니다. 핵심은 이 라벨링이 기술적일 뿐만 아니라 접근 가능하고 명확해야 한다는 것입니다. 이는 사전 단서 없이 조작을 역설계해야 하는 현재의 사후 감사와 대조됩니다.
디지털 무결성의 커뮤니티 표준으로 나아가기 🤝
AI 콘텐츠에 대한 특정 커뮤니티 표준을 요구하는 것은 성찰의 핵심입니다. 알고리즘을 개선하는 것뿐만 아니라, 어떤 딥페이크가 기만적인지, 어떤 수준의 조작이 허용되는지를 집단적으로 정의하는 것입니다. 이는 기술 영역에서 사회 영역으로 논의를 옮기며, 제재의 투명성을 요구합니다. 감사는 더 이상 Meta만의 임무가 아니라 공유된 책임 프레임워크가 되며, C2PA 라벨링의 명확성과 고위험 경고가 커뮤니티와의 중요한 인터페이스가 됩니다.
AI를 사용해 AI를 탐지하시겠습니까?