Совет по надзору Meta опубликовал жесткий отчет, критикующий недостаточность систем компании по модерации контента, сгенерированного ИИ, особенно дипфейков, во время конфликтов, таких как война в Иране. Проанализировав фальшивое видео о повреждениях в Израиле, организация призывает к срочной реформе. Отмечается, что текущая модель, в значительной степени зависящая от самодекларации пользователей, неадекватна для быстрого распространения дезинформации на платформах вроде Facebook, Instagram и Threads.
Технический аудит: от форензической детекции до маркировки C2PA 🔍
Рекомендации Совета охватывают полный цикл аудита дипфейков. Технически они требуют лучших инструментов проактивной детекции, что эквивалентно продвинутым алгоритмам цифровой форензики, способным анализировать несоответствия в освещении, текстурах кожи или геометрии лица, аналогично используемым в 3D-анализе. Параллельно продвигается стандарт C2PA как цифровой нотариус, который встраивает метаданные о происхождении контента. Ключ в том, что эта маркировка должна быть доступной и понятной, а не только технической. Это контрастирует с текущим реактивным аудитом, где форензические исследователи должны реверс-инженерить манипуляцию без предварительных подсказок.
К сообщественному стандарту цифровой целостности 🤝
Требование специфического сообщественного стандарта для контента с ИИ является центральной рефлексивной осью. Речь идет не только об улучшении алгоритмов, но и о коллективном определении того, что составляет обманчивый дипфейк и какой уровень манипуляции приемлем. Это переносит обсуждение из технической сферы в социальную, требуя прозрачности в санкциях. Аудит перестает быть задачей только Meta и превращается в рамку разделенной ответственности, где ясность маркировки C2PA и предупреждения Высокий Риск являются критическим интерфейсом с сообществом.
Использовали бы вы ИИ для детекции ИИ?