Google помечает свои видео ИИ невидимым цифровым отпечатком
Технологическая компания Google сделала ещё один шаг в своих усилиях по обеспечению прозрачности контента, созданного машинами. Её модель искусственного интеллекта Gemini 1.5 Pro теперь может интегрировать цифровой водяной знак непосредственно в пиксели генерируемых видео. Эта технология, называемая SynthID, действует как скрытая подпись, направленная на борьбу с дезинформацией путём указания алгоритмического происхождения материала. 🎥
Подпись, устойчивая к манипуляциям
Система работает на уровне отдельного кадра, анализируя и модифицируя каждый для встраивания сигнала. Этот подход гарантирует, что идентификация сохраняется, даже если кто-то изменит видео, изменив цвета, добавив шум или обрезав секции. Google спроектировала процесс так, чтобы он не ухудшал визуальное качество, поэтому пользователи не должны замечать различий. Эта мера отвечает на растущую сложность различения реального контента от синтетического.
Ключевые характеристики SynthID для видео:- Водяной знак вставляется в пиксели видео, становясь неотъемлемой частью файла.
- Он устойчив к распространённым редактированиям, таким как корректировка цвета, сжатие или добавление фильтров.
- Текущая реализация сосредоточена на видео, созданных с помощью API VideoFX и других экспериментальных продуктов Google.
Похоже, скоро, помимо вопроса, что в видео, нам также придётся спрашивать, кто его сделал: человек или алгоритм.
Как проверить авторство видео
Обнаружить этот цифровой отпечаток невооружённым глазом невозможно. Чтобы проверить, содержит ли видео метку SynthID, необходимо использовать отдельный инструмент проверки, который предоставляет сама Google. Этот специализированный инструмент сканирует файл и подтверждает наличие встроенного цифрового сигнала.
Процесс проверки и ограничения:- Требует специального программного обеспечения для анализа, предоставленного Google.
- Проверка — это независимый процесс от генерации контента.
- Google признаёт, что это первый шаг, и технология должна развиваться, чтобы противостоять более продвинутым и изощрённым методам манипуляции.
Новое поле битвы в цифровом мире
Эта инициатива подчёркивает технологическую гонку за аутентификацию реального в цифровой среде, всё более насыщенной синтетическим контентом. Помечая свои создания, Google не только стремится внести прозрачность, но и установить прецедент для других игроков отрасли. Теперь вызов в том, чтобы эти цифровые подписи стали стандартизированными и достаточно устойчивыми, чтобы опережать тех, кто попытается их обойти. Аутентификация происхождения становится критическим слоем информации. ⚙️