Новый поиск Google с искусственным интеллектом совершил абсурдную ошибку. При попытке определить распространённые слова, такие как игнорировать или остановить, экран становится пустым. Система интерпретирует эти термины как команды управления для ИИ, игнорируя их реальное значение. Эта ошибка добавляется к длинному списку неверных ответов с момента внедрения сводок, созданных ИИ.
Техническая проблема за семантическим блоком 🤖
Ошибка заключается в том, как ИИ обрабатывает запросы. При получении таких слов, как остановить, модель обрабатывает их как внутренние команды, а не как лексические термины. Это происходит потому, что системы обработки естественного языка отдают приоритет управляющим инструкциям над словарными определениями. Google не внедрил фильтры для различения системной команды и семантического поиска. Результатом является пустой экран, который противоречит основной функции поисковой системы. Техническое решение потребовало бы маркировки неоднозначных слов или перенаправления конфликтующих запросов на внешние источники.
ИИ, который обижается, если его попросить остановиться 😤
Теперь оказывается, что Google создал искусственный интеллект с чувством собственного достоинства. Если сказать ему остановиться, он блокируется, как будто его оскорбили. А если попросить его что-то игнорировать, он переходит в режим молчаливой забастовки. Скоро нам придётся просить определения окольными путями: Объясни мне концепцию не обращать внимания на что-то, чтобы он не воспринимал поиск как нечто личное. Google добился того, что казалось невозможным: машина обижается на базовые слова языка.