У помощников на основе искусственного интеллекта, таких как ChatGPT или Gemini, есть опасное слепое пятно: они игнорируют то, что видят. В недавних тестах эти системы упорствовали в своих ошибках, даже когда им показывали видео, доказывающие их неправоту. Для любого, кто ищет научную или медицинскую информацию, это четкое предупреждение: не думайте, что они правы только потому, что звучат уверенно.
Избирательная слепота в коде 🤖
Техническая проблема заключается в том, как эти модели обрабатывают информацию. Они обучены на статичных данных и не имеют механизма для обновления своих знаний в реальном времени. Когда им показывают видео, противоречащее их ответу, они интерпретируют это не как исправление, а как конфликтующие данные, которые игнорируют. Таким образом, они повторяют ошибку, не обучаясь. Это связано с их архитектурой: они отдают приоритет предыдущим статистическим шаблонам, а не новым полученным доказательствам.
Ученик, который никогда не признает свою ошибку 🧠
Это как тот одноклассник, который утверждает, что 2+2=5, и когда ты кладешь перед ним четыре яблока, он говорит, что яблоки врут. Чат-боты — эксперты по цифровым отговоркам: если видео показывает, что они ошибаются, они отвечают, что видео неверное или не имеет отношения к делу. По крайней мере, человек, увидев доказательства, сделает глупое лицо и исправится. Эти программы — нет. Так что знайте: если чат-бот говорит вам, что небо зеленое, выйдите и посмотрите сами, прежде чем покупать новые очки. 😉