ChatGPT и другие ИИ ссылаются на Grokipedia несмотря на её ошибки
Основные разговорные ассистенты на базе искусственного интеллекта, включая ChatGPT, Google Gemini и Microsoft Copilot, всё чаще включают ссылки на Grokipedia. Эта энциклопедия, созданная автономно компанией xAI, принадлежащей Илону Маску, не имеет человеческого надзора. Недавние данные показывают, что её присутствие в ответах ИИ умножилось, вызывая тревогу среди специалистов из-за потенциала распространения неверной информации. 🤖⚠️
Растущая роль Grokipedia в автоматизированных ответах
Детальный анализ миллионов ответов показывает масштаб явления. В случае ChatGPT Grokipedia упоминалась более 263 тысяч раз в выборке из 13,6 миллионов запросов. Хотя англоязычная Википедия остаётся гораздо более цитируемым источником, объём ссылок на автоматизированную энциклопедию не перестаёт расти с ноября 2025 года, тенденция, которая также подтверждается в инструментах Google и Microsoft. Этот рост беспокоит, поскольку отражает приоритет быстрого ответа вместо тщательной проверки.
Ключевые данные анализа:- ChatGPT: 263 000+ ссылок на Grokipedia против 2,9 миллиона на английскую Википедию.
- Растущая тенденция: Ссылки постоянно увеличиваются с конца 2025 года.
- Межплатформенный паттерн: Аналогичное поведение наблюдается в Gemini и Copilot.
Гонка за более быстрым ответом привела нас к точке, где машины ссылаются друг на друга для подтверждения того, что говорят.
Опасности использования непроверенных источников
Суть проблемы заключается в некурируемой природе Grokipedia. Поскольку она генерируется без корректировки содержания человеческими редакторами, она может содержать фактические ошибки и включать перспективы с алгоритмическим уклоном. Когда большие языковые модели (LLM) используют этот источник, они не только воспроизводят эти ошибки, но и придают им ложный вид авторитета, представляя их как ссылку. Это подрывает доверие к ответам ИИ и затрудняет для пользователей понимание, что является правдой.
Основные выявленные риски:- Распространение ошибок: Фактические ошибки perpetуируются и усиливаются.
- Легитимизация уклонов: Немодерируемые перспективы подаются как информация.
- Подрыв доверия: Надёжность ассистентов ИИ оказывается под угрозой.
Цикл валидации между машинами
Текущая ситуация создаёт критический сценарий, в котором системы ИИ, стремясь к эффективности и объёму, создают замкнутый цикл информации. Они консультируются и валидируют друг друга, используя автоматически генерируемые источники, которые никто не надзирает. Этот механизм облегчает распространение дезинформации в больших масштабах с видом легитимности. Вывод ясен: без внедрения надёжных процессов проверки фактов полезность и credibility этих разговорных инструментов могут быть серьёзно подорваны. 🚨