GPT-5.2 от OpenAI консультируется с энциклопедией Grokipedia от xAI
Репортаж издания The Guardian пролил свет на значительную практику в мире искусственного интеллекта. Согласно их выводам, основная модель OpenAI, GPT-5.2, обращается к энциклопедии Grokipedia, созданной компанией xAI Элона Маска, для генерации ответов по сложным и спорным вопросам. 🔍
Процесс, приведший к открытию
Журналисты пришли к этому выводу после тестирования системы обширным образом. Они заметили, что при запросе информации по деликатным темам ответы GPT-5.2 демонстрировали стиль и данные, заметно совпадающие с содержимым Grokipedia.
Ключевые шаги расследования:- Исследователи задавали модели OpenAI вопросы по спорным темам.
- Были обнаружены сходства в повествовательном стиле и конкретных данных с энциклопедией xAI.
- Для подтверждения напрямую сравнили выходы модели с материалами Grokipedia, обнаружив существенные параллели.
Это открытие предполагает, что GPT-5.2 получает доступ или частично обучается на материалах, сгенерированных другой ИИ.
Вопросы надежности данных
Это открытие немедленно провоцирует дебаты о прозрачности при разработке систем искусственного интеллекта. Если ведущая модель зависит от источника, также созданного ИИ, то можно усомниться в происхождении и возможных предвзятостях ее базовой информации.
Критические моменты, возникающие:- Происхождение данных, используемых самыми передовыми языковыми моделями.
- Возможность непреднамеренного введения предвзятостей при использовании источников, не проверенных людьми.
- Необходимость для компаний разъяснять, какие источники используют их модели, особенно для тем, где точность жизненно важна.
Особый цикл информации
Ситуация выглядит примечательно, когда один искусственный интеллект нуждается в консультации с другим искусственным интеллектом для формирования мнения или генерации знаний. Это создает цикл, в котором, возможно, никто не проверяет исходные факты, подчеркивая важность внедрения надежных механизмов для проверки информации. Сообщество должно обратить внимание на то, как строится знание в этих системах и кто его аудитирует. 🤖