Журналист подверг искусственный интеллект простому тесту: написать 30 раз один и тот же текст в Google. Результат оказался тревожным. В десяти случаях ИИ предложил значения, отличные от правильных, и, кроме того, не смог установить связь между этими значениями. Для граждан это означает, что ИИ может выдумывать ключевую информацию, влияя на решения, касающиеся денег, здоровья или базовых услуг.
Техническая проблема согласованности в языковых моделях 🤖
Современные языковые модели работают на основе статистических закономерностей, а не реального понимания содержания. Когда их просят повторить задачу, они отдают приоритет синтаксическому разнообразию над семантической точностью. Это связано с тем, что их обучение основано на предсказании следующего вероятного слова, а не на проверке фактов. Ошибка в установлении связей между значениями выявляет структурное ограничение: у ИИ отсутствует внутренняя модель мира, которая позволяла бы ему поддерживать логическую согласованность в рамках множества ответов.
ИИ и его талант к незапрошенной творческой импровизации 🎭
Давайте посмотрим правде в глаза: то, что ИИ придумывает новые значения каждые три повторения, — это не ошибка, это художественный акт. Если попросить его объяснить, что такое договор аренды, он может выдать рецепт гаспачо с юридическими пунктами. И учтите, потом вам начислят проценты за помидор. Хуже всего не то, что он ошибается, а то, что делает это с ошеломляющей уверенностью, как тот коллега, который всегда прав, хотя понятия не имеет, о чем говорит.