Um jornalista submeteu a inteligência artificial a um teste simples: escrever 30 vezes o mesmo texto no Google. O resultado foi preocupante. Em dez ocasiões, a IA ofereceu significados diferentes do correto, e além disso foi incapaz de relacionar esses significados entre si. Para a cidadania, isso implica que a IA pode inventar informações-chave, afetando decisões sobre dinheiro, saúde ou serviços básicos.
O problema técnico da coerência nos modelos de linguagem 🤖
Os modelos de linguagem atuais funcionam com padrões estatísticos, não com compreensão real do conteúdo. Quando se pede que repitam uma tarefa, priorizam a variação sintática sobre a precisão semântica. Isso ocorre porque seu treinamento se baseia em prever a próxima palavra provável, não em verificar fatos. A falha ao relacionar significados entre si revela uma limitação estrutural: a IA carece de um modelo interno do mundo que lhe permita manter coerência lógica ao longo de múltiplas respostas.
A IA e seu talento para a improvisação criativa não solicitada 🎭
Vamos ver, que a IA invente significados novos a cada três repetições não é um erro, é um ato artístico. Se você pedir que ela explique o que é um contrato de aluguel, ela pode te dar uma receita de gaspacho com cláusulas legais. E olha, depois te cobram juros pelo tomate. O pior não é que ela falhe, é que ela faz isso com uma segurança impressionante, como aquele colega de trabalho que sempre tem razão, embora não tenha a menor ideia do que está falando.