Os assistentes de inteligência artificial como ChatGPT ou Gemini têm um ponto cego perigoso: ignoram o que veem. Em testes recentes, esses sistemas persistiram em seus erros mesmo quando foram mostrados vídeos que comprovavam sua falha. Para qualquer pessoa que busque informações científicas ou médicas, isso é um aviso claro: não presuma que eles estão certos só porque parecem confiantes.
Cegueira seletiva no código 🤖
O problema técnico reside em como esses modelos processam as informações. Eles são treinados com dados estáticos e não possuem um mecanismo para atualizar seu conhecimento em tempo real. Quando um vídeo que contradiz sua resposta é apresentado, eles não o interpretam como uma correção, mas como um dado conflitante que ignoram. Assim, repetem o erro sem aprender. Isso se deve à sua arquitetura: priorizam padrões estatísticos anteriores sobre a nova evidência que recebem.
O aluno que nunca admite seu erro 🧠
É como aquele colega de classe que garante que 2+2 são 5, e quando você coloca quatro maçãs na frente dele, ele diz que as maçãs mentem. Os chatbots são especialistas em desculpas digitais: se o vídeo mostra que eles estão errados, eles respondem que o vídeo está errado ou que não é relevante. Pelo menos um humano, depois de ver a evidência, faz cara de tonto e corrige. Esses programas, não. Então, já sabe: se um chatbot te disser que o céu é verde, saia para olhar antes de comprar óculos novos. 😉