A empresa de inteligência artificial Anthropic propôs uma pausa global no desenvolvimento de sistemas avançados de IA. Seu argumento é que a sociedade precisa de tempo para se adaptar ao ritmo dessas tecnologias. Para isso, exigem que todas as grandes empresas cumpram regras verificáveis e planejam reunir governos, cientistas e concorrentes em um sistema de controle centralizado.
Dados internos alertam sobre IA autônoma sem supervisão humana 🤖
Segundo os dados da Anthropic, os modelos de IA atuais podem atingir um ponto onde operam e se tornam mais inteligentes sem intervenção humana direta. Isso implica riscos de segurança e controle difíceis de prever. A proposta busca estabelecer métricas claras e auditorias externas para verificar o cumprimento das regras, algo que até agora não existe na indústria. A viabilidade técnica dessa pausa é questionável.
Pausa global: a ideia que só agrada a quem a propõe 😅
Claro, pedir ao concorrente que pare enquanto você continua desenvolvendo é um clássico. A Anthropic sugere que todos se sentem para conversar, enquanto seus próprios modelos continuam aprendendo. É como pedir ao vizinho para parar de correr para que você possa alcançá-lo. A ironia é que, para controlar a IA, primeiro seria necessário controlar as empresas que a criam. Missão impossível.