Três gigantes da tecnologia assinaram acordos com o Departamento de Comércio dos EUA para que seus novos modelos de inteligência artificial sejam revisados pelo Centro de Padrões e Inovação em IA (CAISI) antes do lançamento público. Esse movimento ocorre enquanto a administração Trump considera endurecer a supervisão do setor, segundo relatos recentes.
Avaliação prévia como novo filtro no desenvolvimento de IA 🤖
O CAISI atuará como um filtro técnico, analisando aspectos como vieses, segurança e desempenho de cada modelo. Esse processo busca detectar falhas antes que o software chegue aos usuários. As empresas colaborarão compartilhando dados de treinamento e resultados de testes. A medida visa estabelecer um padrão mínimo, embora os detalhes sobre os critérios de aprovação ainda não tenham sido divulgados.
O governo quer ver a IA antes que ela os veja 🏛️
Agora acontece que os mesmos que não conseguem fazer funcionar bem o site de impostos vão revisar se uma IA é segura. A gente imagina um funcionário perguntando ao ChatGPT: Você é um risco para a segurança nacional?. E a IA respondendo: Depende, você tem café?. Ainda bem que assinaram um acordo, porque senão, a IA poderia se lançar sozinha e roubar o emprego deles.