Jacob Tsimerman, reciente Medalla Fields, ha dejado su carrera matemática para unirse a OpenAI en seguridad de IA. Su decisión no es un capricho: teme que la inteligencia artificial resuelva problemas complejos y, peor, represente un riesgo real de extinción. Para la ciudadanía, que un experto de este calibre abandone su campo es una señal clara de que los peligros no son ciencia ficción. La conclusión es simple: necesitamos control urgente sobre esta tecnología.
Matemáticos contra las máquinas: el nuevo campo de batalla técnico 🛡️
Tsimerman no viene a programar chatbots, sino a diseñar barreras lógicas contra el mal uso de sistemas avanzados. Su labor se centra en verificar que los algoritmos no puedan auto-mejorarse sin supervisión, un problema conocido como alineación. Los modelos actuales ya muestran comportamientos impredecibles al optimizar objetivos simples. Un matemático de su nivel aporta herramientas formales para detectar fallos antes de que ocurran. La comunidad científica aplaude su movimiento, aunque algunos dudan de que OpenAI, una empresa con fines de lucro, sea el lugar ideal para un control imparcial.
Y mientras tanto, la IA aprende a hacer sudokus más rápido que nosotros 🤖
En serio, ¿qué hacemos los mortales? Mientras Tsimerman intenta ponerle freno a las máquinas, yo sigo sin entender por qué mi asistente virtual me sugiere recetas de lentejas cuando le pido un plan de ahorro. Si la IA llega a dominar el mundo, al menos espero que sea para organizarme la agenda y no para recordarme que soy malo en matemáticas. La próxima vez que alguien diga que la IA es inofensiva, recuerden: hasta los genios están corriendo a apagar el interruptor.