Le directeur d'OpenAI, Sam Altman, fait pression sur les États-Unis pour supprimer l'approbation préalable lors du lancement de nouveaux modèles d'IA. Son argument : la bureaucratie freine le progrès. Mais sans contrôles, les entreprises peuvent libérer des systèmes présentant des biais, des failles de sécurité ou des capacités dangereuses sans supervision. L'histoire montre que l'autorégulation échoue.
Sans filtres techniques : vulnérabilités et biais à découvert 🚨
Les modèles d'IA actuels présentent des biais raciaux, de genre et des erreurs graves dans des contextes médicaux ou judiciaires. Sans révision préalable obligatoire, une entreprise pourrait lancer un système de recrutement discriminant ou un assistant médical recommandant des traitements erronés. Altman demande de la confiance, mais les données montrent que l'industrie privilégie le marché à la sécurité. Sans contrôles, l'erreur est découverte lorsqu'elle a déjà causé des dommages.
Faites-nous confiance, c'est la septième fois que nous le promettons 🔄
Altman demande que nous le croyions, comme nous avons fait confiance auparavant aux réseaux sociaux, aux voitures autonomes et aux algorithmes bancaires. C'est toujours la même chose : d'abord ils demandent de la vitesse, puis l'autorégulation, et quand tout explose, ils demandent de la compréhension et des délais pour corriger le tir. La proposition d'Altman ressemble à de la liberté, mais sent le déjà-vu. Qu'un milliardaire demande moins de contrôles n'est pas de l'innovation, c'est le manuel habituel.