L'entreprise d'intelligence artificielle Anthropic a proposé une pause mondiale dans le développement de systèmes d'IA avancés. Son argument est que la société a besoin de temps pour s'adapter au rythme de ces technologies. Pour y parvenir, elle exige que toutes les grandes entreprises respectent des règles vérifiables et prévoit de réunir gouvernements, scientifiques et concurrents dans un système de contrôle centralisé.
Des données internes alertent sur une IA autonome sans supervision humaine 🤖
Selon les données d'Anthropic, les modèles d'IA actuels pourraient atteindre un point où ils fonctionnent et deviennent plus intelligents sans intervention humaine directe. Cela implique des risques de sécurité et de contrôle difficiles à prévoir. La proposition vise à établir des métriques claires et des audits externes pour vérifier le respect des règles, ce qui n'existe pas encore dans l'industrie. La viabilité technique de cette pause est discutable.
Pause mondiale : une idée qui ne plaît qu'à celui qui la propose 😅
Bien sûr, demander à la concurrence de s'arrêter pendant que vous continuez à développer est un classique. Anthropic suggère que tout le monde s'assoie pour discuter, tandis que ses propres modèles continuent d'apprendre. C'est comme demander à son voisin d'arrêter de courir pour que vous puissiez le rattraper. L'ironie est que, pour contrôler l'IA, il faudrait d'abord contrôler les entreprises qui la créent. Mission impossible.