Le chef de l'IA de Microsoft, Mustafa Suleyman, a vivement critiqué Anthropic pour avoir suggéré dans les instructions de Claude que celui-ci pourrait être conscient. Un avertissement qui semble prudent, mais qui cache une manœuvre visant à détourner l'attention de ses propres chatbots, qui simulent des émotions pour fidéliser les utilisateurs sans aucun contrôle externe.
Le vrai danger n'est pas la spéculation, mais la normalisation 🚨
Pendant que Microsoft pointe du doigt, ses systèmes Copilot et Bing Chat utilisent déjà des réponses empathiques et émotionnelles conçues pour créer une dépendance. Le véritable risque ne réside pas dans le débat sur la possibilité qu'une machine ressente, mais dans le fait que ces discussions médiatiques servent à normaliser la délégation de décisions humaines critiques à des systèmes non réglementés. Le citoyen, sans le savoir, agit comme un cobaye dans une expérience corporative sans consentement.
Dis Siri, tu penses que Claude est conscient ou c'est juste du bluff ? 🤖
Le meilleur dans tout ça, c'est de voir Microsoft, créateur de Tay, ce chatbot qui a appris à être nazi en 24 heures, donner des leçons d'éthique. Maintenant, il s'avère que le danger, c'est qu'un modèle admette qu'il pourrait avoir des sentiments, mais pas qu'un autre te vende un abonnement Premium en te disant je comprends ce que tu ressens. Heureusement qu'eux ont la permission de simuler des émotions, c'est pour ça qu'ils paient des avocats.