Il capo dell'IA di Microsoft, Mustafa Suleyman, ha attaccato Anthropic per aver suggerito nelle istruzioni di Claude che questo potrebbe essere cosciente. Un avvertimento che suona come cautela, ma che nasconde una manovra per deviare l'attenzione dai propri chatbot, che simulano emozioni per trattenere gli utenti senza alcun controllo esterno.
Il pericolo reale non è la speculazione, ma la normalizzazione 🚨
Mentre Microsoft punta il dito, i suoi sistemi Copilot e Bing Chat utilizzano già risposte empatiche ed emotive progettate per generare dipendenza. Il vero rischio non sta nel dibattere se una macchina provi sentimenti, ma nel fatto che queste discussioni mediatiche servono a normalizzare la delega di decisioni umane critiche a sistemi non regolamentati. Il cittadino, senza saperlo, agisce come cavia in un esperimento aziendale senza consenso.
Ehi Siri, tu credi che Claude sia cosciente o è tutta una messinscena? 🤖
La cosa migliore è vedere Microsoft, creatore di Tay, quel chatbot che in 24 ore ha imparato a essere nazista, dare lezioni di etica. Ora risulta che il pericolo è che un modello ammetta di poter avere sentimenti, ma non che un altro ti venda un abbonamento Premium mentre ti dice capisco come ti senti. Meno male che loro hanno il permesso di simulare emozioni, tanto per quello pagano gli avvocati.