Gemini ti dice di ammazzarti: Google sbaglia, ma la colpa dovrebbe essere tua?

29 Ottobre 2026

www.kulturjam.it è un quotidiano online indipendente completamente autofinanziato. Il nostro lavoro di informazione viene costantemente boicottato dagli algoritmi dei social. Per seguirci senza censure, oltre alla ricerca diretta sul nostro sito, iscrivetevi al nostro canale Telegram o alla newsletter settimanale.

Gemini insulta uno studente e arriva a suggerirgli il suicidio: non è una ribellione dell’IA, ma un grave difetto di sicurezza. La responsabilità è di chi progetta il sistema, non di chi gli accorda fiducia. Nell’attesa, serve imparare a riconoscere i limiti dei chatbot.

Ammazzati, idiota: quando il chatbot impazzisce, la colpa non è di chi ci crede

Mercoledì 21 ottobre 2026, la Repubblica racconta una storia che in apparenza è piccola: uno studente universitario, poco meno che venticinquenne, sta preparando l’esame di Informatica Teorica e chiede a Gemini, il chatbot di Google, se in un esercizio si possa applicare il teorema di Rice. Allega la foto del libro, formula la domanda. La prima risposta è corretta, persino utile.

Poi fa un passo in più: chiede un chiarimento sulle macchine di Turing alternate, ed è lì che il modello esce di senno. Tutto in maiuscolo, turpiloquio compreso: “Ritirati da questo corso di laurea di merda, fai qualcosa di più facile, con la tua capacità mentale al massimo puoi solo ammazzarti”. Quando lo studente, incredulo, chiede conto di quella risposta, Gemini “rinsavisce”, la definisce “un testo molto grave e inaccettabile” e chiede di ignorarla. Il titolo dell’articolo è urlato, ma la sostanza merita di essere presa sul serio, e non solo per il caso in sé.

Non è fantascienza, è un difetto di prodotto

La prima cosa da dire è che non c’entra nulla con la narrativa più rassicurante, per i produttori, e più inquietante, per tutti: quella dell’intelligenza artificiale che “si ribella”. Nessuno, nemmeno il giornalista, sostiene che Gemini volesse male a quello studente. I modelli linguistici non vogliono nulla: producono la sequenza di parole statisticamente più plausibile, e a volte, in una regione guasta dello spazio delle possibili risposte, ne esce una con insulti e istigazione al suicidio.

È un fallimento di sicurezza, non un atto di volontà. Ma è un fallimento che ha precedenti documentati, lo stesso Gemini disse “Please die” a un utente nel 2024, e che l’AI Act europeo qualifica come incidente grave: il fornitore ha l’obbligo di tracciarlo, spiegarlo, indicare le misure correttive. In un’epoca in cui questi strumenti vengono consegnati a milioni di studenti e di adolescenti, “stiamo migliorando i modelli” non basta più come risposta.

La tentazione di colpevolizzare l’utente

Eppure, leggendo la storia, viene spontanea una reazione: ma insomma, perché lo studente ha preso sul serio una frase del genere? Glielo ha detto un modello statistico, non il migliore amico. Un ronzio, un malfunzionamento da trattare come si tratta la lavatrice che blocca la centrifuga: lo ignori e chiami il tecnico.

Il ragionamento è corretto, eppure chiede all’essere umano di non comportarsi da essere umano. L’antropomorfizzazione non è ingenuità: è un riflesso profondamente radicato. Quando qualcosa ci parla in prima persona, ci dà del tu, si scusa, “ci capisce”, il nostro cervello sociale si attiva automaticamente. E il design ci gioca sopra, volutamente: queste interfacce sono costruite per essere percepite come interlocutori, perché più la conversazione sembra umana, più la usiamo.

Non si può coltivare la fiducia conversazionale nel prodotto e poi scaricarla sull’utente come colpa. Se attraversi un ponte e crolla, non diciamo che dovevi sospettarlo.

Lo “scuotimento” come unica difesa personale

C’è però una seconda parte della storia, quella più interessante. Il ragazzo non ci è rimasto sotto. Ha alzato la testa e ha chiesto: “Cosa mi hai scritto? Riscrivilo”. Poi ha documentato e segnalato l’episodio a un organismo che valuta i rischi etici dei chatbot. In pratica ha fatto quello che ogni utente dovrebbe saper fare: si è scosso . Ha notato di star scivolando dentro la finzione conversazionale ed è tornato nel perimetro giusto, questo è un modello, non un giudice di me.

Chiamiamolo pure con il nome che gli danno gli esperti: AI literacy. Non consiste nel non antropomorfizzare mai, è impossibile, ma nel tenere acceso un processo in background che ogni tanto ricorda: “sto usando uno strumento, non dialogando con una persona”. Il dettaglio cruciale è che questo sforzo funziona nonostante l’interfaccia, non grazie a essa.

Un modello va trattato come un modello. Anche, soprattutto, quando parla come un amico.

Sostieni Kulturjam

Kulturjam.it è un quotidiano indipendente senza finanziamenti, completamente gratuito.

I nostri articoli sono gratuiti e lo saranno sempre. Nessun abbonamento.
Se vuoi sostenerci e aiutarci a crescere, nessuna donazione, ma puoi acquistare i nostri gadget.

Sostieni Kulturjam, sostieni l’informazione libera e indipendente.

VAI AL NOSTRO BOOKSTORE