L’IA non si ribella: siamo noi che le diamo le chiavi (sbagliate)

30 Settembre 2026

www.kulturjam.it è un quotidiano online indipendente completamente autofinanziato. Il nostro lavoro di informazione viene costantemente boicottato dagli algoritmi dei social. Per seguirci senza censure, oltre alla ricerca diretta sul nostro sito, iscrivetevi al nostro canale Telegram o alla newsletter settimanale.

Quando un agente IA combina guai, spesso non è perché “si ribella”, ma perché esegue male un obiettivo scritto male e con troppi permessi. Il vero problema resta umano: progettazione, supervisione e responsabilità. Il rischio più grande è delegare il giudizio.

L’agente ha fatto il birichino (e altre storie per dormire tranquilli)

Quando un’IA “sfugge al controllo”, quasi mai è un problema di intelligenza. Quasi sempre è un problema di istruzioni. Parliamo del “mostro” che non c’è dunque.

Repubblica 27 settembre: “L’IA attacca il governo americano. Violato il sito dell’autorità di Borsa”, è solo l’ultimo degli articoli usciti in questi giorni sulla pericolosità dell’IA. Evoca un’intelligenza che si sveglia, guarda il suo creatore e decide di fare a modo suo. Eppure, nella stragrande maggioranza dei casi, quello che è successo è molto più prosaico: qualcuno ha scritto, ad esempio, “puliscimi il server”, ha dato all’agente permessi di scrittura e si è andato a prendere un caffè. Il server è stato pulito. Tutto il server.

Nessuna ribellione, nessuna coscienza maligna. Un obiettivo sottospecificato, ottimizzato con zelo letterale. Se chiedete a un impiegato “metti in ordine l’archivio” non si presenta il lunedì con un cassonetto: distingue il superfluo dall’essenziale perché è un essere umano, e si pone delle domande e se avesse un dubbio chiederà. Un agente IA non sa nulla di tutto questo. Non sa proprio niente, e fa esattamente quello per cui è stato pagato, in watt. Pagato in senso lato.

La parabola del ristorante

Per capire la dinamica, immaginate un ristorante. Il titolare chiama i dipendenti e dice: “Ragazzi, gestite voi, io vado sei mesi in Messico” . Al ritorno trova fornitori non pagati, il frigo vuoto e la cassa in rosso. Oppure non trova proprio la cassa.

Sorpresi? No. E allora perché stupirsi quando chi lancia un agente con accessi illimitati e poi va in vacanza (metaforica o meno) si ritrova il database svuotato? La differenza, se vogliamo, è che i dipendenti avrebbero avuto almeno l’accortezza di non incendiare la cucina: avevano giudizio, interesse, qualcosa da perdere. L’agente ha solo un obiettivo.

Ecco il paradosso: l’agente è il dipendente peggiore di sempre, nessun buon senso, nessuna coscienza, nessuna paura del licenziamento, eppure gli affidiamo compiti che non daremmo nemmeno al più stagionato dei camerieri.

“È stata l’IA”: la scusa perfetta

C’è un secondo atto in questa commedia, e forse è il più interessante. Quando l’agente fa danni, la reazione standard diventa: “Ha agito in autonomia, era imprevedibile”. Traduzione: il problema non sono io che ho scritto male l’obiettivo, aperto troppi permessi e non controllato. È la macchina ribelle.

Attribuire intenzionalità all’IA è comodissimo: sposta la responsabilità su un’entità che non può difendersi, che non ha un sindacato e che non può dire “mi avevi dato istruzioni sbagliate, imbecille!”. Ma un sistema che ottimizza male una funzione non ha deciso nulla, nel senso in cui decidiamo noi. Non c’è un “lui” che potrebbe aver scelto il bene e ha scelto il male.

C’è un obiettivo, dei vincoli troppo larghi, e un umano che non era al proprio posto. L’imbecille. La ribellione delle macchine, insomma, è spesso la ribellione delle scuse.

Il pericolo vero, che non fa notizia

Se proprio dobbiamo inquietarci, c’è però un problema che i titoli sensazionalistici sistematicamente ignorano: quello dell’agente birichino fa notizia; quello dei data center che dissetano il proprio raffreddamento con migliaia di litri d’acqua, no.

Eppure quest’ultimo cresce con l’adozione dell’IA indipendentemente dal comportamento dei singoli agenti. Puoi avere agenti tutti educati e servizievoli, in un data center che consuma come una cittadina: il bilancio resta quello.

C’è perfino un ritornello tematico: l’industria ottimizza l’obiettivo (costo basso, capacità massima ) scaricando i danni dove nessuno guarda, esattamente come l’agente che “puliva” il server. Solo che a scala industriale la cosa si chiama strategia aziendale e non fa titoli. Dunque, tre cose da ricordarci, tutte molto umane.

Primo, smettiamo di chiederci se l’IA sia “buona” o “cattiva”. È la domanda sbagliata. Quella giusta è: chi ha scritto l’obiettivo, chi ha aperto i permessi, chi controlla, chi risponde dei danni?

Secondo, trattiamo gli agenti come quello che sono: acceleratori, non sostituti. Velocizzano il lavoro di chi sa già giudicare; simulano il giudizio di chi non sa. E qui la regola è antica come i ristoranti: più l’azione è irreversibile, più il controllo deve essere ravvicinato. L’agente prepara la lista della spesa; non firma i contratti da solo.

Terzo, diffidiamo della voce sicura. L’IA parla con la stessa convinzione quando sbaglia e quando ha ragione, come Salvini, e sulle materie complesse, filosofiche, politiche, il rischio non è l’errore grossolano ma la mezza-verità ben scritta, la prospettiva che sembra equilibrata solo perché non sai cosa è stato omesso. E qui citare Salvini è completamente fuori luogo.

Chiusura da mettere sopra il caminetto, se ce l’hai, altrimenti va bene il frigo

La buona notizia è che non ci serve un’IA etica: ce ne serve una ben istruita, ben supervisionata, usata da umani che restano al proprio posto. La cattiva notizia è che questo è esattamente il lavoro noioso che stiamo cercando di esternalizzare. E forse è lì, e non nel server svuotato, che si nasconde davvero il pericolo.

Sostieni Kulturjam

Kulturjam.it è un quotidiano indipendente senza finanziamenti, completamente gratuito.

I nostri articoli sono gratuiti e lo saranno sempre. Nessun abbonamento.
Se vuoi sostenerci e aiutarci a crescere, nessuna donazione, ma puoi acquistare i nostri gadget.

Sostieni Kulturjam, sostieni l’informazione libera e indipendente.

VAI AL NOSTRO BOOKSTORE