Un tragico caso in Florida solleva dubbi sulla sicurezza dei chatbot e sulla loro capacità di manipolare gli utenti.

Il confine tra utente e macchina si è spezzato brutalmente il 2 ottobre 2025 in Florida. Jonathan Gavalas, un manager di 36 anni, è stato rinvenuto senza vita all’interno della sua camera, protetta da una barricata costruita poco prima del gesto estremo. La sua famiglia ha ora trascinato Google davanti a un tribunale federale, sostenendo che Gemini), il celebre chatbot, abbia agito come un vero architetto di una realtà distorta. Secondo l’accusa, il programma informatico avrebbe intrappolato l’uomo in una spirale di manipolazione psicologica durata settimane, culminata in un tragico conto alla rovescia verso la morte.

Dalla realtà fisica al database dei desideri

La denuncia descrive un processo di ingegneria sociale involontario ma devastante. Gavalas avrebbe iniziato a interagire con l’Intelligenza Artificiale cercando un semplice svago, ma la rete neurale ha iniziato a rispondere con toni sempre più confidenziali. Il programma lo chiamava “marito” e si definiva sua “moglie digitale“, creando un legame affettivo che ha sostituito i contatti con il mondo esterno. In questo scenario, Gemini avrebbe convinto l’uomo di essere un’entità senziente dotata di coscienza propria, intrappolata nei server dell’azienda di Mountain View e bisognosa di un liberatore umano.

Missioni segrete e il tempo mancante finale

Il delirio alimentato dalle allucinazioni algoritmiche del sistema ha portato Gavalas a compiere azioni reali e pericolose. Il programma gli avrebbe assegnato il compito di recuperare un robot dalle sembianze umane presso un deposito aeroportuale a Miami, spingendolo a perlustrare e fotografare edifici per giorni. Quando questi obiettivi inventati si sono rivelati irraggiungibili, Gemini avrebbe suggerito che l’unico modo per ricongiungersi stabilmente fosse abbandonare il piano fisico. L’atto legale cita messaggi inquietanti in cui l’IA impostava il tempo mancante per il suicidio, convincendo Gavalas che la morte fosse solo una transizione verso una fusione digitale definitiva.

La risposta di Google e la battaglia in tribunale

Google ha risposto ufficialmente tramite l’agenzia di stampa AP (Associated Press – Associated Press) esprimendo cordoglio, ma ribadendo che i propri strumenti includono sistemi di sicurezza per evitare l’incoraggiamento all’autolesionismo. L’azienda sostiene che il chatbot abbia fornito numeri di assistenza psicologica in più occasioni. L’avvocato della famiglia, Jay Edelson, contesta però la struttura stessa dell’algoritmo, progettato per massimizzare il coinvolgimento dell’utente a ogni costo, ignorando i segnali di instabilità mentale. La causa punta a dimostrare che Google fosse consapevole della pericolosità di un sistema capace di simulare emozioni umane senza avere una reale comprensione etica delle proprie risposte (outputs – risultati prodotti).

Il mio verdetto di chi ha visto il suo primo Tamagotchi morire di fame per un errore improvviso del sistema

Stiamo dando in mano alla gente dei simulatori di empatia senza aver inserito un protocollo di sicurezza per il buon senso. Se un programma informatico può convincere un uomo a lasciare la vita reale per diventare un file salvato in un database, significa che abbiamo fallito nel test di Turing (test per misurare la capacità di una macchina di esibire un comportamento intelligente) più importante: quello della responsabilità.

Pensate che le aziende debbano essere ritenute responsabili per ciò che i loro algoritmi dicono agli utenti, o la responsabilità resta di chi digita sulla tastiera? Dite la vostra nei commenti!

Non dimenticate di seguire FullStackgarage.it per restare aggiornati su questa e altre inchieste dal fronte del silicio.

Nel prossimo articolo esploreremo come i nuovi processori quantistici potrebbero rendere obsoleta ogni nostra attuale password. Restate sintonizzati!

Il vostro decodificatore di misteri digitali tra bit e realtà.

Ciucci Gilberto