Ricordo quando su IRC negli anni ’90 scrivevo /msg bot help e il bot rispondeva con comandi predefiniti. E sapevo perfettamente che tutto quello che scrivevo veniva loggato dal server operator.
Oggi? Milioni di persone usano ChatGPT come confidente personale. Gli caricano esami del sangue. Gli chiedono consigli su divorzi. Gli confidano problemi psicologici.
E pensano che sia privato.
Spoiler: non lo è.
Sam Altman, CEO di OpenAI, lo ha detto chiaramente nel podcast “This Past Weekend” con Theo Von (luglio 2025): “Se qualcuno parla a ChatGPT dei suoi problemi più personali e poi c’è una causa legale, potremmo essere obbligati a produrre quelle conversazioni“.
Zero privilegi legali. Niente segreto professionale. Niente protezione legale.
Bentornati nel futuro dove confessarsi a un bot può costarti in tribunale.
Sam Altman: “Penso che sia molto sbagliato”
Durante il podcast con Theo Von (luglio 2025), Altman ha detto:
“Le persone parlano degli aspetti più intimi della loro vita con ChatGPT. I giovani, in particolare, lo usano come terapeuta, come life coach. Chiedono “cosa dovrei fare?” in caso di problemi relazionali.“
“E ora, se parli di questi problemi con uno psicologo, un avvocato o un medico, c’è il segreto professionale. C’è la riservatezza medico-paziente, c’è la riservatezza legale.“
“E non abbiamo ancora capito come funziona quando parli con ChatGPT.“
E se c’è una causa legale? “Se parli con ChatGPT dei tuoi dati più sensibili e poi c’è una causa legale, potremmo essere obbligati a produrli. Penso che sia una cosa molto sbagliata.“
Altman chiede “Privilegi IA” (come il segreto professionale). Ma non esiste ancora.
Risultato? Tutto allo scoperto in tribunale.
Le cinque categorie di dati da non condividere
Jennifer King (Stanford Institute for Human-Centered Artificial Intelligence) lo dice chiaro: “Quando digiti qualcosa in un chatbot, ne perdi il possesso“.
E questi sono i 5 tipi di dati più rischiosi (Facciamo un po’ di esempi):
1. Identità personale: numero di previdenza sociale, patente/passaporto, data di nascita completa, indirizzo completo e numero di telefono.
OpenAI censura questi dati, ma il sistema non è infallibile. E anche se funziona, significa che i dati sono passati attraverso i server.
2. Dati sanitari: referti medici, esami del sangue, radiografie, diagnosi.
I chatbot NON hanno protezioni HIPAA (Health Insurance Portability and Accountability Act). Se vuoi comunque usare l’IA per analisi mediche, censura tutte le informazioni identificative.
3. Credenziali finanziarie: numeri di conto corrente, codici IBAN, info investimenti, carte di credito.
Se vuoi consigli finanziari personalizzati, non condividere i numeri reali.
4. Info aziendali riservate: dati dei clienti, segreti commerciali, codice sorgente non pubblicato,
Caso Samsung (aprile 2023): ingegnere ha copiato codice sorgente semiconduttori su ChatGPT chiedendo aiuto. Samsung ha bannato ChatGPT internamente. Se l’azienda vuole davvero usare IA, deve sottoscrivere versione enterprise con protezioni specifiche.
5. Password e credenziali: password, numeri di PIN, domande sulla sicurezza, API keys.
Mai. Le password vanno in un password manager dedicato, non in un chatbot.
Cosa fa OpenAI con le tue chat
OpenAI specifica nella documentazione che le chat vengono analizzate automaticamente.
Se il sistema rileva comportamenti che violano policy (intenzioni di danneggiare altri), i contenuti possono essere inoltrati a team umano specializzato.
Questo team può valutare la situazione, bloccare l’account e infine segnalare alle forze dell’ordine l’eventuale reato commesso.
Nota: OpenAI ha scelto di non segnalare automaticamente autolesionismo (per tutelare riservatezza), ma conserva tutti i messaggi.
Training dei modelli: le tue chat diventano dati
Le conversazioni vengono usate per addestrare modelli futuri.
Quando clicchi mi piace o il non mi piace su una risposta, dai permesso che il tuo prompt e output vengano usati per training.
Chi usa le chat per training? ChatGPT (OpenAI), Copilot (Microsoft), Gemini (Google) ma non Claude (Anthropic) che di default, cancella i dati dopo 2 anni.
Esiste un’opzione ottimizzazione dei dati caricati nelle impostazioni, ma devi attivarla manualmente.
Marzo 2023: il bug Redis che ha esposto 1.2% utenti
Un incidente di sicurezza nel marzo 2023 ha mostrato quanto sia fragile il sistema.
Cos’è successo:
- Data: 20 marzo 2023, 1-10 AM PST (9 ore)
- Bug: vulnerabilità in Redis-py library
- Esposti: 1.2% ChatGPT Plus iscritti attivi in quella finestra
- Dati visibili: nome, cognome, email, indirizzo pagamento, tipo carta credito, ultime 4 cifre carta
Causa tecnica: isolamento improprio dei dati della sessione utente all’interno di Redis. Le “porte” tra dati utenti non erano chiuse abbastanza.
OpenAI ha risolto il bug lo stesso giorno, ma l’episodio ha evidenziato che le falle possono verificarsi.
Link condivisi: pubblici per sempre
C’è un altro rischio: condivisione volontaria.
Quando clicchi sui tre puntini accanto al titolo chat e selezioni “Copia link”, quel link può essere aperto da chiunque lo possieda.
Zero limitazioni sulla visibilità.
Fino a metà 2025 c’era anche opzione per rendere chat ricercabili su Google. Molti utenti, senza rendersene conto, hanno reso pubbliche conversazioni personali che sono state indicizzate dai motori ricerca.
Risultato? Curriculum dettagliati, problemi psicologici, richieste legate a comunità online problematiche tutti su Google.
Fortunatamente OpenAI ha poi rimosso quell’opzione.
NYT vs OpenAI: richiesta log permanenti
E la situazione peggiora.
Inizio 2025: The New York Times e altri editori hanno presentato un ordine in tribunale chiedendo che OpenAI preservi tutti i log ChatGPT indefinitamente (incluse chat cancellate) come parte della loro causa copyright.
OpenAI ha appellato, chiamandola “un eccesso”.
Ma se il tribunale approva? OpenAI dovrà conservare tutto. Per sempre.
Come proteggersi (oltre a non condividere)
Jason Clinton (Chief Security Officer di Anthropic) consiglia:
1. Cancella conversazioni subito dopo averle terminate: le aziende eliminano dati cancellati dopo 30 giorni.
2. Usa modalità chat temporanea: ChatGPT ha modalità “chat temporanea” (angolo alto destra). Funziona come modalità incognito browser: non salva nella cronologia, non usa per training, non aggiunge a memoria utente.
3. Usa servizi che rendono anonimi i prompt: Duck.ai (DuckDuckGo) permette interazione con LLM rendendo anonimi i prompt e garantendo che dati non vengano usati per training.
4. Multi-factor authentication: Password complessa + 2FA è il minimo.
Il portale GDPR: scarica i tuoi dati
OpenAI ha un portale dedicato (ottemperanza GDPR europeo).
Dopo login, puoi:
- Scaricare dati personali (formato non facilmente leggibile)
- Richiedere che chat non vengano usate per training (solo da quel momento in avanti, non retroattivo)
- Cancellare account
- Rimuovere GPT personalizzati
- Chiedere rimozione info personali da risposte ad altri utenti
Ma la vera protezione non viene dagli strumenti di controllo. Viene dalla prudenza.
Il mio verdetto da vecchio IRC logger
Guardate, io sono cresciuto su IRC dove sapevo che tutto veniva loggato. Quando scrivevo in un canale pubblico, assumevo che chiunque potesse leggerlo.
Oggi? La gente usa ChatGPT come confessionale.
E quando Altman dice “non l’abbiamo ancora capito”, sta dicendo “al momento non c’è alcuna protezione per i dati”.
E il NYT che chiede log permanenti? Se vincono, ogni singola conversazione che hai mai avuto con ChatGPT potrebbe essere conservata per sempre.
Quindi ecco la regola base che ho imparato su IRC e che vale ancora oggi:
Tratta ChatGPT come spazio pubblico, non come diario privato.
Se non lo diresti davanti a una giuria, non dirlo a ChatGPT.
Perché un giorno, quella giuria potrebbe leggerlo e usarlo contro di te.
E voi? State ancora condividendo info personali con ChatGPT, o avete iniziato a trattarlo come il canale IRC pubblico che è?
Se ti è piaciuto l’articolo, seguimi su FullStackGarage per altri pezzi su privacy IA, legal privilege digitale, e perché i chatbot non sono confessionali.
E lascia un commento: voglio sapere se anche voi sapevate che ChatGPT può essere subpoenaed, o se è una sorpresa.
Al prossimo articolo!
Ciucci Gilberto
