In due righe
- Addestrare un'AI con i dati dei clienti è un trattamento: servono base giuridica, informativa e accordi con il fornitore.
- Nella maggior parte dei casi regge il legittimo interesse, se documentato con il test di bilanciamento.
- Anonimizzare è difficile: la pseudonimizzazione non basta, e l'EDPB ha alzato l'asticella.
- Quasi mai ti serve addestrare un modello: nella PMI il vero guadagno è usare bene quello che già c'è.
Sì, si può, ma quasi mai nel modo in cui uno se lo immagina. Addestrare un modello con i dati dei clienti è un trattamento di dati personali: serve una base giuridica, quasi sempre il legittimo interesse, da documentare con un test di bilanciamento. Se l'uso è invasivo o inatteso, serve il consenso. Prima regola: se puoi ottenere lo stesso risultato senza dati personali o con dati anonimizzati, devi. In una PMI la risposta onesta è spesso più semplice: non ti serve addestrare un modello, ti serve usare bene quello che già c'è.
Addestrare un'AI è un trattamento di dati personali: parti da qui
Addestrare o affinare un modello con i dati dei clienti è un trattamento ai sensi del GDPR. Un trattamento è ogni operazione su dati personali: raccoglierli, conservarli, usarli e anche addestrare un modello con essi. Appena usi i dati dei clienti per questo scopo scattano quattro cose: base giuridica, informativa, minimizzazione e accordo con il fornitore. Non serve che tu sia una software house: anche chi fa fine-tuning su un modello già pronto sta trattando dati.
Se vuoi il quadro generale, ti ho spiegato le tre domande sul GDPR in azienda. Qui scendiamo sul caso specifico.
Quale base giuridica serve: legittimo interesse o consenso?
L'articolo 6 del GDPR elenca le basi che ti autorizzano a trattare dati. Le due che contano qui sono il consenso e il legittimo interesse. La base giuridica è il motivo previsto dalla legge che ti autorizza a trattare dati personali, per esempio il consenso o il legittimo interesse.
Il legittimo interesse è la base giuridica che permette di trattare dati senza consenso, se dimostri che il tuo interesse è lecito, necessario e non prevale sui diritti delle persone. Per usarlo devi documentare tre cose: l'interesse è lecito, il trattamento è necessario, e non prevale sui diritti del cliente. Lo chiami test di bilanciamento. In più devi garantire il diritto di opposizione.
Serve il consenso quando l'uso è invasivo o il cliente non se lo aspetta. Esempio: profilare i clienti per prevedere acquisti e personalizzare le offerte è invasivo. Per orientarti, una definizione prima della tabella: un LLM è il motore linguistico dietro ChatGPT e strumenti simili, il modello che genera testo a partire da ciò su cui è stato addestrato. Ecco i quattro casi più frequenti.
| Cosa vuoi fare |
Base giuridica |
Cosa serve in pratica |
| Usare lo storico acquisti per migliorare le raccomandazioni |
Legittimo interesse |
Test di bilanciamento documentato e possibilità di opposizione |
| Addestrare un modello sul CRM per suggerire risposte agli operatori |
Legittimo interesse |
Dati minimizzati e uso interno prevedibile |
| Profilare i clienti per prevedere acquisti e personalizzare le offerte |
Consenso |
Consenso libero, specifico e revocabile |
| Caricare dati clienti su ChatGPT gratis o su un LLM consumer |
Nessuna base valida |
Non farlo: manca il DPA e il fornitore può riusare i dati |
Minimizzazione: quanti dati ti servono davvero
Il GDPR dice una cosa semplice: servono solo i dati adeguati e necessari. Per addestrare un modello non ti serve tutto il database clienti. Ti serve un set ridotto, pulito e senza identificativi diretti quando possibile.
Anonimizzare significa trasformare i dati così che non sia più possibile risalire alla persona, né direttamente né indirettamente: se è vera, il GDPR non si applica più. Pseudonimizzare significa sostituire i dati identificativi con codici: riduce il rischio, ma i dati restano personali e il GDPR continua ad applicarsi.
L'EDPB ha alzato l'asticella sull'anonimato: non basta togliere nome e cognome, devi rendere molto improbabile risalire alla persona. Se l'anonimizzazione regge, il GDPR esce di scena. Se non regge, resti dentro con tutte le regole.
Il primo passo
Scopri dove l'AI ripaga nella tua azienda.
Gratuito · 45 minuti · nessun impegno · punteggi
confrontati con 2.800+ aziende
Il caso del CRM: addestrare sui dati che hai già
Lo storico del CRM è il primo posto dove si pensa di addestrare qualcosa. Usare lo storico per suggerire risposte agli operatori può stare sul legittimo interesse, se i dati sono minimizzati e l'uso è interno e prevedibile. Esempio: il modello impara dalle risposte che il tuo team ha già dato ai ticket e propone le tre più simili al nuovo ticket. Nessun dato esce, nessuna decisione automatica.
Se diventa profilazione o decisioni automatiche, serve consenso o una DPIA. La DPIA è la valutazione d'impatto sulla protezione dei dati, obbligatoria prima dei trattamenti ad alto rischio. L'uso interno di suggerimenti non è profilazione automatica. Decidere da solo se concedere uno sconto a un cliente lo è.
Fine-tuning o addestramento da zero: cosa significa per te
In una PMI quasi sempre si parla di fine-tuning: affinare un modello già addestrato con un set ridotto di dati tuoi, invece di addestrarlo da zero. Il fine-tuning serve quando vuoi che il modello parli meglio il linguaggio del tuo settore o della tua azienda. Addestrare da zero richiede enormi quantità di dati ed è fuori dalla portata di una PMI. Entrambi restano trattamenti: cambia la quantità di dati, non gli obblighi.
Un esempio concreto: hai lo storico ordini con i nomi dei prodotti e i reclami. Carichi solo quei campi, senza nomi e indirizzi, e affini un modello per classificare i reclami per reparto. Hai comunque trattato dati personali, ma con meno rischi.
Quando non devi addestrare, e cosa fare al posto
Nella maggior parte delle PMI che incontro non serve addestrare un modello: serve usare bene quello che già c'è. La prima mossa non è comprare un abbonamento di addestramento, è capire dove il lavoro si blocca. Se il tuo primo istinto è caricare i dati clienti su ChatGPT gratis, fermati: quali dati non caricare mai su ChatGPT.
Invece di addestrare puoi usare strumenti già pronti con DPA firmato, o chiedere all'AI di scrivere codice che elabora i dati in locale, così i dati non escono mai. Non si compra l'AI: si decide dove serve, e si parte da lì.
Le tre cose da fare prima di partire
Prima di iniziare, fai queste tre cose.
- Aggiorna l'informativa privacy citando il fornitore AI. Il cliente deve sapere che i suoi dati possono finire in un modello.
- Scegli e documenta la base giuridica. Per il legittimo interesse scrivi il test di bilanciamento. Per il consenso raccogli un consenso libero, specifico e revocabile.
- Firma il DPA e minimizza i dati. Il DPA è il contratto scritto che regola come il fornitore AI tratta i dati per conto tuo, obbligatorio per legge quando gli affidi dati personali. Le clausole da controllare nel contratto con il fornitore sono un'altra parte del lavoro.
Se il trattamento è ad alto rischio, aggiungi una DPIA prima di partire. L'AI Act aggiunge obblighi di trasparenza, ma sono una partita separata: gli obblighi dell'AI Act per la tua PMI.
Quanto costa e quanto ci vuole
Non serve un data scientist. Il costo vero è il tempo di documentazione: registro dei trattamenti, test di bilanciamento, informativa. Una DPIA fatta bene vale qualche giorno di lavoro, più il tempo con il DPO se non ce l'hai. L'abbonamento al servizio di fine-tuning conta meno del tempo che spendi per capire se lo stai facendo con i dati giusti.
Gli errori che vedo più spesso
Tre errori tornano nelle aziende che incontro.
- Caricare dati clienti su ChatGPT gratis credendo di addestrare. Non stai addestrando: stai consegnando dati a un fornitore senza DPA.
- Pensare che il consenso risolva tutto. Il consenso non ripara un trattamento sproporzionato, e puoi usarlo solo se il cliente può dire di no.
- Firmare strumenti senza leggere se addestrano sui tuoi dati. Molti servizi consumer lo fanno per migliorare il modello: i tuoi dati diventano parte del loro prodotto.
Da dove parti domani mattina
Prendi la tua informativa privacy e controlla se nomina l'addestramento dell'AI. Se non c'è e stai usando dati clienti con un modello, hai già la prima cosa da sistemare. Non ti serve un progetto: ti serve una frase in più nel documento che i tuoi clienti già leggono.