Norme, dati e rischi 9 min di lettura

Posso addestrare l’AI con i dati dei miei clienti?

Cosa dice il GDPR su addestramento e fine-tuning con i dati dei clienti, e perché quasi mai ti serve farlo.


In due righe

  • Addestrare un'AI con i dati dei clienti è un trattamento: servono base giuridica, informativa e accordi con il fornitore.
  • Nella maggior parte dei casi regge il legittimo interesse, se documentato con il test di bilanciamento.
  • Anonimizzare è difficile: la pseudonimizzazione non basta, e l'EDPB ha alzato l'asticella.
  • Quasi mai ti serve addestrare un modello: nella PMI il vero guadagno è usare bene quello che già c'è.

Sì, si può, ma quasi mai nel modo in cui uno se lo immagina. Addestrare un modello con i dati dei clienti è un trattamento di dati personali: serve una base giuridica, quasi sempre il legittimo interesse, da documentare con un test di bilanciamento. Se l'uso è invasivo o inatteso, serve il consenso. Prima regola: se puoi ottenere lo stesso risultato senza dati personali o con dati anonimizzati, devi. In una PMI la risposta onesta è spesso più semplice: non ti serve addestrare un modello, ti serve usare bene quello che già c'è.

Addestrare un'AI è un trattamento di dati personali: parti da qui

Addestrare o affinare un modello con i dati dei clienti è un trattamento ai sensi del GDPR. Un trattamento è ogni operazione su dati personali: raccoglierli, conservarli, usarli e anche addestrare un modello con essi. Appena usi i dati dei clienti per questo scopo scattano quattro cose: base giuridica, informativa, minimizzazione e accordo con il fornitore. Non serve che tu sia una software house: anche chi fa fine-tuning su un modello già pronto sta trattando dati.

Se vuoi il quadro generale, ti ho spiegato le tre domande sul GDPR in azienda. Qui scendiamo sul caso specifico.

Quale base giuridica serve: legittimo interesse o consenso?

L'articolo 6 del GDPR elenca le basi che ti autorizzano a trattare dati. Le due che contano qui sono il consenso e il legittimo interesse. La base giuridica è il motivo previsto dalla legge che ti autorizza a trattare dati personali, per esempio il consenso o il legittimo interesse.

Il legittimo interesse è la base giuridica che permette di trattare dati senza consenso, se dimostri che il tuo interesse è lecito, necessario e non prevale sui diritti delle persone. Per usarlo devi documentare tre cose: l'interesse è lecito, il trattamento è necessario, e non prevale sui diritti del cliente. Lo chiami test di bilanciamento. In più devi garantire il diritto di opposizione.

Serve il consenso quando l'uso è invasivo o il cliente non se lo aspetta. Esempio: profilare i clienti per prevedere acquisti e personalizzare le offerte è invasivo. Per orientarti, una definizione prima della tabella: un LLM è il motore linguistico dietro ChatGPT e strumenti simili, il modello che genera testo a partire da ciò su cui è stato addestrato. Ecco i quattro casi più frequenti.

Cosa vuoi fare Base giuridica Cosa serve in pratica
Usare lo storico acquisti per migliorare le raccomandazioni Legittimo interesse Test di bilanciamento documentato e possibilità di opposizione
Addestrare un modello sul CRM per suggerire risposte agli operatori Legittimo interesse Dati minimizzati e uso interno prevedibile
Profilare i clienti per prevedere acquisti e personalizzare le offerte Consenso Consenso libero, specifico e revocabile
Caricare dati clienti su ChatGPT gratis o su un LLM consumer Nessuna base valida Non farlo: manca il DPA e il fornitore può riusare i dati

Minimizzazione: quanti dati ti servono davvero

Il GDPR dice una cosa semplice: servono solo i dati adeguati e necessari. Per addestrare un modello non ti serve tutto il database clienti. Ti serve un set ridotto, pulito e senza identificativi diretti quando possibile.

Anonimizzare significa trasformare i dati così che non sia più possibile risalire alla persona, né direttamente né indirettamente: se è vera, il GDPR non si applica più. Pseudonimizzare significa sostituire i dati identificativi con codici: riduce il rischio, ma i dati restano personali e il GDPR continua ad applicarsi.

L'EDPB ha alzato l'asticella sull'anonimato: non basta togliere nome e cognome, devi rendere molto improbabile risalire alla persona. Se l'anonimizzazione regge, il GDPR esce di scena. Se non regge, resti dentro con tutte le regole.

Il primo passo

Scopri dove l'AI ripaga nella tua azienda.

Gratuito · 45 minuti · nessun impegno · punteggi confrontati con 2.800+ aziende

Il caso del CRM: addestrare sui dati che hai già

Lo storico del CRM è il primo posto dove si pensa di addestrare qualcosa. Usare lo storico per suggerire risposte agli operatori può stare sul legittimo interesse, se i dati sono minimizzati e l'uso è interno e prevedibile. Esempio: il modello impara dalle risposte che il tuo team ha già dato ai ticket e propone le tre più simili al nuovo ticket. Nessun dato esce, nessuna decisione automatica.

Se diventa profilazione o decisioni automatiche, serve consenso o una DPIA. La DPIA è la valutazione d'impatto sulla protezione dei dati, obbligatoria prima dei trattamenti ad alto rischio. L'uso interno di suggerimenti non è profilazione automatica. Decidere da solo se concedere uno sconto a un cliente lo è.

Fine-tuning o addestramento da zero: cosa significa per te

In una PMI quasi sempre si parla di fine-tuning: affinare un modello già addestrato con un set ridotto di dati tuoi, invece di addestrarlo da zero. Il fine-tuning serve quando vuoi che il modello parli meglio il linguaggio del tuo settore o della tua azienda. Addestrare da zero richiede enormi quantità di dati ed è fuori dalla portata di una PMI. Entrambi restano trattamenti: cambia la quantità di dati, non gli obblighi.

Un esempio concreto: hai lo storico ordini con i nomi dei prodotti e i reclami. Carichi solo quei campi, senza nomi e indirizzi, e affini un modello per classificare i reclami per reparto. Hai comunque trattato dati personali, ma con meno rischi.

Quando non devi addestrare, e cosa fare al posto

Nella maggior parte delle PMI che incontro non serve addestrare un modello: serve usare bene quello che già c'è. La prima mossa non è comprare un abbonamento di addestramento, è capire dove il lavoro si blocca. Se il tuo primo istinto è caricare i dati clienti su ChatGPT gratis, fermati: quali dati non caricare mai su ChatGPT.

Invece di addestrare puoi usare strumenti già pronti con DPA firmato, o chiedere all'AI di scrivere codice che elabora i dati in locale, così i dati non escono mai. Non si compra l'AI: si decide dove serve, e si parte da lì.

Le tre cose da fare prima di partire

Prima di iniziare, fai queste tre cose.

  1. Aggiorna l'informativa privacy citando il fornitore AI. Il cliente deve sapere che i suoi dati possono finire in un modello.
  2. Scegli e documenta la base giuridica. Per il legittimo interesse scrivi il test di bilanciamento. Per il consenso raccogli un consenso libero, specifico e revocabile.
  3. Firma il DPA e minimizza i dati. Il DPA è il contratto scritto che regola come il fornitore AI tratta i dati per conto tuo, obbligatorio per legge quando gli affidi dati personali. Le clausole da controllare nel contratto con il fornitore sono un'altra parte del lavoro.

Se il trattamento è ad alto rischio, aggiungi una DPIA prima di partire. L'AI Act aggiunge obblighi di trasparenza, ma sono una partita separata: gli obblighi dell'AI Act per la tua PMI.

Quanto costa e quanto ci vuole

Non serve un data scientist. Il costo vero è il tempo di documentazione: registro dei trattamenti, test di bilanciamento, informativa. Una DPIA fatta bene vale qualche giorno di lavoro, più il tempo con il DPO se non ce l'hai. L'abbonamento al servizio di fine-tuning conta meno del tempo che spendi per capire se lo stai facendo con i dati giusti.

Gli errori che vedo più spesso

Tre errori tornano nelle aziende che incontro.

  • Caricare dati clienti su ChatGPT gratis credendo di addestrare. Non stai addestrando: stai consegnando dati a un fornitore senza DPA.
  • Pensare che il consenso risolva tutto. Il consenso non ripara un trattamento sproporzionato, e puoi usarlo solo se il cliente può dire di no.
  • Firmare strumenti senza leggere se addestrano sui tuoi dati. Molti servizi consumer lo fanno per migliorare il modello: i tuoi dati diventano parte del loro prodotto.

Da dove parti domani mattina

Prendi la tua informativa privacy e controlla se nomina l'addestramento dell'AI. Se non c'è e stai usando dati clienti con un modello, hai già la prima cosa da sistemare. Non ti serve un progetto: ti serve una frase in più nel documento che i tuoi clienti già leggono.

Condividi

LinkedIn WhatsApp Email

Domande frequenti

Quello che mi chiedono su questo.

Posso addestrare un'AI con i dati dei clienti senza il loro consenso?

Sì, in molti casi. Se l'uso è coerente col rapporto col cliente, minimizzato e documentato, il legittimo interesse può bastare. Devi però fare il test di bilanciamento e garantire il diritto di opposizione. Se l'uso è invasivo o il cliente non se lo aspetta, serve il consenso.

Che differenza c'è tra addestrare un modello e caricare dati su ChatGPT?

Addestrare o fare fine-tuning significa che i dati entrano nel modello. Caricare dati su ChatGPT è un trasferimento a un fornitore terzo: servono DPA e verifica sul trasferimento extra-UE. Sono due obblighi diversi, e spesso in azienda li si confonde.

Se anonimizzo i dati, il GDPR non si applica più?

Solo se l'anonimizzazione è vera: deve essere molto improbabile risalire alla persona. L'EDPB ha alzato l'asticella, e la pseudonimizzazione da sola non basta. Se l'anonimizzazione regge, il GDPR esce di scena; altrimenti resti dentro con tutte le regole.

Cosa rischio se addestro senza base giuridica?

Sanzioni fino al 4% del fatturato mondiale annuo, oltre alla perdita di fiducia dei clienti e di contratti con aziende che chiedono documentazione. Il rischio più immediato per una PMI è dover rifare tutto in emergenza se arriva un controllo.

Serve una DPIA per addestrare un modello?

Non sempre. Serve quando il trattamento è ad alto rischio: dati su larga scala, categorie particolari, decisioni automatiche, monitoraggio. Se il tuo caso rientra qui, la DPIA va fatta prima di partire, non dopo.

Il fine-tuning è diverso dall'addestramento da zero?

Sì. Il fine-tuning affina un modello già pronto con pochi dati tuoi; addestrare da zero richiede enormi quantità di dati ed è fuori dalla portata di una PMI. Entrambi restano trattamenti: cambia la quantità di dati, non gli obblighi.

Il primo passo

Scopri dove l'AI ripaga nella tua azienda.

45 minuti per fotografare la tua azienda in 5 aree, con i punteggi confrontati con 2.800+ aziende. Compili qui sotto e ti arriva il link monouso per farlo con calma. Gratuito, e il report resta tuo comunque vada.

Accesso · PMI Speed Test 5 aree · 45 min · gratuito

Continua

Altri pezzi su questo.