Persone e adozione 10 min di lettura

Quando i dipendenti si fidano troppo dell’intelligenza artificiale: come accorgertene e cosa fare

L'eccesso di fiducia nell'AI è un problema di processo, non di tecnologia. Ecco come accorgertene e la regola dei tre controlli per risolverlo.

In due righe

  • L'eccesso di fiducia nell'AI è un problema di processo, non di tecnologia: manca il punto di controllo.
  • L'esperimento BCG e Boston University: quando l'AI è presentata come una 'collega', gli errori non riconosciuti salgono del 18%.
  • La regola dei tre controlli riporta la responsabilità alle persone: cosa l'AI fa da sola, cosa va rivisto, chi firma.
  • Non si vieta l'AI e non si umanizza l'agente: si definisce chi controlla.

Quando i dipendenti si fidano troppo dell'intelligenza artificiale, il problema non è l'AI: è che nessuno controlla più quello che esce. Un esperimento di BCG e Boston University ha misurato l'effetto: quando l'AI viene presentata come una 'collega', gli errori non riconosciuti aumentano del 18%, perché la responsabilità si sposta dalla persona al sistema. In azienda significa preventivi sbagliati, email fuori tono, decisioni prese su numeri mai verificati. Non si risolve vietando l'AI: si risolve stabilendo chi controlla, chi firma e cosa succede quando il sistema sbaglia.

Cosa succede quando i dipendenti si fidano troppo dell'AI

Si chiama automation bias. È la tendenza a fidarsi della risposta di un sistema automatico più che del proprio giudizio, anche quando la macchina sbaglia. Succede a tutti, in tutti i settori. La differenza in azienda è che nessuno se ne accorge finché un errore non esce.

L'esperimento di BCG e Boston University lo ha misurato su 1.261 manager di HR e finanza in USA, Canada e Unione Europea, e lo racconta l'articolo di Moneta. Quando l'AI viene presentata come una 'collega', gli errori non riconosciuti salgono del 18%. Non perché la macchina sbagli di più, ma perché la persona smette di cercare l'errore.

Il dato IBM va nella stessa direzione. Secondo lo studio dell'IBM Institute for Business Value, il 49% dei dirigenti italiani ammette che i dipendenti esitano a contestare i risultati dell'AI. In pratica: la metà dei capi sa che i suoi non alzano la mano. E un errore che nessuno contesta diventa un errore che si ripete.

Perché succede: l'AI sembra oggettiva e nessuno vuole fare la figura dello scettico

La macchina non ha interessi, non è stanca, non si offende. Questa è la trappola: la si scambia per neutra. Chi controlla un numero prodotto da un collega lo fa con attenzione. Chi controlla un numero prodotto dall'AI spesso non lo fa proprio, perché si aspetta che sia giusto.

Poi c'è la paura di passare per quello che frena. Lo studio IBM dice che oltre metà dei lavoratori vede i team accettare troppo facilmente le indicazioni dell'algoritmo. Contestare un risultato dell'AI sembra un atto di sfiducia verso l'azienda che l'ha comprata. Così si tace.

Anche il feedback algoritmico gioca la sua parte. La ricerca Gartner su oltre 3.500 dipendenti, riportata da ZeroUno, dice che solo il 13% non concorda con l'idea che un algoritmo darebbe un feedback più equo del proprio manager. Se la macchina è percepita come più giusta del capo, figuriamoci se qualcuno la mette in discussione.

Aggiungo quello che vedo quando entro in un'azienda. Chiedo: 'Chi controlla questo output?'. La risposta più frequente è 'nessuno'. A volte 'si fida'. Non è cattiveria, non è incompetenza: è che nessuno ha mai stabilito che controllare fa parte del lavoro.

Il trucco che peggiora tutto: dare un nome all'AI e metterla in organigramma

L'esperimento BCG e Boston University ha confrontato due modi di presentare lo stesso sistema. A un gruppo viene descritto come uno strumento. All'altro come un dipendente, con un nome e un posto in organigramma.

I risultati sono netti. Nel gruppo dove l'AI è una 'collega', gli errori sfuggiti salgono del 18%, la responsabilità personale scende di 9 punti e la responsabilità data al sistema sale di 8 punti. Le richieste di revisione a un superiore aumentano del 44%, segno che le persone si sentono meno sicure di decidere da sole. L'intenzione di usare l'AI resta la stessa: umanizzarla non serve nemmeno a farla adottare di più.

Cosa misurano AI come strumento AI come 'dipendente'
Errori individuati durante la revisione riferimento -18% (ne sfuggono di più)
Responsabilità personale percepita riferimento -9 punti
Responsabilità attribuita al sistema riferimento +8 punti
Richieste di revisione a un superiore riferimento +44%
Intenzione di usare l'AI riferimento invariata (non aumenta)

Un agente AI è un sistema che esegue compiti in autonomia, come preparare un preventivo o smistare le email. Se lo chiami 'Alessandro' e gli assegni una scrivania, il messaggio che passa è: Alessandro risponde, Alessandro decide. E il giorno in cui Alessandro sbaglia, nessuno si sente in colpa.

Ho visto i risultati reali di questa idea. Un contratto preparato dall'AI con l'obiettivo dichiarato 'riduzione costi' e una tabella che mostrava un aumento. Un annuncio di lavoro entry level che chiedeva dieci anni di esperienza. Sono allucinazioni dell'AI: un'allucinazione è una risposta formulata con sicurezza ma non vera, un numero inventato o una norma che non esiste. Se nessuno controlla, escono dalla porta.

Primo 'non farlo': non umanizzare l'agente. Niente nomi, niente organigramma, niente 'lui sa'. Chiamalo per quello che è: uno strumento. Il rispetto delle persone passa dal non fingere che un software sia un collega.

Il primo passo

Scopri dove l'AI ripaga nella tua azienda.

Gratuito · 45 minuti · nessun impegno · punteggi confrontati con 2.800+ aziende

Come capire se il tuo team si fida troppo: quattro segnali

Fai queste quattro domande in azienda, una per processo dove l'AI produce già qualcosa.

  1. Chi verifica i numeri prima che l'output esca? Se la risposta è 'nessuno', hai il primo segnale.
  2. Qualcuno contesta mai una risposta dell'AI? Se nessuno ricorda l'ultima volta, il controllo è spento.
  3. Quanti errori vengono scoperti prima della consegna? Se il numero è zero da settimane, non è merito dell'AI: è che nessuno sta guardando.
  4. Cosa succede quando il sistema sbaglia? Se non c'è una procedura, ogni errore diventa un caso da gestire a mano, quando ormai è tardi.

C'è una prova più diretta. Prendi un documento prodotto dall'AI, inserisci un errore evidente e vedi se qualcuno lo segnala. Se passa senza commenti, hai la conferma. Se qualcuno lo ferma, il tuo punto di controllo esiste già: devi solo renderlo esplicito.

La regola dei tre controlli: come riportare la responsabilità alle persone

Il problema non si risolve togliendo l'AI. Si risolve definendo tre cose per ogni processo dove l'AI produce un output.

  1. Cosa l'AI può fare in autonomia. Esempio: generare una bozza di risposta a un cliente su un reclamo standard.
  2. Cosa attiva una revisione umana. Esempio: ogni numero di un preventivo va verificato da una persona prima dell'invio.
  3. Chi firma l'output finale. La persona che mette il nome è quella che risponde, non il sistema.

Questa è la traduzione pratica di una regola che ripeto da anni: prima il sistema, poi lo strumento. Un output dell'AI senza punto di verifica è un processo rotto più veloce. E il tool non basta mai: senza l'adozione e la responsabilità delle persone, lo strumento non sistema niente.

Secondo 'non farlo': non vietare l'AI per paura. Il divieto non spegne l'eccesso di fiducia, lo nasconde. Le persone continuano a usare strumenti non autorizzati e tu perdi il punto di controllo. Meglio definire il punto di verifica: è più efficace di qualsiasi blocco.

Se ti serve una guida per scriverlo, una policy sull'uso dell'AI di una pagina basta. Non servono venti pagine: servono le tre righe qui sopra.

Quanto costa non controllare, e quanto ci vuole a sistemarlo

Il costo più evidente è l'errore che esce. Un preventivo con un numero sbagliato può costare un margine o un cliente. Un contratto inviato con una clausola inventata costa di più: tempo per rimediare, fiducia, a volte un legale.

Non controllare costa anche in altro modo. Ogni errore scoperto dopo la consegna genera una discussione, una correzione, una mail di scuse. Nessuna di queste attività produce valore. Sono solo il prezzo dell'assenza di un punto di verifica.

Installare il controllo costa poco. Per un processo servono circa un'ora: si decide cosa l'AI fa da sola, cosa va rivisto e chi firma. Non è un progetto, è una riunione. Il problema non è il tempo, è la decisione di dichiarare che controllare fa parte del lavoro quanto produrre.

Gli errori che vedo più spesso

  1. Vietare l'AI per paura. Spinge l'uso nel sommerso e ti toglie il controllo.
  2. Fidarsi ciecamente senza verifica. È l'eccesso di fiducia che diventa abitudine.
  3. Dare un nome all'agente e metterlo in organigramma. Sposta la responsabilità dalla persona al sistema.
  4. Formare con slide invece che con esempi reali. Le slide si dimenticano, il preventivo sbagliato no.
  5. Non definire mai chi firma l'output. Finché non c'è una firma, non c'è responsabilità, e ogni errore è di tutti e di nessuno.

Chi lavora con strumenti non autorizzati vive una variante di questi errori: usa l'AI fuori da ogni regola, e il rischio non è minore, è solo invisibile.

Condividi

LinkedIn WhatsApp Email

Domande frequenti

Quello che mi chiedono su questo.

Perché i dipendenti si fidano troppo dell'intelligenza artificiale?

Per due motivi. Il primo è l'automation bias: la tendenza a fidarsi di una macchina più che del proprio giudizio, perché la si percepisce come oggettiva. Il secondo è organizzativo: se in azienda nessuno chiede 'chi controlla questo output?', dopo qualche settimana nessuno controlla più. Non è pigrizia, è un'abitudine che si installa da sola se manca un punto di verifica.

Come faccio a capire se il mio team controlla davvero i risultati dell'AI?

Fai una prova semplice: prendi un documento prodotto dall'AI, inserisci un errore evidente e vedi se qualcuno lo segnala. Se passa senza commenti, il controllo non esiste. Un altro segnale: chiedi 'chi ha verificato questo numero?'. Se la risposta è 'è uscito dal sistema', sei dentro il problema.

Presentare l'AI come una 'collega' aiuta l'adozione?

No. L'esperimento BCG e Boston University mostra che dare un nome all'AI o metterla in organigramma non aumenta l'intenzione di usarla, ma fa salire del 18% gli errori non riconosciuti. La persona si sente autorizzata a scaricare la responsabilità sul 'collega' artificiale. Meglio chiamarla per quello che è: uno strumento.

Devo vietare l'AI in azienda per evitare l'eccesso di fiducia?

No. Vietare è l'errore opposto: spinge le persone a usare strumenti non autorizzati di nascosto, e il problema diventa invisibile. Non si toglie l'AI, si definisce il punto di controllo: cosa l'AI può fare in autonomia, cosa va rivisto da una persona, chi firma il risultato finale.

Come si forma il team a non fidarsi ciecamente dell'AI?

Non con un corso teorico. Si forma mostrando esempi reali di errori: un preventivo sbagliato, una mail fuori tono, un numero inventato. Poi si stabilisce una regola unica: nessun output dell'AI esce senza un controllo umano su numeri e fatti. La verifica è un'abitudine, non una competenza.

Chi è responsabile quando l'AI sbaglia per eccesso di fiducia?

Sempre la persona che ha firmato o inviato l'output, mai il sistema. L'AI non può rispondere degli errori: è uno strumento. Se in azienda non è chiaro chi firma, è lì che va messo il primo punto. È anche ciò che dice l'AI Act: la supervisione umana resta un obbligo, non un optional.

Il primo passo

Scopri dove l'AI ripaga nella tua azienda.

45 minuti per fotografare la tua azienda in 5 aree, con i punteggi confrontati con 2.800+ aziende. Compili qui sotto e ti arriva il link monouso per farlo con calma. Gratuito, e il report resta tuo comunque vada.

Accesso · PMI Speed Test 5 aree · 45 min · gratuito

Continua

Altri pezzi su questo.