Mentoring aziendale: come funziona in una PMI senza burocrazia
Il mentoring aziendale è l'affiancamento che fa uscire il know-how dalla testa del titolare. Non serve una piattaforma: serve un processo, una persona e un numero.
Leggi
Persone e adozione 10 min di lettura
L'eccesso di fiducia nell'AI è un problema di processo, non di tecnologia. Ecco come accorgertene e la regola dei tre controlli per risolverlo.
In due righe
Quando i dipendenti si fidano troppo dell'intelligenza artificiale, il problema non è l'AI: è che nessuno controlla più quello che esce. Un esperimento di BCG e Boston University ha misurato l'effetto: quando l'AI viene presentata come una 'collega', gli errori non riconosciuti aumentano del 18%, perché la responsabilità si sposta dalla persona al sistema. In azienda significa preventivi sbagliati, email fuori tono, decisioni prese su numeri mai verificati. Non si risolve vietando l'AI: si risolve stabilendo chi controlla, chi firma e cosa succede quando il sistema sbaglia.
Si chiama automation bias. È la tendenza a fidarsi della risposta di un sistema automatico più che del proprio giudizio, anche quando la macchina sbaglia. Succede a tutti, in tutti i settori. La differenza in azienda è che nessuno se ne accorge finché un errore non esce.
L'esperimento di BCG e Boston University lo ha misurato su 1.261 manager di HR e finanza in USA, Canada e Unione Europea, e lo racconta l'articolo di Moneta. Quando l'AI viene presentata come una 'collega', gli errori non riconosciuti salgono del 18%. Non perché la macchina sbagli di più, ma perché la persona smette di cercare l'errore.
Il dato IBM va nella stessa direzione. Secondo lo studio dell'IBM Institute for Business Value, il 49% dei dirigenti italiani ammette che i dipendenti esitano a contestare i risultati dell'AI. In pratica: la metà dei capi sa che i suoi non alzano la mano. E un errore che nessuno contesta diventa un errore che si ripete.
La macchina non ha interessi, non è stanca, non si offende. Questa è la trappola: la si scambia per neutra. Chi controlla un numero prodotto da un collega lo fa con attenzione. Chi controlla un numero prodotto dall'AI spesso non lo fa proprio, perché si aspetta che sia giusto.
Poi c'è la paura di passare per quello che frena. Lo studio IBM dice che oltre metà dei lavoratori vede i team accettare troppo facilmente le indicazioni dell'algoritmo. Contestare un risultato dell'AI sembra un atto di sfiducia verso l'azienda che l'ha comprata. Così si tace.
Anche il feedback algoritmico gioca la sua parte. La ricerca Gartner su oltre 3.500 dipendenti, riportata da ZeroUno, dice che solo il 13% non concorda con l'idea che un algoritmo darebbe un feedback più equo del proprio manager. Se la macchina è percepita come più giusta del capo, figuriamoci se qualcuno la mette in discussione.
Aggiungo quello che vedo quando entro in un'azienda. Chiedo: 'Chi controlla questo output?'. La risposta più frequente è 'nessuno'. A volte 'si fida'. Non è cattiveria, non è incompetenza: è che nessuno ha mai stabilito che controllare fa parte del lavoro.
L'esperimento BCG e Boston University ha confrontato due modi di presentare lo stesso sistema. A un gruppo viene descritto come uno strumento. All'altro come un dipendente, con un nome e un posto in organigramma.
I risultati sono netti. Nel gruppo dove l'AI è una 'collega', gli errori sfuggiti salgono del 18%, la responsabilità personale scende di 9 punti e la responsabilità data al sistema sale di 8 punti. Le richieste di revisione a un superiore aumentano del 44%, segno che le persone si sentono meno sicure di decidere da sole. L'intenzione di usare l'AI resta la stessa: umanizzarla non serve nemmeno a farla adottare di più.
| Cosa misurano | AI come strumento | AI come 'dipendente' |
|---|---|---|
| Errori individuati durante la revisione | riferimento | -18% (ne sfuggono di più) |
| Responsabilità personale percepita | riferimento | -9 punti |
| Responsabilità attribuita al sistema | riferimento | +8 punti |
| Richieste di revisione a un superiore | riferimento | +44% |
| Intenzione di usare l'AI | riferimento | invariata (non aumenta) |
Un agente AI è un sistema che esegue compiti in autonomia, come preparare un preventivo o smistare le email. Se lo chiami 'Alessandro' e gli assegni una scrivania, il messaggio che passa è: Alessandro risponde, Alessandro decide. E il giorno in cui Alessandro sbaglia, nessuno si sente in colpa.
Ho visto i risultati reali di questa idea. Un contratto preparato dall'AI con l'obiettivo dichiarato 'riduzione costi' e una tabella che mostrava un aumento. Un annuncio di lavoro entry level che chiedeva dieci anni di esperienza. Sono allucinazioni dell'AI: un'allucinazione è una risposta formulata con sicurezza ma non vera, un numero inventato o una norma che non esiste. Se nessuno controlla, escono dalla porta.
Primo 'non farlo': non umanizzare l'agente. Niente nomi, niente organigramma, niente 'lui sa'. Chiamalo per quello che è: uno strumento. Il rispetto delle persone passa dal non fingere che un software sia un collega.
Il primo passo
Scopri dove l'AI ripaga nella tua azienda.
Gratuito · 45 minuti · nessun impegno · punteggi confrontati con 2.800+ aziende
Fai queste quattro domande in azienda, una per processo dove l'AI produce già qualcosa.
C'è una prova più diretta. Prendi un documento prodotto dall'AI, inserisci un errore evidente e vedi se qualcuno lo segnala. Se passa senza commenti, hai la conferma. Se qualcuno lo ferma, il tuo punto di controllo esiste già: devi solo renderlo esplicito.
Il problema non si risolve togliendo l'AI. Si risolve definendo tre cose per ogni processo dove l'AI produce un output.
Questa è la traduzione pratica di una regola che ripeto da anni: prima il sistema, poi lo strumento. Un output dell'AI senza punto di verifica è un processo rotto più veloce. E il tool non basta mai: senza l'adozione e la responsabilità delle persone, lo strumento non sistema niente.
Secondo 'non farlo': non vietare l'AI per paura. Il divieto non spegne l'eccesso di fiducia, lo nasconde. Le persone continuano a usare strumenti non autorizzati e tu perdi il punto di controllo. Meglio definire il punto di verifica: è più efficace di qualsiasi blocco.
Se ti serve una guida per scriverlo, una policy sull'uso dell'AI di una pagina basta. Non servono venti pagine: servono le tre righe qui sopra.
Il costo più evidente è l'errore che esce. Un preventivo con un numero sbagliato può costare un margine o un cliente. Un contratto inviato con una clausola inventata costa di più: tempo per rimediare, fiducia, a volte un legale.
Non controllare costa anche in altro modo. Ogni errore scoperto dopo la consegna genera una discussione, una correzione, una mail di scuse. Nessuna di queste attività produce valore. Sono solo il prezzo dell'assenza di un punto di verifica.
Installare il controllo costa poco. Per un processo servono circa un'ora: si decide cosa l'AI fa da sola, cosa va rivisto e chi firma. Non è un progetto, è una riunione. Il problema non è il tempo, è la decisione di dichiarare che controllare fa parte del lavoro quanto produrre.
Chi lavora con strumenti non autorizzati vive una variante di questi errori: usa l'AI fuori da ogni regola, e il rischio non è minore, è solo invisibile.
Domande frequenti
Per due motivi. Il primo è l'automation bias: la tendenza a fidarsi di una macchina più che del proprio giudizio, perché la si percepisce come oggettiva. Il secondo è organizzativo: se in azienda nessuno chiede 'chi controlla questo output?', dopo qualche settimana nessuno controlla più. Non è pigrizia, è un'abitudine che si installa da sola se manca un punto di verifica.
Fai una prova semplice: prendi un documento prodotto dall'AI, inserisci un errore evidente e vedi se qualcuno lo segnala. Se passa senza commenti, il controllo non esiste. Un altro segnale: chiedi 'chi ha verificato questo numero?'. Se la risposta è 'è uscito dal sistema', sei dentro il problema.
No. L'esperimento BCG e Boston University mostra che dare un nome all'AI o metterla in organigramma non aumenta l'intenzione di usarla, ma fa salire del 18% gli errori non riconosciuti. La persona si sente autorizzata a scaricare la responsabilità sul 'collega' artificiale. Meglio chiamarla per quello che è: uno strumento.
No. Vietare è l'errore opposto: spinge le persone a usare strumenti non autorizzati di nascosto, e il problema diventa invisibile. Non si toglie l'AI, si definisce il punto di controllo: cosa l'AI può fare in autonomia, cosa va rivisto da una persona, chi firma il risultato finale.
Non con un corso teorico. Si forma mostrando esempi reali di errori: un preventivo sbagliato, una mail fuori tono, un numero inventato. Poi si stabilisce una regola unica: nessun output dell'AI esce senza un controllo umano su numeri e fatti. La verifica è un'abitudine, non una competenza.
Sempre la persona che ha firmato o inviato l'output, mai il sistema. L'AI non può rispondere degli errori: è uno strumento. Se in azienda non è chiaro chi firma, è lì che va messo il primo punto. È anche ciò che dice l'AI Act: la supervisione umana resta un obbligo, non un optional.
Il primo passo
45 minuti per fotografare la tua azienda in 5 aree, con i punteggi confrontati con 2.800+ aziende. Compili qui sotto e ti arriva il link monouso per farlo con calma. Gratuito, e il report resta tuo comunque vada.
Continua
Il mentoring aziendale è l'affiancamento che fa uscire il know-how dalla testa del titolare. Non serve una piattaforma: serve un processo, una persona e un numero.
Leggi
Tre passi per far passare il sapere dalle teste delle persone a un posto dove si trova. Senza convocare nessuno.
Leggi
Con l'intelligenza artificiale in una PMI non sparisce la professione, sparisce la mansione. Ecco le sette che vedo assorbite più spesso, e cosa resta alle persone.
Leggi