Tra chi lavora nei servizi IT, la perdita di controllo è una delle paure ricorrenti legate all’adozione dell’AI. Il timore è che un sistema automatico prenda decisioni operative sbagliate senza che nessuno possa accorgersene in tempo. È una preoccupazione legittima, e la risposta non è rinunciare all’automazione, ma introdurla in modo graduale e governato. Lo strumento che rende possibile questo equilibrio è l’ITSM confidence scoring: un meccanismo che misura quanto l’AI è “sicura” di ciò che propone e che, sulla base di quella misura, decide se procedere in autonomia o chiedere la conferma di un operatore umano.
Che cos’è il confidence scoring?
Ogni volta che un modello di AI produce un output – una categoria assegnata a un ticket, un instradamento verso un team, il suggerimento di un articolo di knowledge base – questo output può essere accompagnato da un valore numerico che ne esprime il grado di affidabilità stimato. Quel valore è il confidence score.
Un punteggio alto significa che il modello considera la propria proposta molto accurata e affidabile, mentre un punteggio basso segnala incertezza. L’ITSM confidence scoring è il meccanismo che consente di fissare dei valori soglia e di collegare questi valori ad azioni concrete: con punteggi al di sopra di una certa soglia l’AI agisce in autonomia, al di sotto l’output passa alla revisione di un operatore. L’instradamento basato sulla soglia di affidabilità è il modello di governance di AI più diffuso negli ambienti enterprise: gli output sopra soglia si eseguono automaticamente, quelli sotto soglia passano alla revisione umana. Il pattern human-in-the-loop – l’approccio che mantiene una persona nel processo decisionale automatizzato – è il più comune nelle implementazioni AI: gli output sopra soglia si eseguono da soli, quelli sotto soglia passano alla revisione umana.
La supervisione umana è una priorità
Che il modello fondato sulle soglie di affidabilità risponda a un’esigenza reale lo confermano i dati raccolti da EasyVista presso il proprio Customer Advisory Board. Oltre l’80% degli intervistati dichiara di preferire un livello di supervisione umana sulle decisioni dell’AI da moderato a esteso (80% in Nord America, 87% in area EMEA), mentre solo una minoranza si dice disposta ad affidare all’AI decisioni con scarsa o nulla supervisione umana.
Lo stesso studio mostra che la propensione ad adottare l’AI è più alta per le funzioni di assistenza all’operatore – sintesi dei ticket, analisi guidata dei casi, risposte generate dall’AI – mentre i casi d’uso più autonomi, come la classificazione automatica della qualità della CMDB o l’escalation intelligente, ricevono punteggi sensibilmente più bassi.
Dalla prudenza all’obbligo: cosa prevede l’AI Act
Questa prudenza sta diventando un requisito normativo. L’Articolo 14 dell’AI Act europeo impone che i sistemi di AI ad alto rischio siano progettati per consentire un’efficace supervisione umana. L’ITSM confidence scoring è precisamente il meccanismo tecnico che traduce questo principio in pratica operativa: invece di pretendere che un operatore verifichi manualmente ogni singola decisione dell’AI – un’opzione impraticabile su migliaia di ticket al giorno – concentra l’attenzione umana solo sui casi che ne hanno davvero bisogno, ovvero quelli in cui il modello si dichiara meno sicuro. La supervisione diventa così selettiva, mirata e documentabile.
ITSM confidence scoring in pratica: dalle soglie alla revisione
Il valore dell’ITSM confidence scoring sta nel suo essere configurabile in funzione del rischio. Non tutte le decisioni hanno lo stesso peso, e la soglia va calibrata sul costo dell’errore, non sull’accuratezza media del modello.
Attività che tradizionalmente erano manuali e dipendevano interamente dal giudizio degli operatori, comela categorizzazione e l’instradamento degli incident,sono fra le applicazioni più mature dell’AI nell’ITSM: il modello classifica la segnalazione, ne stima l’urgenza e la indirizza al team più adatto. Ed è proprio qui che la soglia di confidenza fa la differenza. Per la categorizzazione automatica dei ticket – un’attività ripetitiva, a basso impatto e facilmente reversibile – un’organizzazione può fissare una soglia relativamente bassa: se l’AI è sicura al 90%, la categoria viene applicata senza intervento umano. Per un’azione più delicata, come l’avvio automatico di una procedura di change – una modifica pianificata su un sistema in produzione – la soglia sarà molto più alta, oppure la revisione umana resterà sempre obbligatoria a prescindere dal punteggio.
Soglie diverse per rischi diversi
Lo stesso principio si applica oltre la categorizzazione. Si pensi al suggerimento automatico di un articolo di knowledge base che raggiunga un operatore alle prese con un ticket: se l’AI propone l’articolo con un livello di affidabilità elevato, può mostrarlo direttamente in primo piano (ma l’operatore mantiene comunque l’ultima parola anche se il rischio è minimo). Diverso è il caso di una risposta generata dall’AI e inviata in autonomia all’utente finale: qui un suggerimento sbagliato raggiungerebbe direttamente chi ha aperto la richiesta, con un impatto immediato sulla sua esperienza. Per questo la soglia di affidabilità necessaria a procedere senza supervisione sarà molto più alta, e in molti contesti la revisione di un operatore resterà comunque obbligatoria prima dell’invio. È sempre il costo dell’errore, non la complessità tecnica dell’attività, a determinare dove fissare la soglia.
Il documento strategico pubblicato dal Customer Advisory Board di EasyVista descrive questo schema secondo il modello Human-Governed Automation: vengono stabilite soglie di tolleranza esplicite per l’autonomia dell’AI e il confidence scoring abilita flussi di approvazione condizionale. La revisione umana, in questo schema, non è vista come un collo di bottiglia, ma come un meccanismo di apprendimento: ogni correzione di un operatore diventa un segnale che migliora il modello nel tempo. Ne nasce un circolo virtuoso: l’AI propone, l’operatore perfeziona, il modello “impara”.
Una bussola per decidere cosa automatizzare in futuro
C’è un secondo beneficio dell’ITSM confidence scoring, che viene spesso sottovalutato: i punteggi di confidenza, osservati nel tempo, indicano dove l’automazione può crescere in sicurezza. Se per un determinato workflow l’AI produce in modo costante punteggi alti e le revisioni umane confermano sistematicamente le sue proposte, quel workflow è un candidato naturale per un’autonomia maggiore. Al contrario, un processo in cui i punteggi restano bassi o le correzioni umane sono frequenti segnala che i tempi non sono ancora maturi.
Questo principio di espansione progressiva è al centro dell’approccio di EasyVista che a partire da assistenza e automazione ad alto controllo all’interno del lavoro IT reale, estende l’autonomia man mano che i risultati si dimostrano costanti.
È la logica della cosiddetta adaptive autonomy: gli agenti che mantengono un’accuratezza elevata nel tempo guadagnano progressivamente maggiore autonomia, mentre quelli le cui prestazioni calano vengono riportati sotto controllo umano. Il confidence scoring fornisce i dati oggettivi su cui basare queste decisioni, sottraendole all’intuizione e ancorandole all’evidenza.
Un’avvertenza necessaria: il punteggio non è infallibile
Sarebbe un errore trattare il confidence score come una verità assoluta. Un modello può esprimere un punteggio alto su una previsione comunque sbagliata: un’eccessiva sicurezza non equivale a correttezza. Per questo le architetture più solide non si affidano a un singolo punteggio, ma combinano più segnali – indicatori di affidabilità complessiva e segnalazioni di rischio specifico – per intercettare anche i casi in cui il modello attribuisce un’alta affidabilità a una risposta errata.
Nell’ITSM questo si traduce in una regola pratica: la soglia di confidenza va affiancata da controlli di contesto. Un’azione ad alto impatto economico o normativo dovrebbe sempre richiedere la revisione umana, indipendentemente dal punteggio espresso dall’AI. Il confidence scoring non sostituisce il giudizio, lo indirizza dove serve.
Controllo e fiducia crescono insieme
L’ITSM confidence scoring è al tempo stesso un principio e un meccanismo organizzativo che rende l’adozione dell’AI sostenibile. Permette di iniziare con un controllo elevato, di estendere l’autonomia solo dove i risultati lo giustificano e di prevedere sempre una persona che intervenga sulle decisioni che contano. È così che l’AI passa dai progetti pilota da sorvegliare costantemente a un’automazione di cui i team possono davvero fidarsi. Le organizzazioni che adotteranno questo approccio non rinunceranno alla velocità dell’AI: la otterranno senza rinunciare al controllo, costruendo la fiducia un workflow alla volta.
FAQs
1. Che cos’è l’ITSM confidence scoring?
È un meccanismo che assegna a ogni proposta dell’AI un punteggio di affidabilità e lo collega a soglie predefinite. Sopra la soglia, l’AI agisce in autonomia, sotto la soglia, la decisione passa alla revisione di un operatore umano. Consente di adottare l’AI in modo graduale senza perdere il controllo operativo.
2. Perché è importante mantenere l’intervento umano nel processo decisionale?
L’AI può sbagliare e in ambito IT alcune decisioni hanno impatti significativi. Oltre l’80% delle organizzazioni interpellate da EasyVista preferisce un controllo umano da moderato a esteso. Inoltre l’AI Act europeo richiede una supervisione umana efficace sui sistemi ad alto rischio.
3. Come si stabilisce la giusta soglia di confidenza?
La soglia va calibrata sul costo dell’errore, non sull’accuratezza media. Attività ripetitive e reversibili (come la categorizzazione dei ticket) tollerano soglie più basse mentre azioni ad alto impatto richiedono soglie elevate o la revisione umana sempre obbligatoria.
4. Il confidence scoring serve solo a controllare l’AI?
No. Osservati nel tempo, i punteggi indicano anche dove l’automazione può crescere in sicurezza: i workflow con punteggi costantemente alti e poche correzioni umane sono i candidati naturali per una maggiore autonomia futura.