AI agentica, il 97% degli utenti corregge le decisioni: il nodo fiducia

Quasi un utente su due interviene manualmente per correggere le raccomandazioni generate dall’intelligenza artificiale, e in alcuni casi la quota sale fino al 97,2%. È uno dei dati più significativi emersi dalla seconda edizione del report Data and AI Impact Report: The New Economics of Trust, realizzato da SAS con il contributo di ricerca di IDC, che collega direttamente il livello di fiducia riposto nei sistemi di IA ai risultati economici ottenuti dalle organizzazioni.

Il report mostra che il comportamento correttivo non dipende solo dalla correttezza dell’output: la ragione principale che spinge le persone a intervenire, indipendentemente dal fatto che la decisione dell’AI sia giusta o sbagliata, è l’incapacità del sistema di spiegare come vi sia arrivato. Con l’aumento dell’autonomia dei sistemi, il fenomeno si accentua: la fiducia dichiarata scende dal 76% per l’AI generativa al 66% per l’IA agentica.

Il divario di ROI tra chi investe in fiducia e chi no

Secondo la ricerca, le organizzazioni che adottano pratiche solide di governance, qualità dei dati e auditabilità hanno una probabilità 15 volte superiore di dichiarare un ROI elevato o molto elevato dai propri progetti di AI, con un 62% di risposte positive contro il 4% registrato tra le aziende più indietro su questo fronte. Le imprese con le pratiche più mature riportano inoltre risultati 1,85 volte superiori su 13 indicatori di business diversi, dalla crescita dei ricavi alla riduzione dei costi fino alla customer experience, e l’85% di queste realtà prevede di aumentare gli investimenti in Trustworthy AI di oltre il 10% nel corso dell’anno.

Bryan Harris, CTO di SAS, ha dichiarato che gli agenti più avanzati possono ancora registrare tassi di errore superiori al 25% nelle attività complesse, un livello che ha definito inaccettabile quando sono in gioco decisioni rilevanti, e ha aggiunto che le organizzazioni devono integrare competenze di dominio nei workflow agentici mantenendo le persone al centro dei meccanismi di controllo.

Le fondamenta dati restano il vero collo di bottiglia

Il report evidenzia come solo il 17,5% delle imprese disponga di un’infrastruttura dati sufficientemente matura per le esigenze dell’AI agentica. Le organizzazioni con basi dati solide hanno una probabilità quattro volte superiore di aspettarsi un ROI elevato e sei volte superiore di adottare i controlli su qualità dei dati e spiegabilità necessari a costruire fiducia. Nel settore bancario il divario è netto: l’85% delle banche più mature ha già definito framework di governance dell’AI, contro il 29% delle realtà in ritardo.

Chris Marshall, Vice President di IDC, ha affermato che, man mano che l’intelligenza artificiale acquisisce maggiore autonomia, le organizzazioni si trovano di fronte alla sfida di mantenere la fiducia in sistemi che le persone non comprendono fino in fondo, e ha sottolineato che supervisione, spiegabilità, responsabilità e basi dati solide stanno diventando prerequisiti per scalare l’AI con successo.