AI al servizio del cittadino: una trasformazione globale

Attraverso questi esempi, emerge un quadro delle opportunità e dei rischi: se da un lato l’AI promette di abbattere barriere linguistiche e semplificare l’accesso ai servizi, dall’altro solleva questioni cruciali sulla privacy, l’affidabilità delle informazioni e la necessità di mantenere un elemento umano nell’erogazione dei servizi pubblici. 

L’AI per l’assistenza ai rifugiati

L’International Rescue Committee (IRC) a New York affronta il drammatico aumento degli sfollati registrato negli ultimi anni, e sta cercando soluzioni efficienti in tanti modi possibili, anche ricorrendo all’intelligenza artificiale per dare aiuti ai rifugiati. L’IRC ha investito già dieci anni fa in Signpost, un portafoglio di app mobili e canali social media che rispondono a domande in diverse lingue per le persone in situazioni pericolose. Il progetto Signpost, che include molte altre organizzazioni, ha raggiunto finora 18 milioni di persone, ma l’IRC vuole aumentare significativamente la sua portata utilizzando strumenti di intelligenza artificiale, se riescono a farlo in modo sicuro.

Conflitti, emergenze climatiche e difficoltà economiche hanno fatto aumentare la domanda di assistenza umanitaria, con oltre 117 milioni di persone costrette a sfollare nel 2024, secondo l’agenzia delle Nazioni Unite per i rifugiati. Il passaggio alle tecnologie di intelligenza artificiale è in parte guidato dall’enorme divario tra bisogni e risorse. Per cogliere l’obiettivo di raggiungere almeno metà degli sfollati entro tre anni, l’IRC sta testando una rete di chatbot AI per vedere se possono aumentare la capacità dei loro funzionari e delle organizzazioni locali che servono direttamente le persone tramite Signpost. Per ora il progetto pilota è operativo in El Salvador, Kenya, Grecia e Italia e risponde in 11 lingue. Si basa su una combinazione di grandi modelli linguistici di alcune delle più grandi aziende tecnologiche, tra cui OpenAI, Anthropic e Google. Il sistema di risposta del chatbot utilizza anche il software di assistenza clienti di Zendesk e riceve ulteriore supporto da Google e Cisco Systems.

“Stiamo cercando di essere chiari su quali siano le preoccupazioni legittime, ma anche di essere ottimisti sulle opportunità e di non permettere che le popolazioni che serviamo siano lasciate indietro riguardo a soluzioni che hanno il potenziale di scalare in un modo che l’uomo da solo o altre tecnologie non possono fare”, ha affermato Jeannie Annan, responsabile della ricerca e dell’innovazione dell’IRC.

Le risposte e le informazioni fornite dai chatbot Signpost vengono esaminate da organizzazioni locali per essere aggiornate e rese sensibili alle circostanze precarie in cui le persone potrebbero trovarsi. Un esempio di query che IRC ha condiviso è di una donna di El Salvador che viaggia attraverso il Messico verso gli Stati Uniti con suo figlio e che è alla ricerca di un rifugio e di servizi per il suo bambino. Il bot fornisce un elenco di fornitori nella zona in cui si trova, una richiesta che un operatore umano non avrebbe mai potuto legalmente accettare, ma che comunque non può essere lasciata inevasa per la sua valenza umanitaria. L’IRC ha tuttavia affermato che non facilita la migrazione illegale. Le richieste più complesse o delicate probabilmente saranno inoltrate a un team di esperti per la risposta.

I problemi reali

Ma vediamo quali sono i problemi reali. Cosa succederebbe se la situazione sul campo cambiasse e il chatbot non lo sapesse? Potrebbe fornire informazioni non solo sbagliate ma pericolose. Inoltre questi strumenti possono accumulare dati su persone vulnerabili che attori ostili potrebbero prendere di mira. IRC ha affermato di aver concordato con i fornitori di tecnologia che nessuno dei loro modelli di intelligenza artificiale verrà addestrato sui dati che IRC, le organizzazioni locali o le persone che servono stanno generando. Hanno anche lavorato per rendere anonimi i dati, inclusa la rimozione di informazioni personali e della posizione geografica.

Cathy Petrozzino, che lavora per la società di ricerca e sviluppo non-profit MITRE, ha affermato che gli strumenti di intelligenza artificiale hanno potenziale elevato ma anche rischi elevati. Per utilizzare questi strumenti in modo responsabile, ha affermato, le organizzazioni dovrebbero verificare oltre che la tecnologia funzioni, che sia anche equa e che la privacy sia protetta. Ha inoltre sottolineato che le organizzazioni devono coinvolgere molte figure per contribuire a progettare e gestire l’iniziativa: non solo esperti tecnici, ma anche persone con una conoscenza approfondita del contesto, esperti legali e rappresentanti dei gruppi che utilizzeranno gli strumenti. “Ci sono molti buoni modelli nel cimitero dell’intelligenza artificiale”, ha affermato, “perché non sono stati elaborati insieme e in collaborazione con la comunità degli utenti”. Consultare gli sfollati o altre persone assistite da organizzazioni umanitarie può aumentare il tempo e gli sforzi necessari per progettare questi strumenti, ma non avere il loro contributo solleva molti problemi di sicurezza ed etici, ha affermato Helen McElhinney, direttore esecutivo di CDAC Network.

Degan Ali, CEO di Adeso, un’organizzazione non-profit in Somalia e Kenya, è da tempo una sostenitrice del cambiamento delle dinamiche di potere nello sviluppo internazionale per dare più soldi e controllo alle organizzazioni locali. Si è chiesto come IRC e altri che perseguono queste tecnologie avrebbero superato i problemi di accesso, indicando le interruzioni di corrente di una settimana causate dall’uragano Helene negli Stati Uniti. I chatbot non aiutano quando non ci sono dispositivi, Internet o elettricità, ed ha aggiunto: “Le domande più complesse richiederanno sempre un’esperienza locale, contestuale e vissuta per avere una risposta significativa”.

I programmi sanitari in USA

I Centers for Medicare & Medicaid Services (CMS) sono responsabili dell’amministrazione dei programmi sanitari nazionali in USA che forniscono a milioni di americani l’accesso ai servizi sanitari. Gestire le query, rispondere alle preoccupazioni e fornire informazioni sono servizi essenziali che i CMS offrono ai propri beneficiari. L’integrazione di un bot di assistenza clienti basato sull’intelligenza artificiale ha migliorato significativamente questi servizi fornendo risposte tempestive, accurate e personalizzate alle richieste degli utenti. Le informazioni principali fornite dai bot riguardano le prestazioni e la copertura, i requisiti di ammissibilità per i diversi piani e programmi Medicare e Medicaid, una guida dettagliata su come iscriversi, rinnovare i propri piani o apportare modifiche ai propri piani attuali. Il bot può aiutare a comprendere il processo di reclamo, a individuare i moduli, i documenti e le risorse online necessari sul sito web del CMS.

L’interoperabilità con i database CMS è centrale (dopo aver posto in opera adeguate misure di sicurezza). L’AI può così offrire risposte personalizzate in base al piano e alla cronologia specifici dell’utente e può informare di scadenze importanti, come i periodi di iscrizione, le date di rinnovo e di modifica alla polizza che potrebbero influire sulla loro copertura. Analizzando lo storico delle interazioni, l’AI fornisce al CMS informazioni su problemi ricorrenti e aree in cui gli utenti necessitano di maggiore supporto, e sta guidando così l’evoluzione nell’erogazione dei servizi CMS.

L’AI per la produttività burocratica in UK

Attualmente c’è un notevole entusiasmo all’interno del governo UK riguardo al potenziale dell’AI per migliorare la produttività del servizio pubblico attraverso l’automazione di compiti burocratici complessi ma ripetitivi, liberando il tempo del personale qualificato.  Si parla di sostenere i dipendenti pubblici, e solo indirettamente i cittadini, intervenendo su un monte 143 milioni di pratiche.

Il progetto Public Service parte dall’analisi delle dimensioni di questa opportunità, mappando la portata delle procedure decisionali burocratiche rivolte ai cittadini all’interno del governo centrale del Regno Unito e misurando il loro potenziale per l’automazione basata sull’intelligenza artificiale. Si stima che il governo centrale del Regno Unito effettui circa un miliardo di transazioni all’anno rivolte ai cittadini per la fornitura di circa 400 servizi, di cui circa 143 milioni sono transazioni complesse e ripetitive. Circa l’84% di queste transazioni complesse sembra sia altamente automatizzabile: risparmiare anche solo un minuto in media per transazione complessa consentirebbe di risparmiare l’equivalente di circa 1.200 anni-persona di lavoro ogni anno.

Sono stati utilizzati vari modelli euristici per stimare il volume e la tipologia delle transazioni intraprese da un servizio governativo, che permettono al governo di evitare di condurre costose osservazioni e misurazioni puntuali delle transazioni. Visto inoltre l’elevato turnover nei tipi di servizi forniti dal governo del Regno Unito, il progetto concentra gli sforzi di automazione su procedure generali piuttosto che sui servizi stessi che probabilmente evolveranno nel tempo. Questo progetto, tuttavia, è ancora allo stato nascente, sebbene presenti una prospettiva esaltante sulla struttura e sul funzionamento di un governo moderno e su come potrebbe evolvere il servizio pubblico nell’era dell’intelligenza artificiale.

L’AI per la cittadinanza attiva

Un recente sondaggio condotto da GovLoop in USA, condotto tra i decisori del settore pubblico statale, ha rilevato che i due obiettivi principali per l’utilizzo dell’AI sono:

• Creare opzioni self-service efficienti (34%)
• Modernizzare e migliorare i servizi forniti ai cittadini (30%)

Gli assistenti digitali basati sull’AI possono aiutare i decisori del settore pubblico a raggiungere entrambi gli obiettivi. Gli assistenti digitali stanno cambiando il modo in cui i governi statali e locali interagiscono con cittadini e residenti. Offrono una varietà di funzionalità che semplificano l’accesso ai servizi e migliorano l’esperienza complessiva del cittadino. Residenti e visitatori possono trovare facilmente risposte alle loro domande su varie risorse della comunità. Che si tratti di ottenere una tessera della biblioteca, prenotare un parcheggio o utilizzare i trasporti pubblici, l’aiuto è prontamente disponibile in qualsiasi luogo ed in qualsiasi momento.

In North Carolina è stato introdotto un assistente digitale AI prodotto da Pryon. Quasi un quarto dei 200.000 residenti della città non parla inglese e ciò ha reso difficile per loro trovare informazioni sul sito web della città. Invece, questo assistente digitale risolve il problema, consentendo una comunicazione fluida in più lingue. La città ottiene, inoltre, preziose informazioni dalle richieste di informazioni inviate da residenti e visitatori all’assistente digitale. Questo feedback aiuta a identificare le lacune nell’accesso alle informazioni, consentendo al governo della città di prendere decisioni informate che migliorano il servizio per cittadini e residenti. Utilizzando tecnologie AI avanzate di machine learning (ML), elaborazione del linguaggio naturale (NLP) e generazione aumentata dal recupero (RAG), questo assistente Pryon risposte accurate e consapevoli del contesto in più lingue. Questa innovazione migliora la comunicazione tra residenti e governi e riduce il carico di lavoro per gli agenti di supporto umani.

Il self-service viene migliorato facilmente da questo tipo di assistenti. Pensiamo allo scenario di essere turisti in un paese straniero e di cercare di navigare in un sito web non in inglese, aggiornato l’ultima volta nel 2004. È una sfida trovare un’informazione specifica nascosta tra migliaia di pagine in una lingua sconosciuta, con la difficoltà di navigare in una complicata rete di risorse: questo scenario rispecchia per tantissimi visitatori l’esperienza di utilizzo della maggior parte dei siti web municipali. Gli assistenti digitali AI aiutano cittadini e residenti ad accedere facilmente a informazioni e servizi tramite opzioni vocali e di testo in più lingue. Forniscono risposte rapide e semplici, così i residenti non devono cercare su siti Web tentacolari o attendere in attesa per ottenere informazioni.

Portare GenAI nel servizio pubblico ha il potenziale per migliorare significativamente l’efficienza del governo e i servizi ai cittadini. Tuttavia, il successo di queste tecnologie AI dipende dalla loro adozione e implementazione efficaci. Creare un rapporto di fiducia con gli utilizzatori è fondamentale. Ciò comporta la selezione di strumenti AI che non siano solo ad alte prestazioni, ma anche sicuri e responsabili. 

Perché non usare ChatGPT o un equivalente LLM generico? Gli strumenti GenAI di livello consumer, come ChatGPT e piattaforme simili, non riescono a soddisfare le esigenze specifiche delle entità governative. Ad esempio, spesso hanno difficoltà a gestire contenuti duplicati, mancano di controlli amministrativi essenziali e non incorporano le robuste misure di sicurezza richieste dai governi statali e locali. Una soluzione RAG (retrieval-augmented generative) può aiutare ad attenuare molti dei rischi associati a GenAI. Il RAG funziona recuperando prima le informazioni rilevanti da un set di dati preesistente, controllato e validato, e quindi generando risposte basate su tali dati. Combinando i vantaggi di entrambi gli approcci basati sul recupero e generativi, RAG garantisce risposte accurate e pertinenti riducendo al minimo il rischio di errori e distorsioni. Nello schema di Figura 1 ci sono i tre passaggi del RAG: 1. “Query”: un utente invia una query; 2. “Risposte”: un motore di recupero recupera le informazioni rilevanti da una libreria di conoscenze cittadine e le fornisce a un motore GenAI; 3. “Risposta”: il motore GenAI genera e fornisce una risposta al cittadino.

Figura 1.

La città di Helsinki ha sfruttato la potenza di tali modelli per fornire informazioni su servizi urbani come parcheggi, strutture sportive e ricreative e alloggi in affitto. Queste piattaforme forniscono risposte pertinenti basate su percorsi di discussione basati su regole e sui dati che vi sono stati inseriti. Altri, come CitizenLab, implementano agenti conversazionali per casi d’uso come il budget partecipativo, la raccolta di feedback sulle proposte pubbliche e il riassunto basato sull’intelligenza artificiale degli input della comunità. I ricercatori dell’Università di Helsinki hanno adottato un approccio più sfaccettato e hanno lanciato Co Creation Radar, una serie di strumenti basati sull’intelligenza artificiale volti ad aiutare i funzionari della città a colmare il divario tra le esigenze dei cittadini e le risorse della città di Helsinki. Uno dei suoi servizi, CityTips, utilizza le raccomandazioni indotte dall’intelligenza artificiale per convertire le esigenze dei cittadini in programmi attuabili.

Le difficoltà di Gen AI nei servizi alla cittadinanza in USA

L’utilizzo di AI per sostenere i cittadini ed i dipendenti pubblici ci fornisce già importanti lezioni di cui tenere conto sulle difficoltà incontrate. Mentre la città di Helsinki ha trovato la GenAI affidabile per un servizio di informazione, questo non è stato il caso di un chatbot rilasciato da New York City nel 2023. Il chatbot di New York City si è concentrato in particolare sull’aiutare i proprietari di piccole imprese ad accedere ai servizi della città. A meno di cinque mesi dal rilascio, hanno iniziato a circolare polemiche sui suoi contenuti. Il bot produceva suggerimenti imprecisi, di parte e talvolta illegali. Ad esempio, il chatbot ha risposto negativamente quando gli è stato chiesto se i proprietari devono accettare un certo tipo di voucher. In realtà, non è così: è illegale discriminare in base al reddito a New York City. Sebbene questi errori siano stati risolti e siano stati aggiunti disclaimer all’interfaccia, le critiche stanno crescendo di intensità, con molti che chiedono alle città di sviluppare standard più etici per l’implementazione della GenAI, inclusa una migliore supervisione umana. Forse, ancora più importante, questi passi falsi di alto profilo hanno contribuito a una generale diffidenza nell’utilizzo dei chatbot per fornire informazioni essenziali al pubblico.

Le preoccupazioni sulla capacità di fidarsi dei risultati dei chatbot basati sull’intelligenza artificiale sono state sollevate anche durante il workshop con i funzionari della città di Boston. Sono stati riportati casi di distorsioni nei set di dati, diseguaglianza nel trattamento e potenziale disinformazione derivati da imprecisioni nei dati di addestramento e nei modelli stessi. Un funzionario della città ha dichiarato quanto sia preoccupato che l’IA generativa “faccia qualcosa di veramente complicato rendendo la complessità invisibile e presentando solo risposte semplici”. Il funzionario si preoccupa della necessità di sfumature nell’interazione umana, che potrebbero non essere interpretate correttamente dagli LLM che guidano i chatbot. Un altro partecipante ha chiesto ad un produttore di AI se ci fosse un modo per verificare l’accuratezza della risposta, sentendosi rispondere: “possiamo lavorare per cercare di renderla più affidabile con la revisione, e fare in modo che il funzionario possa controllare ciascuna delle risposte”. Il funzionario, però, intendeva domandare se GenAI potesse controllare le proprie risposte, cioè, mostrare auto-consapevolezza e, in caso di disallineamento, inviare la richiesta agli agenti umani che rispondono alla hotline di informazioni per la comunità e reclami di non emergenza di Boston, il 311. La città di Boston ha considerato questa come un’opportunità per fornire un migliore coinvolgimento con il proprio sistema 311 che fornisce supporto in quattordici lingue. Un residente cinese di Boston, che ha partecipato al workshop, ha indicato che uno dei maggiori ostacoli nella relazione con il governo è proprio l’impossibilità di comunicare nella propria lingua. Lo stesso cittadino ha mostrato entusiasmo per il multilinguismo, affermando che “se il 311 riescisse a fornire strumenti di comunicazione che consentisse loro di spiegarsi in cinese, sarebbe fantastico.” Questo è probabilmente il più immediato contributo di GenAI per aiutare a migliorare la relazione tra i cittadini ed i governi.

Le prospettive

I cittadini si aspettano ormai da tempo che i servizi governativi siano fluidi ed efficienti come le loro app preferite. L’AI sta emergendo come l’ultima promessa in ordine di tempo per soddisfare queste aspettative, perché sta trasformando il modo in cui i governi interagiscono con i cittadini e li servono, dalle metropoli più frenetiche ai villaggi più remoti. Come ha detto Ali: “Le domande più complesse richiederanno sempre un’esperienza locale, contestuale e vissuta per rispondere in modo significativo”. È troppo presto per verificare se l’AI colmerà il divario tra cittadini e governi, creando un’esperienza cittadina più partecipativa, oppure diventerà solo un altro strumento per rafforzare la governance di una tecnocrazia distaccata dalle persone.

Bibliografia