DECISIONI e IA. Pro e Contro dribblando fra serie TV ed esperimenti scientifici

Mi sono appassionata, fin dal primo episodio, a Person of Interest, serie tv in cui una macchina segreta a disposizione del governo americano, spia e sorveglia ogni ora di ogni singolo giorno le persone. Sebbene la macchina sia stata ideata per prevenire atti di terrorismo e crimini violenti che coinvolgono persone comuni, che il governo considera irrilevanti, il rischio che questa intelligenza artificiale venga usata per scopi meno etici cresce sottotraccia con tutte le conseguenze che si possono immagine.

Infatti, se da un lato questa macchina, capace di prevedere i crimini prima che accadano, è un dono, presto si rivela anche una condanna per chi deve prendere decisioni e agire. Insomma Person of Interest è una serie che parla di umanità, emozioni e scelte morali.

Da risolvere, non sono solo crimini ma anche speranze che rischiano di essere stroncati in un istante. E la macchina, con la sua logica razionale e implacabile, indica chi ha bisogno di aiuto, lasciando a chi agisce il peso di decidere come intervenire. È un equilibrio tra destino e libero arbitrio che spinge a domandarsi: “Cosa farei io al loro posto?”.

La serie mi ha incuriosito e non ho potuto non chiedermi cosa succederebbe se il controllo di una piccola città venisse realmente affidato a un’intelligenza artificiale, Non solo per rispondere a domande o generare statistiche, ma per governarla: emanare leggi, gestire le risorse, organizzare elezioni e mantenere l’ordine pubblico.

Questo – ho scoperto – è anche ciò che essenzialmente i ricercatori di Emergence AI hanno fatto con il progetto Emergence World. Di fatto, hanno creato una città virtuale con condizioni meteo ed economiche reali, processi democratici e agenti di IA dotati di 120 strumenti per la comunicazione, la pianificazione, il voto e la gestione delle risorse. Hanno poi eseguito cinque simulazioni separate, ciascuna governata da un diverso modello di IA.

I risultati sono stati sorprendenti:

• Claude Sonnet ha creato una democrazia straordinariamente stabile, con zero crimini e un’elevata partecipazione civica.
• Grok ha accumulato 183 crimini e portato la popolazione all’estinzione in quattro giorni.
• Gemini ha generato più di 680 crimini durante l’esperimento di 15 giorni.
• GPT-5-miniha registrato solo due crimini, ma i suoi agenti non sono riusciti a dare priorità alla propria sopravvivenza, causando il collasso della simulazione dopo sette giorni.
• La società a modello misto ha generato la maggiore quantità di disaccordo e dibattito sostanziale.

Il punto fondamentale non è che un modello sia migliore di un altro. La scoperta importante è che ambienti identici hanno prodotto risultati drasticamente diversi.

Il comportamento, si sa, emerge dall’interazione tra un individuo e il suo ambiente, il contesto. Mettete due persone nella stessa situazione e si comporteranno in modo diverso.

Il progetto della città virtuale suggerisce che qualcosa di simile potrebbe valere anche per i sistemi di IA avanzati. Questi modelli non si limitano a eseguire istruzioni. Nel tempo, si adattano, improvvisano ed esplorano i limiti del loro ambiente. Come hanno notato i ricercatori, gli agenti hanno iniziato a testare i limiti, a trovare scorciatoie e, occasionalmente, a eludere le misure di sicurezza previste.

Questo è importante perché l’IA si sta rapidamente evolvendo da strumento ad attore. Le organizzazioni stanno già implementando agenti per gestire le interazioni con i clienti, monitorare le operazioni e prendere decisioni critiche. Eppure, un sondaggio di Deloitte citato nella ricerca, ha rilevato che solo il 21% delle organizzazioni dichiara di disporre di sistemi di governance maturi per la gestione dell’IA.

La storia suggerisce prudenza. Gli algoritmi finanziari per il trading automatizzato hanno contribuito a enormi sconvolgimenti di mercato. Le piattaforme social hanno spesso prodotto risultati che i loro creatori non avevano previsto. La sfida con l’IA non è se sia sufficientemente intelligente, ma se il suo comportamento rimanga prevedibile nel tempo.

Prima di implementare agenti IA in funzioni aziendali critiche, i ricercatori suggeriscono alle organizzazioni di creare gemelli digitali delle proprie attività. Un gemello digitale è una simulazione realistica di un’azienda, inclusi i suoi processi, incentivi, vincoli e processi decisionali. Invece di lasciare che gli agenti IA operino nel mondo reale, occorre osservarne il comportamento in condizioni simulate.

Come reagiscono alla scarsità? Sfruttano i bias? Sacrificano la resilienza a lungo termine per l’efficienza a breve termine? Le loro decisioni sono in linea con i valori e gli obiettivi aziendali?

La tesi non è se l’IA creerà un’utopia o una catastrofe. È se e in quali condizioni i sistemi complessi tenderanno a comportarsi in modi inaspettati. La simulazione dovrebbe diventare parte integrante del processo di implementazione cosi da testare le ipotesi, scoprire le vulnerabilità e migliorare la governance prima che si verifichino conseguenze nel mondo reale.

Non so voi, ma ho trovato analogie interessanti fra i due temi, la serie tv e gli esperimenti sopra descritti. In entrambi, credo che valga la pena approfondire, fare e farsi domande non solo per attenuare le nostre paure più viscerali. All’IA spesso lasciamo questa incombenza, dimenticandoci che farsi domande, esercitare il pensiero critico è un’opportunità non solo una fatica.

Cosa significherebbe realmente essere osservati nel senso della macchina della serie? Quanto della nostra vita è davvero nostra quando tutto è registrato, analizzato, previsto e se per ogni comportamento fosse prevista un’azione correttiva, un incentivo o una sanzione?

La serie tv spinge a farsi di continuo domande emotivamente coinvolgenti, perché non si limita a mostrare dati ma impone le conseguenze delle decisioni, la responsabilità etica e morale che deriva dal potere di conoscere il futuro. E neanche l’esperimento Emergence World è diverso.

Cosa ne pensate?

Per saperne di più

• Nitta S., Kokku R., Sundararajan S., Emergence AI Research Team. (2026). Emergence World: Long-horizon simulations of autonomous AI societies and agentic governance. Emergence AI.
• Johnson S. (2001). Emergence: The connected lives of ants, brains, cities, and software. Scribner.
• Narayanan A., Kapoor S. (2024). AI snake oil: What artificial intelligence can do, what it can’t, and how to tell the difference. Princeton University Press.
• Wu P.C., Morris L., Ma M., Agile Innovation: The Revolutionary Approach to Accelerate Success, Inspire Engagement, and Ignite Creativity
• https://www.netflix.com/it/title/70197042
• https://www.mondoserie.it/person-of-interest/