Tag Archivio per: #noise

2 febbraio 2024 – Intervista di Professione Finanza e Family Economy su bias, nudge e noise

Intervista di Professione Finanza e Family Economy su bias, nudge e noise in relazione al libro “Gli errori della mente”, ACS editore, Milano, 2022

 

27 Giugno ’23 – Speech “AI fra errori necessari, impatti possibili e buone pratiche” – Fondazione Links e AIDP Piemonte

Speech con la collega Pamela Melato: “AI fra errori necessari, impatti possibili e buone pratiche” alla Fondazione Links di Torino, all’interno dell’evento organizzato dal gruppo AIDP4Future, Hr Tech: La tecnologia al servizio delle Persone.

 

NON BASTANO i BIAS, ora ci si mettono anche i NOISE (i RUMORI decisionali)

Immaginiamo, ipoteticamente, di aver commesso un reato. Qual è, a vostro avviso, il migliore momento della giornata per trovarsi di fronte a un giudice?

La mattina presto o subito dopo una pausa caffè o il pranzo.

Fame e stanchezza condizionano fortemente le nostre #decisioni, come ha rilevato uno studio condotto su oltre mille sentenze: mattina presto, dopo una pausa e post pranzo sono i momenti in cui le sentenze sono più clementi.

Ad avere la peggio è, di fatto, chi viene ascoltato a fine giornata o poco prima di pranzo.

Questo è solo un assaggio dell’impatto che i noise (rumori o errori decisionali) hanno sulle nostre #decisioni: capaci di colpire laddove i giudizi sono soggettivi e influenzabili da fattori non correlabili.

Il #noise è un problema a cui finora è stato dato poco risalto rispetto a bias ed euristiche poiché “il bias ha una sorta di fascino esplicativo che manca al rumore”. Solamente una visione statistica, permette di vedere il rumore, ma noi umani preferiamo le narrazioni causali alla statistica.

Ad affrontare il concetto di rumore nei contesti decisionali è ancora una volta, il premio Nobel per l’Economia Daniel Kahneman, già autore di Pensieri lenti e veloci.  Lo psicologo ha, anche questa volta, raccolto le sue scoperte in un libro divulgativo Rumore. Un difetto del ragionamento umano, scritto insieme a Olivier Sibony, consulente specializzato in pensiero strategico e processi decisionali e Cass R. Sunstein, giurista, docente alla Harvard Law School e studioso della razionalità e dell’irrazionalità dei comportamenti economici, nonché, quest’ultimo, anche co-autore con Richard Thaler di Nudge, la spinta gentile.

COS’ È IL RUMORE?

Non è stato fornito nessun testo alternativo per questa immagine

Per spiegare il concetto, Kahneman è ricorso all’analogia del poligono di tiro. Sia i bias sia i noise non permettono di centrare il bersaglio, fare cioè la scelta giusta. Se per i bias, però, gli errori sono persistenti e sistematici, quindi classificabili, per i noise gli errori sono casuali, ma contro intuitivamente, possono essere corretti più agevolmente.

Metaforicamente, il rumore è rappresentato dalle frecce che mancano il centro ma colpiscono il bersaglio in modo casuale, i bias dalle frecce che mancano il centro in modo coerente, sistematico e prevedibile.

Tradotto: dati gli stessi fatti, un criminale ottiene l’ergastolo e un altro, ugualmente colpevole, se la cava.

I NOISE NELLA PRATICA

CAMPO MEDICO

Un noise è ciò che porta i radiologi a fornire diagnosi differenti nel 23% dei casi guardando la stessa radiografia a distanza di una settimana. Considerando che i medici erano consapevoli di essere sotto esame e, con molta probabilità, avranno fatto del loro meglio per ottimizzare le loro prestazioni, il tasso di errore potrebbe essere più alto in un contesto privo di supervisione.

L’angiografia coronarica è un metodo per rilevare le cardiopatie, prima causa di morte negli Stati Uniti. Benché possa apparire un esame semplice e obiettivo, uno studio ha riscontrato un certo grado di variabilità nell’interpretazione dell’esame: nel 31% dei casi tra i medici vi è un disaccordo sul fatto che in un grande vaso vi sia un’ostruzione superiore al 70%.

E’ inoltre, molto più probabile che i medici prescrivano uno screening per la prevenzione del cancro al mattino presto anziché nel tardo pomeriggio.

Una possibile spiegazione risiede nel fatto che inevitabilmente i medici accumulano stanchezza psicofisica e ritardo nelle visite giornaliere ambulatoriali e di conseguenza questo “rumore occasionale” nella decisione medica diagnostica fa sì che i medici saltino il colloquio sulle misure di screening e prevenzione per le ultime visite, sebbene previsti da linee guida ben definite.

Se ci pensiamo bene, a quanti è capitato di ricevere diagnosi o cure discordanti da due o più medici? Ogni volta che un secondo parere diverge dal primo si è in presenza di rumore. il vero problema, però, non è la discrepanza fra il primo e il secondo parere, ovvero la presenza del rumore nella professione medica, quanto la sua pervasività.

La letteratura sul rumore in medicina è vasta. Non sorprende che in questo ambito si sia cercato di contrastare il fenomeno. Un esempio sono le linee guida, la più celebre è l’indice di Apgar sviluppato nel 1952 dall’anestesista ostetrica Virginia Apgar, utile a valutare lo stato di salute di un neonato.

SCIENZA FORENSE

Anche l’affidabilità delle analisi delle impronte digitali è soggetta ai bias degli esaminatori, che possono creare più rumore e quindi più errori di quanto si creda, come il caso Mayfield dimostra.

Nel 2004 delle bombe piazzate su diversi treni regionali a Madrid provocò quasi 200 morti e migliaia di feriti. Un’impronta sospetta trovata sulla scena del crimine fu trasmessa alle forze dell’ordine di tutto il mondo e i laboratori forensi del FBI la attribuirono a un cittadino americano: Brandon Mayfield. Il sospetto sembrava credibile, ex ufficiale dell’esercito statunitense, si era prima sposato con una donna egiziana e poi convertito all’Islam. L’uomo fu posto sotto sorveglianza, la sua abitazione perquisita e le sue chiamate intercettate. Non riuscendo a ottenere informazioni utili, l’FBI lo arrestò nonostante la mancanza di un’accusa formale. Durante la custodia cautelare, però, gli investigatori spagnoli individuarono un altro sospettato e fu successivamente accertata la mancata corrispondenza tra le impronte digitali di Mayfield e quelle presenti sulla scena del crimine.

Mayfield fu quindi rilasciato e il governo americano dovette pagare un risarcimento di 2 milioni di dollari. L’FBI fece un’indagine per scoprire le cause di quell’errore: non si trattò di un problema metodologico o tecnologico ma di un errore umano.

Itiel Dror, neuroscienziato cognitivista dello University college di Londra fu tra i primi a domandarsi quanto rumore fosse presente nelle analisi delle impronte digitali, sapendo che dove c’è giudizio c’è rumore.

Dror scoprì che gli esaminatori erano suscettibili di bias che derivavano dalle informazioni fornite. Gli esaminatori erano tutt’altro che immuni ai condizionamenti. Quando un esperto che aveva già espresso un giudizio entrava in possesso di informazioni aggiuntive condizionanti spesso era tentato da rivalutare le stesse impronte digitali considerate in precedenza, specie davanti a decisioni difficili. Lo scienziato scoprì anche che gli esaminatori posti in un contesto affetto da bias non vedevano le stesse cose (in particolare osservavano un numero decisamente inferiore di dettagli) di chi non veniva esposto a informazioni condizionanti.

Per indicare l’impatto delle informazioni condizionanti a discapito delle informazioni reali contenute nelle impronte è stato coniato il termine bias di conferma forense.

LEGALE

Che dire invece delle sentenze che avvengono la settimana dopo che la squadra del cuore ha perso la partita? I giudici della Louisiana hanno dato sentenze più severe ai minori, in particolare di colore, la settimana dopo che la squadra di football della LSU aveva perso una partita.

In Francia e negli Stati Uniti, uno studio che ha analizzato oltre 5 milioni di decisioni ha documentato quanto i giudici tendano a essere più indulgenti quando l’udienza si svolge nel giorno del compleanno dell’imputato. La data di nascita, da sola, è sufficiente a condizionare la decisione di un giudice.

Secondo un’altra indagine, i giudici potrebbero essere influenzati perfino da un fattore apparentemente irrilevante come la temperatura esterna.

Ciò che molteplici studi hanno rilevato è che “l’assenza di consenso è la norma“.

FACCIAMO IL PUNTO

Il mantra del lavoro di Kahneman è:

“Dove c’è giudizio c’è rumore, e più di quanto non si pensi”.

In qualsiasi tipo di giudizio umano esisterà rumore in percentuali variabili, motivo per il quale, tanto quanto per i bias, è auspicabile ridurlo.

Questo, infatti, è l’antidoto più potente che abbiamo a disposizione per poter migliorare la qualità delle nostre decisioni, antidoto, che gli autori definiscono igiene decisionale. Ovviamente, la variabilità nel giudizio non è sempre un problema, altrimenti non avrebbero dignità di esistere opinioni, pareri e critiche. Nelle questioni di giudizio in senso stretto, però, il rumore sistematico (oltre che i bias) è sempre un problema e sorprende sapere in quanti casi sia presente.

COME RIDURRE IL RUMORE

Oltre a competenze, intelligenza e apertura mentale gli autori indicano fra le strategie di igiene decisionale:

  • L’obiettivo del giudizio è l’accuratezza non l’espressione individuale, il giudizio non è la sede appropriata per esprimere la propria individualità.
  • Pensare in termini statistici e assumere la visione esterna del caso.
  • Strutturare i giudizi in diversi compiti indipendenti per evitare quello che viene chiamato eccesso di coerenza che porta a distorcere o escludere informazioni che non si inseriscono in una narrazione preesistente.
  • Resistere alle intuizioni premature.
  • Ottenere giudizi indipendenti da più valutatori per poi eventualmente aggregarli.
  • Preferire giudizi e scale relative.

Il rumore è poco prevedibile e non facilmente visibile o spiegabile, perciò, spesso tendiamo a trascurarlo anche quando causa danni importanti. Per questo il rapporto tra le strategie volte a ridurre il rumore e quelle volte a eliminare i bias è paragonabile a quello che accade con le misure di igiene o con un trattamento medico. L’obiettivo è prevenire una serie imprecisata di potenziali errori prima del loro verificarsi.

Come quando laviamo le mani, non sappiamo di preciso quali germi stiamo evitando, sappiamo solo che farlo è una buona prevenzione. Analogamente seguire dei principi di igiene decisionale significa adottare tecniche che permettono di ridurre il rumore senza sapere quali errori si stia contribuendo ad evitare. Il rumore è un nemico invisibile e prevenire l’attacco di un nemico invisibile non porterà che ha una vittoria invisibile. Tuttavia, visti i danni e le ripercussioni che può causare rumore vale la pena cercare di combatterlo.

Il tema, come avrete potuto constatare è ampio, e se in qualche modo vi ho incuriosito non vi resta, come primo passo, che leggere Noise.

NEVE, BIAS e tanti PICCOLI INDIZI… per NON lasciarsi SORPRENDERE da una VALANGA

L’ultimo giorno della sua vita Steve Carruthers si alzò presto, pronto ad affrontare il Big Cottonwood, leggendaria via di arrampicata su roccia nello Utah, con l’amico di cordata Ian Mc-Cammon e un terzo sciatore.

Conoscevano quei territori allo stesso modo di chi lì è nato, e fu questo a portarli, se vogliamo assecondare il senno di poi, a sottovalutare parte del rischio, tipico delle montagne il giorno successivo a una bufera di neve, finendo con il venire travolti da 100 tonnellate di ghiaccio a 80 chilometri all’ora[1].

Steve fu l’unico a non sopravvivere.

Forse, se Steve avesse tenuto conto del consiglio di Daniel Kahneman[2] secondo cui “sbagliamo tutti e tutti sbagliamo nello stesso modo, soprattutto laddove siamo più competenti”, non avrebbe sottovalutato l’impatto che #bias#noise ed #euristiche hanno nella presa di #decisione. E forse, quel giorno, le cose sarebbero andate diversamente.

BIAS, NOISE ED EURISTICHE

Si parla tanto di bias, noise[3] ed euristiche. Il dilagare di post sull’argomento, e l’appropriarsi del tema da parte di chiunque, a prescindere, è evidente. Ma fra il descrivere gli effetti di una distorsione cognitiva e contestualizzarla, per anticiparla, riconoscerla o mitigarla c’è ancora una certa differenza. Lo so io, lo sa chi legge e di certo anche Ian McCammon[4], sciatore esperto, istruttore di wilderness, ma anche ingegnere, ricercatore e consulente per la NASA e il Dipartimento della Difesa, che nei bias, nei noise e nelle euristiche cercò, trovandolo, il perché della tragedia.

Con il rigore di un ingegnere, Ian iniziò a leggere tutto ciò che trovava sulla scienza del #rischio e del #decision-making, a studiare e classificare poi i dettagli di oltre 700 valanghe mortali avvenute fra il 1972 e il 2003, sui 1355 sciatori coinvolti, sulle dinamiche della loro sciata, l’esperienza, gli orari e i minuti precedenti la loro morte, velocità del vento, caratteristiche del terreno e altri segni di instabilità, allo scopo di trovare similitudini che potessero spiegare la morte prematura dell’amico.

Ciò che emerse ha dello straordinario: Ian individuò #pattern ricorrenti, riconducibili a sei bias (in cui non sarebbero dovuti cadere sciatori esperti), ognuno capace di influenzare il giudizio, riassunti nell’acronimo FACETS, ed esplicitati nel documento: Evidence of Heuristic Traps in Recreational Avalanche Accidents. Il paper è tuttora una guida per mitigare i rischi nelle arrampicate e scalate in alta montagna.

FACETS

FAMILIARITY[5]. E’ la tendenza a sopravvalutare le cose che già conosciamo, anche quando è svantaggioso. Il problema con questo effetto è che man mano che diventiamo più familiari con qualcosa, ci sentiamo più a nostro agio, e abbassiamo la guardia: la stessa cosa che è accaduta ai tre sciatori, sicuri di quella escursione per averla compiuta un’infinità di volte nelle condizioni più diverse.

ACCEPTANCE. Vogliamo essere accettati dagli altri ed è per questo che tendiamo a prendere decisioni rischiose. Così facendo perdiamo di vista l’obiettivo originario.

CONSISTENCY. Gli sciatori, nel caso specifico, hanno maggiori probabilità di correre rischi quando sono seriamente impegnati in un obiettivo (coerenza) e ancor più quando si trovano in gruppi di quattro o più persone.

EXPERT HALO. E’ la convinzione di essere al sicuro sciando con qualcuno che si considera esperto (nel sciare), quando in realtà l’esperto sa certamente sciare bene ma sa molto poco di valanghe ed eventi avversi in montagna.

TRACKS/SCARCITY. Il non essersi mai imbattuti in una valanga nonostante si sia percorso quel tratto un numero infinito di volte, porta a sottovalutare il pericolo.

SOCIAL FACILITATION. Il fatto di imbattersi in gruppi di sciatori e scalatori meno esperti su territori pericolosi, predispone i più esperti a correre maggiori rischi. Questo effetto è direttamente proporzionale al livello di expertise.

NON TUTTE LE EURISTICHE VENGONO PER NUOCERE

Nonostante le decisioni sbagliate a cui ci conducono, le #euristiche sono utilissime perché ci permettono di risparmiare tempo ed energie. Per analogia, è come se al supermercato per fare la spesa, ci mettessimo a ponderare pro e contro di ogni prodotto, anziché dirigerci verso la marca del bene che abbiamo già comprato e gustato decine di volte. Così avviene anche per i medici del pronto soccorso, i piloti e i calciatori – persone che devono prendere decisioni rapide e sono addestrate a identificare rapidamente schemi familiari e (re)agire.

Purtroppo però quando smettiamo di considerare il #contesto, qualunque esso sia, ci assumiamo dei rischi.

Le vittime delle valanghe analizzate da McCammon, ad esempio, erano quasi tutti sciatori esperti, e quasi la metà aveva avuto una formazione specifica sul tema valanghe. L’esperienza, come già accennato, non porta necessariamente a scelte intelligenti. Anzi, in questo caso il contrario.

Paradossalmente, la #familiarità con un luogo, ha l’effetto di farlo sembrare sicuro anche quando non lo è, banalmente perché lo è stato fino a quel momento. E questo ci induce ad abbassare la guardia.

Non è un caso se McCammon ha scoperto che c’erano significativamente più incidenti da valanga quando gli sciatori conoscevano bene il luogo, rispetto a quando si avventuravano su percorsi nuovi.

La maggior parte delle valanghe non ha nulla a che fare con la neve. L’euristica della familiarità è stata ampiamente studiata nel campo dei comportamenti di acquisto e della finanza personale. Gli psicologi di Princeton hanno dimostrato che le persone sono più inclini ad acquistare azioni di nuove società se i nomi sono facili da leggere e pronunciare, il che influisce effettivamente sulla performance del titolo nel breve periodo.

QUANDO TUTTO HA AVUTO INIZIO

Il processo decisionale di Carruthers ha cominciato ad andare storto molto prima che mettesse gli scarponi ai piedi. Tutto è iniziato nella comodità del soggiorno di casa, quando lui o uno dei suoi amici ha proposto: “Facciamo un’escursione al Big Cottonwood, domani“, innescando l’euristica di #coerenza.

Anche se hanno discusso le condizioni, i pro e contro e fatto una valutazione deliberata dei #rischi, il loro focus era sull’impegno preso ed è quello che ha avuto il sopravvento. Abbiamo infatti una forte propensione a non cambiare rotta. A meno che non ci sia qualche ragione convincente per non farlo, lasciamo che le nostre menti si concentrino su ciò che è, o su ciò che è già stato deciso. Ci affidiamo alla rotta stabilita, spesso con buoni risultati. Cambiare può essere pericoloso.

Ma questo potente desiderio di stabilità può anche portare a cattive scelte[6].

I tre sciatori avrebbero potuto tornare indietro, il manto nevoso sembrava instabile, le condizioni peggiori di quanto si aspettavano e così altri indizi. Tutte informazioni che hanno sicuramente recepito ma che non hanno ponderato perché loro, la decisione, l’avevano già presa il giorno prima. Ad aggravare il tutto, sono anche state le due ore di trekking sostenute per arrivare fino al punto dove poi si è verificato l’incidente. Insomma, ci sarebbe voluto un grande sforzo mentale per elaborare tutti gli argomenti logici, voltarsi e tornare a casa.

Meglio quindi andare avanti.

lo facciamo, tutti, molte più volte di quanto ci piace ammettere. Semplicemente perché è difficile cambiare piano. Rimaniamo in relazioni che non vanno da nessuna parte, compriamo la stessa marca di auto di nostro padre ed esitiamo a riorganizzare il nostro portafoglio azionario. E ci rimettiamo acriticamente ad altri che prendono decisioni per noi – politici, che fanno regole e leggi basate sul presupposto che agiremo in modo coerente piuttosto che metterle in discussione.

E poi si è messa di trasverso anche l’euristica dell’accettazione: la forte tendenza a fare scelte che crediamo ci faranno notare – e soprattutto, approvate – dagli altri. Questo a causa del nostro antico bisogno di appartenenza e sicurezza. È un elemento cruciale nella coesione del gruppo, ma spesso lo applichiamo in situazioni sociali in cui è inappropriato – o addirittura dannoso, come è stato in molti degli incidenti che McCammon ha studiato.

La sua analisi ha mostrato un tasso molto più alto di decisioni rischiose in gruppi di sei o più sciatori, dove c’era un “pubblico” più ampio da accontentare.

E SE SI METTE ANCHE LA NEVE

Anche la neve è capace, da sola, di impattare sulle nostre #decisioni. Ogni sciatore vive il desiderio irragionevole di affrontare la neve fresca; momento che non dura a lungo. Tutti lo sanno. Quindi per alcune ore è come l’oro, prezioso per la sua #scarsità.

Abbiamo una reazione viscerale a qualsiasi restrizione delle nostre prerogative come individui, e un modo in cui questo si manifesta è nelle nozioni distorte sulla scarsità e sul valore. Gli esseri umani hanno reso prezioso l’oro perché non ce n’è così tanto, non perché sia un metallo particolarmente utile. Così è con la neve fresca, e con qualsiasi altra cosa che potremmo percepire come rara, dalla terra al tempo libero. La scarsità può persino distorcere le nostre scelte amorose, se non stiamo attenti, ma questa è un’altra storia.

Insomma, bias, noise ed euristiche si possono raccontare in tanti modi. Il migliore, a mio avviso, è quello che insegna a sbagliare meno o meglio.

 Fonti

[1] Mondino L., Brambilla L., 2021. Le trappole della mente, ACS Editori, Milano

[2] Kahneman D., 2012. Pensieri lenti e veloci, Oscar Mondadori, Milano

[3] Kahneman D., Sibony O., Sunstein C.R., 2021. Noise. A flaw in human judgment. Hachette Book Group USA

[4] McCammon I., 2004. Heuristic traps in recreational avalanche accidents. Evidence and implications. Avalanche News, 68;1-10

[5] https://link.springer.com/article/10.1007/BF00057884

[6] Mondino L., Nudge Revolution. La strategia per rendere semplici scelte complesse, Flaccovio Ed., 2019