Ti fidi della macchina?

Cos'è l'AI authority bias

È la tendenza a fidarsi di una risposta solo perché viene da una macchina, anche quando è sbagliata o contraddice quello che sappiamo. Una risposta data con sicurezza, scritta bene e senza esitazioni sembra più autorevole di quanto sia.

• Ci fidiamo più degli algoritmi che delle persone. In una serie di esperimenti pubblicati nel 2019, chi non era esperto seguiva di più lo stesso consiglio quando credeva che venisse da un algoritmo invece che da una persona (Logg, Minson e Moore).
• Succede anche agli specialisti. In uno studio su 27 radiologi che leggevano mammografie, quando l'IA suggeriva la categoria sbagliata i meno esperti passavano da quasi l'80% di risposte giuste a meno del 20%. Anche i più esperti scendevano dall'82% al 45,5% (Dratsch e colleghi, Radiology, 2023).
• Basta sapere che è un'IA. In un esperimento del 2024 le persone seguivano il consiglio di un'IA anche quando contraddiceva le informazioni che avevano davanti e il loro stesso giudizio, con danni per sé e per gli altri (Klingbeil, Grützner e Schreck, Computers in Human Behavior).

Quattro abitudini che aiutano

• Pensa prima di chiedere. Fatti un'idea tua prima di leggere la risposta della macchina: così hai qualcosa con cui confrontarla.
• Sicura non vuol dire giusta. Un'IA scrive con lo stesso tono quando ha ragione e quando sbaglia.
• Chiedi da dove viene. Per le cose che contano, cerca la fonte e controllala.
• L'IA è un supporto, non il decisore. La decisione, e la responsabilità, restano tue.

Di questi temi mi occupo anche nella formazione: Analisi e formazione.