I medici si fidano dell’IA anche quando sbaglia

Anche quando l’esperienza clinica dimostra che le indicazioni fornite dall’Intelligenza artificiale sono sbagliate, molti medici continuano a considerarle affidabili. È quanto mostra uno studio coordinato da Aranzazu Vinas dell’Università dei Paesi Baschi, pubblicato sulla rivista PLOS Digital Health, che evidenzia una possibile criticità nell’integrazione degli algoritmi di supporto decisionale nella pratica clinica. I sistemi di intelligenza artificiale vengono sempre più utilizzati per aiutare i medici a classificare i pazienti in base alla probabilità di beneficiare di uno specifico trattamento.

Poiché questi strumenti non sono infallibili, il loro ruolo dovrebbe essere quello di supportare il giudizio clinico, lasciando al medico il compito di individuare eventuali errori nelle raccomandazioni prodotte dall’algoritmo. Per verificare quanto ciò avvenga realmente, i ricercatori hanno coinvolto 223 medici in una serie di esperimenti online anonimi. Ai partecipanti è stato chiesto di immaginare di dover decidere se somministrare a pazienti affetti da una rara malattia un trattamento ancora sperimentale. I medici venivano informati che un sistema di intelligenza artificiale aveva già classificato i pazienti in base alla probabilità di trarre beneficio dalla terapia e dovevano decidere chi trattare. Successivamente ricevevano i dati relativi all’evoluzione clinica dei pazienti e dovevano valutare quanto ritenessero affidabile il sistema di IA. L’elemento centrale dell’esperimento era che le raccomandazioni dell’algoritmo non corrispondevano alla reale efficacia del trattamento.

In una prima prova la terapia risultava moderatamente efficace per tutti i pazienti, indipendentemente dalla classificazione dell’intelligenza artificiale. In una seconda prova il trattamento era invece completamente inefficace per tutti. Nonostante queste evidenze, nella maggior parte dei casi i medici hanno continuato a giudicare affidabile il sistema di IA, senza utilizzare i dati clinici osservati per concludere che le raccomandazioni ricevute fossero errate. Nel secondo esperimento molti partecipanti non si sono nemmeno accorti che il trattamento non produceva alcun beneficio. “In entrambi gli esperimenti i medici hanno continuato a fidarsi delle classificazioni dell’intelligenza artificiale e hanno avuto difficoltà ad apprendere dalle informazioni di ritorno”, osserva Vinas.