ChatGPT e salute: quando l’AI diventa un pericolo
Affidarsi a un chatbot basato sull’intelligenza artificiale per una consulenza medica sembra un’idea chiaramente rischiosa, eppure centinaia di milioni di persone lo fanno ogni settimana. Sebbene l’IA offra enormi vantaggi in svariati ambiti, sostituirla al parere di un medico o persino a una tradizionale ricerca online è fortemente sconsigliato, soprattutto a causa della sua tendenza a inventare informazioni con assoluta convinzione. Le statistiche di piattaforme come OpenAI e Microsoft confermano che i quesiti legati alla salute rappresentano una delle richieste più frequenti da parte degli utenti su dispositivi mobili.
A dimostrare le gravi conseguenze di questa pericolosa abitudine c’è una recente causa legale intentata in Florida. Un pastore ha citato in giudizio OpenAI dopo che ChatGPT lo ha rassicurato riguardo ai sintomi di un’embolia polmonare, una grave patologia caratterizzata da un tasso di mortalità significativo. Secondo quanto riportato, il sistema avrebbe definito i segnali d’allarme come innocui, sconsigliando di consultare un medico e invitando l’utente a riposare, arrivando persino a citare argomenti di natura spirituale per giustificare la situazione.
Il consiglio di rimanere a riposo si è rivelato devastante, poiché l’immobilismo prolungato rappresenta esattamente l’opposto di ciò che andrebbe fatto in caso di sospetta embolia. Quando il paziente è stato finalmente ricoverato in terapia intensiva, i medici hanno confermato che le sue condizioni erano peggiorate drasticamente a causa delle settimane trascorse seguendo passivamente le indicazioni errate del modello linguistico, un problema purtroppo frequente nelle versioni precedenti dei software conversazionali notie per assecondare troppo gli utenti.
