L'iniziativa sanitaria di ChatGPT di OpenAI solleva interrogativi sulla sicurezza dei dati

Mercoledì, OpenAI ha annunciato una nuova funzionalità in ChatGPT che permette agli utenti di collegare cartelle cliniche e dati sul benessere, sollevando preoccupazioni tra alcuni esperti e gruppi di advocacy sull’uso dei dati personali.

Il colosso dell’intelligenza artificiale con sede a San Francisco, California, ha dichiarato che lo strumento, chiamato ChatGPT Health, sviluppato insieme a medici, è progettato per supportare la cura e non per diagnosticare o trattare patologie. L’azienda lo presenta come un modo per aiutare gli utenti a comprendere meglio la propria salute.

Per molti utenti, ChatGPT è già diventato la piattaforma di riferimento per domande sull’assistenza medica e la salute mentale.

OpenAI ha dichiarato a

che ChatGPT Health condivide solo “informazioni sanitarie generali e fattuali” e non fornisce “consigli medici personalizzati o non sicuri.”

Per le domande a rischio più elevato, fornirà informazioni generali, segnalerà potenziali rischi e incoraggerà le persone a consultare un farmacista o un operatore sanitario che conosca la loro situazione specifica.

La mossa arriva poco dopo che l’azienda aveva riferito in ottobre che oltre 1 milione di utenti discutono di suicidio con il chatbot ogni settimana. Ciò rappresentava circa lo 0,15% di tutti gli utenti di ChatGPT dell’epoca.

Sebbene queste cifre rappresentino una quota relativamente piccola della popolazione totale degli utenti, secondo gli esperti la maggior parte dovrà affrontare questioni di sicurezza e privacy dei dati.

“Anche quando le aziende affermano di avere salvaguardie per la privacy, spesso i consumatori non hanno un consenso significativo, trasparenza o controllo su come i loro dati vengono utilizzati, conservati o riutilizzati,” ha dichiarato J.B. Branch, sostenitore della responsabilità delle big-tech di Public Citizen, a

“I dati sanitari sono particolarmente sensibili e, senza limiti legali chiari e una supervisione applicabile, le salvaguardie autogestite non sono sufficienti a proteggere le persone da abusi, reidentificazioni o danni successivi.”

OpenAI ha dichiarato nella sua comunicazione che i dati sanitari in ChatGPT Health sono crittografati per impostazione predefinita, archiviati separatamente dalle altre chat e non utilizzati per addestrare i suoi modelli di base.

Secondo Andrew Crawford, senior policy counsel del Center for Democracy and Technology, molti utenti presumono erroneamente che i dati sanitari siano protetti per la loro sensibilità invece che per chi li detiene.

“Quando i tuoi dati sanitari sono detenuti dal tuo medico o dalla tua compagnia assicurativa, si applicano le norme sulla privacy HIPAA,” ha detto Crawford a

. “Lo stesso non vale per le entità non soggette a HIPAA, come gli sviluppatori di app sanitarie, i dispositivi indossabili per la salute o le aziende di IA.”

Crawford ha affermato che il lancio di ChatGPT Health mette anche in evidenza quanto la responsabilità ricada sui consumatori in assenza di una legge federale completa sulla privacy che regoli i dati sanitari detenuti dalle aziende tecnologiche.

“È spiacevole che le leggi e regolamentazioni federali attuali pongano questo onere sui singoli consumatori, costringendoli ad analizzare se sono a proprio agio con il modo in cui la tecnologia che usano ogni giorno gestisce e condivide i loro dati,” ha detto.

OpenAI ha dichiarato che ChatGPT Health sarà inizialmente disponibile solo per un piccolo gruppo di utenti.

La lista d’attesa è aperta agli utenti di ChatGPT fuori dall’Unione Europea e dal Regno Unito, con un accesso più ampio previsto nelle prossime settimane su web e iOS. L’annuncio di OpenAI non ha menzionato Google o dispositivi Android.