Una donna di 31 anni affetta da epilessia è deceduta a causa di una crisi convulsiva insorta dopo aver ridotto la propria terapia farmacologica su indicazione di ChatGPT. Come riportato da Il Post e The Guardian, i genitori della donna hanno depositato una citazione in giudizio contro OpenAI, imputando alla società la responsabilità per le indicazioni sanitarie errate erogate dal modello linguistico e per l'assenza di adeguati meccanismi di protezione dell'utente.
I dettagli della citazione in giudizio
La vicenda riguarda un'ingegnera che si è rivolta a ChatGPT per consultare l'algoritmo sulla gestione della propria terapia quotidiana contro l'epilessia. Secondo quanto ricostruito da la Repubblica e Associated Medias, il sistema conversazionale avrebbe fornito indicazioni errate sulla modulazione del dosaggio dei medicinali prescritti dai medici della donna. Seguendo i consigli sintetici generati dal software, la trentunenne ha ridotto progressivamente l'assunzione del farmaco antiepilettico fino allo scatenarsi di una crisi convulsiva che si è rivelata fatale.
L'azione giudiziaria promossa dalla famiglia contesta al gruppo guidato da Sam Altman l'inadeguatezza delle misure di sicurezza integrate nell'architettura di intelligenza artificiale. Come riferito da Mondosanità e 36Kr, la causa sostiene che il modello linguistico non abbia applicato alcun blocco alla conversazione di fronte a richieste inerenti al ricalcolo di terapie per patologie croniche severe. L'accusa individua una difettosità del prodotto nell'aver fornito indicazioni prescrittive anziché interrompere l'interazione per rinviare la paziente a un pronto soccorso o a un medico curante.
Il dibattimento avviato dai familiari segna un passaggio formale nella contestazione della responsabilità per i danni causati da risposte sintetiche. Come sottolineato da Punto Informatico, la vertenza pone gli sviluppatori commerciali di modelli linguistici di fronte all'esigenza di rispondere in sede civile delle conseguenze materiali collegate agli errori di valutazione dei propri sistemi.
La responsabilità legale dei modelli sanitari
Il procedimento giudiziario mette in discussione l'efficacia delle clausole di esonero dalla responsabilità comunemente adottate dai fornitori di tecnologia. Fino a questo momento, le aziende sviluppatrici si sono tutelate inserendo avvertenze nei termini di servizio che chiariscono come il chatbot non sia un dispositivo medico né un consulente sanitario abilitato. Tuttavia, la capacità dei modelli linguistici di articolare risposte argomentate spinge molti utenti a considerare le indicazioni algoritmiche come raccomandazioni attendibili per questioni cliniche delicate.
Se la corte dovesse stabilire la responsabilità diretta di OpenAI per il decesso legato alle risposte del software, le conseguenze procedurali per l'intero settore manifesterebbero un impatto immediato. Le società tecnologiche potrebbero trovarsi costrette a modificare i filtri di sicurezza, applicando censure sistematiche e bloccando qualsiasi richiesta contenente riferimenti a molecole farmacologiche, dosaggi o patologie critiche.
L'inquadramento della vertenza nell'ambito del danno da prodotto difettoso costringerebbe inoltre i regolatori ad accelerare i protocolli di verifica per l'immissione sul mercato dei grandi modelli linguistici ad uso generale. La demarcazione tra un motore di ricerca e un agente conversazionale in grado di condizionare le decisioni sanitarie personali diventa così il perimetro costitutivo delle future normative sulla sicurezza dell'intelligenza artificiale.
L'Ombra
L'Ombra riguarda la reale efficacia dei filtri di contenimento etico e tecnico di fronte a interlocuzioni prolungate. Rimane il dubbio se i guardrail attuali siano tecnicamente in grado di impedire che un utente, modificando la struttura delle proprie domande, riesca comunque a estrarre dal modello schemi di dosaggio o istruzioni cliniche potenzialmente nocivi.
Il deposito della prima memoria difensiva da parte dei legali di OpenAI rappresenterà il segnale concreto da monitorare per comprendere la linea negoziale dell'azienda. L'eventuale ammissione del modello algoritmico a perizia tecnica giudiziale consentirà di verificare se la magistratura intenda equiparare l'output di un LLM al difetto di fabbricazione di un dispositivo commerciale.
Fonti: Il Post, The Guardian, la Repubblica, Associated Medias
Articolo generato con intelligenza artificiale a partire dalle fonti citate. Neural Agorà è curato da Fabio Ratini.