Un collega ti racconta: "Ho iniziato a usare ChatGPT per riassumere le note delle sedute, mi fa risparmiare tempo." Ti viene un dubbio, ma non sai bene articolarlo. Il dubbio è legittimo, e vale la pena chiarirlo prima di adottare (o scartare) qualunque strumento AI nella tua pratica.
1. Cosa può fare, realisticamente, l'AI in uno studio
Uno strumento AI ben progettato per il contesto clinico può aiutarti a:
- Sintetizzare note esistenti in un riassunto leggibile.
- Recuperare rapidamente un'informazione specifica in mesi di appunti ("cosa avevamo detto sull'ultimo episodio di ansia?").
- Ridurre il tempo che dedichi a riordinare la documentazione dopo la seduta.
Questo è un pattern matcher applicato a testo che tu stesso hai scritto o fatto trascrivere — non un sistema che interpreta clinicamente il paziente al posto tuo.
2. Cosa non può, e non deve, fare
L'AI non capisce il non-detto: un silenzio carico di significato, un tono di voce che cambia, un'esitazione. Non ha accesso a nulla di tutto questo se non passa attraverso una trascrizione testuale, e anche in quel caso la interpreta come pattern linguistico, non come esperienza clinica vissuta.
Per questo l'AI non sostituisce il clinico in nessun contesto. Resta uno strumento di supporto alla documentazione, non un secondo parere clinico.
3. Il problema concreto degli strumenti generici
Molti professionisti usano strumenti di AI generalista (come ChatGPT nella sua versione consumer) per compiti di questo tipo. Il problema non è la qualità del testo che producono, ma le condizioni d'uso: nei piani gratuiti o consumer, i dati inseriti possono essere utilizzati per addestrare i modelli, salvo che l'utente non disattivi esplicitamente questa opzione o usi un piano con garanzie contrattuali diverse (tipicamente enterprise o API con impostazioni specifiche).
Per dati clinici questo è un rischio che va evitato a monte: verifica sempre, per qualunque strumento AI tu voglia usare con dati di pazienti, se prevede un Data Processing Agreement esplicito e una clausola di non addestramento sui tuoi dati — non darlo per scontato, chiedilo.
4. I requisiti etici minimi per usare l'AI con i pazienti
- Consenso informato esplicito: il paziente deve sapere che uno strumento AI elabora i suoi dati, non scoprirlo per caso.
- Trasparenza su cosa fa lo strumento: "trascrive e sintetizza le note" è diverso da "decide il trattamento" — dillo chiaramente.
- Responsabilità clinica che resta tua: qualunque output dell'AI è una bozza da rivedere, non un documento finale da accettare senza controllo.
5. Rischi concreti da conoscere
- Bias algoritmico: un modello addestrato su dati non rappresentativi può riflettere quei limiti anche nei suoi output testuali.
- Dipendenza eccessiva dallo strumento: se smetti di rileggere criticamente ciò che l'AI produce, il rischio di errore aumenta, non diminuisce.
- Violazione di confidenzialità con strumenti non conformi: è il rischio più concreto e prevenibile — basta scegliere strumenti con garanzie esplicite sul trattamento dati.
6. Un esempio di uso corretto (scenario illustrativo)
Immagina di registrare una seduta con il consenso esplicito del paziente. Lo strumento trascrive l'audio e lo cancella subito dopo — resta solo il testo. Prima della seduta successiva, rileggi la sintesi generata dall'AI, la correggi dove necessario, e la usi come punto di partenza, non come sostituto della tua memoria clinica. Questo è uno scenario illustrativo di funzionamento corretto, non un caso reale documentato.
7. Checklist etica pratica
- Il paziente sa, esplicitamente, che uno strumento AI elabora i suoi dati
- Lo strumento ha un DPA verificabile e una clausola di non addestramento
- Rileggi sempre l'output prima di considerarlo definitivo
- Nessuna decisione clinica viene delegata all'AI, nemmeno in parte
- Sai spiegare al paziente, in una frase, cosa fa davvero lo strumento che usi
CustodeApp usa Google Cloud Vertex AI per la trascrizione (non modelli generalisti come ChatGPT), non salva mai l'audio delle sedute, e non addestra alcun modello sui tuoi dati.
Prova CustodeApp 14 giorni gratis, senza carta di credito.