Chi decide quando decide un agente AI?

, AI e governance, tradotta dall’inglese

Negli Stati Uniti il dibattito sull’AI agentica in sanità ha superato la fase del “se”. Una grande assicurazione gestisce ormai decine di migliaia di decisioni di autorizzazione preventiva al giorno, la maggior parte in modo autonomo.

Questo numero impressiona e mette a disagio allo stesso tempo. Quando un agente può agire tra cartella clinica elettronica, piattaforma dei rimborsi e sistema di prenotazione senza una persona a ogni passaggio, il vero problema di progettazione non è più l’accuratezza. È l’autorità: quali decisioni deleghiamo e quali restano a una persona.

A gennaio la FDA ha tracciato una parte di quel confine, portando sotto la regolazione dei dispositivi il software di supporto decisionale autonomo e fortemente generativo. Utile, ma il confine più difficile passa dentro ogni organizzazione, non nelle linee guida.

La mia lettura dall’Europa: a vincere non saranno i team con il modello migliore. Saranno quelli che progettano bene il confine tra ciò che fa la macchina e ciò di cui risponde il clinico, e che lo mantengono visibile a pazienti e pagatori.