Intelligenza artificiale nello screening: limiti, policy e supervisione umana

L’integrazione dell’intelligenza artificiale nei sistemi di screening sanitario rappresenta una delle trasformazioni più significative della medicina moderna. Se da un lato l’efficienza tecnologica promette di abbattere le liste d’attesa e migliorare la precisione diagnostica, dall’altro emerge un paradosso critico: il rischio che l’automazione possa indurre errori sistematici o ridurre la vigilanza clinica. In questo contesto, il Quadro normativo europeo sull’IA (AI Act) si pone come la cornice regolatoria fondamentale, classificando i sistemi di screening come tecnologie ad alto rischio e imponendo standard rigorosi per garantire che l’innovazione non comprometta la sicurezza del paziente.

Il quadro normativo europeo: AI Act e sistemi di screening ad alto rischio

L’adozione dell’intelligenza artificiale in sanità sta vivendo una fase di accelerazione senza precedenti, con un incremento previsto dell’utilizzo di queste tecnologie superiore al 35% nel 2025 in Italia ¹. Tuttavia, la potenza di calcolo deve muoversi entro binari legali certi. Secondo il Regolamento (UE) 2024/1689, noto come AI Act, i sistemi di IA impiegati per lo screening e la diagnostica sono classificati come “ad alto rischio” ². Questa classificazione non è un divieto, ma un richiamo a obblighi stringenti per produttori e strutture sanitarie, che devono garantire la conformità ai requisiti di sicurezza e trasparenza prima dell’immissione sul mercato e durante l’intero ciclo di vita del prodotto, come sottolineato anche dalla Regolamentazione dell’IA nel settore dei medicinali e dispositivi (EMA).

Requisiti dell’Articolo 10: Governance dei dati e dataset rappresentativi

Uno dei pilastri del Regolamento IA è l’Articolo 10, che impone una rigorosa governance dei dati. Per evitare il bias algoritmo screening, i dataset utilizzati per l’addestramento, la convalida e il test devono essere pertinenti, rappresentativi e, per quanto possibile, esenti da errori ². In Italia, le linee guida di Anitec-Assinform sulla digitalizzazione del Servizio Sanitario Nazionale (SSN) ribadiscono che l’equità sanitaria dipende direttamente dalla qualità del dato: dataset non rappresentativi della diversità demografica della popolazione possono generare disparità di trattamento, rendendo lo screening automatizzato inefficace o discriminatorio per determinati gruppi di pazienti ⁴.

Obblighi di trasparenza e documentazione tecnica

L’Articolo 13 dell’AI Act stabilisce che i sistemi ad alto rischio devono essere progettati per garantire una trasparenza algoritmica che consenta agli utenti (medici e operatori sanitari) di interpretare l’output del sistema ². Non è più accettabile il modello “black box”; al contrario, è necessaria una documentazione tecnica esaustiva che spieghi la logica decisionale dell’algoritmo. Come indicato nei documenti di indirizzo sui Sistemi di IA come supporto alla diagnostica – Ministero della Salute, la spiegabilità è un prerequisito essenziale affinché il clinico possa mantenere la responsabilità finale della diagnosi.

Limiti dell’AI per lo screening: l’illusione del controllo umano

Nonostante i progressi, i limiti AI per screening sanitario rimangono evidenti, soprattutto sul piano dell’integrazione psicologica e professionale. Le Linee guida OMS sull’etica e la governance dell’IA per la salute evidenziano come l’efficacia di un sistema non dipenda solo dal suo codice, ma da come l’essere umano interagisce con esso. Esiste un rischio concreto di “illusione del controllo”, dove l’operatore crede di supervisionare il sistema mentre, in realtà, ne subisce passivamente le indicazioni. Studi pubblicati su PMC indicano che raccomandazioni errate fornite dall’IA possono degradare significativamente le prestazioni diagnostiche dei medici, poiché la mente umana tende a cercare conferme nell’algoritmo piuttosto che metterlo in discussione ⁶.

Il fenomeno dell’Automation Bias nella pratica clinica

Il bias dell’automazione è la tendenza a favorire i suggerimenti dei sistemi automatizzati, ignorando informazioni contrastanti provenienti da fonti non automatizzate o dal proprio giudizio clinico. Questo fenomeno può portare a trascurare errori che normalmente verrebbero rilevati con una revisione manuale ⁵. Per contrastare questa deriva, l’Articolo 7 del Disegno di Legge (DDL) italiano sull’IA specifica che la decisione clinica finale deve sempre essere rimessa alla professione medica, ribadendo che l’intelligenza artificiale deve agire esclusivamente come supporto e mai come sostituto del giudizio umano ⁵.

Dataset e rappresentatività: il rischio di discriminazione algoritmica

La qualità dei dati sanitari è il fattore determinante per la sicurezza dello screening. Se un algoritmo viene addestrato su dati provenienti da un’unica area geografica o da una specifica etnia, le sue prestazioni caleranno drasticamente quando applicato a popolazioni diverse. Per mitigare questi bias discriminatori, la ricerca scientifica suggerisce l’adozione di strumenti di valutazione del rischio come il protocollo PROBAST, che permette di analizzare sistematicamente la validità dei modelli predittivi e la loro applicabilità clinica senza pregiudizi ⁶.

Protocolli operativi per una supervisione umana efficace

Per trasformare i vincoli normativi in opportunità cliniche, è necessario implementare protocolli di supervisione umana nell’AI per screening che siano attivi e non meramente formali. Il principio “Human-in-the-loop”, sancito dall’Articolo 14 dell’AI Act, prevede che le persone fisiche incaricate della supervisione siano in grado di comprendere i limiti del sistema e di interromperne il funzionamento in caso di anomalie ². Questo approccio è supportato dal Ministero della Salute, che promuove l’uso dei Sistemi di IA come supporto alla diagnostica – Ministero della Salute come strumenti per potenziare, non esautorare, il medico.

Implementare il feedback loop tra medico e algoritmo

Un feedback loop strutturato è essenziale per migliorare screening con AI nel tempo. Questo processo prevede che ogni discrepanza tra il suggerimento dell’algoritmo e la decisione finale del clinico venga registrata e analizzata. La segnalazione errori algoritmici non deve essere vista come un fallimento, ma come un input critico per il perfezionamento del sistema. Le strutture sanitarie dovrebbero istituire canali di comunicazione bidirezionali dove il personale medico può segnalare anomalie in tempo reale, garantendo che l’algoritmo impari dai contesti clinici reali e non solo dai dati storici.

Audit periodici e monitoraggio post-market

La sorveglianza non termina con l’installazione del software. Sono necessari audit periodici AI per verificare che le prestazioni del sistema rimangano costanti nel tempo e non subiscano “deriva algoritmica” (data drift). La formazione operatori screening AI deve essere continua, focalizzandosi non solo sull’uso tecnico dello strumento, ma anche sulla comprensione dei suoi possibili punti di fallimento. Questo monitoraggio post-market è un obbligo per i dispositivi medici e garantisce che ogni aggiornamento del software mantenga i livelli di sicurezza richiesti dalla normativa vigente.

L’intelligenza artificiale nello screening sanitario non deve essere considerata una soluzione “chiavi in mano”, ma un partner tecnologico che richiede una supervisione umana costante e informata. Un approccio human-centric, supportato da una solida policy sull’uso dell’AI, permette di bilanciare l’efficienza dell’automazione con la responsabilità clinica. Solo attraverso la conformità normativa, la governance dei dati e la trasparenza sarà possibile garantire un’innovazione che metta realmente al centro la salute e la sicurezza del paziente.

Scarica la nostra checklist sulla conformità all’AI Act per i sistemi di screening sanitario o consulta le linee guida ministeriali per approfondire.

Il presente articolo ha scopo informativo e non sostituisce il parere medico legale o la consulenza normativa specifica per la certificazione di dispositivi medici.