AI Act: cosa cambia per le banche con i sistemi ad alto rischio

La scadenza di agosto 2026 si avvicina. Ecco le obbligazioni concrete per gli istituti di credito

Introduzione

Il Regolamento (UE) 2024/1689 sull’intelligenza artificiale — AI Act — è entrato in vigore il 1° agosto 2024 e si applica secondo un calendario di entrata in vigore progressiva. Per le banche e gli istituti di credito, la scadenza più rilevante è quella di agosto 2026, quando diventeranno pienamente applicabili le disposizioni relative ai sistemi di IA ad alto rischio.

Il tempo stringe. Le banche che non hanno ancora avviato un processo strutturato di mappatura e adeguamento rischiano di trovarsi in una posizione di non conformità in un contesto normativo in cui le sanzioni possono raggiungere i 30 milioni di euro o il 6% del fatturato mondiale annuo.

Questa guida analizza le obbligazioni concrete che l’AI Act impone agli istituti di credito nella gestione dei sistemi di IA ad alto rischio, con un focus operativo sugli adempimenti più urgenti.

1. Quali sistemi di IA delle banche rientrano nell’alto rischio

L’AI Act classifica come ad alto rischio i sistemi di IA elencati nell’Allegato III del Regolamento. Per il settore bancario, le categorie rilevanti sono principalmente due.

La prima riguarda i sistemi utilizzati per valutare il merito creditizio delle persone fisiche o stabilire il loro rating creditizio, inclusi i modelli di scoring utilizzati per la concessione di mutui, prestiti personali, carte di credito e fidi. Rientrano in questa categoria anche i sistemi di credit scoring acquistati da fornitori terzi e integrati nei processi interni della banca.

La seconda categoria riguarda i sistemi utilizzati per la valutazione del rischio e la tariffazione in materia di assicurazioni sulla vita e salute — categoria che interessa le banche che operano anche in ambito bancassurance.

Oltre a queste categorie esplicite, le banche devono prestare attenzione ai sistemi di IA utilizzati per:

• la rilevazione di frodi e il monitoraggio delle transazioni (antiriciclaggio e antiterrorismo);
• la gestione delle risorse umane e le decisioni di assunzione;
• i sistemi biometrici di identificazione a distanza utilizzati nell’onboarding digitale;
• i sistemi di profilazione della clientela utilizzati per decisioni che producono effetti giuridici significativi.

La mappatura dei sistemi di IA utilizzati dall’istituto — compresi quelli sviluppati internamente, acquisiti da fornitori terzi o utilizzati in cloud — è il primo adempimento operativo imposto dall’AI Act e il presupposto di tutti gli obblighi successivi.

2. Il quadro degli obblighi per i deployer: le banche come utilizzatori

Le banche operano prevalentemente come deployer — ossia come utilizzatori di sistemi di IA sviluppati da terzi — piuttosto che come provider. Questa distinzione è rilevante perché l’AI Act distribuisce gli obblighi in modo differenziato tra i due ruoli, pur imponendo obblighi significativi anche ai deployer.

Gli obblighi principali per le banche in qualità di deployer di sistemi ad alto rischio includono:

a) Utilizzo conforme alle istruzioni del provider

Le banche devono utilizzare i sistemi di IA ad alto rischio in conformità alle istruzioni d’uso fornite dal provider, documentate nel manuale di istruzioni allegato alla documentazione tecnica. L’utilizzo del sistema per scopi diversi da quelli previsti — o in condizioni operative non contemplate dal provider — determina il trasferimento in capo alla banca degli obblighi tipicamente gravanti sul provider.

b) Supervisione umana

L’AI Act impone che i sistemi di IA ad alto rischio siano soggetti a un’adeguata supervisione umana durante il loro utilizzo. Per le banche, questo significa che le decisioni di concessione del credito, di classificazione della clientela o di rilevazione delle frodi non possono essere interamente delegate al sistema di IA: deve esistere un processo documentato di revisione umana delle decisioni ad alto impatto, con possibilità di intervento correttivo.

La definizione di procedure operative che garantiscano una supervisione umana genuina — e non meramente formale — è uno degli aspetti più delicati dell’adeguamento, anche in considerazione delle pressioni di efficienza operativa che spingono verso l’automazione.

c) Monitoraggio dell’operatività

I deployer devono monitorare l’operatività dei sistemi di IA ad alto rischio sulla base delle istruzioni del provider, con particolare attenzione all’identificazione di comportamenti anomali o di situazioni in cui il sistema potrebbe non funzionare come previsto. I risultati del monitoraggio devono essere documentati e conservati.

d) Registrazione degli eventi (logging)

Le banche devono conservare i log generati automaticamente dai sistemi di IA ad alto rischio per il periodo stabilito dalla normativa applicabile o, in assenza di indicazioni specifiche, per almeno sei mesi. Questo obbligo ha implicazioni rilevanti in termini di architettura IT e di gestione dei dati.

e) Comunicazione agli individui

Quando una banca utilizza un sistema di IA ad alto rischio per prendere decisioni che riguardano individui specifici — ad esempio nella valutazione di una richiesta di mutuo — deve informare le persone interessate dell’utilizzo del sistema. Questa informativa si intreccia con gli obblighi di trasparenza già previsti dal GDPR in caso di decisioni automatizzate.

3. La valutazione di impatto sui diritti fondamentali

Una delle novità più rilevanti introdotte dall’AI Act per i deployer del settore pubblico e — in misura diversa — per quelli del settore privato che utilizzano sistemi ad alto rischio è l’obbligo di condurre una valutazione di impatto sui diritti fondamentali prima di mettere in uso il sistema.

Per le banche, questa valutazione deve includere:

• la descrizione dei processi in cui il sistema sarà utilizzato e la loro durata;
• le categorie di persone fisiche interessate dall’utilizzo del sistema;
• i rischi specifici per i diritti fondamentali — inclusi il diritto alla non discriminazione, la tutela dei dati personali e il diritto a un ricorso effettivo;
• le misure di mitigazione previste.

La valutazione deve essere notificata all’autorità di vigilanza competente — in Italia l’Autorità Garante per la protezione dei dati personali svolge un ruolo centrale nel coordinamento con le autorità settoriali — e deve essere aggiornata in caso di modifiche significative al sistema o al contesto di utilizzo.

4. Gli obblighi contrattuali verso i provider: cosa negoziare ora

Le banche che utilizzano sistemi di IA di terzi devono verificare che i contratti in essere con i provider garantiscano l’accesso alle informazioni e agli strumenti necessari per adempiere agli obblighi imposti dall’AI Act. In particolare, i contratti devono prevedere:

• l’accesso alla documentazione tecnica del sistema, incluse le istruzioni d’uso e le specifiche di performance;
• il diritto di ricevere aggiornamenti e informazioni in caso di modifiche significative al sistema;
• la conservazione dei log da parte del provider per il periodo richiesto dalla normativa;
• le procedure di assistenza in caso di malfunzionamenti o comportamenti anomali del sistema;
• le modalità di gestione degli incidenti che coinvolgono il sistema di IA.

I contratti conclusi prima dell’entrata in vigore dell’AI Act dovranno essere rinegoziati o integrati per includere queste previsioni entro agosto 2026. Questo processo di revisione contrattuale è uno degli adempimenti più urgenti per le banche con un ampio portafoglio di sistemi di IA acquisiti da terzi.

5. La governance interna: il AI Officer e il registro dei sistemi

L’AI Act non impone esplicitamente la nomina di un AI Officer — a differenza di quanto previsto dal GDPR per il Data Protection Officer — ma la complessità degli obblighi e la trasversalità delle implicazioni rendono nella pratica necessaria l’identificazione di una funzione interna responsabile della compliance AI.

Le banche di maggiori dimensioni stanno già istituendo funzioni dedicate, spesso in raccordo con le funzioni di compliance, risk management e IT. Per gli istituti di dimensioni minori, il presidio può essere garantito attraverso il rafforzamento delle funzioni esistenti o il ricorso a consulenza esterna specializzata.

Il registro dei sistemi di IA è invece uno strumento operativo essenziale, indipendentemente dalla dimensione dell’istituto. Il registro deve documentare per ciascun sistema:

• la classificazione di rischio;
• il ruolo dell’istituto (provider o deployer);
• lo stato di conformità rispetto agli obblighi applicabili;
• le misure di mitigazione adottate;
• le scadenze degli adempimenti pendenti.

6. Le sanzioni: un incentivo alla conformità

L’AI Act prevede un regime sanzionatorio articolato, con sanzioni amministrative pecuniarie che raggiungono:

• 30 milioni di euro o il 6% del fatturato mondiale annuo per le violazioni relative ai sistemi di IA vietati;
• 20 milioni di euro o il 4% del fatturato mondiale annuo per le violazioni degli obblighi applicabili ai sistemi ad alto rischio;
• 10 milioni di euro o il 2% del fatturato mondiale annuo per la fornitura di informazioni inesatte alle autorità.

Per le banche soggette alla vigilanza della BCE e di Banca d’Italia, il regime sanzionatorio dell’AI Act si sovrappone a quello prudenziale: le autorità di vigilanza bancaria potranno tenere conto delle violazioni AI nell’ambito del processo di revisione e valutazione prudenziale (SREP).

Conclusioni: le priorità operative per agosto 2026

Le banche che non hanno ancora avviato un processo strutturato di adeguamento all’AI Act devono agire su tre fronti in parallelo:

Il primo è la mappatura dei sistemi: identificare tutti i sistemi di IA in uso, classificarli per livello di rischio e determinare il ruolo dell’istituto per ciascuno di essi.

Il secondo è la revisione contrattuale: verificare i contratti con i provider di sistemi ad alto rischio e avviare le negoziazioni per l’integrazione delle clausole richieste dall’AI Act.

Il terzo è la costruzione della governance: definire la struttura organizzativa interna responsabile della compliance AI, predisporre il registro dei sistemi e avviare la formazione del personale coinvolto nell’utilizzo dei sistemi ad alto rischio.

ADLP Studio Legale assiste banche e intermediari finanziari nella strutturazione dei processi di compliance AI Act, dalla mappatura dei sistemi alla revisione contrattuale, fino alla predisposizione della documentazione richiesta dalle autorità di vigilanza.