IA affidabile: l’Europa ha ora un riferimento comune per sviluppare e usare l’intelligenza artificiale. Ieri, 8 aprile, il Gruppo di esperti ad alto livello sull’IA nominato dalla Commissione europea ha presentato gli «Orientamenti etici per un’IA affidabile» e la Commissione li accompagna con la comunicazione «Creare fiducia nell’intelligenza artificiale antropocentrica», COM(2019) 168; oggi i lavori del gruppo sono presentati in dettaglio alla Giornata digitale di Bruxelles. Gli orientamenti non sono norme vincolanti, ma indicano che cosa ci si aspetta da chi progetta, vende o utilizza sistemi di IA: per le imprese è il momento di rileggere i propri processi.
Il testo è il lavoro dei 52 membri del gruppo. La prima bozza era stata pubblicata a dicembre 2018 e la consultazione pubblica ha raccolto oltre 500 commenti.
IA affidabile: tre componenti e quattro principi
Secondo gli orientamenti, un’IA è affidabile se possiede tre componenti per tutto il ciclo di vita del sistema:
- legalità: rispetta tutte le leggi e i regolamenti applicabili;
- eticità: aderisce a principi e valori etici;
- robustezza, tecnica e sociale, perché anche con le migliori intenzioni un sistema di IA può causare danni non voluti.
Gli orientamenti non si occupano della prima componente: danno per presupposto il rispetto della legge e lavorano sulle altre due. Partono dai diritti fondamentali della Carta dell’Unione e ne ricavano quattro principi etici: rispetto dell’autonomia umana, prevenzione dei danni, equità ed esplicabilità. Chiedono un’attenzione particolare alle persone vulnerabili e alle situazioni di asimmetria di potere o di informazione, come quelle tra datori di lavoro e lavoratori o tra imprese e consumatori.
I sette requisiti e la lista di valutazione
I principi si traducono in sette requisiti che ogni sistema di IA dovrebbe soddisfare, con strumenti tecnici e non tecnici:
| Requisito | Domanda per l’impresa |
|---|---|
| 1. Intervento e sorveglianza umani | Una persona può controllare il sistema e correggerne gli esiti? |
| 2. Robustezza tecnica e sicurezza | Il sistema regge errori, attacchi e situazioni impreviste? |
| 3. Riservatezza e governance dei dati | I dati sono trattati in modo lecito, accurato e protetto? |
| 4. Trasparenza | Le decisioni sono tracciabili e spiegabili a chi le subisce? |
| 5. Diversità, non discriminazione ed equità | Il sistema evita distorsioni verso gruppi di persone? |
| 6. Benessere sociale e ambientale | Che impatto ha su società e ambiente? |
| 7. Accountability | Chi risponde, e come si verificano gli esiti? |
Il terzo capitolo degli orientamenti contiene una lista di valutazione, un elenco di domande operative per verificare i requisiti in concreto. Non è definitiva: entro l’estate del 2019 parte una fase pilota, fino alla fine dell’anno, aperta a imprese, amministrazioni e organizzazioni, che possono già iscriversi all’Alleanza europea per l’IA. Sulla base dei riscontri la lista sarà riveduta all’inizio del 2020. Lo annuncia la Commissione nel comunicato di oggi, che indica anche le tappe successive: reti di centri di eccellenza per la ricerca sull’IA e di poli dell’innovazione digitale entro l’autunno 2019, e la ricerca di un consenso internazionale con partner come Giappone, Canada e Singapore, anche in sede G7 e G20.
Cosa cambia per le imprese che usano l’IA
Gli orientamenti non creano obblighi nuovi. Ma la componente «legalità» rinvia a regole già in vigore, a partire dal regolamento (UE) 2016/679 (GDPR), applicabile dal 25 maggio 2018. L’art. 22 riconosce all’interessato il diritto di non essere sottoposto a una decisione basata unicamente su un trattamento automatizzato, compresa la profilazione, che produca effetti giuridici o incida in modo analogo significativamente sulla sua persona. Le eccezioni sono tre: decisione necessaria per un contratto, autorizzata dalla legge o basata sul consenso esplicito. Nel primo e nel terzo caso il titolare deve garantire almeno il diritto di ottenere l’intervento umano, di esprimere la propria opinione e di contestare la decisione.
Chi usa l’IA per valutare il merito di credito, selezionare personale, fissare prezzi o gestire reclami ha quindi già oggi obblighi precisi: informare sulla logica utilizzata (artt. 13 e 14), valutare l’impatto dei trattamenti a rischio elevato (art. 35), documentare le scelte. Gli orientamenti offrono un metodo per farlo e, con ogni probabilità, diventeranno il parametro con cui clienti, partner e autorità leggeranno i progetti di IA. Tre passi concreti:
- mappare i processi in cui un algoritmo decide o prepara decisioni su persone;
- verificare per ciascuno la base giuridica, l’informativa e la possibilità di intervento umano;
- usare la lista di valutazione, anche partecipando alla fase pilota, come check-list interna e nei contratti con i fornitori di tecnologia.
Area di attività dello Studio: Tech, AI, Data & Digital Rights.
Domande frequenti
Gli orientamenti etici sull’IA sono obbligatori?
No. Sono indicazioni non vincolanti del Gruppo di esperti ad alto livello. Restano però obbligatorie le norme già in vigore, come il GDPR, che gli orientamenti presuppongono.
Quali sono i sette requisiti di un’IA affidabile?
Intervento e sorveglianza umani; robustezza tecnica e sicurezza; riservatezza e governance dei dati; trasparenza; diversità, non discriminazione ed equità; benessere sociale e ambientale; accountability.
Un’impresa può partecipare alla fase pilota?
Sì. Imprese, amministrazioni e organizzazioni possono iscriversi all’Alleanza europea per l’IA e testare la lista di valutazione nella fase pilota che parte entro l’estate del 2019.
Usate algoritmi per decidere su clienti o dipendenti?
Lo Studio affianca imprese e fornitori di tecnologia nella verifica dei processi automatizzati, delle informative e dei contratti.
Redazione ADLP — aprile 2019. Fonti: Gruppo di esperti ad alto livello sull’intelligenza artificiale, Orientamenti etici per un’IA affidabile, 8 aprile 2019; Commissione europea, comunicazione COM(2019) 168 «Creare fiducia nell’intelligenza artificiale antropocentrica» e comunicato stampa IP/19/1893; regolamento (UE) 2016/679, artt. 13, 14, 22 e 35.
Nota informativa. I contenuti hanno finalità esclusivamente informative, nel rispetto degli artt. 17 e 17-bis del Codice Deontologico Forense, e non costituiscono parere legale. Per ogni valutazione sul caso concreto è necessario un confronto professionale.
© 2019 ADLP Studio Legale. Testi, immagini, grafiche e documenti di questo sito sono protetti dalla legge 22 aprile 1941, n. 633; la riproduzione è riservata (art. 65). Sono consentite citazioni e riprese, anche da parte di motori di ricerca e sistemi di IA, purché indichino l’autore, ADLP Studio Legale e il link all’articolo. Sono vietati copia e riuso senza attribuzione, nonché l’estrazione di testo e dati per addestrare modelli di IA (art. 70-quater).