Il 25 aprile 2018 la Commissione europea adotta la comunicazione «L’intelligenza artificiale per l’Europa», COM(2018) 237 final, e con essa la prima strategia sull’intelligenza artificiale dell’Unione. Risponde all’invito del Consiglio europeo dell’ottobre 2017 a presentare un «approccio europeo» e arriva quindici giorni dopo la dichiarazione di cooperazione con cui ventiquattro Stati membri e la Norvegia, Italia compresa, si sono impegnati a lavorare insieme sull’IA. Non è un atto normativo: non crea obblighi né diritti. Letta per quello che dice, e per quello che rinvia, mostra però già dove cadrà il peso delle regole.

Frontespizio e prima pagina della COM(2018) 237, la strategia sull'intelligenza artificiale della Commissione europea del 25 aprile 2018
Commissione europea, COM(2018) 237 final, «L’intelligenza artificiale per l’Europa», 25 aprile 2018: la strategia sull’intelligenza artificiale dell’Unione. Fonte: EUR-Lex.

Che cosa prevede la strategia sull’intelligenza artificiale

Le linee d’azione sono tre: capacità tecnologica e diffusione dell’IA nell’economia, pubblica e privata; preparazione ai cambiamenti socioeconomici, dal lavoro alla formazione; un quadro etico e giuridico «adeguato», fondato sui valori dell’Unione e sulla Carta dei diritti fondamentali. La parte finanziaria è la più precisa.

La Commissione porta gli investimenti di Orizzonte 2020 nell’IA a circa 1,5 miliardi di euro entro la fine del 2020, con un aumento di circa il 70%; altri 2,5 miliardi dovrebbero venire dai partenariati pubblico-privato già attivi, almeno 500 milioni dal Fondo europeo per gli investimenti strategici con il gruppo BEI. L’obiettivo per l’Unione nel suo complesso, pubblico e privato insieme, è di almeno 20 miliardi entro la fine del 2020 e di oltre 20 miliardi l’anno nel decennio successivo. Si aggiungono una piattaforma di IA on demand e una rete di poli dell’innovazione digitale dedicati.

Chi paga: il divario con Stati Uniti e Cina

I numeri spiegano il tono del documento. La strategia sull’intelligenza artificiale stima gli investimenti privati europei in IA nel 2016 tra 2,4 e 3,2 miliardi di euro, contro 6,5-9,7 miliardi in Asia e 12,1-18,6 in Nord America; la Cina dichiara di puntare alla leadership mondiale entro il 2030. Di fronte a questo divario, la quota coperta da Orizzonte 2020 vale meno di un decimo dell’obiettivo dichiarato: il resto dovrebbe venire dagli Stati e dalle imprese, e la cifra per gli anni successivi al 2020 è espressamente subordinata al prossimo quadro finanziario pluriennale. La strategia sull’intelligenza artificiale è dunque, prima di tutto, una chiamata a investire rivolta ad altri.

Etica per linee guida, responsabilità sotto esame

Sul terreno giuridico la scelta è netta. Per l’etica la Commissione non propone regole, ma un progetto di orientamenti da elaborare entro la fine del 2018 con i portatori di interessi riuniti in un’Alleanza europea per l’IA, da istituire entro luglio, e con un gruppo di esperti di alto livello le cui candidature si sono chiuse il 9 aprile. Il testo ammette che l’autoregolamentazione può offrire «una prima serie di parametri» e si riserva di rivedere i quadri esistenti «se necessario». Chi scrive i parametri, nel frattempo, sono le imprese che sviluppano i sistemi.

Sulla responsabilità civile è più franco il documento di lavoro SWD(2018) 137 che accompagna la comunicazione. La direttiva 85/374/CEE resta un regime di responsabilità oggettiva del produttore, ma il danneggiato deve provare il difetto, il danno e il nesso causale: con sistemi che apprendono e agiscono con un certo grado di autonomia, dentro catene di fornitori, software e dati, è questa prova a diventare l’ostacolo. Il documento ammette che non esiste un concetto di responsabilità oggettiva applicabile ai sistemi di IA in generale e che restano aperti lo status del software, l’esimente del rischio da sviluppo e la franchigia di 500 euro.

Anche la direttiva macchine 2006/42/CE è sotto esame. Le risposte sono rinviate a un documento interpretativo e a una relazione entro la metà del 2019. Nel frattempo il rischio resta dove lo collocano i contratti e, in mancanza, sul danneggiato: una prudenza che pesa, se si considera che il Parlamento europeo, con la risoluzione del 16 febbraio 2017 sulle norme di diritto civile sulla robotica, aveva chiesto alla Commissione una proposta legislativa.

ScadenzaIniziativaNatura
25 maggio 2018Si applica il regolamento (UE) 2016/679, con l’art. 22 sulle decisioni automatizzateVincolante
Luglio 2018Istituzione dell’Alleanza europea per l’IAPiattaforma consultiva
Fine 2018Progetto di orientamenti etici sull’IANon vincolante
Fine 2018Piano coordinato con gli Stati membriProgrammatico
Metà 2019Documento interpretativo della direttiva 85/374/CEEInterpretativo
Metà 2019Relazione su sicurezza e responsabilità per IA, Internet delle cose e roboticaAnalisi, con possibili proposte
Fine 2020Almeno 20 miliardi di euro di investimenti pubblici e privati nell’UnioneObiettivo politico
Le tappe annunciate dalla strategia. Elaborazione ADLP su COM(2018) 237 final e SWD(2018) 137 final

Il GDPR come unico presidio vincolante

L’unica regola già scritta per le decisioni prese da una macchina è il regolamento (UE) 2016/679, che si applica dal 25 maggio 2018 e che la comunicazione richiama espressamente. L’art. 22 riconosce il diritto di non essere sottoposti a una decisione basata unicamente sul trattamento automatizzato, compresa la profilazione, che produca effetti giuridici o incida in modo analogo significativamente sulla persona.

La decisione è ammessa solo se necessaria per un contratto, autorizzata dal diritto dell’Unione o nazionale o fondata sul consenso esplicito; nel primo e nel terzo caso il titolare deve garantire almeno l’intervento umano, la possibilità di esprimere la propria opinione e di contestare la decisione. Gli artt. 13, par. 2, lett. f), 14, par. 2, lett. g), e 15, par. 1, lett. h), impongono di fornire «informazioni significative sulla logica utilizzata». È una tutela individuale, azionabile e presidiata dalle autorità di controllo: il punto in cui l’etica annunciata incontra già una sanzione.

Che cosa conviene fare ora a imprese e fintech

Per chi sviluppa o usa sistemi di IA, nel credito, nei pagamenti, nelle assicurazioni o nell’antifrode, la strategia sull’intelligenza artificiale non aggiunge adempimenti ma indica dove guardare. Il primo lavoro è mappare le decisioni automatizzate e verificare, prima del 25 maggio, quali ricadono nell’art. 22, su quale base poggiano e come si assicura l’intervento umano: è lo stesso materiale con cui scrivere informative che spieghino davvero la logica del modello.

Il secondo riguarda i contratti con i fornitori: allocazione della responsabilità per gli errori del sistema, garanzie su qualità e provenienza dei dati di addestramento, diritti di audit e di accesso alla documentazione tecnica, obblighi di aggiornamento. Finché la disciplina della responsabilità da prodotto resta in revisione, è nel contratto che si decide chi porta il rischio. Il terzo è la governance dei dati, su cui poggia buona parte della strategia.

Resta la partecipazione. L’Alleanza europea per l’IA e la consultazione sugli orientamenti etici sono le sedi in cui regole oggi soltanto annunciate prenderanno forma; chi ne resta fuori, imprese medie e fintech comprese, se le troverà già scritte da altri.

I documenti

Area di attività dello Studio: Tech, AI, Data & Digital Rights.

Domande frequenti

La strategia sull’intelligenza artificiale è vincolante?

No. La strategia sull’intelligenza artificiale, COM(2018) 237, è un atto programmatico: indica obiettivi, investimenti e iniziative future, ma non crea obblighi per imprese o cittadini. Restano applicabili le regole esistenti, a partire dal GDPR e dalla disciplina sulla responsabilità da prodotto.

Chi risponde se un sistema di IA causa un danno?

Oggi si applicano le regole generali: la direttiva 85/374/CEE per i prodotti difettosi e la responsabilità contrattuale ed extracontrattuale nazionale. La Commissione annuncia un documento interpretativo della direttiva e una relazione su sicurezza e responsabilità entro la metà del 2019.

Una fintech può decidere solo con un algoritmo?

Dal 25 maggio 2018 l’art. 22 GDPR lo consente solo se la decisione è necessaria per il contratto, autorizzata dalla legge o basata sul consenso esplicito, e con garanzie come il diritto di ottenere l’intervento umano e di contestare la decisione.

Usi algoritmi per decidere su clienti, credito o rischi?

Lo Studio affianca imprese e fintech nella mappatura delle decisioni automatizzate, nelle informative e nei contratti con i fornitori di soluzioni di IA.

Avv. Giulia Arangüena — aprile 2018. Fonti: COM(2018) 237 final; SWD(2018) 137 final; Dichiarazione di cooperazione sull’IA del 10.4.2018; reg. (UE) 2016/679; dir. 85/374/CEE.

Nota informativa. I contenuti hanno finalità esclusivamente informative, nel rispetto degli artt. 17 e 17-bis del Codice Deontologico Forense, e non costituiscono parere legale. Per ogni valutazione sul caso concreto è necessario un confronto professionale.