L’intelligenza artificiale è ormai entrata nella vita quotidiana, ma insieme alle opportunità offerte dalla tecnologia cresce una questione destinata a occupare sempre più spazio nelle aule di tribunale: chi risponde quando un sistema di AI provoca un danno?
Non si tratta più di uno scenario futuristico. Algoritmi e sistemi automatizzati vengono utilizzati nella sanità, nella selezione del personale, nel settore bancario e finanziario, nei trasporti e in numerose attività professionali. Una decisione errata può quindi produrre conseguenze economiche, patrimoniali e, nei casi più gravi, danni alla persona.
A porre il tema al centro di un approfondimento è lo Studio Legale Morbinati & Longo, che ha analizzato il rapporto tra intelligenza artificiale, responsabilità e risarcimento dei danni, partendo da una domanda apparentemente semplice ma giuridicamente molto complessa: se una macchina non possiede volontà e coscienza, a chi può essere attribuita la responsabilità delle conseguenze delle sue decisioni?
Intelligenza artificiale e risarcimento danni: il problema della responsabilità
Nel diritto civile il punto di partenza rimane l’individuazione del soggetto responsabile del danno e del rapporto causale tra una determinata condotta e le conseguenze subite dalla vittima.
Con l’intelligenza artificiale, però, lo schema tradizionale diventa più complesso. Un sistema basato sul machine learning può infatti elaborare dati, apprendere e produrre risultati che non coincidono necessariamente con una sequenza di istruzioni rigidamente predeterminata.
Come evidenzia l’approfondimento pubblicato da Morbinati & Longo sull’intelligenza artificiale e il risarcimento danni, il danno può dunque essere concreto anche quando non è possibile attribuire alla macchina quella volontà che caratterizza normalmente il comportamento umano.
Da qui nasce il problema centrale: individuare le responsabilità delle persone e delle imprese che stanno dietro al sistema tecnologico.
Danni provocati dall’AI, dalla sanità alle auto a guida autonoma
Gli scenari possibili sono numerosi. Un sistema di intelligenza artificiale impiegato in campo medico potrebbe contribuire a una diagnosi errata; un algoritmo utilizzato nella selezione del personale potrebbe penalizzare illegittimamente un candidato; un sistema impiegato nel settore finanziario potrebbe concorrere a una decisione sbagliata su credito o investimenti.
Uno degli esempi più noti riguarda poi le automobili a guida autonoma. Nel 2018, in Arizona, una vettura sperimentale a guida autonoma investì mortalmente una donna. Il caso mostrò concretamente quanto possa essere difficile stabilire dove termini la responsabilità della tecnologia e dove cominci quella dell’essere umano chiamato a controllarla.
È proprio questa moltiplicazione dei soggetti coinvolti a rendere particolarmente delicata la materia.
Chi risponde dei danni causati dall’intelligenza artificiale
Dietro un sistema di AI non esiste infatti un unico soggetto. Possono entrare in gioco lo sviluppatore dell’algoritmo, il programmatore, il produttore del sistema, il fornitore, chi ne cura la manutenzione e, in determinate circostanze, lo stesso utilizzatore finale.
La responsabilità potrebbe quindi distribuirsi lungo una vera e propria catena del valore dell’intelligenza artificiale.
Il problema decisivo diventa spesso quello della prova. Per chi subisce un danno può essere estremamente difficile ricostruire il processo che ha condotto l’algoritmo a una determinata decisione, soprattutto quando codice, dati utilizzati per l’addestramento e registri del sistema non sono direttamente accessibili.
L’asimmetria informativa tra chi controlla la tecnologia e chi ne subisce le conseguenze rappresenta perciò uno dei punti più delicati nella futura evoluzione del contenzioso sui danni provocati dall’AI.
AI Act e responsabilità: cosa cambia con le regole europee
In questo quadro assume un ruolo centrale l’AI Act, il Regolamento europeo sull’intelligenza artificiale.
La normativa non introduce semplicemente una regola generale che stabilisce automaticamente chi debba risarcire un danno prodotto dall’AI. Il sistema europeo è costruito soprattutto sulla prevenzione e sulla gestione del rischio, imponendo obblighi differenti a seconda delle caratteristiche e dell’utilizzo dei sistemi.
Particolare attenzione viene riservata ai sistemi considerati ad alto rischio, per i quali assumono rilievo requisiti relativi alla governance dei dati, alla tracciabilità, alla conservazione dei registri, alla robustezza dei sistemi e alla supervisione umana.
L’AI Act disciplina inoltre le responsabilità lungo la catena del valore, individuando obblighi per i diversi operatori coinvolti. Un quadro che non sostituisce le tradizionali norme sulla responsabilità civile, ma che può assumere un peso rilevante nel ricostruire chi aveva l’obbligo di prevenire un rischio e se tale obbligo sia stato rispettato.
Risarcimento danni da intelligenza artificiale: la prova sarà decisiva
È probabilmente questo uno dei terreni sui quali si svilupperà maggiormente il diritto nei prossimi anni. Non basterà accertare che un sistema di intelligenza artificiale abbia prodotto un risultato dannoso: sarà necessario ricostruire il funzionamento del sistema, individuare eventuali omissioni e stabilire quale soggetto della filiera avesse specifici obblighi di controllo, sicurezza o vigilanza.
Registri delle attività, documentazione tecnica, tracciabilità delle decisioni e possibilità di comprendere come sia stato generato un determinato risultato potrebbero diventare elementi essenziali anche sul piano probatorio.
Il punto fermo, almeno nell’attuale quadro giuridico, resta infatti uno: l’intelligenza artificiale non diventa autonomamente il soggetto responsabile chiamato a pagare il risarcimento. L’indagine deve concentrarsi sulle condotte umane e sulle responsabilità dei soggetti che progettano, producono, forniscono, controllano o utilizzano la tecnologia.
Intelligenza artificiale e responsabilità civile, un contenzioso destinato a crescere
L’evoluzione tecnologica sta dunque costringendo il diritto a confrontarsi con situazioni che fino a pochi anni fa appartenevano soprattutto alla teoria.
Più l’intelligenza artificiale verrà impiegata in settori capaci di incidere direttamente sulla salute, sul patrimonio, sul lavoro e sui diritti delle persone, più diventerà importante stabilire regole efficaci per individuare responsabilità e strumenti di tutela.
Lo Studio Morbinati & Longo affronta il tema nell’ambito delle proprie attività in materia di responsabilità civile e risarcimento danni. Sul sito dello Studio è disponibile l’analisi completa dedicata a intelligenza artificiale e risarcimento dei danni.
Sito ufficiale Morbinati & Longo
Sedi: Roma, Via Pompeo Magno 94 – Pomezia, Via Pontina Vecchia 6 – Latina, Via dei Sicani 2
Telefono: +39 06 98 240 069
WhatsApp: +39 392 5519 604
E-mail: info@morbinatilongo.it
