L’università di Genova parteciperà alla creazione della più grande rete di eccellenza europea sull’intelligenza artificiale affidabile e sicura.
Il progetto si chiama Elsa – European Lighthouse on Secure and Safe AI, ed è finanziato dall’Unione europea con 7,5 milioni di euro, a cui si sommano 2,5 milioni di euro provenienti da Regno Unito e Svizzera.
Il team dell’Università di Genova è composto da ricercatori del Dipartimento di informatica, bioingegneria, robotica e ingegneria dei sistemi – Dibris, coordinato da Luca Oneto insieme a Fabio Roli e Davide Anguita, tutti docenti UniGe di “Sistemi di elaborazione delle informazioni”.
Il gruppo ligure collaborerà con altri 26 centri di eccellenza europei guidati dal Cispa Helmholtz Center for Information Security – Saarbrücken (Germania): insieme si sono aggiudicati questo finanziamento che posiziona per la prima volta l’Università di Genova al centro di un’iniziativa europea sull’intelligenza artificiale affidabile e sicura.
L’intelligenza artificiale ha dimostrato di essere uno strumento con un enorme potenziale nel miglioramento della vita delle persone e nel favorire l’accelerazione del progresso scientifico e tecnologico.
Alcuni esempi dell’impatto che questa tecnologia ha, o avrà, sulle nostre vite sono: la medicina personalizzata, attraverso la possibilità di sviluppare nuovi farmaci e cure ad hoc per il singolo paziente; il cambiamento climatico, grazie all’analisi e all’aiuto nella comprensione degli effetti dell’inquinamento da combustibili fossili su scale temporali molto ampie; il cyberspazio, in cui l’intelligenza artificiale aiuta a proteggere i dati, i sistemi informatici e le infrastrutture digitali critiche; le energie rinnovabili, grazie al contributo nello sviluppo di nuove tecnologie di produzione energetica e della loro ottimizzazione; i servizi ricreativi, in cui sono sviluppati metodi per aumentare la facilità di fruizione e per la ricerca di contenuti più interessanti per ogni persona.
Tuttavia, in parallelo ai benefici ottenuti con l’uso dell’intelligenza artificiale, sono emerse preoccupazioni per i possibili danni derivati dal suo utilizzo. Attraverso sistemi basati sull’intelligenza artificiale è potenzialmente possibile intaccare la privacy delle persone e già ora in alcuni casi sistemi di videosorveglianza e chatbots hanno mostrato comportamenti discriminatori nei confronti di gruppi di persone.
I risultati della ricerca stanno inoltre mostrando che l’intelligenza artificiale può diventare l’anello debole della catena della sicurezza: è possibile, ad esempio, “avvelenare” un sistema di autenticazione, attraverso l’iniezione di pochi dati manipolati, fino a creare “porte di accesso” indesiderate che consentono furti d’identità digitale. In altri casi, servizi in cloud possono essere “clonati” attraverso l’intelligenza artificiale e malintenzionati possono riuscire a ricostruirne con grande precisione il funzionamento utilizzando poi tale conoscenza per attaccare i servizi stessi, trarne illeciti profitti o diffondere informazioni sensibili.
La sicurezza e la privacy non sono i soli problemi aperti della tecnologia dell’intelligenza artificiale: le nuove “reti neurali profonde” (deep networks) stanno rendendo i sistemi digitali sempre più delle “scatole nere”, sempre più utili e autonome ma anche sempre più imperscrutabili. Non è raro ormai riscontrare come l’intelligenza artificiale sia in grado di risolvere problemi con la stessa capacità dell’essere umano o, addirittura in alcuni casi, superiore ma senza che si capiscano fino in fondo i meccanismi di elaborazione.
Per tutti questi motivi la ricerca europea ha individuato tra i propri obiettivi la necessità di investire e finanziare la ricerca con lo scopo di rendere l’intelligenza artificiale non solo utile ed efficace ma anche affidabile e sicura.
Il progetto Elsa nasce con l’obiettivo di riunire i ricercatori più brillanti in Europa che si occupano di rendere l’intelligenza artificiale più affidabile, creando una rete virtuale capace di far progredire e diffondere lo sviluppo di questa ricerca e gettare le basi per un nuovo tipo di intelligenza artificiale capace di soddisfare almeno gli stessi requisiti legali ed etici che vengono richiesti all’intelligenza umana.
