Il nostro progetto CybersecH contribuisce alla Trustworthy AI

CybersecH mira ad una risposta concreta ed innovativa contro gli attacchi di Intelligenza Artificiale (AIA, Artificial Intelligence Attacks), punta infatti ad identificare possibili vulnerabilità associate a componenti di machine-learning andando ad analizzare tutte le fasi realizzative (sviluppo software, creazione base dati, allenamento modello, rilascio in produzione, …). L’obiettivo principale è quindi quello di irrobustire (hardening) i moduli AI in modo completamente automatizzato e schedulabile, fornendo una reportistica dettagliata con rischi e vulnerabilità identificate. CybersecH contribuisce al rafforzamento della Trustworthy AI, ossia dell’Intelligenza Artificiale “di cui ci si può fidare”, perché al servizio dell’uomo, eticamente responsabile e socialmente sostenibile.

E’ ormai noto come, in molti settori pubblici e privati, gli sviluppi tecnologici hanno portato ad una sofisticazione degli applicativi tale per cui alcune mansioni vengono delegate a moduli di Intelligenza Artificiale, si pensi ad esempio all’analisi e al riconoscimento di immagini, ai motori di raccomandazione, classificazione e traduzione di testi, applicazioni a controllo vocale. Tale evoluzione tecnologica porta con sé dei rischi anche dal punto di vista della cybersecurity, così come evidenziato nel report “Artificial Intelligence and Cybersecurity” presentato ad aprile 2021 da CEPS. Questo nuovo pericolo viene negli Artificial Intelligence Attacks (Comiter M., 2019) ed oggi rappresenta una delle nuove sfide per la sicurezza informatica. La Commissione Europea ad aprile 2021 ha pubblicato una proposta definita come “first-ever legal framework on Artificial Intelligence” e uno degli obiettivi è proprio quello di evidenziare le criticità e rischi associati all’utilizzo di moduli AI. Attualmente rileviamo da un lato che mancano soluzioni di utilizzo generale che prevengano tali rischi di attacco e dall’altro che il livello di consapevolezza è ancora basso (Al-Rubaie & Chang, 2019).