di Matteo Bregonzio e Maria Buonanno
Proprio oggi 4 gennaio 2022 abbiamo ricevuto conferma che il progetto CybersecH (Cybersecurity Hardening for A.I. solutions) proposto da 3rdPlace all’interno del bando Cyber4.0, promosso dal Ministero dello Sviluppo Economico, è stato finanziato!
CybersecH mira ad una risposta concreta ed innovativa contro gli attacchi di Intelligenza Artificiale (AIA, Artificial Intelligence Attacks), punta infatti ad identificare possibili vulnerabilità associate a componenti di machine-learning andando ad analizzare tutte le fasi realizzative (sviluppo software, creazione base dati, allenamento modello, rilascio in produzione, …). L’obiettivo principale è quindi quello di irrobustire (hardening) i moduli AI in modo completamente automatizzato e schedulabile, fornendo una reportistica dettagliata con rischi e vulnerabilità identificate. CybersecH contribuisce al rafforzamento della Trustworthy AI, ossia dell’Intelligenza Artificiale “di cui ci si può fidare”, perché al servizio dell’uomo, eticamente responsabile e socialmente sostenibile.
E’ ormai noto come, in molti settori pubblici e privati, gli sviluppi tecnologici hanno portato ad una sofisticazione degli applicativi tale per cui alcune mansioni vengono delegate a moduli di Intelligenza Artificiale, si pensi ad esempio all’analisi e al riconoscimento di immagini, ai motori di raccomandazione, classificazione e traduzione di testi, applicazioni a controllo vocale. Tale evoluzione tecnologica porta con sé dei rischi anche dal punto di vista della cybersecurity, così come evidenziato nel report “Artificial Intelligence and Cybersecurity” presentato ad aprile 2021 da CEPS. Questo nuovo pericolo viene negli Artificial Intelligence Attacks (Comiter M., 2019) ed oggi rappresenta una delle nuove sfide per la sicurezza informatica. La Commissione Europea ad aprile 2021 ha pubblicato una proposta definita come “first-ever legal framework on Artificial Intelligence” e uno degli obiettivi è proprio quello di evidenziare le criticità e rischi associati all’utilizzo di moduli AI. Attualmente rileviamo da un lato che mancano soluzioni di utilizzo generale che prevengano tali rischi di attacco e dall’altro che il livello di consapevolezza è ancora basso (Al-Rubaie & Chang, 2019).
Il dominio applicativo del progetto CybersecH è inizialmente circoscritto ai sistemi AI che lavorano con input testuali come testo, numeri, keyword. Nelle successive fasi di sviluppo verranno sicuramente gestiti anche sistemi di Intelligenza Artificiale che processano immagini, video o audio.
La soluzione è rivolta a professionisti, aziende ed enti pubblici, i quali tramite un’interfaccia di configurazione potranno schedulare delle verifiche regolari sui propri asset tecnologici.
Grazie al progetto CS-AWARE completato lo scorso anno, in 3rdPlace abbiamo maturato un forte competenza in ambito cybersecurity. Questo nuova opportunità ci permetterà di specializzarci ulteriormente.
