0101010111100
Comunicazioni

Facebook awards 2020: tra i vincitori un progetto congiunto Unipd-Univr

09.06.2020

Francesco Ranzato, professore del Dipartimento di Matematica dell'Università di Padova, è stato premiato nel "2020 Probability and Programming research awards" di Facebook assieme a Roberto Giacobazzi (Università di Verona) per il progetto "Adversarial machine learning by morphological abstract interpretation", che studia la vulnerabilità dei sistemi di intelligenza artificiale. I due professori sono stati gli unici italiani premiati di questa edizione.

L’idea dei due studiosi riguarda le vulnerabilità degli algoritmi di machine learning, che sono alla base delle applicazioni più moderne dell’intelligenza artificiale, in scenari dove (per ragioni naturali o per specifici attacchi malevoli) questi stessi algoritmi non riescono a classificare correttamente le informazioni. "Esempi classici sono gli errori dei sistemi di AI nel riconoscere oggetti, a volte causando incidenti anche catastrofici, ad esempio nei veicoli a guida completamente autonoma - spiega Francesco Ranzato. - Scopo della ricerca è evitare queste situazioni mediante tecniche formali, ovvero matematicamente dimostrate, che riescano a garantire la corretta classificazione entro specifici intervalli di tolleranza. Le attuali tecniche di difesa sono spesso ad hoc ed includono training sul modello con dati contraddittori, validazione degli input, e test della robustezza dei modelli. L'idea è di applicare alcune tecniche avanzate di analisi statica e verifica del software -- già sviluppate dal gruppo di ricerca di Padova assieme a colleghi dell’università di Verona -- allo specifico problema dell'adversarial machine learning. In questo caso sfruttiamo una sorprendente quanto affascinante simmetria esistente tra i modelli utilizzati per l’analisi del software e quelli sviluppati per il filtraggio morfologico delle immagini. Questo significa codificare le perturbazioni morfologiche dei dati che possono causare errata classificazione come astrazioni ed utilizzare tecniche di interpretazione astratta per certificare la robustezza dei sistemi di classificazione rispetto a queste stesse perturbazioni".

Il popolare social network ha bandito il premio internazionale per valorizzare le migliori idee in materia di intelligenza artificiale e programmazione. Sono stati circa 70 i progetti presentati da più di 50 università in 16 nazioni di tutto il mondo. 19 i vincitori finali, premiati per l'eccellenza e l'attualità delle proposte.