Nuovi metodi per reti neurali sicure: ricerca da Würzburg e Monaco

Nuovi metodi per reti neurali sicure: ricerca da Würzburg e Monaco

Gli scienziati dell'Università di Würzburg e l'Università tecnica di Monaco si impegnano a migliorare la solidità delle reti neuronali. Questo viene fatto come parte di un progetto finanziato dalla German Research Foundation (DFG). Alla luce delle applicazioni quotidiane dell'apprendimento automatico nei veicoli autonomi, all'analisi delle immagini mediche e ai chatbot interattivi, la necessità sta diventando sempre più urgente per proteggere questi sistemi contro attacchi mirati.

Comprendi i pericoli degli attacchi mirati

Le reti neuronali utilizzate per diverse applicazioni mostrano spesso un punto debole: possono essere fraintese da manipolazioni specifiche dall'esterno. Un esempio illustra chiaramente questo: un'immagine di un violino può essere erroneamente riconosciuta dal software da cambiamenti minimi nell'area dei pixel come leoni marini. Tali errori non sono solo imbarazzanti, ma possono avere conseguenze catastrofiche in situazioni critiche, come nel traffico stradale o nella diagnostica medica.

rete di ricerca e supporto finanziario

Il DFG è stato approvato un nuovo progetto di ricerca con un budget di 565.000 euro, di cui oltre 250.000 euro fluiscono alla Julius Maximilians University di Würzburg. Questo progetto, noto sotto il titolo "Geomar: Geometric Methods for Aviversarial Robustness", sarà studiato nei prossimi tre anni. I due scienziati impegnati, il professor Leon Bungert e il dott. Leo Schwinn stanno perseguendo l'obiettivo di rendere le reti neurali più robuste contro gli attacchi nemici.

robustezza come chiave per l'affidabilità

In questo contesto, robustezza significa che i sistemi dovrebbero resistere a errori sia casuali che mirati. Mentre i sistemi moderni hanno già una notevole resistenza agli errori casuali, spesso manca di attacchi mirati. L'approccio di ricerca ha lo scopo di preparare le reti neurali affrontando sistematicamente i dati difettosi e manipolati in formazione. Ciò ha lo scopo di impedire agli errori di causare gravi problemi.

Metodi geometrici per la decisione -Making

Un elemento centrale del progetto è l'uso di metodi geometrici. Quando la classificazione delle immagini, ad esempio nella distinzione tra cani e gatti, la rete neurale deve tracciare un limite di decisione. Questi limiti non sono solo cruciali per l'accuratezza del sistema, ma anche il principale punto di attività per le manipolazioni. Comprendendo questi limiti, è possibile sviluppare nuovi modelli matematici che aiutano ad aumentare la solidità delle reti.

Sviluppa un metodo di allenamento su misura

Al fine di addestrare in modo ottimale le reti neuronali, Bungert e Schwinn stanno perseguendo un approccio innovativo: invece di utilizzare una singola rete, addestrare due diverse reti contemporaneamente. Una di queste reti simula i potenziali attacchi da parte di un "aggressore". Questo metodo spera che il sistema diventi più resistente e fantasioso di un aggressore umano. L'obiettivo non è solo aumentare la robustezza, ma anche migliorare l'efficienza del processo di formazione.

Conclusione e Outlook

Il progetto "Geomar" potrebbe fornire risultati innovativi che non solo aumentano l'affidabilità dei sistemi di apprendimento automatico, ma promuovono anche il loro uso pratico nelle aree critiche per la sicurezza. A lungo termine, i risultati della ricerca potrebbero portare alla tecnologia dell'apprendimento meccanico da utilizzare in modo più sicuro ed efficace nella nostra vita quotidiana. L'attenzione alla robustezza e all'affidabilità di questi sistemi è di grande importanza, specialmente in un mondo in cui le tecnologie autonome stanno sempre più alla ribalta.

Contatto

Prof. Dr. Leon Bungert, Professore di Mathematics III (Matematica dell'apprendimento automatico), Tel: +49 931 31-82849, e-mail: leon.ununft@uni-wuerzburg.de

Sito web di Leon Bungerts