Nieuwe methoden voor veilige neurale netwerken: onderzoek van Würzburg en München

Nieuwe methoden voor veilige neurale netwerken: onderzoek van Würzburg en München

Wetenschappers van de Universiteit van Würzburg en de Technische Universiteit van München zijn toegewijd aan het verbeteren van de robuustheid van neuronale netwerken. Dit gebeurt als onderdeel van een project dat wordt gefinancierd door de Duitse Research Foundation (DFG). Gezien de dagelijkse toepassingen van machine learning in autonome voertuigen, medische beeldanalyse en interactieve chatbots, wordt de behoefte steeds dringender om deze systemen te beveiligen tegen gerichte aanvallen.

Begrijp de gevaren van gerichte aanvallen

Neuronale netwerken die worden gebruikt voor verschillende toepassingen vertonen vaak een zwak punt: ze kunnen verkeerd worden begrepen door specifieke manipulaties van buitenaf. Een voorbeeld illustreert dit duidelijk: een foto van een viool kan door de software ten onrechte worden herkend door minimale veranderingen in het pixelgebied als zeeleeuwen. Dergelijke fouten zijn niet alleen beschamend, maar kunnen catastrofale gevolgen hebben in kritieke situaties, zoals bij wegverkeer of in medische diagnostiek.

onderzoeksnetwerk en financiële ondersteuning

De DFG kreeg een nieuw onderzoeksproject met een budget van 565.000 euro, waarvan meer dan 250.000 euro stroomt naar de Julius Maximilians University in Würzburg. Dit project, dat bekend staat onder de titel "Geomar: Geometrische methoden voor tegenstanders robuustheid", zal de komende drie jaar worden onderzocht. De twee toegewijde wetenschappers, professor Leon Bungert en Dr. Leo Schwinn nastreven het doel om neurale netwerken robuuster te maken tegen vijandelijke aanvallen.

robuustheid als de sleutel tot betrouwbaarheid

In deze context betekent robuustheid dat systemen zowel willekeurige als gerichte fouten moeten weerstaan. Hoewel moderne systemen al een aanzienlijke weerstand hebben tegen willekeurige fouten, mist het vaak gerichte aanvallen. De onderzoeksbenadering is bedoeld om neurale netwerken voor te bereiden door systematisch defecte en gemanipuleerde gegevens in training te confronteren. Dit is bedoeld om te voorkomen dat fouten ernstige problemen veroorzaken.

geometrische methoden voor beslissing -Het maken van

Een centraal element van het project is het gebruik van geometrische methoden. Wanneer classificatie van afbeeldingen, bijvoorbeeld in het onderscheid tussen honden en katten, moet het neurale netwerk een beslissingslimiet trekken. Deze limieten zijn niet alleen cruciaal voor de nauwkeurigheid van het systeem, maar ook het hoofdpunt van activiteit voor manipulaties. Door deze limieten te begrijpen, kunnen nieuwe wiskundige modellen worden ontwikkeld die helpen de robuustheid van de netwerken te vergroten.

Ontwikkel een op maat gemaakte trainingsmethode

Om de neuronale netwerken optimaal te trainen, volgen Bungert en Schwinn een innovatieve aanpak: in plaats van een enkel netwerk te gebruiken, train je twee verschillende netwerken tegelijkertijd. Een van deze netwerken simuleert de potentiële aanvallen door een "aanvaller". Deze methode hoopt dat het systeem resistenter en fantasierijker wordt dan een menselijke aanvaller. Het doel is niet alleen om de robuustheid te vergroten, maar ook om de efficiëntie van het trainingsproces te verbeteren.

Conclusie en Outlook

Het "Geomar" -project kan baanbrekende resultaten opleveren die niet alleen de betrouwbaarheid van machine learning -systemen vergroten, maar ook hun praktische gebruik in veiligheidscritische gebieden bevorderen. Op de lange termijn kunnen de onderzoeksresultaten leiden tot de technologie van mechanisch leren om in ons dagelijks leven veiliger en effectiever te worden gebruikt. De focus op robuustheid en betrouwbaarheid van deze systemen is van groot belang, vooral in een wereld waarin autonome technologieën steeds meer naar voren komen.

Contact

Prof. Dr. Leon Bungert, hoogleraarschap van wiskunde III (wiskunde van machine learning), Tel: +49 931 31-82849, e-mail: leon.ununft@uni-wuerzburg.de

Leon Bungerts -website

- nag