Nye metoder for trygge nevrale nettverk: Forskning fra Würzburg og München

Nye metoder for trygge nevrale nettverk: Forskning fra Würzburg og München

Forskere ved University of Würzburg og det tekniske universitetet i München er opptatt av å forbedre robustheten til nevronale nettverk. Dette gjøres som en del av et prosjekt som er finansiert av The German Research Foundation (DFG). Med tanke på de daglige anvendelsene av maskinlæring i autonome kjøretøy, medisinsk bildeanalyse og interaktive chatbots, blir behovet stadig mer presserende for å sikre disse systemene mot målrettede angrep.

Forstå farene ved målrettede angrep

Neuronale nettverk som brukes til forskjellige applikasjoner viser ofte et svakt punkt: de kan misforstås ved spesifikke manipulasjoner utenfra. Et eksempel illustrerer tydelig dette: et bilde av en fiolin kan feilaktig gjenkjennes av programvaren ved minimale endringer i pikselområdet som sjøløver. Slike feil er ikke bare pinlige, men kan ha katastrofale konsekvenser i kritiske situasjoner, for eksempel i veitrafikk eller i medisinsk diagnostikk.

Forskningsnettverk og økonomisk støtte

DFG ble godkjent et nytt forskningsprosjekt med et budsjett på 565 000 euro, hvorav mer enn 250 000 euro strømmer til Julius Maximilians University i Würzburg. Dette prosjektet, som er kjent under tittelen "Geomar: Geometric Methods for Adversarial Robustness", vil bli undersøkt i løpet av de neste tre årene. De to engasjerte forskerne, professor Leon Bungert og Dr. Leo Schwinn forfølger målet om å gjøre nevrale nettverk mer robust mot fiendens angrep.

robusthet som nøkkelen til pålitelighet

I denne sammenhengen betyr robusthet at systemer skal tåle både tilfeldige og målrettede feil. Selv om moderne systemer allerede har en betydelig motstand mot tilfeldige feil, mangler det ofte målrettede angrep. Forskningsmetoden er ment å utarbeide nevrale nettverk ved systematisk å konfrontere feil og manipulerte data i trening. Dette er ment å forhindre at feil forårsaker alvorlige problemer.

Geometriske metoder for beslutningstaking

Et sentralt element i prosjektet er bruken av geometriske metoder. Når klassifisering av bilder, for eksempel i skillet mellom hunder og katter, må det nevrale nettverket trekke en beslutningsgrense. Disse grensene er ikke bare avgjørende for nøyaktigheten av systemet, men også hovedpunktet for aktivitet for manipulasjoner. Ved å forstå disse grensene, kan nye matematiske modeller utvikles som bidrar til å øke nettverkens robusthet.

Utvikle en skreddersydd treningsmetode

For å trene neuronale nettverk optimalt, forfølger Bungert og Schwinn en innovativ tilnærming: i stedet for å bruke et enkelt nettverk, trener du to forskjellige nettverk samtidig. Et av disse nettverkene simulerer potensielle angrep fra en "angriper". Denne metoden håper at systemet vil bli mer motstandsdyktig og fantasifull enn en menneskelig angriper. Målet er ikke bare å øke robustheten, men også å forbedre effektiviteten i treningsprosessen.

Konklusjon og Outlook

"Geomar" -prosjektet kan gi banebrytende resultater som ikke bare øker påliteligheten til maskinlæringssystemer, men også fremme deres praktiske bruk i sikkerhetskritiske områder. På lang sikt kan forskningsresultatene føre til at teknologien til mekanisk læring skal brukes sikrere og mer effektivt i vårt daglige liv. Fokuset på robusthet og pålitelighet av disse systemene er av stor betydning, spesielt i en verden der autonome teknologier i økende grad kommer frem.

Kontakt

Professor Dr. Leon Bungert, Professorship of Mathematics III (Mathematics of Machine Learning), Tlf: +49 931 31-82849, e-post: leon.ununft@uni-wuerzburg.de

Leon Bungerts nettsted

- nag