Nye metoder til sikre neurale netværk: Forskning fra Würzburg og München

Nye metoder til sikre neurale netværk: Forskning fra Würzburg og München

Forskere ved University of Würzburg og det tekniske universitet i München er forpligtet til at forbedre robustheden af neuronale netværk. Dette gøres som en del af et projekt, der finansieres af det tyske forskningsfundament (DFG). I betragtning af de daglige anvendelser af maskinlæring i autonome køretøjer, medicinsk billedanalyse og interaktive chatbots bliver behovet stadig mere og mere presserende for at sikre disse systemer mod målrettede angreb.

forstå farerne ved målrettede angreb

Neuronale netværk, der bruges til forskellige applikationer, viser ofte et svagt punkt: De kan misforstås ved specifikke manipulationer udefra. Et eksempel illustrerer tydeligt dette: et billede af en violin kan genkendes forkert af softwaren ved minimale ændringer i pixelområdet som havløver. Sådanne fejl er ikke kun pinligt, men kan have katastrofale konsekvenser i kritiske situationer, såsom i vejtrafik eller i medicinsk diagnostik.

forskningsnetværk og økonomisk support

DFG blev godkendt et nyt forskningsprojekt med et budget på 565.000 euro, hvoraf mere end 250.000 euro flyder til Julius Maximilians University i Würzburg. Dette projekt, der er kendt under titlen "Geomar: Geometric Methods for Adversarial Robustness", vil blive undersøgt i de næste tre år. De to engagerede forskere, professor Leon Bungert og Dr. Leo Schwinn forfølger målet om at gøre neurale netværk mere robuste mod fjendens angreb.

robusthed som nøglen til pålidelighed

I denne sammenhæng betyder robusthed, at systemer skal modstå både tilfældige og målrettede fejl. Mens moderne systemer allerede har en betydelig modstand mod tilfældige fejl, mangler det ofte målrettede angreb. Forskningsmetoden er beregnet til at forberede neurale netværk ved systematisk at konfrontere defekte og manipulerede data i træning. Dette er beregnet til at forhindre fejl i at forårsage alvorlige problemer.

Geometriske metoder til beslutning -skaber

Et centralt element i projektet er brugen af geometriske metoder. Når klassificering af billeder, for eksempel i sondringen mellem hunde og katte, skal det neurale netværk trække en beslutningsgrænse. Disse grænser er ikke kun afgørende for nøjagtigheden af systemet, men også det vigtigste aktivitetspunkt for manipulationer. Ved at forstå disse grænser kan nye matematiske modeller udvikles, der hjælper med at øge netværkens robusthed.

Udvikle en skræddersyet træningsmetode

For optimalt at træne de neuronale netværk forfølger Bungert og Schwinn en innovativ tilgang: I stedet for at bruge et enkelt netværk, skal du træne to forskellige netværk samtidig. Et af disse netværk simulerer de potentielle angreb fra en "angriber". Denne metode håber, at systemet vil blive mere resistente og fantasifulde end en menneskelig angriber. Målet er ikke kun at øge robustheden, men også at forbedre effektiviteten af træningsprocessen.

Konklusion og Outlook

"Geomar" -projektet kunne give banebrydende resultater, der ikke kun øger pålideligheden af maskinlæringssystemer, men også fremmer deres praktiske anvendelse i sikkerhedskritiske områder. På lang sigt kan forskningsresultaterne føre til, at teknologien til mekanisk læring skal bruges mere sikkert og mere effektivt i vores daglige liv. Fokus på robusthed og pålidelighed af disse systemer er af stor betydning, især i en verden, hvor autonome teknologier i stigende grad kommer frem.

Kontakt

Professor Dr. Leon Bungert, professorat i Mathematics III (Mathematics of Machine Learning), Tlf: +49 931 31-82849, e-mail: leon.ununft@uni-wuerzburg.de

Leon Bungerts websted