Nya metoder för säkra neurala nätverk: Forskning från Würzburg och München

Nya metoder för säkra neurala nätverk: Forskning från Würzburg och München

Forskare vid University of Würzburg och det tekniska universitetet i München har åtagit sig att förbättra robustheten i neuronala nätverk. Detta görs som en del av ett projekt som finansieras av German Research Foundation (DFG). Med tanke på de vardagliga tillämpningarna av maskininlärning i autonoma fordon, medicinsk bildanalys och interaktiva chatbots blir behovet alltmer brådskande för att säkra dessa system mot riktade attacker.

Förstå farorna med riktade attacker

Neuronala nätverk som används för olika applikationer visar ofta en svag punkt: de kan missförstås av specifika manipulationer från utsidan. Ett exempel illustrerar tydligt detta: en bild av en fiol kan felaktigt erkänd av programvaran genom minimala förändringar i pixelområdet som sjölejon. Sådana misstag är inte bara pinsamma, utan kan få katastrofala konsekvenser i kritiska situationer, till exempel i vägtrafik eller i medicinsk diagnostik.

Forskningsnätverk och ekonomiskt stöd

DFG godkändes ett nytt forskningsprojekt med en budget på 565 000 euro, varav mer än 250 000 euro flödar till Julius Maximilians University i Würzburg. Detta projekt, som är känt under titeln "Geomar: Geometric Methods for Adversarial Robustness", kommer att undersökas under de kommande tre åren. De två engagerade forskarna, professor Leon Bungert och Dr. Leo Schwinn strävar efter målet att göra neurala nätverk mer robusta mot fiendens attacker.

robusthet som nyckeln till tillförlitlighet

I detta sammanhang innebär robusthet att system tål både slumpmässiga och riktade misstag. Medan moderna system redan har ett betydande motstånd mot slumpmässiga fel, saknar det ofta riktade attacker. Forskningsmetoden är avsedd att förbereda neurala nätverk genom att systematiskt konfrontera felaktiga och manipulerade data i utbildning. Detta är avsett att förhindra att fel orsakar allvarliga problem.

geometriska metoder för beslut -att göra

Ett centralt element i projektet är användningen av geometriska metoder. När klassificering av bilder, till exempel i skillnaden mellan hundar och katter, måste det neurala nätverket dra en beslutsgräns. Dessa gränser är inte bara avgörande för systemets noggrannhet, utan också den huvudsakliga aktivitetspunkten för manipulationer. Genom att förstå dessa gränser kan nya matematiska modeller utvecklas som hjälper till att öka nätverkets robusthet.

Utveckla en skräddarsydd träningsmetod

För att optimalt träna de neuronala nätverken bedriver Bungert och Schwinn ett innovativt tillvägagångssätt: istället för att använda ett enda nätverk, träna två olika nätverk samtidigt. Ett av dessa nätverk simulerar de potentiella attackerna från en "angripare". Denna metod hoppas att systemet kommer att bli mer motståndskraftigt och fantasifullt än en mänsklig angripare. Målet är inte bara att öka robustheten utan också att förbättra effektiviteten i träningsprocessen.

Slutsats och Outlook

Projektet "Geomar" kan ge banbrytande resultat som inte bara ökar tillförlitligheten för maskininlärningssystem, utan också främjar deras praktiska användning inom säkerhetskritiska områden. På lång sikt kan forskningsresultaten leda till att tekniken för mekaniskt lärande ska användas säkrare och mer effektivt i vårt dagliga liv. Fokus på robusthet och tillförlitlighet hos dessa system är av stor betydelse, särskilt i en värld där autonom teknik alltmer kommer fram.

kontakt

Professor Dr. Leon Bungert, professorat i matematik III (matematik för maskininlärning), tel: +49 931 31-82849, e-post: leon.ununft@uni-wuerzburg.de

Leon Bungerts webbplats

- nag