Nove metode za varne nevronske mreže: raziskave Würzburga in Münchna

Nove metode za varne nevronske mreže: raziskave Würzburga in Münchna

Znanstveniki z univerze v Würzburgu in tehnične univerze v Münchnu so zavezani k izboljšanju robustnosti nevronskih omrežij. To se naredi kot del projekta, ki ga financira nemška raziskovalna fundacija (DFG). Glede na vsakodnevne aplikacije strojnega učenja v avtonomnih vozilih, analizo medicinske slike in interaktivne klepete, je potreba vse bolj nujna za zaščito teh sistemov pred ciljnimi napadi.

Razumevanje nevarnosti ciljnih napadov

Nevronske mreže, ki se uporabljajo za različne aplikacije, pogosto kažejo šibko točko: z določenimi manipulacijami jih lahko napačno razumejo od zunaj. Primer jasno prikazuje to: sliko violine lahko programska oprema napačno prepozna z minimalnimi spremembami na območju slikovnih pik kot morskih levov. Takšne napake niso samo nerodne, ampak imajo lahko katastrofalne posledice v kritičnih situacijah, na primer v cestnem prometu ali v medicinski diagnostiki.

raziskovalna mreža in finančna podpora

DFG je bil odobren nov raziskovalni projekt s proračunom v višini 565.000 evrov, od tega več kot 250.000 evrov teče na univerzo Julius Maximilians v Würzburgu. Ta projekt, ki je znan po naslovu "GeoMar: Geometric Methods for Adforssarial Robilnost", bo raziskan v naslednjih treh letih. Dva zavzeta znanstvenika, profesor Leon Bungert in dr. Leo Schwinn, si prizadevata za cilj, da bi nevronske mreže postale bolj robustne proti sovražnim napadom.

robustnost kot ključ do zanesljivosti

V tem kontekstu robustnost pomeni, da bi morali sistemi prenesti naključne in ciljne napake. Medtem ko sodobni sistemi že imajo veliko odpor do naključnih napak, mu pogosto primanjkuje ciljanih napadov. Raziskovalni pristop je namenjen pripravi nevronskih omrežij s sistematično soočanjem z napačnimi in manipuliranimi podatki pri usposabljanju. To je namenjeno preprečevanju napak, da bi povzročile resne težave.

geometrijske metode za odločanje -sprejemanje

Osrednji element projekta je uporaba geometrijskih metod. Pri razvrščanju slik, na primer v razlikovanju med psi in mačkami, mora nevronska mreža črpati mejo odločitve. Te omejitve niso ključne le za natančnost sistema, ampak tudi glavno točko aktivnosti za manipulacije. Z razumevanjem teh omejitev je mogoče razviti nove matematične modele, ki pomagajo povečati robustnost omrežij.

Razvijte prilagojeno metodo treninga

Da bi optimalno usposobili nevronske mreže, Bungert in Schwinn zasledujeta inovativen pristop: namesto da bi uporabljali eno samo omrežje, usposabljajo dve različni mreži hkrati. Ena od teh omrežij simulira potencialne napade s strani "napadalca". Ta metoda upa, da bo sistem postal bolj odporen in domišljijski kot človeški napadalec. Cilj ni samo povečati robustnost, ampak tudi izboljšati učinkovitost procesa usposabljanja.

Sklep in obeti

Projekt "GeoMar" bi lahko zagotovil prelomne rezultate, ki ne samo povečajo zanesljivost sistemov strojnega učenja, ampak tudi spodbujajo njihovo praktično uporabo na varnostnih področjih. Rezultati raziskav bi lahko dolgoročno privedli do tehnologije mehanskega učenja, da bi se v našem vsakdanjem življenju bolj varno in učinkoviteje uporabljali. Osredotočenost na robustnost in zanesljivost teh sistemov je zelo pomembna, zlasti v svetu, v katerem avtonomne tehnologije vse bolj prihajajo v ospredje.

kontakt

Prof. dr. Leon Bungert, profesor matematike III (matematika strojnega učenja), Tel: +49 931 31-82849, e-pošta: leon.ununft@uni-wuerzburg.de

Spletna stran Leon Bungerts

- Nag

Kommentare (0)