Nove metode za sigurne neuronske mreže: Istraživanje iz Würzburga i Münchena

Nove metode za sigurne neuronske mreže: Istraživanje iz Würzburga i Münchena

Znanstvenici sa Sveučilišta u Würzburgu i Tehničkog sveučilišta u Münchenu posvećeni su poboljšanju robusnosti neuronskih mreža. To se radi kao dio projekta koji financira Njemačka zaklada za istraživanje (DFG). S obzirom na svakodnevne primjene strojnog učenja u autonomnim vozilima, analizu medicinske slike i interaktivne chatbotove, potreba postaje sve hitnija za osiguranje ovih sustava od ciljanih napada.

Shvatite opasnosti ciljanih napada

Neuronske mreže koje se koriste za različite primjene često pokazuju slabu točku: mogu ih pogrešno shvatiti određene manipulacije izvana. Primjer to jasno ilustrira: Slika violine softver može pogrešno prepoznati minimalnim promjenama u području piksela kao morskih lavova. Takve pogreške nisu samo neugodne, već mogu imati katastrofalne posljedice u kritičnim situacijama, poput cestovnog prometa ili u medicinskoj dijagnostici.

Istraživačka mreža i financijska podrška

DFG je odobren novi istraživački projekt s proračunom od 565.000 eura, od čega više od 250.000 eura prolazi na Sveučilište Julius Maximilians u Würzburgu. Ovaj projekt, koji je poznat pod naslovom "Geomar: Geometrijske metode za protivničku robusnost", bit će istražen u sljedeće tri godine. Dvojica predanih znanstvenika, profesora Leona Bungerta i dr. Leo Schwinn, postižu cilj da neuronske mreže budu robusniji protiv neprijateljskih napada.

Robusnost kao ključ pouzdanosti

U tom kontekstu, robusnost znači da bi sustavi trebali izdržati i slučajne i ciljane pogreške. Iako moderni sustavi već imaju značajan otpor na slučajne pogreške, često mu nedostaju ciljani napadi. Istraživački pristup namijenjen je pripremi neuronskih mreža sustavno suočavajući se s neispravnim i manipuliranim podacima u obuci. Ovo je namijenjeno spriječiti pogreške da uzrokuju ozbiljne probleme.

Geometrijske metode za odlučivanje -donošenje

Središnji element projekta je upotreba geometrijskih metoda. Kada klasifikacija slika, na primjer, u razlici između pasa i mačaka, neuronska mreža mora povući ograničenje odluke. Ova ograničenja nisu samo ključna za točnost sustava, već i glavna točka aktivnosti za manipulacije. Razumijevanjem ovih ograničenja mogu se razviti novi matematički modeli koji pomažu u povećanju robusnosti mreža.

Razviti prilagođenu metodu treninga

Da bi optimalno obučili neuronske mreže, Bungert i Schwinn slijede inovativan pristup: umjesto da koriste jednu mrežu, istovremeno trenirajte dvije različite mreže. Jedna od tih mreža simulira potencijalne napade od strane "napadača". Ova se metoda nada da će sustav postati otporniji i maštovitiji od ljudskog napadača. Cilj je ne samo povećati robusnost, već i poboljšati učinkovitost procesa treninga.

Zaključak i Outlook

Projekt „Geomar“ mogao bi pružiti revolucionarne rezultate koji ne samo da povećavaju pouzdanost sustava strojnog učenja, već i promiču njihovu praktičnu upotrebu u sigurnosnom područjima. Dugoročno, rezultati istraživanja mogli bi dovesti do tehnologije mehaničkog učenja da se u našem svakodnevnom životu koriste sigurnije i učinkovitije. Fokus na robusnost i pouzdanost ovih sustava od velike je važnosti, posebno u svijetu u kojem se autonomne tehnologije sve više pojavljuju u prvi plan.

Kontakt

Prof. Dr. Leon Bungert, Profesorship matematike III (matematika strojnog učenja), Tel: +49 931 31-82849, e-mail: leon.ununft@uni-wuerzburg.de

Web stranica Leon Bungerts

- nag