Jaunas metodes drošiem neironu tīkliem: Vircburgas un Minhenes pētījumi

Jaunas metodes drošiem neironu tīkliem: Vircburgas un Minhenes pētījumi

Vircburgas universitātes zinātnieki un Minhenes tehniskā universitāte ir apņēmušies uzlabot neironu tīklu noturību. Tas tiek darīts kā daļa no projekta, kuru finansē Vācijas Pētniecības fonds (DFG). Ņemot vērā mašīnmācības ikdienas lietojumus autonomos transportlīdzekļos, medicīniskā attēla analīzē un interaktīvos tērzēšanas robotos, vajadzība kļūst arvien steidzamāka, lai nodrošinātu šīs sistēmas pret mērķtiecīgiem uzbrukumiem.

Izprast mērķtiecīgu uzbrukumu bīstamību

Neironu tīkli, ko izmanto dažādām lietojumprogrammām, bieži parāda vāju punktu: tos var pārprast īpašas manipulācijas no ārpuses. Piemērs to skaidri parāda: vijoles attēlu programmatūra var nepareizi atpazīt ar minimālām izmaiņām pikseļu apgabalā kā jūras lauvas. Šādas kļūdas ir ne tikai mulsinošas, bet arī katastrofālas sekas kritiskās situācijās, piemēram, ceļu satiksmē vai medicīniskajā diagnostikā.

Pētniecības tīkls un finansiālais atbalsts

DFG tika apstiprināts jauns pētniecības projekts ar budžetu 565 000 eiro, no kuriem vairāk nekā 250 000 eiro plūst Jūlija Maximilians universitātē Vircburgā. Šis projekts, kas ir pazīstams ar nosaukumu "Geomar: ģeometriskās metodes pretinieku izturībai", tiks pētīts nākamajos trīs gados. Abi apņēmušie zinātnieki, profesors Leons Bungerts un Dr. Leo Švins cenšas panākt, lai neironu tīkli būtu izturīgāki pret ienaidnieka uzbrukumiem.

noturība kā uzticamības atslēga

Šajā kontekstā noturība nozīmē, ka sistēmām jāiztur gan nejaušas, gan mērķtiecīgas kļūdas. Kaut arī mūsdienu sistēmām jau ir ievērojama izturība pret nejaušām kļūdām, tai bieži trūkst mērķtiecīgu uzbrukumu. Pētījuma pieeja ir paredzēta, lai sagatavotu neironu tīklus, sistemātiski saskaroties ar kļūdainiem un manipulētiem datiem apmācībā. Tas ir paredzēts, lai novērstu kļūdas nopietnu problēmu radīšanai.

Ģeometriskās metodes lēmumam -noslēgšana

Projekta centrālais elements ir ģeometrisko metožu izmantošana. Attēlu klasifikācijā, piemēram, atšķirībā starp suņiem un kaķiem, neironu tīklam ir jānosaka lēmuma ierobežojums. Šīs robežas ir ne tikai izšķirošas sistēmas precizitātei, bet arī manipulāciju darbības galvenajam punktam. Izprotot šīs robežas, var izstrādāt jaunus matemātiskos modeļus, kas palīdz palielināt tīklu noturību.

Izstrādāt pielāgotu apmācības metodi

Lai optimāli apmācītu neironu tīklus, Bungerts un Švins izmanto novatorisku pieeju: tā vietā, lai izmantotu vienu tīklu, apmāciet divus dažādus tīklus vienlaicīgi. Viens no šiem tīkliem imitē iespējamos "uzbrucēja" uzbrukumus. Šī metode cer, ka sistēma kļūs izturīgāka un iztēles jomā nekā cilvēku uzbrucējs. Mērķis ir ne tikai palielināt izturību, bet arī uzlabot apmācības procesa efektivitāti.

Secinājums un perspektīva

Projekts “Geomar” varētu sniegt revolucionārus rezultātus, kas ne tikai palielina mašīnmācības sistēmu uzticamību, bet arī veicina to praktisko izmantošanu drošībā kritiskos apgabalos. Ilgtermiņā pētījumu rezultāti varētu izraisīt mehāniskās mācīšanās tehnoloģiju, ko mūsu ikdienas dzīvē izmantot drošāk un efektīvāk. Koncentrēšanās uz šo sistēmu noturību un uzticamību ir liela nozīme, it īpaši pasaulē, kurā arvien vairāk tiek parādītas autonomās tehnoloģijas.

Kontaktpersona

Prof. Dr. Leons Bungerts, matemātikas III profesors (mašīnmācīšanās matemātika), Tālr.: +49 931 31-82849, e-pasts: leon.ununft@uni-wuerzburg.de

Leon Bungerts vietne

- nag