Nauji saugių neuroninių tinklų metodai: Würzburgo ir Miuncheno tyrimai

Nauji saugių neuroninių tinklų metodai: Würzburgo ir Miuncheno tyrimai

Viurzburgo universiteto ir Miuncheno technikos universiteto mokslininkai yra įsipareigoję pagerinti neuronų tinklų tvirtumą. Tai atliekama kaip projekto dalis, kurią finansuoja Vokietijos tyrimų fondas (DFG). Atsižvelgiant į kasdienius mašinų mokymosi pritaikymą autonominėse transporto priemonėse, medicininio vaizdo analizę ir interaktyvius pokalbių programas, poreikis tampa vis skubesnis, norint apsaugoti šias sistemas nuo tikslinių atakų.

Supraskite tikslinių atakų pavojų

Neuroniniai tinklai, naudojami skirtingiems pritaikymams, dažnai rodo silpną tašką: juos gali nesuprasti dėl specifinių manipuliacijų iš išorės. Pavyzdys aiškiai parodo tai: smuiko paveikslėlis gali neteisingai atpažinti programinės įrangos minimalius pokyčius pikselių srityje kaip jūrų liūtai. Tokios klaidos yra ne tik gėdingos, bet ir gali sukelti katastrofiškų padarinių kritinėse situacijose, tokiose kaip kelių eismas ar medicininė diagnostika.

tyrimų tinklas ir finansinė parama

DFG buvo patvirtintas naujas tyrimų projektas, kurio biudžetas sudarė 565 000 eurų, iš kurių daugiau nei 250 000 eurų srauto į Juliaus Maximilians universitetą Viurzburge. Šis projektas, žinomas pavadinimu „Geomar: geometriniai prieštaringo tvirtumo metodai“, bus tiriamas per ateinančius trejus metus. Du įsipareigoję mokslininkai, profesorius Leonas Bungertas ir dr. Leo Schwinnas siekia tikslo, kad nervų tinklai būtų tvirtesni prieš priešo išpuolius.

patikimumas kaip patikimumo raktas

Šiame kontekste tvirtumas reiškia, kad sistemos turėtų atlaikyti atsitiktines ir tikslines klaidas. Nors šiuolaikinės sistemos jau turi didelę pasipriešinimą atsitiktinėms klaidoms, dažnai trūksta tikslinių atakų. Tyrimo metodas skirtas paruošti neuroninius tinklus, sistemingai susidūrus su sugedusiais ir manipuliuojamais duomenimis mokant. Tai skirta užkirsti kelią klaidoms sukelti rimtų problemų.

Geometriniai sprendimų priėmimo metodai

Pagrindinis projekto elementas yra geometrinių metodų naudojimas. Vaizdų klasifikavimui, pavyzdžiui, skirtume tarp šunų ir kačių, nervų tinklas turi nustatyti sprendimo ribą. Šios ribos yra ne tik esminės sistemos tikslumui, bet ir pagrindinį manipuliacijų veiklos tašką. Suprasdami šias ribas, galima sukurti naujus matematinius modelius, kurie padeda padidinti tinklų tvirtumą.

sukurkite pritaikytą mokymo metodą

Siekdami optimaliai išmokyti neuronų tinklus, Bungertas ir Schwinnas taiko novatorišką požiūrį: užuot naudoję vieną tinklą, vienu metu mokykite du skirtingus tinklus. Vienas iš šių tinklų imituoja galimus „užpuoliko“ išpuolius. Šis metodas tikisi, kad sistema taps atsparesnė ir įsivaizduojama nei žmonių užpuolikas. Tikslas yra ne tik padidinti tvirtumą, bet ir pagerinti mokymo proceso efektyvumą.

Išvada ir perspektyva

Projektas „Geomar“ galėtų duoti novatoriškų rezultatų, kurie ne tik padidina mašinų mokymosi sistemų patikimumą, bet ir skatina jų praktinį naudojimą saugos srityse. Ilgainiui tyrimų rezultatai gali sukelti mechaninio mokymosi technologiją, kurią reikia naudoti saugiau ir efektyviau mūsų kasdieniniame gyvenime. Dėmesys šių sistemų patikimumui ir patikimumui yra labai svarbus, ypač tame pasaulyje, kuriame vis dažniau kyla autonominės technologijos.

Kreipkitės

Prof. Dr. Leonas Bungertas, III matematikos profesorius (MAŠINOS MATHEMATIKA), TEL: +49 931 31-82849, el. Paštas: Leon.ununft@uni-wuerzburg.de

Leon Bungerts svetainė

- nag