Nowe metody bezpiecznych sieci neuronowych: Badania z Würzburga i Monachium

Nowe metody bezpiecznych sieci neuronowych: Badania z Würzburga i Monachium

Naukowcy z University of Würzburg i University of Monachium są zaangażowani w poprawę solidności sieci neuronalnych. Odbywa się to w ramach projektu finansowanego przez Niemiecką Fundację Badawczą (DFG). Ze względu na codzienne zastosowania uczenia maszynowego w pojazdach autonomicznych, analizie obrazu medycznego i interaktywnych chatbotach, potrzeba staje się coraz pilniejsza, aby zabezpieczyć te systemy przed atakowanymi atakami.

Zrozum niebezpieczeństwa związane z ukierunkowanymi atakami

Sieci neuronalne, które są używane do różnych aplikacji, często wykazują słaby punkt: mogą być niezrozumiane przez określone manipulacje z zewnątrz. Przykład wyraźnie to ilustruje: zdjęcie skrzypiec można nieprawidłowo rozpoznać przez oprogramowanie przez minimalne zmiany w obszarze pikseli jako lwy morskie. Takie błędy są nie tylko zawstydzające, ale mogą mieć katastrofalne konsekwencje w sytuacjach krytycznych, takich jak ruch drogowy lub diagnostyka medyczna.

Sieć badawcza i wsparcie finansowe

DFG został zatwierdzony nowy projekt badawczy z budżetem 565 000 euro, z czego ponad 250 000 euro przepływa na Uniwersytet Julius Maximilians w Würzburgu. Ten projekt, który jest znany pod tytułem „Geomar: Geometryczne metody niezawodności przeciwnej”, zostanie zbadany w ciągu najbliższych trzech lat. Dwaj zaangażowani naukowcy, profesor Leon Bungert i dr Leo Schwinn, dążą do tego, że sieci neuronowe są bardziej solidne wobec ataków wroga.

solidność jako klucz do niezawodności

W tym kontekście solidność oznacza, że systemy powinny wytrzymać zarówno losowe, jak i ukierunkowane błędy. Podczas gdy nowoczesne systemy mają już znaczną odporność na losowe błędy, często brakuje mu ukierunkowanych ataków. Podejście badawcze ma na celu przygotowanie sieci neuronowych poprzez systematyczne konfrontacja z wadliwymi i manipulowanymi danymi podczas szkolenia. Ma to na celu zapobieganie powodowaniu poważnych problemów.

Geometryczne metody podejmowania decyzji

Centralnym elementem projektu jest zastosowanie metod geometrycznych. Podczas klasyfikacji obrazów, na przykład w rozróżnieniu psów i kotów, sieć neuronowa musi wyciągnąć limit decyzji. Limity te są nie tylko kluczowe dla dokładności systemu, ale także głównym punktem aktywności manipulacji. Rozumiejąc te granice, można opracować nowe modele matematyczne, które pomagają zwiększyć odporność sieci.

Opracuj dostosowaną metodę treningową

W celu optymalnego wyszkolenia sieci neuronalnych Bungert i Schwinn dążą do innowacyjnego podejścia: zamiast korzystać z jednej sieci, szkolą dwie różne sieci jednocześnie. Jedna z tych sieci symuluje potencjalne ataki „atakującego”. Ta metoda ma nadzieję, że system stanie się bardziej odporny i pomysłowy niż ludzki atakujący. Celem jest nie tylko zwiększenie solidności, ale także poprawa wydajności procesu treningowego.

WNIOSEK I PERTYL

Projekt „Geomar” może zapewnić przełomowe wyniki, które nie tylko zwiększają niezawodność systemów uczenia maszynowego, ale także promować ich praktyczne zastosowanie w obszarach krytycznych bezpieczeństwa. W perspektywie długoterminowej wyniki badań mogą prowadzić do technologii uczenia się mechanicznego, który można wykorzystać bezpieczniej i skuteczniej w naszym życiu codziennym. Koncentracja na solidności i niezawodności tych systemów ma ogromne znaczenie, szczególnie w świecie, w którym autonomiczne technologie coraz częściej wychodzą na pierwszy plan.

kontakt

Prof. Dr Leon Bungert, Professorship of Mathematics III (Mathematics of Machine Learning), Tel: +49 931 31-82849, e-mail: leon.ununft@uni-wuerzburg.de

Witryna Leon Bungerts

- nag