Nové metódy pre bezpečné neurónové siete: Výskum z Würzburgu a Mníchova

Nové metódy pre bezpečné neurónové siete: Výskum z Würzburgu a Mníchova

Vedci z University of Würzburg a Technická univerzita v Mníchove sa zaviazali zlepšiť robustnosť neuronálnych sietí. To sa deje ako súčasť projektu, ktorý je financovaný Nadáciou Nemecka Research Foundation (DFG). Vzhľadom na každodenné aplikácie strojového učenia v autonómnych vozidlách, analýze lekárskych obrazov a interaktívnych chatbotov sa potreba stáva čoraz naliehavejšou na zabezpečenie týchto systémov proti cieleným útokom.

Pochopte nebezpečenstvá cielených útokov

Neuronálne siete, ktoré sa používajú pre rôzne aplikácie, často ukazujú slabý bod: môžu byť nepochopené konkrétnymi manipuláciami zvonku. Príklad jasne to ilustruje: Obrázok huslí môže softvér nesprávne rozpoznať minimálnymi zmenami v oblasti pixelov ako morských levov. Takéto chyby nie sú len trápne, ale môžu mať katastrofické následky v kritických situáciách, napríklad pri cestnej premávke alebo v lekárskej diagnostike.

Výskumná sieť a finančná podpora

DFG bol schválený nový výskumný projekt s rozpočtom 565 000 EUR, z čoho viac ako 250 000 EUR toks na univerzitu Julius Maximiliána vo Würzburgu. Tento projekt, ktorý je známy pod názvom „Geomar: Geometric Methods pre kontradiktórnu robustnosť“, sa bude skúmať v nasledujúcich troch rokoch. Dvaja angažovaní vedci, profesor Leon Bungert a Dr. Leo Schwinn sledujú cieľ, aby sa neurónové siete stali robustnejšími proti nepriateľským útokom.

Robustnosť ako kľúč k spoľahlivosti

V tejto súvislosti robustnosť znamená, že systémy by mali vydržať náhodné aj cielené chyby. Zatiaľ čo moderné systémy už majú značný odpor voči náhodným chybám, často im chýba cielené útoky. Účelom výskumného prístupu je pripraviť neurónové siete systematickým konfrontovaním chybných a manipulovaných údajov v tréningu. Zámerom je zabrániť tomu, aby chyby spôsobili vážne problémy.

Geometrické metódy pre rozhodovanie -tvorba

Ústredným prvkom projektu je použitie geometrických metód. Pri klasifikácii obrazov, napríklad v rozlíšení medzi psami a mačkami, musí nervová sieť určiť rozhodovací limit. Tieto limity sú nielen rozhodujúce pre presnosť systému, ale aj hlavný bod činnosti manipulácií. Pochopením týchto limitov je možné vyvinúť nové matematické modely, ktoré pomáhajú zvyšovať robustnosť sietí.

Vypracujte metódu odbornej prípravy na mieru

Aby sa optimálne vycvičili neuronálne siete, Bungert a Schwinn sledujú inovatívny prístup: namiesto použitia jednej siete trénujte súčasne dve rôzne siete. Jedna z týchto sietí simuluje potenciálne útoky „útočníka“. Táto metóda dúfa, že systém sa stane odolnejším a nápaditejším ako ľudský útočník. Cieľom nie je len zvýšenie robustnosti, ale aj zlepšenie efektívnosti školiaceho procesu.

Záver a výhľad

Projekt „Geomar“ by mohol poskytnúť priekopnícke výsledky, ktoré nielen zvyšujú spoľahlivosť systémov strojového učenia, ale tiež podporujú ich praktické využitie v bezpečnostných kritických oblastiach. Z dlhodobého hľadiska by výsledky výskumu mohli viesť k technológii mechanického učenia, ktoré sa majú používať bezpečnejšie a efektívnejšie v našom každodennom živote. Zameranie na robustnosť a spoľahlivosť týchto systémov je veľmi dôležité, najmä vo svete, v ktorom sa do popredia čoraz viac prichádzajú autonómne technológie.

kontakt

Leon Bungert, profesor matematiky III (Matematika strojového učenia), Tel: +49 931 31-82849, e-mail: leon.ununft@uni-wuerzburg.de

Webová stránka Leon Bungerts

- nag