Noi metode pentru rețele neuronale sigure: Cercetări de la Würzburg și Munchen

Noi metode pentru rețele neuronale sigure: Cercetări de la Würzburg și Munchen

Oamenii de știință de la Universitatea din Würzburg și Universitatea Tehnică din Munchen se angajează să îmbunătățească robustetea rețelelor neuronale. Aceasta se face ca parte a unui proiect finanțat de Fundația Germană de Cercetare (DFG). Având în vedere aplicațiile cotidiene de învățare automată în vehicule autonome, analiza imaginilor medicale și chatbot -uri interactive, nevoia devine din ce în ce mai urgentă pentru a asigura aceste sisteme împotriva atacurilor vizate.

înțelegeți pericolele atacurilor vizate

Rețelele neuronale care sunt utilizate pentru diferite aplicații arată adesea un punct slab: ele pot fi înțelese greșit prin manipulări specifice din exterior. Un exemplu ilustrează clar acest lucru: o imagine a unei viori poate fi recunoscută incorect de software prin schimbări minime în zona pixelilor ca lei de mare. Astfel de greșeli nu sunt doar jenante, dar pot avea consecințe catastrofale în situații critice, cum ar fi în traficul rutier sau în diagnosticul medical.

rețea de cercetare și suport financiar

DFG a fost aprobat un nou proiect de cercetare, cu un buget de 565.000 de euro, din care peste 250.000 de euro curg la Universitatea Julius Maximilians din Würzburg. Acest proiect, cunoscut sub titlul „Geomar: Metode geometrice pentru robustetea adversă”, va fi cercetat în următorii trei ani. Cei doi oameni de știință angajați, profesorul Leon Bungert și Dr. Leo Schwinn urmăresc obiectivul de a face rețelele neuronale mai robuste împotriva atacurilor inamice.

robustetea ca cheie pentru fiabilitate

În acest context, robustetea înseamnă că sistemele ar trebui să reziste atât la greșeli aleatorii, cât și ale vizate. În timp ce sistemele moderne au deja o rezistență considerabilă la erorile aleatorii, de multe ori îi lipsește atacuri vizate. Abordarea cercetării este destinată pregătirea rețelelor neuronale, confruntarea sistematică a datelor defecte și manipulate în formare. Acest lucru este destinat să împiedice erorile să provoace probleme grave.

metode geometrice pentru luarea deciziilor

Un element central al proiectului este utilizarea metodelor geometrice. Atunci când clasificarea imaginilor, de exemplu în distincția dintre câini și pisici, rețeaua neuronală trebuie să atragă o limită de decizie. Aceste limite nu sunt doar cruciale pentru exactitatea sistemului, ci și principalul punct de activitate pentru manipulări. Înțelegând aceste limite, pot fi dezvoltate noi modele matematice care ajută la creșterea robustetei rețelelor.

Dezvoltați o metodă de antrenament adaptată

Pentru a antrena optim rețelele neuronale, Bungert și Schwinn urmăresc o abordare inovatoare: în loc să folosească o singură rețea, antrenează simultan două rețele diferite. Una dintre aceste rețele simulează potențialele atacuri ale unui „atacator”. Această metodă speră că sistemul va deveni mai rezistent și mai imaginativ decât un atacator uman. Scopul este nu numai de a crește robustetea, ci și de a îmbunătăți eficiența procesului de instruire.

concluzie și perspective

Proiectul „Geomar” ar putea oferi rezultate inovatoare care nu numai că cresc fiabilitatea sistemelor de învățare automată, dar și să promoveze utilizarea lor practică în zonele critice de siguranță. Pe termen lung, rezultatele cercetării ar putea duce la tehnologia învățării mecanice pentru a fi utilizate mai în siguranță și mai eficient în viața noastră de zi cu zi. Concentrația pe robustetea și fiabilitatea acestor sisteme este de o importanță deosebită, în special într -o lume în care tehnologiile autonome vin din ce în ce mai mult în prim plan.

Contact

Prof. Dr. Leon Bungert, Professorship of Mathematics III (Matematica învățării automate), Tel: +49 931 31-82849, e-mail: leon.ununft@uni-wuerzburg.de

Site -ul Leon Bungerts

- nag