Új módszerek a biztonságos ideghálózatokhoz: Kutatás Würzburgból és Münchenből

Új módszerek a biztonságos ideghálózatokhoz: Kutatás Würzburgból és Münchenből

A Würzburgi Egyetem tudósai és a Müncheni Műszaki Egyetemen elkötelezettek az ideghálózatok robusztusságának javítása mellett. Ez egy olyan projekt részeként történik, amelyet a Német Kutatási Alapítvány (DFG) finanszíroz. Tekintettel a gépi tanulás mindennapi alkalmazására az autonóm járművekben, az orvosi képelemzésben és az interaktív chatbotokban, egyre sürgetőbbnek kell lennie, hogy ezeket a rendszereket a célzott támadások ellen biztosítsák.

értse meg a célzott támadások veszélyeit

A különféle alkalmazásokhoz használt ideghálózatok gyakran gyenge pontot mutatnak: félreérthetők a külső manipulációkkal. Egy példa egyértelműen szemlélteti ezt: A hegedű képét a szoftver helytelenül felismerheti a pixel terület minimális változásaival, mint tengeri oroszlánok. Az ilyen hibák nemcsak kínosak, hanem katasztrofális következményekkel járhatnak a kritikus helyzetekben, például a közúti forgalomban vagy az orvosi diagnosztikában.

Kutatási hálózat és pénzügyi támogatás

A DFG -t jóváhagyták egy új kutatási projektet, amelynek költségvetése 565 000 euró, ebből több mint 250 000 euró folyik a Würzburgi Julius Maximilians Egyetemen. Ezt a projektet, amelyet a "Geomar: A versengés robusztusságának geometriai módszerei" címen ismertek, a következő három évben kutatják. A két elkötelezett tudós, Leon Bungert professzor és Dr. Leo Schwinn azzal a céllal törekszik, hogy a neurális hálózatok robusztusabbá tegyék az ellenséges támadások ellen.

robusztusság, mint a megbízhatóság kulcsa

Ebben az összefüggésben a robusztusság azt jelenti, hogy a rendszereknek ellenállniuk kell mind a véletlenszerű, mind a célzott hibáknak. Noha a modern rendszerek már jelentős ellenállást mutatnak a véletlenszerű hibákkal szemben, gyakran hiányoznak a célzott támadások. A kutatási megközelítés célja az ideghálózatok előkészítése azáltal, hogy szisztematikusan szembesül a hibás és manipulált adatok képzés során. Ennek célja annak megakadályozása, hogy a hibák súlyos problémákat okozjanak.

Geometriai módszerek a döntéshozáshoz -Making

A projekt központi eleme a geometriai módszerek használata. Amikor a képek osztályozása, például a kutyák és a macskák közötti különbségtétel során, a neurális hálózatnak döntési korlátot kell húznia. Ezek a korlátok nemcsak a rendszer pontosságának szempontjából döntő jelentőségűek, hanem a manipulációk fő tevékenységének szempontjából is. Ezen korlátok megértésével új matematikai modelleket lehet kidolgozni, amelyek elősegítik a hálózatok robusztusságát.

kidolgozzon egy testreszabott edzési módszert

A neuronális hálózatok optimális kiképzése érdekében a Bungert és a Schwinn innovatív megközelítést alkalmaznak: egyetlen hálózat használata helyett két különböző hálózatot képezünk egyszerre. Ezen hálózatok egyike szimulálja a "támadó" esetleges támadásait. Ez a módszer azt reméli, hogy a rendszer rezisztensebbé és ötletesebbé válik, mint egy emberi támadó. A cél nemcsak a robusztusság növelése, hanem a képzési folyamat hatékonyságának javítása is.

Következtetés és kilátások

A „Geomar” projekt úttörő eredményeket adhat, amelyek nemcsak növelik a gépi tanulási rendszerek megbízhatóságát, hanem elősegítik azok gyakorlati felhasználását a biztonsági -kritikus területeken is. Hosszú távon a kutatási eredmények a mechanikus tanulás technológiájához vezethetnek, hogy biztonságosabban és hatékonyabban használják a mindennapi életünkben. Ezeknek a rendszereknek a robusztusságára és megbízhatóságára való összpontosítás nagy jelentőséggel bír, különösen egy olyan világban, amelyben az autonóm technológiák egyre inkább előtérbe kerülnek.

Kapcsolat

Prof. Dr. Leon Bungert, a matematika professzora III (A gépi tanulás matematikája), Tel: +49 931 31-82849, e-mail: Leon.ununft@uni-wuerzburg.de

Leon Bungerts weboldala

- nag