Uudet menetelmät turvallisille hermostoverkoille: Würzburgin ja Münchenin tutkimus

Uudet menetelmät turvallisille hermostoverkoille: Würzburgin ja Münchenin tutkimus

Würzburgin yliopiston ja Münchenin teknisen yliopiston tutkijat ovat sitoutuneet parantamaan hermosolujen kestävyyttä. Tämä tehdään osana hanketta, jota rahoittaa Saksan tutkimussäätiö (DFG). Koneoppimisen päivittäisten sovellusten vuoksi autonomisissa ajoneuvoissa, lääketieteellisen kuvan analysoinnissa ja interaktiivisissa chatbotissa tarve on tulossa yhä kiireellisemmäksi näiden järjestelmien turvaamiseksi kohdennettuihin hyökkäyksiin.

Ymmärrä kohdennettujen hyökkäysten vaarat

Erilaisissa sovelluksissa käytettyjen hermosolujen verkot osoittavat usein heikkoa kohtaa: ne voidaan ymmärtää väärin tietyillä manipulaatioilla ulkopuolelta. Esimerkki kuvaa selvästi tätä: Ohjelmisto voidaan tunnistaa viulun kuva virheellisesti pikselin alueella minimaalisilla muutoksilla merileijonina. Tällaiset virheet eivät ole vain kiusallisia, vaan niillä voi olla katastrofaalisia seurauksia kriittisissä tilanteissa, kuten tieliikenteessä tai lääketieteellisessä diagnostiikassa.

tutkimusverkko ja taloudellinen tuki

DFG hyväksyttiin uusi tutkimusprojekti, jonka budjetti oli 565 000 euroa, josta yli 250 000 euroa virtaa Julius Maximilians -yliopistoon Würzburgissa. Tätä hanketta, joka tunnetaan nimikkeellä "Geomar: Geometriset menetelmät vihaisten kestävyydelle", tutkitaan seuraavien kolmen vuoden aikana. Kaksi sitoutunutta tutkijaa, professori Leon Bungert ja tohtori Leo Schwinn pyrkivät tavoitteena tehdä hermostoverkostoista entistä vankempia vihollisen hyökkäyksiä vastaan.

lujuuden avain luotettavuuteen

Tässä yhteydessä kestävyys tarkoittaa, että järjestelmien tulisi kestää sekä satunnaisia että kohdennettuja virheitä. Vaikka nykyaikaisissa järjestelmissä on jo huomattava vastus satunnaisvirheille, siitä puuttuu usein kohdennettuja hyökkäyksiä. Tutkimuslähestymistavan tarkoituksena on valmistella hermoverkkoja kohtaamalla systemaattisesti viallisia ja manipuloituja tietoja koulutuksessa. Tämän tarkoituksena on estää virheitä aiheuttamasta vakavia ongelmia.

Geometriset menetelmät päätöksenteon -tekemiseen

Projektin keskeinen elementti on geometristen menetelmien käyttö. Kun kuvien luokittelu, esimerkiksi koirien ja kissojen välisessä erottelussa, hermoverkon on tehtävä päätöksenteko. Nämä rajat eivät ole vain ratkaisevan tärkeitä järjestelmän tarkkuuden kannalta, vaan myös manipulaatioiden aktiivisuuden pääkohta. Ymmärtämällä näitä rajoja voidaan kehittää uusia matemaattisia malleja, jotka auttavat lisäämään verkkojen kestävyyttä.

Kehitä räätälöity harjoitusmenetelmä

Neuronaaliverkkojen optimaalisesti kouluttamiseksi Bungert ja Schwinn harjoittavat innovatiivista lähestymistapaa: yhden verkon käytön sijasta kouluttavat kaksi erilaista verkkoa samanaikaisesti. Yksi näistä verkoista simuloi "hyökkääjän" mahdollisia hyökkäyksiä. Tämä menetelmä toivoo, että järjestelmästä tulee vastustuskykyisempi ja mielikuvituksellisempi kuin ihmisen hyökkääjä. Tavoitteena ei ole vain lisätä kestävyyttä, vaan myös parantaa koulutusprosessin tehokkuutta.

PÄÄTELMÄT JA OUNTUOK

Geomar -projekti voisi tarjota uraauurtavia tuloksia, jotka eivät vain lisää koneoppimisjärjestelmien luotettavuutta, vaan myös edistävät niiden käytännön käyttöä turvallisuuskriittisillä alueilla. Pitkällä aikavälillä tutkimustulokset voivat johtaa mekaanisen oppimisen tekniikkaan, jota voidaan käyttää turvallisemmin ja tehokkaammin jokapäiväisessä elämässämme. Näiden järjestelmien kestävyyteen ja luotettavuuteen keskittyminen on erittäin tärkeää, etenkin maailmassa, jossa autonomiset tekniikat ovat yhä enemmän eturintamassa.

Yhteystiedot

Professori Dr. Leon Bungert, matematiikan professori III (koneoppimisen matematiikka), puh: +49 931 31-82849, sähköposti: leon.ununft@uni-wuerzburg.de

Leon Bungerts -sivusto

- nag