Нови методи за безопасни невронни мрежи: изследвания от Вюрцбург и Мюнхен

Нови методи за безопасни невронни мрежи: изследвания от Вюрцбург и Мюнхен

Учени от Университета във Вюрцбург и Техническият университет в Мюнхен се ангажират да подобрят стабилността на невронните мрежи. Това се прави като част от проект, който се финансира от Германската фондация за изследвания (DFG). С оглед на ежедневните приложения на машинното обучение в автономни превозни средства, анализ на медицински изображения и интерактивни чатботи, необходимостта става все по -неотложна за осигуряване на тези системи срещу целеви атаки.

Разберете опасностите от целевите атаки

Невроналните мрежи, които се използват за различни приложения, често показват слаба точка: те могат да бъдат разбрани погрешно чрез специфични манипулации отвън. Пример ясно илюстрира това: картина на цигулка може да бъде неправилно разпозната от софтуера чрез минимални промени в района на пикселите като морски лъвове. Подобни грешки са не само смущаващи, но могат да имат катастрофални последици в критични ситуации, като например в пътния трафик или в медицинската диагностика.

Изследователска мрежа и финансова подкрепа

DFG беше одобрен нов изследователски проект с бюджет от 565 000 евро, от които над 250 000 евро тече към университета Юлий Максимилианс във Вюрзбург. Този проект, който е известен в заглавието „Геомар: Геометрични методи за състезателна устойчивост“, ще бъде проучен през следващите три години. Двамата ангажирани учени, професор Леон Бунгерт и д -р Лео Швин, преследват целта да направят невронните мрежи по -здрави срещу вражеските атаки.

Устойчивостта като ключ към надеждността

В този контекст здравината означава, че системите трябва да издържат както на случайни, така и насочени грешки. Докато съвременните системи вече имат значителна съпротива срещу случайни грешки, често му липсват насочени атаки. Изследователският подход има за цел да подготви невронните мрежи, като систематично се сблъсква с дефектни и манипулирани данни в обучението. Това е предназначено да предотврати причиняването на грешки.

Геометрични методи за решение -вземане

Централен елемент на проекта е използването на геометрични методи. Когато класификацията на изображенията, например в разграничението между кучета и котки, невронната мрежа трябва да привлече ограничение за решение. Тези ограничения са не само от решаващо значение за точността на системата, но и основната точка на активност за манипулации. Чрез разбиране на тези граници могат да бъдат разработени нови математически модели, които спомагат за увеличаване на стабилността на мрежите.

Разработете персонализиран метод за обучение

За да обучат оптимално невроналните мрежи, Bungert и Schwinn преследват иновативен подход: вместо да използват една мрежа, обучете две различни мрежи едновременно. Една от тези мрежи симулира потенциалните атаки от „нападател“. Този метод се надява системата да стане по -устойчива и въображаема от човешкия нападател. Целта е не само да се увеличи устойчивостта, но и да се подобри ефективността на процеса на обучение.

Заключение и перспективи

Проектът „Geomar“ може да осигури новаторски резултати, които не само увеличават надеждността на системите за машинно обучение, но и насърчават практическото им използване в критичните райони на безопасността. В дългосрочен план резултатите от изследванията могат да доведат до технологията на механичното обучение да се използва по -безопасно и по -ефективно в ежедневието ни. Фокусът върху устойчивостта и надеждността на тези системи е от голямо значение, особено в свят, в който автономните технологии все повече излизат на преден план.

Контакт

Проф. Д-р Леон Бунгерт, професор по математика III (Математика на машинното обучение), Тел: +49 931 31-82849, имейл: leon.ununft@uni-wuerzburg.de

Уебсайт Leon Bungerts

- nag