Nouvelles méthodes de réseaux de neurones sûrs: recherche de Würzburg et Munich

Nouvelles méthodes de réseaux de neurones sûrs: recherche de Würzburg et Munich

Les scientifiques de l'Université de Würzburg et de l'Université technique de Munich se sont engagés à améliorer la robustesse des réseaux neuronaux. Cela se fait dans le cadre d'un projet financé par la German Research Foundation (DFG). Compte tenu des applications quotidiennes de l'apprentissage automatique dans les véhicules autonomes, de l'analyse des images médicales et des chatbots interactifs, le besoin devient de plus en plus urgent pour sécuriser ces systèmes contre les attaques ciblées.

Comprendre les dangers des attaques ciblées

Les réseaux neuronaux qui sont utilisés pour différentes applications montrent souvent un point faible: ils peuvent être mal compris par des manipulations spécifiques de l'extérieur. Un exemple l'illustre clairement: une image d'un violon peut être incorrectement reconnue par le logiciel par un minimum de changements dans la zone des pixels en tant que lions de mer. Ces erreurs sont non seulement embarrassantes, mais peuvent avoir des conséquences catastrophiques dans des situations critiques, comme dans la circulation routière ou dans les diagnostics médicaux.

Réseau de recherche et soutien financier

Le DFG a été approuvé un nouveau projet de recherche avec un budget de 565 000 euros, dont plus de 250 000 euros se déroulent vers l'Université Julius Maximilians à Würzburg. Ce projet, connu sous le titre "Geomar: Méthodes géométriques pour la robustesse adversaire", sera étudié au cours des trois prochaines années. Les deux scientifiques engagés, le professeur Leon Bungert et le Dr Leo Schwinn poursuivent l'objectif de rendre les réseaux de neurones plus robustes contre les attaques ennemies.

Robustesse comme clé de la fiabilité

Dans ce contexte, la robustesse signifie que les systèmes devraient résister à des erreurs à la fois aléatoires et ciblées. Bien que les systèmes modernes aient déjà une résistance considérable aux erreurs aléatoires, il manque souvent d'attaques ciblées. L'approche de recherche vise à préparer des réseaux de neurones en confronté systématiquement des données défectueuses et manipulées dans la formation. Cela vise à empêcher les erreurs de causer de graves problèmes.

Méthodes géométriques pour la prise de décision

Un élément central du projet est l'utilisation de méthodes géométriques. Lors de la classification des images, par exemple dans la distinction entre les chiens et les chats, le réseau neuronal doit franchir une limite de décision. Ces limites sont non seulement cruciales pour la précision du système, mais aussi le principal point d'activité pour les manipulations. En comprenant ces limites, de nouveaux modèles mathématiques peuvent être développés qui aident à augmenter la robustesse des réseaux.

Développer une méthode de formation sur mesure

Afin de former de manière optimale les réseaux neuronaux, Bungert et Schwinn poursuivent une approche innovante: au lieu d'utiliser un seul réseau, former deux réseaux différents simultanément. L'un de ces réseaux simule les attaques potentielles d'un "attaquant". Cette méthode espère que le système deviendra plus résistant et imaginatif qu'un attaquant humain. The aim is not only to increase robustness, but also to improve the efficiency of the training process.

Conclusion et perspectives

Le projet «Geomar» pourrait fournir des résultats révolutionnaires qui non seulement augmentent la fiabilité des systèmes d'apprentissage automatique, mais favorisent également leur utilisation pratique dans les zones critiques de sécurité. À long terme, les résultats de la recherche pourraient conduire à la technologie de l'apprentissage mécanique à être utilisé plus en toute sécurité et plus efficacement dans notre vie quotidienne. L'accent mis sur la robustesse et la fiabilité de ces systèmes est d'une grande importance, en particulier dans un monde dans lequel les technologies autonomes apparaissent de plus en plus.

Contact

Dr. Leon Bungert, professeur de mathématiques III (Mathématiques de l'apprentissage automatique), Tél: +49 931 31-82849, Courriel: leon.ununft@uni-wuerzburg.de

Site Web de Leon Bungerts

- nag