طرق جديدة للشبكات العصبية الآمنة: بحث من Würzburg و Munich

طرق جديدة للشبكات العصبية الآمنة: بحث من Würzburg و Munich

يلتزم العلماء في جامعة فورتزبرغ والجامعة التقنية في ميونيخ بتحسين متانة الشبكات العصبية. يتم ذلك كجزء من مشروع تموله مؤسسة الأبحاث الألمانية (DFG). في ضوء التطبيقات اليومية للتعلم الآلي في المركبات المستقلة ، وتحليل الصور الطبية وألعاب الدردشة التفاعلية ، أصبحت الحاجة ملحة بشكل متزايد لتأمين هذه الأنظمة ضد الهجمات المستهدفة.

فهم مخاطر الهجمات المستهدفة

غالبًا ما تظهر شبكات الخلايا العصبية التي يتم استخدامها في التطبيقات المختلفة نقطة ضعف: يمكن إساءة فهمها من خلال التلاعب المحدد من الخارج. يوضح مثال هذا بوضوح: يمكن التعرف على صورة للكمان بشكل غير صحيح من قبل البرنامج من خلال الحد الأدنى من التغييرات في منطقة البكسل كأسود البحر. مثل هذه الأخطاء ليست محرجة فحسب ، بل يمكن أن يكون لها عواقب وخيمة في المواقف الحرجة ، كما هو الحال في حركة المرور على الطرق أو في التشخيصات الطبية.

شبكة الأبحاث والدعم المالي

تمت الموافقة على DFG مشروعًا بحثيًا جديدًا بميزانية قدرها 565،000 يورو ، منها أكثر من 250،000 يورو يتدفق إلى جامعة يوليوس ماكسيميليانز في فورزبورغ. سيتم البحث في هذا المشروع ، المعروف تحت عنوان "Geomar: الأساليب الهندسية للمتانة العدائية" ، في السنوات الثلاث المقبلة. يتبع العلماء الالتزامان ، البروفيسور ليون بونغرت والدكتور ليو شوين هدف جعل الشبكات العصبية أكثر قوة ضد هجمات العدو.

المتانة كمفتاح للموثوقية

في هذا السياق ، تعني المتانة أن الأنظمة يجب أن تصمد أمام كل من الأخطاء العشوائية والمستهدفة. في حين أن الأنظمة الحديثة لديها بالفعل مقاومة كبيرة للأخطاء العشوائية ، إلا أنها تفتقر غالبًا إلى الهجمات المستهدفة. يهدف نهج البحث إلى إعداد الشبكات العصبية من خلال مواجهة البيانات الخاطئة والمعالجة بشكل منهجي في التدريب. هذا يهدف إلى منع الأخطاء من التسبب في مشاكل خطيرة.

الطرق الهندسية لاتخاذ القرار -اتخاذ القرار

العنصر المركزي للمشروع هو استخدام الأساليب الهندسية. عند تصنيف الصور ، على سبيل المثال في التمييز بين الكلاب والقطط ، يجب أن ترسم الشبكة العصبية حد القرار. هذه الحدود ليست حاسمة فقط لدقة النظام ، ولكن أيضًا النقطة الرئيسية للنشاط للتلاعب. من خلال فهم هذه الحدود ، يمكن تطوير نماذج رياضية جديدة تساعد على زيادة متانة الشبكات.

قم بتطوير طريقة تدريب مصممة

من أجل تدريب الشبكات العصبية على النحو الأمثل ، يتابع Bungert و Schwinn نهجًا مبتكرًا: بدلاً من استخدام شبكة واحدة ، قم بتدريب شبكتين مختلفتين في وقت واحد. إحدى هذه الشبكات تحاكي الهجمات المحتملة من قبل "مهاجم". وتأمل هذه الطريقة أن يصبح النظام أكثر مقاومة وخيال من المهاجم البشري. الهدف ليس فقط زيادة المتانة ، ولكن أيضًا لتحسين كفاءة عملية التدريب.

الاستنتاج والتوقعات

يمكن أن يوفر مشروع "Geomar" نتائج رائدة لا تزيد من موثوقية أنظمة التعلم الآلي فحسب ، بل تعزز أيضًا استخدامها العملي في المجالات الحرجة. على المدى الطويل ، قد تؤدي نتائج البحث إلى تكنولوجيا التعلم الميكانيكي لاستخدامها بأمان وأكثر فعالية في حياتنا اليومية. إن التركيز على متانة وموثوقية هذه الأنظمة له أهمية كبيرة ، خاصة في عالم تتولى فيه التقنيات المستقلة بشكل متزايد في المقدمة.

الاتصال

البروفيسور الدكتور ليون بونغرت ، أستاذ الرياضيات الثالث (الرياضيات للتعلم الآلي) ، هاتف: +49 931 31-82849 ، البريد الإلكتروني: leon.ununft@uni-wuerzburg.de

موقع Leon Bungerts

- nag