الصيف B من الجزء السفلي من راحة غير معبد،

إنتاج و qubit | عدد ملفه QbitAI

تذكر تلك الخوارزميات الاعتراف الباندا إنسان الغاب، سلحفاة التعرف على بندقية، ووضع المسدس في طائرة هليكوبتر الاعتراف بها؟

التي واجهتها، ويسمى " ضد الهجمات (هجمات عدائية) "العدو، والعدو كل ما يحدث، صورة خوارزميات الاعتراف يمكن أن تجعل الخسارة.

الآن، وتأتي أكثر المحموم.

جوجل ثلاثة الباحث الدماغ جمال الدين F. ELSAYED، إيان غودفلوو، آخر ورقة Jascha Sohl-Dickstein ويدل على الهجمات مواجهة جديدة، AI لم نعهدها من قبل عدو قوي.

وأضافت أن الهجوم ضد ليس فقط يسمح نموذج التعرف على الصور يعترف الخريطة، ولكن أيضا على نموذج الهجوم لإعادة البرمجة، بحيث التخلي عن المهام الخاصة، متجر والذهاب إلى بعض المحدد من قبل المهاجم، شيء آخر . وسيتم تعيين لهذا الشيء يسمى الوظيفة الإيطالية " المهمة القتالية ".

حتى اذا كان النموذج ليس مثل هذه المهارات، لا يهم. حاجة، فقط لإضافة بعض المعلومات حول مكافحة اختبار صورة اضطراب.

على سبيل المثال، دعونا ImageNet المصنف تحويلها إلى عدد من المربعات .

ليست معقدة عملية التنفيذ، ما مجموعه ثلاث خطوات.

أولا، لإنشاء تعيين بين التسمية وImageNet ضد التبويب المهام. في هذا المثال، الفئة هي ImageNet تعيينها إلى عدد الكتلة، كتلة هو الكارب، سمكة ذهبية كتلة 2، 3 كتلة هو القرش الأبيض ......

بعد تعيين تعيين ما يصل، فإنه ينبغي أن تمثل جزءا لا يتجزأ من الصورة في مهمة قتالية ضد منتصف البرنامج الصورة، أنها تعتاد على مهاجمة الشبكة العصبية صور المواجهة .

بعد ذلك، حان الوقت للسماح الصور المواجهة ونماذج الهدف الوفاء بها.

بعد تلبية اثنين، تخلى عن نموذج الهدف المهام التعرف على الصور الأصلية، كيف سوى عدد قليل من مربع على الرسم البياني لوغاريتمي.

ويمكن أيضا أن يكون قليلا أكثر تعقيدا من عدد من الساحات، على سبيل المثال، دعونا يعتقد ImageNet المصنف كان فقط التعرف على الأرقام المكتوبة بخط اليد Retasking MNIST المصنف .

لإنجاز هذه المهمة ضد الصورة، ويبدو أن تنمو لتصبح الخريطة.

نفس الأسلوب يمكن أن تسمح أيضا ImageNet المصنف تصبح المصنف CIFAR 10 .

بشكل مأساوي من عدائهم، ويشمل ستة ImageNet صورة نموذج اعتراف ثلاثة التأسيس Resnet المتغيرات والخيارات الثلاثة.

حسنا حسنا، لا تدع الشبكة العصبية لصدمة الشيء العالم.

ولكن كما تعلمون، وقد بدأت هذه الدراسة فقط، وسوف تكون في المستقبل إلى أي مدى، ليس لأحد أن يقول ...... بعد كل شيء، لا أحد قبل الشبكة العصبية لحفر مثل هذا الفخ.

وقال آخرون ELSAYED بجريدة أيضا أن هذه النتائج تظهر لأول مرة إمكانية حدوث مثل هذه الهجمات.

ثلاثة معدي الدراسة، وجميعهم من فريق Google الدماغ.

المؤلف الأول جمال الدين F. ELSAYED في العام الماضي، وقال انه حصل على الدكتوراه من جامعة كولومبيا. حاليا، هو في الواقع عضو في جوجل AI الإقامة، وهو ما يعادل فترة التدريب أو زيارة هوية الباحث.

الكاتب الثاني إيان غودفلوو ، الشهيرة. أيضا عادة المشار لدت ضد شبكة (غانز) والد دانيال مجال الذكاء الاصطناعي. السنوات الأولى، وقال انه كرس نفسه لتدريس العصبي خادعة الغش الشبكة، أما الآن، فإن معظم أبحاثه ركزت على ارض الملعب ضد الهجوم، مع التركيز على البلطجة الشبكة العصبية.

المؤلف الثالث Jascha Sohl-Dickstein 2012 دكتوراه في بيركلي. كان أستاذا زائرا في جامعة ستانفورد قبل انضمامه إلى Google.

Jascha شعرهم إلى هذا البحث على تويتر، أثار على الفور عدد كبير من المستخدمين لطبع. ولكن ترك تعليقات حاليا شخص واحد فقط.

سأل الرجل: عند تحرير شفرة المصدر؟ شيه.

......

أطروحة

لمزيد من التفاصيل، انظر ورقتهم:

الخصومة إعادة برمجة الشبكات العصبية

جمال الدين F. ELSAYED، إيان غودفلوو، Jascha Sohl-Dickstein

https://arxiv.org/abs/1806.11146

بالطبع، إذا كنت ترغب في تحميل مباشر على نسخة منها بصيغة PDF، يمكنك أيضا عدد الجمهور و qubit (QbitAI) واجهة الحوار، رد: " هجوم "حرفين يمكن أن يكون.

- كامل  -

التوظيف الصادق

المكدسة تقوم بتجنيد محرر / مراسل، ومقرها في تشونغ قوان تسون في بكين. نتوقع الموهوبين والطلاب المتحمسين للانضمام إلينا! مزيد من التفاصيل، يرجى و qubit عدد الجمهور (QbitAI) واجهة الحوار والرد "تجنيد" كلمة.

و qubit QbitAI عناوين على التوقيع

' " تتبع تقنيات AI دينامية جديدة والمنتجات