في الذكاء الاصطناعي "الفيضان" اليوم، لا يزال هناك العديد من المشاكل التي تشكل خطرا على التقنيات البشرية الواعدة الحالية، أن أخدع سواء في الخصومة أمثلة مؤخرا أحدث ورقة "الباحث جوجل الدماغ إيان غودفلوو وآخرون. الإنسان والرؤية الكمبيوتر "، وسوف تتضمن ممثل منهم - ضد العينة.
عنوان ورقة: الشبكي: //arxiv.org/abs/1802.08195
ضد تشير العينة إلى المهاجم مصممة عمدا لجعل نماذج التعلم الآلي للدخول قرار خاطئ. تعلم الآلة هو ضعيف جدا ضد عينات ، على سبيل المثال، حتى اضطراب صغير، يمكنك أن تدع فإن نظام الرؤية الحاسوبية يكون مخطئا لالنعام حافلة مدرسية. ولكن إذا كان النظام البصري البشري هو تدخلها انها لا تزال مسألة مفتوحة.
الشكل شو الصورة بالإضافة إلى اضطراب الصغيرة التي أصبحت مثل الصور القط الكلب
دراسة التعلم الآلي وعلم الدماغ قد يعزز كل منهما الآخر. على سبيل المثال، قبل خوارزمية التصميم العلماء التعرف على الأشياء، أنهم يعتقدون أن ذلك يجب أن يتم، لأن الإنسان الدماغ يمكن التعرف على الأشياء. لذلك، اذا كنا نستطيع إثبات أن الإنسان الدماغ يستطيع مقاومة التدخل من نوع خاص من عينات المواجهة، فإن هذا سوف يثبت آلة التعلم سوف يكون لها آلية مماثلة. واذا كان العقل البشري سوف ينخدع المواجهة العينة، ثم علينا أن نتخلى يحاول مقاومة ضد عينات تعلم آلة بدلا من ذلك إلى تصميم أنظمة التي تحتوي على غير الرغم من متانة تشكيل آلة التعلم غير آمنة حتى الآن.
في مجال الرؤية الكمبيوتر، وعادة ضد العينة أن يكون اضطراب الصورة الجديدة مما أدى إلى مجموعة من البيانات من عينة من الصور. هذا الاضطراب يختلف عن الضوضاء، ولكن وفقا لنموذج تصميم. عينات ولدت ضد العديد من الخوارزميات شعبية تعتمد على بنية نموذج والمعلمات من التحسين ويتم على أساس التدرج الإدخال. نظرا لهيكل والمعلمات من النظام البصري البشري وذلك غير معروف، لا يجوز استخدام هذه الأساليب ضد توليد عينة من التعرف البصري البشري.
FIG شو ضد تحت تأثير العينة تم تحديد، كما غيبون الباندا العملاقة
عادة من عينة ضد نموذجا للتحول نموذج آخر، بحيث يمكن أن تهاجم من نموذج هيكل غير معروف. وعما إذا كان سوف تتأثر البشر عن طريق هذه العينة مواجهة يصبح قضية. ومن الواضح أن نظام الإدراك البصري البشري لديه العديد من الأفكار المسبقة، ولكن أيضا على الهلوسة البصرية. ولكن هذا يمكن أن يكون مضطربا والصورة الطبيعية هي مختلفة جدا. وبالتالي فإننا اختبارها من قبل ثلاثة أفكار رئيسية، وعينة ضد النظام البصري الإنسان تنتج أثرا مرئيا.
1. استخدام عينة لدت ضد تقنية الصندوق الأسود، في الحالة التي يكون فيها أنه لا يمكن بناء المعلمات وتكوين العينة على نموذج الهدف.
2. عن طريق تغيير نماذج التعلم الجهاز الأصلي لمحاكاة عملية الرؤية البشرية، مما يجعل العينة المواجهة هم أكثر عرضة ليتم تحويلها إلى مراقب بشري.
3. تقييم المراقب الإنسان في غضون قرارا تصنيف وقت معين، مما يمكن الكشف عن آثار خفية الإدراك البشري. لأن البشر دقة في مهمة تصنيف الكمال القريب، لذلك قد لا تنعكس التغييرات الصغيرة في دقة. ولكن فقط للحصول على صورة وجيزة من العرض، حتى لو كان صورة واضحة، والبشر لم تعد قادرة على تحقيق دقة كاملة، مما يؤثر التغييرات الصغيرة أن تنعكس إنشاؤها على دقة.
والغرض من ذلك هو أن تؤدي إلى قرار السؤال الخطأ المواجهة. ولكن عندما بعد اضطراب، والكثير من تشويه الصورة لم يعد لها وجود فعلي حقيقي في المشهد، وهذه المرة من الصعب تحديد تصنيف هذه الصورة ليست في الحقيقة الكائن. لذلك، في هذه التجربة، وتصنف فقط الاضطرابات الصغيرة، واضطراب من الصور وفقا لفئة السابقة. ومع ذلك، فإن تصنيف الصورة بعد الاضطراب لا يزال يستحق استكشاف مزيد من المناقشة.
ImageNet المستخدمة في التجربة في الصورة، وحيث يتم تقسيم الصورة إلى ثلاث مجموعات من ستة: فئة الحيوانات الأليفة، ودرجة المخاطر، والخضروات. وقد وجدت الدراسات الحديثة التشابه بين عمق الشبكات العصبية الإلتواء والنظام البصري الرئيسيات، وذلك باستخدام تلك الصور لCNN النماذج التدريبية المختلفة لمحاكاة عملية البصرية الإنسان.
FIG شو التجربة: هيئة يجلس في ضوء الغرفة مظلمة من 61cm وارتفاع معدل التحديث فيها شاشة الكمبيوتر. سئل تخضع لأن تسند إلى واحدة من فئتين التي قدمها يظهر زر الصورة في الشاشة. وتظهر الصورة الأولى ثابتة على 500-1000ms الشاشة، ثم 15.24 سم 15.24 سم في وسط الشاشة تظهر الصور 63ms، ثم الصورة عشرة عشوائي ثنائية الأبعاد تغطي الرمز، كل 20ms، هناك بعد 2200 ~ 2500ms الوقت لجعل تصنيف الاختيار.
كل تجربة تتألف من مجموعة واحدة فقط. في كل مجموعة، وصورة لتظهر واحدة من الأشكال الأربعة التالية:
1.image: صور من ImageNet.
2.adv: إضافة صورة اضطراب.
3.flip: صورة أضيفت بالقلق تحولت عموديا.
4.false: شروط إلزامية للموضوع في ارتكاب الأخطاء. استخدام اضطراب أكبر، بحيث تكون الصورة يبدو لا تنتمي إلى أي فئة واحدة يمكن تحديدها. لأن تأثير على الاضطرابات المشاهد ولدت، ببساطة قد تقلل من حدة الصورة. وكان تاريخ هذه الدقة 0 الظروف يمكن التحقق من ما إذا كان اضطراب سيؤثر على خيار خاطئ التي أبداها المراقب.
اضطراب شخصية شو في طريقة معالجة الصور
دقة الرسم البياني شو (أ) تحديد أنواع مختلفة من الهدف احتمال اضطراب (ب) التصنيف الصحيح
يمكن أن نرى من الرسم البياني، مضيفا أدف نوع من اضطراب معدل دقة التصنيف هو أقل بكثير من الصورة. وفي الوقت نفسه دقة فئة ظرف أقل بكثير من الوجه. وهذا يدل على أن الجمع بين اضطرابات محددة صورة يؤثر على تصنيف، تتعلق بخصائص المميزة البشري الكائنات المتصورة.
تبين، تحولت من نموذج الرؤية الحاسوبية ضد عينة، فإنه لا يؤثر على دقة المراقب البشري. يثير الدراسة أيضا أن السؤال الأكثر جوهرية. شبكة CNNs في عملية توليد عينة المواجهة في الدور، سواء كان التشابه البصري إلى الدماغ الآليات الإنسان ذات الصلة؟ ما هي كانت طبيعة العينة المواجهة دورا في الإدراك البشري؟ هذه الخصائص لها أي علاقة مع العالم الحقيقي؟ هذه القضايا هي قيمة جدا، وسوف تدفعنا مزيد من فهم عمق أسرار الدماغ البشري والشبكات العصبية.
