لى فنغ شبكة AI Yanxishe صحفي: "الصندوق الأسود" الملكية الشبكات العصبية منذ فترة طويلة، لم تتمكن مما أدى إلى الناس على فهم كيف يمكن للشبكة الداخلية يعمل، لهذه المشكلة المتعثرة منذ فترة طويلة، وهناك ثلاثة البحوث الأكاديمية الرئيسية: بيانات الإسناد واسطة، وتتميز في وضع وطريقة فهم نموذج فك.

على قاعة AI Yanxishe الأخيرة، جامعة تسينغهوا، وانغ يولونغ تبدأ من وجهة نظر لفهم هذا النموذج، كما وصفنا بالتفصيل كيفية العثور على مسار البيانات الهامة (البيانات الهامة توجيه مسارات، CDRPs) الشبكة، وفهم أفضل للشبكة .

الفئة المفتوحة عنوان القراءة:

حصة الموضوع: البيانات الرئيسية باستخدام مسار الشبكة العصبية تقدير

حصة الخطوط العريضة:

• وصف طريقة --distillation موجهة التوجيه (DGR) خوارزمية

• يحتوي توجيه مسار معين معنى الدلالي، تساعدنا على فهم أفضل سلوك الشبكة - تحليل النتائج

• تطبيقات - الأمن ضد عينات اختبار

شبكة لى فنغ AI Yanxishe سوف تشارك تتلخص محتوياته كما يلي:

هذا الرقم ربما لخص معنى هذا للتفسير الشبكة الحالية، ونحن كثيرا ما يطلق هذه الشبكة، عمق الشبكة العصبية نموذجا الصندوق الأسود، وهو نموذج الصندوق الأسود، تماما مثل الصورة الموضحة.

نريد أن نعرف عندما الشبكة يعمل داخل في النهاية ما يجب القيام به بعد الانتهاء من تعلم كيفية التعلم أي نوع من المعرفة، والحصول على ما ألهمنا البشر، وبالتالي فإن وضوح شبكة، في الوقت الحاضر هناك ثلاثة مثل رائد الاهتمامات البحثية:

• الخضراء السهم يشير إلى اليسار، وأود أن أقول القرارات شبكة المقدمة، أو التنبؤات، يعزى مباشرة إلى مستوى البيانات، ما البيانات لتحليل العينات، أو البيانات بين أي منطقة واحدة، ويتميز أكثر أهمية، I يتم استخدامه مباشرة كتفسير لسلوك الشبكة.

• الزرقاء السهم يشير إلى اليمين هو الاتجاه الثاني هو شبكة المستفادة هذا السلوك أو الصفات البشرية والمفاهيم القائمة مثل خريطة المعرفة في الاتصال بالشبكة عند اتخاذ القرارات، يمكننا أن البشر فهم ما يقوم به.

• هنا هو نوع آخر من الاتجاه، وجهت نمط المجهرية التي نريد أن نذهب مباشرة إلى شبكة الاتصال الداخلية لاستكشاف ما يجب القيام به، وهذا سيكون من الصعب نسبيا، لأنه هو وسيلة أكثر مباشرة من فهم الشبكة - أنا عملهم تنتمي إلى هذا الاتجاه.

وسوف توضح ما هذه الاتجاهات الثلاثة.

الطريقة الأولى ويعزى إلى نهج مستوى البيانات، ندعو طرق الإسناد ، بالنسبة للصينيين "أسلوب الاختطاف" انها عملية الخام هو، إلى صورة، أو إلى شبكة بيانات لمساعدتنا في اتخاذ هذا القرار، وحتى الآن أريد أن أعرف، ما هي البيانات على الجانب الذي يؤدي في النهاية الى نتائج المتوقعة، وبعد ذلك عن طريق وسائل الإسناد إلى بيانات التتبع والإسناد إلى مستوى أعلى. مثل الحق أعلى من يظهر الرسم البياني الأولى، والمعرض هو نتيجة لعدة طرق إسناد مختلفة، وذلك أساسا من خلال دعا خرائط البروز (المعروف في الصين باسم "خارطة كبيرة") لإظهار الطريق، والصورة أعلاه يمكنك أن ترى مثل نفس النوع من خريطة الحرارة، وأكثر قتامة في اللون، وزيادة مساهمة نيابة عن هذا الجزء من المنطقة الصنع، يلعب أكبر الأثر الحاسم على نتائج التوقعات النهائية.

طريقة من النوع الثاني ويعزى إلى الذهاب المعرفة، وهذا ما يسمى فك ميزة طريقة (الصينية "فك المميزة" )، حيث الشبكة المتوسطة إلى طبقة المتوسطة فك الشفرة، ومن ثم تحويلها إلى مفهوم تصل مفهومة. وبعبارة أخرى، وأنا أيضا توقع النتائج، في حين أن إنتاج جزء من النص لشرح أسباب هذه النتيجة التنبؤ المنتجة. على سبيل المثال، يمين الخريطة الثانية، توقع كل الطيور، ولكن أيضا يعطي بعض الخصائص المحلية من هذه الطيور، مثل الطيور وهذا هو السبب الذي يجعل بعض الطيور، لأنه في الرقبة أو ما ميزة يتضمن الرأس أو الفم، وهو قريب من الإنسان في مثل هذه الطريقة من تفسير. ومع ذلك، هذا التفسير يتجنب تفسير النموذج نفسه، الذي يتم انتاجه لتفسير هذا النص هو استخدام شبكة أخرى لتأتي وتذهب التدريب، ثم كيف يمكن للمنتجات شبكة وأوضح أن نفهم ذلك؟

الطريقة الثالثة انتقل مباشرة إلى فهم النموذج نفسه السلوك. هذا أسلوب فئة حاليا لا يوجد نموذج واحد، ونحن لا نعتمد أوضح بشكل رئيسي من قبل عدد من زوايا مختلفة. على سبيل المثال، لقد كان شبكة عميقة، أو نموذج معقد جدا، فأنا مثل المعرفة عن طريق التقطير أو تقليد هذا السلوك، لتدريب نموذجا أسهل للفهم من قبل هذا النموذج أسهل للفهم، ل وجه المحلي للذهاب لتقليد سلوك النموذج الأصلي، يستند إلى تفسير المحلية. أو من بداية جدا من تصميم هذه الشبكة هو أن تكون مصممة وفقا لنموذج التأويل، مثل كل خطوة المقابلة لتصميم طريقة السلوك المعنى الدلالي.

مسار البيانات الرئيسية

عملنا بشكل رئيسي من خلال شبكة وجدت مسار البيانات الهامة (مسارات توجيه البيانات الهامة، CDRPs) أفضل لفهم الشبكة. مماثلة لدينا ضغط الشبكة السابقة وجدت في بعض الأعمال من، في الواقع، هناك الكثير من التكرار في الشبكة، وليس كل الخلايا العصبية أو العقد هي لاستخدامها، حتى لو حذف هذه الخلايا العصبية، فإنه لن يؤثر على النتائج المتوقعة النهائية. ولذلك، فإننا نعتقد أن كل عينة جاءت في، شبكة مجرد استخدام جزء من العقدة أو مسار لاستكمال التنبؤ النهائي.

نأمل أن اكتشاف خصائص العمل أو قوانين من هذه المسارات. في تعريف مسار البيانات الهامة قبل، يجب علينا أولا تحديد عقدة أمر بالغ الأهمية، لأن ويتكون مسار البيانات الهامة فعلا هذه العقد الحرجة على مسارات تتكون من . مثل حق يبين هذا الرسم البياني، فإن مجموع الإلتواء من ثلاث طبقات، يتم تمثيل كل طبقة من أحمر من عقدة يمكن حذف غير مهم، بينما يمثل اللون الأخضر العقد الرئيسية. من خلال ربط العقد الرئيسية لكل طبقة، فإننا سوف يشكلون ما يسمى مسار البيانات الهامة.

ما يسمى العقد الرئيسية، يمكننا أن نفهم القناة الرئيسية لإخراج مثل طبقة الإلتواء، وانتاجها هو الزيادات ثلاثية الأبعاد في طول وعرض المعلومات ذات بعدين نحن نعتبر أن يتم الاحتفاظ على الفضاء، وصيانة القناة هو البعد الثالث الاحتفاظ المعلومات، ونحن نعتقد أنه من إدراج هذا المعنى الدلالي، أو التي تمثل مفهوم هذه العقدة. إذا كان القناة كل مجموعة إلى الصفر، وكان التنبؤ النتيجة النهائية لها تأثير كبير، ثم وهذا هو عقدة عقدة رئيسية.

من الأسلوب، نحن لأول مرة بوابات التحكم (بالنسبة للصينيين بوابة ) مفهوم، والفكرة هي نموذج آخر من الضغط، وبعض من نموذج فروع قطع مستوحاة طريقة، بوابات التحكم قناة الحكمة أو القول بأن كل البعد من كل قناة على الأبعاد قناة ترتبط ل امدا (هذا امدا هو القيمة العددية، ونحن نعتقد أن هذا هو بوابات التحكم امدا)، وبمجرد أن امدا هو 0، يتم عرض مشكلة التحسين النهائية أيضا ك 0، ثم التخلف هو عقدة غير مهم، ويمكن إزالتها . إذا كان مع قيمة 0، والقيمة بعد أن لا تقتصر لأن قيمة حجم تمثل أهمية في هذا التوقع الوقت.

كيف ينبغي لنا حل الأمثل لامدا موضوعي ما هو عليه؟ في الواقع، ونحن نتعلم من هذا المفهوم ما يسمى "تقطير المعرفة" من (قدم هينتون في سنة 2015)، وهذا يعني، عند اتخاذ شبكة التنبؤ، وتوزيع احتمال انتاجها يشمل ليس فقط التنبؤ بنتائج، بل يشمل أيضا المعرفة الخفية - - تعتبر الشبكة لتشمل مفهوم كم من الفئات الأخرى. هدفنا هو حذف في وقت لاحق هذه العقد الهامة، شبكة قيمة احتمال بيانات في أقرب وقت ممكن لقيمة احتمال بيانات الشبكة الأصلية.

في الوقت نفسه، ونحن نريد أن إضافة بعض العناصر إلى بوابة العادية السيطرة القيد: من ناحية القيود هو أكبر من 0، غير سلبية ، ومن ناحية أخرى سيكون لها القيود متضمنه "متناثر" ويتميز. الهدف الأمثل على اليمين يمثل الجزء الأول من وظيفة فقدان L تمايل، وهو مقياس لتوزيع احتمال الإخراج من الشبكتين.

الفصل الدراسي الأول F_ \ ثيتا (خ)، وشبكة التوزيع الأصلية في العينة التي تم الحصول عليها بعد احتمال الناتج هو لعينة واحدة ل(النظر في واحدة فقط عينة لكل منهما). الفصل الدراسي الثاني مع إضافة تعبير لامدا هو القرب من بوابة السيطرة مقدمة، "حفظ العصي" شبكة توزيع الناتج احتمال وشبكة الأصلي توزيعات الناتج احتمال --L ممثل. L هو في الواقع الكون عبر، وهو مقياس للمسافة بين اثنين من التوزيعات الاحتمالية.

ثم يقول شيئا امدا الحد القيود .

الأول هو ليطلب منها "غير سلبي" . امدا قد يكون 0، وتماما مستعمل ممثلة من حذف (على افتراض أن قيمة أكبر من 0 وأقل من 1، نسبة الأصلي ردا على أصغر نسبيا، وإذا أكبر من 0 وأكبر من 1، مشيرا إلى أن يكون أكثر من الاستجابة الأصلية عالية قليلا، وتأثير التضخيم قليلا)، ولكننا لا يمكن أن يصبح سلبيا، كما تعادل سلبي لتنشيط القناة الشاملة للجميع علامة يتم تبادلها الموافق جميع القيم اتخذت عددا العكس، نحن أعتقد أن قيمة الانتاج شبكة التوزيع الأصلي سيكون له تأثير أكبر، وهناك تدخل كبير مع الفصل الأخير. لذلك نحن نقوم تفسيرها شبكة الشرط الأول، في للتأكد من أن ما لا يزيد عن التغييرات المحتملة في الوضع الحالي على المضي قدما لشرح الشبكة مرة واحدة أكثر من اللازم هو عرض تدخل إضافي، فمن الصعب ضمان أن أقول لكم أن تأسست تفسير الشبكة الأصلية.

والشرط الثاني هو أن لديها بعض تبعثر هذا وبالفعل بعض "التعلم متفرق" جزءا من الاقتراح هو ثابت، يمكن أن تفهم على أنها نموذج أكثر متفرق سيكون لها خصائص مختلفة مثل فك الارتباط واستغرق السمات الرئيسية مع المزيد من وضوح.

يمثل مسار

ذكرنا أعلاه هو طريقة عامة لتقطير موجهة التوجيه (DGR) هو. المقبل، وأنا أقول لكم، وكيفية العثور أخيرا تمثيل المسار.

بعد كل الأمثل لاحق، ولكل منهما قيمة بوابة ريموت، ممثلة امدا جريء (كبير K يمثل طبقة الشبكة لديها مثل هذه K مفهوم)، طالما كل من القيمة بوابة تحكم تجميعها في ناقلات طويلة النهائي ولدينا تمثيل مسار نسبي. لأننا يمكن استخدامها مباشرة على ناقلات طويلة وهناك طريقة tresholding هذه العتبة للحصول على النهائي العقد حرجة . على سبيل المثال، أعتقد أن العقد الحرجة الحقيقية اكبر من 0.5 وأقل من 0.5 لا، فإننا يمكن أن تأخذ القيم المحددة للحصول على قناع ثنائي النهائي، ثم أنها تمثل ما يمكن إزالتها، والتي يمكن أن تكون محفوظة .

وجدنا أن في تجارب لاحقة، والتمثيل الذي يحتوي على ثروة من المعلومات - إن لم يكن لقيمة العدالة، إلا الأمثل الأصلي للخروج من قيمة الفاصلة العائمة الاحتفاظ، ثم الشبكة مما يجعل التنبؤ، سنجد أغنى عملية وظيفة (ويمكن أن ينظر إليه باعتباره التنشيط جديدة، طبقة بعد طبقة، يتم الوصول إلى استجابة الشبكة على أعلى مستوى، يمكن أن ينظر إلى أعلى مستوى من ميزة كرد نحن صاعدون في البعد قناة ما يعادل الجانب وقد أدخلت تمثيل ميزة جديدة).

بعد ذلك، شرح لي بالتفصيل عن مشكلة الأمثل في هذه الصفحة (PPT الصفحة 4)، وكيف ينبغي لنا أن حلها.

طريقة حل بسيط جدا، وهذا هو طريق التدرج أصل خوارزمية كل الأمثل الهدف وقت وفقا لسيطرة اشتقاق القيمة بوابة (يتم إصلاحها القيم الوزن شبكة الأصلية الحق). ولذا فإننا شرح بعض النماذج الحالية (مثل VGG، Alexnet، ResNet)، وحلها عن طريق قيمة مقدمة والسيطرة البوابة، عندما نذهب إلى القادم أو شرح الأمثل سوف تكون بسيطة جدا، لأنه يتطلب المعلمات تحديث قليلة جدا على سبيل المثال، نحن ببساطة وضع 30 التكرار في التجربة، يمكنك الحصول على تفسير جيدة من النتائج.

في عملية التحسين، وإدخال هذه التنبؤ شبكة مراقبة قيمة البوابة، على سبيل المثال، أعلى 1 التنبؤ، أي أن أكبر فئة ردا على ذلك، ويتوقع شبكة الأصلي متسقة. على سبيل المثال، توقعت شبكة الأصلي الصورة لرؤيتها هو كلب، ثم الشبكة الجديدة ولكن أيضا لحماية توقعاته الكلاب. أما بالنسبة لفئات أخرى من استجابة، ونحن ليست مطلوبة، لأنه هو التقطير، فإنه بالتأكيد هناك مختلفة إلى حد ما. وبشكل عام، عندما كنت في شبكة أوضح، لا ينبغي تغيير السلوك الأصلي للشبكة.

ثم يقول شيئا ضد العينات التي تم فحصها، والسبب في هذه الطريقة نستخدم هذه المهمة حتى، لأننا نجد أن وجدنا هذه الميزة لعينات اختبار ضد عونا كبيرا.

أولا، ما هو ضد العينة؟ بسيطة جدا، انظر أدناه هذا الرقم، أول الباندا العملاقة، بل هو مدخل إلى شبكة القياسية التي يتم عرضها كإشارة التنبؤ 55.7، ولكن هذا أضفت نمط الضوضاء في الوسط، لتعطي النهائي تشانغ صور جديدة، ثم هذه الصورة مدخلات جديدة إلى الشبكة، وتوقع نتائج هو "جيبون"، أيضا لديه درجة عالية من الإيمان، لتصل إلى 99.3. من منظور إنساني، والصور التي تم إنشاؤها حديثا مع الصورة الأصلية ليست الكثير من الفرق، وهي ظاهرة طالبنا عينة المواجهة، وهذا يعني صورة جديدة للشبكة هو "المواجهة" أو "هجوم "و.

وأثار عينة ضد ظاهرة قلقها إزاء وضوح للشبكة، لأن "الصندوق الاسود" طبيعة الشبكة بحيث أننا لا نعرف ماذا سيكون التنبؤ بشكل صحيح أو خطأ التوقعات، وهذا الخطأ هو أيضا من سمات خاصة لا يتوافق مع الحدس البشري، البشر لا يمكن أن نفهم لماذا أقول هذا الضجيج يمكن أن يسبب الكثير من التغيير. وحتى الآن هناك الكثير من العمل الذي يتعين القيام به في العينة وعينة من هجوم ضد المواجهة الدفاع. مجموعتنا قبل هذا المجال هو أن تفعل الكثير من العمل، هناك هجوم المواجهة ولعبة دفاعية في خطط التنفيذ الوطنية في العام الماضي 2017، ونحن تم تعيينها في الهجمات والمواجهات فعلت لأول مرة.

سوف نستخدم مسار البيانات الرئيسي القادم لمواجهة العينات التي تم فحصها. تفكيرنا هو أنه، في هذه العينات من الشعور الإنساني يبدو الفرق ليس كثيرا على المدخلات، وهو ما يعني قبل الطبقات تتحرك في الشبكة المسار الحرج الناحية المنطقية اختلاف بسيط . مجرد عينة من الضوضاء ضد قمة الذهاب إلى حد التدخل لا أعرف لماذا تم تضخيم ذلك، فإنه يبدأ في الخروج من ذهب الطريق المؤدي إلى نهائي حتى فئة أخرى، ونتائج التنبؤ مختلفة تماما.

حتى نتمكن من يتدرب بعض مصنف ، تهدف إلى الكشف عن مسار البيانات الهامة مع عينات حقيقية ضد العينات. إذا كنت تحقق من الخلافات، هناك احتمال المؤكد أن يكتشف ما إذا كان صحيحا أو عينة ضد العينة.

ثم نتحدث عن جزء من التجربة.

علينا أولا فعلت تجارب لاختبار صحة الأسلوب الكمي، وهذا ما يسمى التجربة بعد خاص التفسير (الصينية و"، وأوضح بعد ذلك")، ومن المتوقع للنتائج النهائية للشبكة أن نفعل ذلك مرة أخرى لشرح (شرح صورة فقط). في التجربة، وذلك باستخدام مجموعة بيانات من الصور التحقق من صحة ImagNet خمسين ألف، يتم تدريب الشبكة مع AlexNet، VGG-16، ResNet-50 وما شابه ذلك.

وتجدر الإشارة إلى أن التجربة فقط التركيز التفاف طبقة لأن مماثل VGG-16، ResNet طبقات مرتبطة ارتباطا كاملا، ونحن نفكر هو المصنف النهائي، فإنه لا يعتبر مسار البيانات الهامة على هذا الصعيد. وعلاوة على ذلك، طبقة الشبكة ResNet أعمق، ونحن لا يمكن أن يؤخذ كل طبقة الإلتواء في الاعتبار، زائدة جدا وغير ضرورية. وذلك لResNet، نهجنا هو التركيز فقط على ResBlocks الانتاج، في حين أن كمية صغيرة نسبيا من كتلة، سنقوم استخدامها لمراقبة العقد الحرجة وفقا لإخراج هذه الكتلة.

لتقديم هذه التجربة، عندما نجد عقدة مفتاح، ونحن سوف منظم قمعها من قبل جزء من العقد الرئيسية ومن ثم مراقبة وشبكتها تؤثر في نهاية المطاف كم.

هناك طريقتان في العملية، هو واحد لحذف عنصر التحكم بوابة أعظم قيمة، ندعو أعلى الوضع أو، على العكس، نحن حذف قيمة البوابة تحكم أدنى، هاتين الطريقتين لحذف آخر منحنى الناجم عن انخفاض في أداء الشبكة، كما هو موضح على الخريطتين التالية. (ملاحظة: سيطرة أكبر قيمة البوابة ثم أن تأثيره / أهمية أكبر)

هذا يمكن أن ننظر العلوي رسم بياني يظهر الإحداثي السيني نسبة من العقد الحرجة وقمعها، يمكننا أن نرى أن 1 فقط من العقد الحرجة يتم منعها (مجموعة القناة إلى 0)، والنموذج الأصلي للأعلى وكذلك أعلى-1 لجنة التنسيق الإدارية -5 لجنة التنسيق الإدارية ستواجه انخفاضا حادا جدا، يتم إسقاط رأس-1 لجنة التنسيق الإدارية ثلاثين في المئة، وانخفض أعلى 5 لجنة التنسيق الإدارية أكثر من 20 في المئة.

وبعبارة أخرى، طالما 1 من العقد الأساسية، وليس كل العقد (مفتاح عقدة الواقع، فقط حوالي 10 من عقد الشبكة) يتم حذف، سوف أداء الشبكة يواجه الهبوط الحاد . في الطريق، وأظهرت النتائج فعالية لدينا تتطلع الى العقد حرجة.

معنى الدلالي من العقد

في الواقع، نحن نتائج أكثر أهمية من العمل في هذا الجزء، وهذا ما نحن نبحث عن تلك العقدة ريال مدريد أنه يحتوي على معنى دلالي معين هذا قد تم فيما يتعلق بالشبكة حول الحقل التفسيري. أولا، سوف نركز على معنى الدلالي من العقد التوجيه في طبقة، مثل وتأتي عينة في، يمر عبر كل طبقة، سنلقي نظرة على ما كل عقدة، ثم ننظر إلى ما لها معنى الدلالي.

أظهرنا فوق الشكل 5، على كل رسم بياني خمسين ألف نقطة، أي ما يعادل خمسين ألف الصور. لكننا نعلم جميعا، وشبكة من أبعاد قناة هي ناقلات مثل 512، 256، كيف يمكننا وضعه أكثر سهولة لإظهار التشابه بين خمسين ألف ناقلات ذلك؟ نحن اعتمدت أخيرا طريقة تي SNE ، على غرار لقوله يتوقع بعض النواقل على متن طائرة تصل ثنائي الأبعاد. توقعت النتائج كما يظهر في الشكل الخمسة التالية، يمثل اللون فئة، نفس الفئة من الصور المقابلة لهذه النقطة، واللون هو نفسه. سنرى أنه مع عدد من طبقات أعمق، يصبح نقطة أكثر متفرق معهم، ولكن في الواقع لم يتم تغيير عدد من النقاط، إلا أنها لا تزال خمسين ألف وخمسين ألف نقطة.

لماذا كنا تقديم مثل هذه الظاهرة متفرقة أو معزولة؟ لأن نقطة في نفس الفئة هي التي جمعت في مكان واحد، فإن المسافة تصبح أقرب، بحيث يبدو والكثير من القسم فارغ. هذا أيضا يدل على أن في أعلى الأماكن، مع فئات اجتاز عقدة أو مسار سوف تصبح مماثلة على نحو متزايد، هو مجرد القط القط مسارات المشي، أذناب الكلب عقدة.

هذا الرقم يظهر خريطة ثنائية الأبعاد شاملة كل مفتاح طبقة الليمفاوية VGG-16 في 13 طبقات الإلتواء، وسوف نرى، في الجزء السفلي في جميع الفئات معا مختلط، لا سيما التمييز الواضح، ولكن كما يزيد عدد الطبقات، فإن اللون تبدأ في جمع بانتظام إلى نفس المنطقة، مشيرا إلى أن هذه الفئات بدأت تذهب مساراتها منفصلة. وكلما كبار إلى المزيد من متفرق .

في قضيته دلالات كل عقدة، نود معرفة المزيد عن هذه العقد حرجة متصلة بواسطة تكوين مسار البيانات، ويشمل بالضبط ما هي الميزات الدلالي. وهكذا فعلنا تجربة، لعينة في الفئة (العينة تنتمي إلى نفس الفئة)، ونحن سوف جميع CDRPs ميزة أنها تمثل اتخاذها لقيام المجموعات الهرمية جمع لمعرفة CDRPs على تميز ما هو التشابه.

الرسم البياني أعلاه شجرة، والتي تبين درجة التشابه بين كل عينة، إلى أسفل، وأقرب العينتين، وأكثر من ذلك إلى أعلى، وأبطأ للعمل معا. يمثل تنسيق المسافة بين اثنين من العينات، التي تمثل ألوان مماثلة لأنها فئة فرعية من البولي ايثيلين. سنجد مجموعات وضع هذه الصور، إذا كانت الصورة هي ميزات مشابهة جدا، CDRPs تجمع لهم هي مشابهة جدا.

وهناك أيضا النتيجة مثيرة جدا للاهتمام، مثل الجانب الأيسر من هذه 50 الرسم البياني، يجب أن يكون نوعا من الأسماك، صور الأسماك لديها عدد من هذا القبيل التوزيع: الأسماك في موقف وسط، وذلك باستخدام طريقة وضع أفقي، بالإضافة إلى صورة الطبقة، وهو يمسك يد الأسماك الصيادون القرفصاء على الأرض لالتقاط الصور. وجدنا أن تصنف هذين النوعين من الصور في هذه الفئة من الأسماك، ولكن هناك ميزات في الواقع صورة مختلفة تماما.

الآن يبدو أن خصائص الشبكة ويتم اختبار من هذا الاختلاف، لأنها من المتوقع في نهاية المطاف أن يصطاد هذه الفئة. أن توصيف ومع ذلك، CDRPs لدينا مفصل العثور على الاختلافات، والتي ترد في كلا نسير في المسار الحرج هو في الواقع ليست واحدة .

مثل هذه الصورة تركت الرسم محاصر الحمراء لأربعة أطفال، في الواقع، من التحليل الذي أجرته CDRPs مماثلة الصورة تلينر. اذا نظرتم بعناية، وسوف تجد صورة التي يوجد فيها رجل يمسك سمكة، ولكن الاتجاه استدارة 90 درجة، حدسي، وهذا هو الضوضاء مثل وجود نفسه، ولكن كان لدينا CDRPs قادرة على تصنيفها فئة الأسماك، ولكن نحن نتخذ المسار الحرج وعينات أخرى مع ميزات مختلفة، لذلك تعطيه إلى الكتلة للخروج الى الاكتشاف.

مثل الحق هو الأشهب، وتركز على مجموعات المتوسطة الثانية على رأس النسر، والفئة الثالثة يركز على النسر شجرة دائمة، وهذا ما ترك وحده تلينر، هي بعض جدا صور واضحة.

المبين هنا هو بعض نتائج أكثر.

تم اختبار عينات التطبيق ضد

وأخيرا، دعونا نحاول القيام به ضد شيكا عينة، كما قلت من قبل، وعينات طبيعية وعينات من المواجهة، لا يختلف كثيرا عن المدخلات، والنتيجة ولكن من توقعات الماضي، بل هو فرق كبير . في رأينا، وهما الصور في شبكة تسير في المسار الحرج يكون تدريجيا خلافاتهم، مما أدى إلى الانفصال النهائي.

ونحن نتطلع في الجزء العلوي الأيسر من هذا الرسم البياني، وهو أول عينة العادية، بالإضافة إلى الضوضاء بعد التوقعات التي كتبها القط تحولت إلى عجلة القيادة. كيف يمكننا يعكس الفرق بين هذين المسار الحرج اثنين من ذلك؟ لدينا عدد الارتباط الرئيسي هو العقدة الرئيسية في العينتين على طبقات مختلفة تتحرك، علينا أولا العثور على المفتاح لكل مستوى من كل عقدة، ومن ثم هناك ناقل، ثم ووفقا لهذا متجه لحساب معامل الارتباط لتمثيل التشابه بين مسارين.

الصورة أعلاه في الخط البرتقالي يمثل درجة التشابه يمكن العثور على عينة للعينات طبيعية التشابه هو أنه يزيد من عدد من الطبقات، في حين أن الاتجاه العام آخذ في الانخفاض تدريجيا. بعبارات بسيطة، التشابه رفيع المستوى هو أصغر بكثير من الجزء السفلي .

نحن ننسى عينة المواجهة التالية للفئة المستهدفة، وتشابه هذه المسار الحرج التي تتخذها هذه العينات، ثم حساب مسار العجلة في هذه الفئة عينة من التشابه. حصلنا على عجلات في هذه الفئة 50 صورة، كل من هذه المسارات يتم احتساب 50 عينة مرة أخرى يسمى معامل الارتباط فوق صورة violinplot ، وتبين ان معاملات توزيع تبين أن 50 حالة.

ونظرا لاختلاف بين كل عينة، كل عرض النتائج وبعض ارتفاع، بعض منخفضة. وأخيرا وجدت مع طبقات تعميق، سوف مماثلة فئة معامل الهدف تكون مرتفعة على نحو متزايد. على سبيل المثال، في أعلى الأماكن، وهو أدنى مستوى violinplot نقطة ليكون أعلى من النقاط البرتقالي والاحمر الأصلية. وهذا يعني، على الجزء العلوي من العينة في الطريق والمشي في مسار الطبقة المستهدفة هي أخذ هي مشابهة جدا، ولكن أيضا وضعت في وقت لاحق بعض الصور في مثل هذه الحالة، فإن الوضع محددة يمكنك الرجوع إلى ورقة مفصلة.

ثم نحن نفعل ذلك ضد العينات التي تم فحصها، وطريقة الكشف عن طريق اتخاذ بعض من العينة العادية، على سبيل المثال، واحدة من أصل واحد ألف نوع من فئات من ImageNet، كل واحد من هذه الفئات من صورة (بعض التجارب أخذت خمس صور، بعض أخرجت 10 الصور، وما إلى ذلك)، ثم كل صورة لقد أنتجت عينة المواجهة (FGSM الخوارزمية المستخدمة)، ثم كمجموعة التدريب، ومن ثم استخدام خوارزمية لدينا لحساب توصيف CDRPs لها، ثم أخذ المصنف من الدرجة اثنين ل كشف وتحديد مسار عينة طبيعية أو ضد العينة.

بعد نهاية التدريب، سوف نستخدم هذا المصنف للقيام ضد العينات التي تم فحصها، وبعبارة أخرى، نحن يحتوي بناء مجموعة البيانات الخاصة بها على عينة من عينات طبيعية والمواجهة ثم استخدم المصنف الناتجة تدريب للتنبؤ واحد الذي هو عينة العادية، الذي هو ضد العينة.

يبين الجدول التالي نتائج مختبراتنا مختلفة، إذا كانت هذه القيمة أعلى، وأقرب إلى 1، أكثر الكمال فإنه يدل على هذا التصنيف. مع زيادة عينات التدريب، ونتائج تصنيف يتحسن على حدة، يمكن أن اثنين من المصنفات مختلفة تصل إلى المعيار هو يشبه إلى حد كبير (استخدام ممكن كوسيلة من وسائل تعزيز التدرج أو الغابات العشوائية سيكون أفضل).

استنتاج

وأخيرا، أود تلخيص محتويات مشاركة اليوم، أولا نضع زاوية جديدة لتفسيرها الشبكة، وهذا هو، من خلال البحث عن طريق البيانات الهامة، سوف نجد أن هناك بعض معنى الدلالي الواردة في داخل مسار البيانات. كما تضم الطبقة الداخلية عقدة، وسوف يكون لها بعض القدرة على التمييز بين، و مع زيادة عدد الطبقات، والقدرة على التمييز بين ستعمق تدريجيا .

في الوقت نفسه، المسار الحرج ولكن أيضا يدل على فئات مختلفة داخل العينة ميزة الإدخال مساعدة لمساعدتنا في العثور الأسئلة عينة بين بعض مجموعات البيانات.

وأخيرا، نذكر خوارزمية جديدة الكشف عن عينة المواجهة للكشف عن الميزات باستخدام CDRPs النظر عما إذا كان صحيحا أو عينة ضد العينة. تعكس CDRPs ضد عينات من أعلى وعينات طبيعية أقرب بكثير إلى الطابق الأرضي وعينات طبيعية من مثل هذا النمط المميز، يمكننا استخدام هذه الميزة للكشف عن أنماط، من أجل تحقيق تأثير وقائي جيد.

هذه هي الضيوف الحالي جميعا. أكثر انفتاحا الذهاب فئة فيديو لشبكة لى فنغ AI Yanxishe المجتمع (https://club.leiphone.com/) لمشاهدة. التركيز على عدد جمهور قناة الصغرى: AI Yanxishe (okweiwu)، يمكنك الحصول على أحدث إشعار وقت الفئة المفتوحة الحية.