شبكة لى فنغ منظمة العفو الدولية تكنولوجي ريفيو: ما يسمى "التعلم نقل" يشير إلى إعادة استخدام نماذج التعلم الآلي تم تدريبهم للتعامل مع تكنولوجيا المهمة الجديدة. انه يعطي عمق مجال التعلم جلبت العديد من الفوائد، والأكثر وضوحا هو أنه بمجرد دون الحاجة إلى بدء نموذج التدريب، ونحن يمكن أن توفر الكثير من الموارد الحاسوبية والبيانات والخبرات وهلم جرا. أمازون مؤخرا بواسطة قاعدة البيانات مفتوحة المصدر Xfer، يسمح لنا بسهولة التطبيقات الهجرة وخلق التعلم النموذج، تكنولوجي ريفيو لى فنغ شبكة الأمازون AI خوارزمية مهندس أندرياس داميانو في القسم بلوق مكتبة يصف الترجمة على النحو التالي.

Xfer هو التعلم نقل عن MXNet، ومناسبة لأولئك الذين يرغبون في تحقيق الأهداف التالية من الممارسين والباحثين وتصميم:

• وتدرب نشر الشبكة العصبية في الساحة الجديدة / مهمة

• بناء جديدة في حلول الشبكات العصبية النموذج القائم على البنية التحتية للشبكة الحالية.

وبعبارة أخرى، ما دام الجهاز إعطاء مهام التعلم، Xfer للعثور على أفضل حلول الشبكات العصبية، دون الحاجة إلى البدء من جديد من نقطة الصفر كنت تدريب. المكتبة يمكن تطبيقها على أي شبكة البيانات، بما في ذلك الصورة والنص البيانات الأكثر شيوعا.

فوائد استخدام Xfer

• الموارد توفير: دون الحاجة إلى بدء شبكة التدريب، وبالتالي توفير الكثير من القوى العاملة وCPU / GPU الموارد).

• تعزيز قدرة التعامل مع: حتى شركة صغيرة، يمكننا تصنيف البيانات المعقدة.

• تخفيض عتبة: تعلم الآلة دون الحاجة إلى أن تصبح خبيرا، يمكنك بسهولة استخدام وتعديل هندسة الشبكات العصبية القائمة، لإيجاد حلول خاصة بهم.

• يسهل استخراج ملامح من الشبكة العصبية.

• تعزيز سرعة تصميم النموذج: سوف Xfer وحدة ModelHandler تسمح لنا بسهولة تعديل هندسة الشبكات العصبية.

• عدم اليقين النمذجة (النمذجة عدم اليقين): النظرية الافتراضية الشبكات العصبية (BNN) أو عملية التمويه (GP)، تمكنا من السيطرة على حالة عدم اليقين التنبؤ نموذج.

جولة 1: نموذج عنصر الهجرة التعلم

طالما أن مهمة جيدة هدف النموذج المصدر (MXNet) تحديد والمكررات البيانات، يمكنك ببساطة إدخال ثلاثة خطوط من التعليمات البرمجية لتنفيذ التعلم نقل:

إعادة التكييف FIG التالية عرض مرئي باستخدام المنقولة نموذج عنصر طريقة الهجرة لأداء التعلم:

استنادا إلى نموذج عنصر نقل التعلم

في هذا المثال، المعلمات الشبكة العصبية ModelHandler للحصول على ما قبل المدربين على W. مهمة مصدر على أساس الحفاظ على المعالم الأصلية للW، نحن نمر في هذه المهمة مصادر البيانات المدخلة الهدف من الشبكة العصبية المدربين قبل. عملية، ونحن سوف تمثل وصفا للمعلومات مصدر البيانات الهدف والمهمة، لأنها يتم إنشاؤها من قبل المعلمات تستمد W. وأخيرا، فإننا ندعو Repurposer ملامح وحدة المذكورة أعلاه باعتبارها المصنف إدخال نموذج العنصر. في رمز معين، نموذج ميتا "الحدية المتفاعلة" ويشير إلى، نيابة عن لوجستية الانحدار ..

لاحظ أنه إذا كان نموذج ميتا المستخدمة (في كل من بني Xfer) على أساس عملية تمويه أو النظرية الافتراضية الشبكة العصبية، يمكننا تقدير عدم اليقين في التنبؤ المهمة المستهدفة. وهذا يعني أيضا أن الطريقة يمكن أن تكون "تعلمت شيئا في الماضي أنهم لا يفهمون". وهذا أمر مهم، ويمكن الرد على هذه الحالة حيث أن بيانات البطاقات صغير جدا.

تعلم الهجرة صقل مقرها: تجريبي 2

هذا الأسلوب يسمح للمستخدم لصقل هندسة الشبكات العصبية سابقا قبل المدربين، مثل إضافة أو إزالة وحدات طبقة ModelHandler، تليها تقليم محسن القائم على التدرج للشبكة العصبية المهمة المستهدفة. باستخدام ModelHandler، يمكننا محاولة استخدام نهج مخصص لصقل التجارب إعادة التدوير. على سبيل المثال، من الشبكة العصبية المدربين قبل تحديد ستنقل / طبقات المجمدة. حول ModelHandler ترد أدناه رموز ظيفة نقل:

بالنظر إلى رمز متحرك يوضح ما يلي:

وبناء على صقل نقل التعلم

وهذه المهمة هي مشابهة جدا، ModelHandler على مصدر استخدامها للحصول على المعلمات الشبكة العصبية تدريب ما قبل المهمة W، طراز مصدر يمكن قبل تدريب VGGNet. نحن مهمة مصدر يمكن تعديلها من قبل هندسة الشبكات العصبية ModelHandler، في هذا المثال، نقوم بإضافة طبقة جديدة (مع معلمات التهيئة جديدة) في الجزء السفلي من المخطط. المقبل، والتدريب الهندسة المعمارية الجديدة طريقة إعادة بناء على صقل لجعلها تتكيف مع الأهداف والمهام من البيانات. Xfer يسمح لنا تحديد معالم الأصلية (كما هو موضح أعلاه في الأزرق) ومعايير جديدة (كما هو موضح أعلاه في البرتقال) يتحقق من خلال أسلوب يقوم على إعادة التشذيب. منذ المعلمات الأصلي يحتوي بالفعل مهمة مصدر المعلومات، وبالتالي لا ينبغي أن يكون الكثير من وصول وقيمة التعلم، وتم المعلمات جديدة تهيئة بشكل عشوائي، ولذلك ينبغي أن يكون الأمثل لأعلى معدل التعلم.

بدء استخدام اليوم أنه Xfer

جيثب المصدر المفتوح URL:

https://github.com/amzn/xfer

وثيقة معلومات Xfer:

https://xfer.readthedocs.io/en/master/

يتم نقل البيانات صورة البرنامج التعليمي:

https://xfer.readthedocs.io/en/master/demos/xfer-overview.html

تعديل سوبر التلقائي من المعلمات على أساس الهجرة البرنامج التعليمي:

https://xfer.readthedocs.io/en/master/demos/xfer-hpo.html

التعلم نقل للبيانات النص:

https://xfer.readthedocs.io/en/master/demos/xfer-text-transfer.html

خلق العرف repurposer البرنامج التعليمي:

https://xfer.readthedocs.io/en/master/demos/xfer-custom-repurposers.html

xfer.ModelHandler لعملية مريحة والتفتيش نموذج MXNet، وذلك باستخدام البرنامج التعليمي:

https://xfer.readthedocs.io/en/master/demos/xfer-modelhandler.html

عبر https://medium.com/apache-mxnet/xfer-an-open-source-library-for-neural-network-transfer-learning-cd5eac4accf0

شبكة لى فنغ AI تكنولوجي ريفيو