شبكة لى فنغ AI تكنولوجي ريفيو على الصحافة: 11 يونيو، أعلنت الفيسبوك إطلاق PyTorch المحور. هذا هو API بسيطة وسير العمل، وغيرها الكثير من النموذج التقليدي من مركز تجميع تشمل رؤية الكمبيوتر، ومعالجة اللغة الطبيعية، ويوفر اللبنات الأساسية لاستنساخ آلة التعلم البحوث. سواء ResNet، بيرت، GPT، VGG، PGAN، أو MobileNet النماذج الكلاسيكية الأخرى، ببساطة إدخال سطر من التعليمات البرمجية، يمكنك تحقيق مكالمة الرئيسية.

جائزة تورينج يان ليكون ينصح بشدة

حول PyTorch المحور

استنساخ هو الشرط الأساسي في العديد من البحوث المناطق، بما في ذلك البحوث القائمة على تقنيات التعلم الآلي. ومع ذلك، العديد من المنشورات تعلم الآلة أو irreproducible، أو يصعب استنساخها. مع استمرار عدد من المنشورات البحثية في النمو، بما في ذلك عشرات الحالية والتاريخية الآلاف من ورقات عن تقديم الجمعية أرخايف والدراسة التي يعاد استخدامها أكثر أهمية بكثير الآن مما كانت عليه في أي وقت مضى. على الرغم من أن العديد من المنشورات وتعلق مدونة مفيدة ونموذجا المدربين، ولكن لا يزال يوجد عدد من الخطوات تحتاج إلى معالجة من تلقاء نفسها المستخدم.

حتى PyTorch أطلق فريق PyTorch المحور: A API بسيطة وسير العمل، ويوفر اللبنات الأساسية لاستنساخ البحوث تعلم الآلة. ومن خلال مستودع نموذج يتكون من المدربين قبل، والبحث الجديد قد يساعد على تحقيق التكاثر والدراسات التي صممت خصيصا ل. فإنه أيضا بنيت في دعم Colab ومتكاملة أوراق كود مع الموقع، وهناك مجموعة من نموذج ما قبل التدريب، بما في ذلك تصنيف وتقسيم، التوليدية، ومحول وهلم جرا.

نشر نموذج

PyTorch محور يمكن أن يكون المدربين قبل نموذج (التعاريف نموذج والأوزان التدريب المسبق) المعلن لجيثب مستودع بإضافة ملف hubconf.py بسيط لتحقيقه. يوفر هذا النموذج قائمة التعداد ونموذج التشغيل المطلوب معتمدة التبعيات. أمثلة يمكن العثور عليها في torchvision المستخدم، huggingface-بيرت وغان-نموذج حديقة الحيوان مستودع.

أبسط القضية: torchvision في hubconf.py:

في torchvision، ونموذج لديه الخصائص التالية:

• كل الملفات نموذج يمكن تنفيذها بشكل مستقل عن وضعها الطبيعي

• لا حاجة لأية حزمة أخرى من PyTorch (في hubconf.py: تبعيات )

• لا يوجد نموذج مدخل مستقل، لأنه يتم إنشاء نموذج، يمكنك استخدام استخراج بسلاسة

التبعيات حزمة تقليل، والحد من جميع أنواع المشاكل يمكن أن تنشأ عند الاقتضاء على الفور بعد استيراد المستخدم تجارب نموذجية. وهناك حالة أكثر بديهية هي نموذج بيرت HuggingFace، والتي كما يلي ملف hubconf.py:

وسيكون لكل نموذج تحتاج إلى خلق نموذج للدخول، وفيما يلي قطعة رمز، وتحديد bertForMaskedLM النموذج، عاد باعتباره المدربين قبل الأوزان نموذج.

هذه النماذج يمكن استخدامها بوصفها مدخل المجمع نماذج معقدة، وأنها يمكن أن توفر وثائق علق مساعدة أو وظائف أخرى، ذات الأوزان الثقيلة قبل التدرب دعم تحميل وظيفة (على سبيل المثال عن طريق pretrained = صحيح)، أو يكون لها وظائف محددة أخرى، مثل بصرية.

مع hubconf.py، يمكن للباحثين الذهاب إلى الصفحة جيثب PyTorch محور يرسل طلب سحب. اذا كان النموذج يتفق مع ذات جودة عالية، وسهلة لإعادة إنتاج، ومعظم متطلبات مفيدة، الفيسبوك الرسمي سوف نعمل معكم، وإذا، قد يكون هناك رفض جودة منخفضة من طراز نشر. ولكن بمجرد قبول طلب السحب، سيظهر نموذج قريبا على الموقع الرسمي PyTorch محور لجميع المستخدمين لتصفح.

عملية

PyTorch محور يسمح للمستخدمين لتنفيذ الإجراءات التالية على النموذج المنشورة:

1، عرض النماذج المتاحة

يمكن للمستخدمين استخدام API torch.hub.list لتشاهد كل ما هو متاح نموذج الذاكرة مدخل المكتبة.

كما يسمح PyTorch محور استخدام نماذج أخرى المدربين قبل نموذج مساعد بالإضافة إلى ذلك، على سبيل المثال، عندما تضاف bertTokenizer بيرت تجهيزها نموذج، مما يجعل تدفق العمل أكثر سلاسة.

2، نموذج الحمل

قدمت نموذج المعروف فيه، يمكن للمستخدم استخدام نموذج torch.hub.loadAPI تحميل مدخل. هذا يتطلب سوى أمر، دون الحاجة إلى تثبيت عجلة أخرى. وبالإضافة إلى ذلك، يمكن torch.hub.helpAPI تقديم معلومات مفيدة عن كيفية استخدام ما قبل التدريب عرض النموذج.

الناشرين اتبع عموما سوف يستمر النموذج لإضافة إصلاحات الشوائب وتحسينات في الأداء، يمكن للمستخدمين بسهولة جدا الحصول على التحديثات عن طريق الدعوة، وتأكد من استخدام الإصدار الأحدث:

هذا سيساعد في خفض العبء على الناشرين مكررة حزمة الافراج عن النموذج، بحيث تركز أكثر على البحث. وفي الوقت نفسه فإنه يضمن أيضا أنه للمستخدمين الحصول على أحدث النماذج المتاحة.

من ناحية أخرى إذا كان الأمر يتعلق المستخدم المزيد عن الاستقرار، ونموذج الناشر توفر بعض فروع محددة أو علامة (بدلا من الفرع الرئيسي)، لضمان الاستقرار في التعليمات البرمجية. على سبيل المثال pytorch_GAN_zoo فروع المركز:

3، لفهم أساليب النماذج المتاحة

بعد تحميل النموذج، يمكنك استخدام DIR (نموذج) لتحديد الطرق المتاحة التي يدعمها هذا النموذج إلى نموذج bertForMaskedLM كمثال:

مساعدة (model.forward) يمكن أن توفر معايير التشغيل المطلوبة لهذا الأسلوب لمساعدة المستخدمين على أكثر فهم متعمق.

آخر

قدمت نموذج PyTorch المحور أيضا دعما Colab، وروابط مباشرة ورقات كود مع، يمكن للمستخدم إدخال مفتاح Colab تشغيل نموذج تجريبي.

الرابط الأصلي:

https://pytorch.org/blog/towards-reproducible-research-with-pytorch-hub/

لى فنغ لى فنغ صافي صافي AI تكنولوجي ريفيو