تقنية مراجعة AI حسب: معظم المهام تعلم الآلة - من معالجة اللغة الطبيعية، وتصنيف الصور وترجمتها إلى عدد كبير من المهام الأخرى، والاعتماد على التحسين غير التدرج لضبط المعلمات في النموذج و / أو المعلمات جدا. لجعل المعلمة / تعديل المعلمة سوبر أسرع وأسهل، التي أنشئت الفيسبوك لNevergrad المسماة (https://github.com/facebookresearch/nevergrad) من بيثون 3 مكتبة، وصدوره المصدر المفتوح. يوفر العديد من Nevergrad خوارزمية الأمثل لا تعتمد على التدرج المحسوب ويعرض في الإطار القياسي Q بيثون. وبالإضافة إلى ذلك، يتضمن Nevergrad أيضا اختبار وتقييم الأدوات.

Nevergrad نحن الآن فتح، يمكن للباحثين الذكاء الاصطناعي وغيرها من العمال غير التدرج المتعلقة الأمثل استخدامها على الفور للمساعدة في عملهم. هذا البرنامج ليس فقط تتيح لهم تحقيق معظم الخوارزميات والأساليب المتقدمة، لمقارنة أدائها في بيئات مختلفة، سيقوم الجهاز أيضا مساعدة العلماء على تعلم أمثلة استخدام محدد للعثور على أفضل محسن. معهد أبحاث الذكاء الاصطناعي في الفيسبوك (FAIR)، يتم تطبيق الباحثون إلى التعلم Nevergrad تعزيز وتوليد الصور، وجميع أنواع المشاريع في مناطق أخرى، على سبيل المثال، يمكن استبدال المعلمات المسح الضوئي لمساعدة نماذج تعلم أفضل لحن الجهاز.

تحتوي هذه المكتبة على مجموعة متنوعة من التحسين، وعلى سبيل المثال:

• التفاضلية تطور خوارزمية (تطور التفاضلية)

• SQP (متسلسل البرمجة التربيعية)

• FastGA

• التكيف مصفوفة تغاير (التغاير التكيف المصفوفة)

• الطريقة الشاملة لإدارة الضوضاء مسيطرة (طرق المكافحة للسكان لإدارة الضوضاء)

• PSO (سرب الجسيمات الأمثل)

وقبل ذلك، يستخدم الباحثون هذه الخوارزميات غالبا ما تحتاج لكتابة الخوارزمية الخاصة بك، والتي تجعل من الصعب المقارنة بين أساليب مختلفة من التاريخ، وأحيانا حتى من المستحيل مقارنة. الآن، ومطوري AI، ويمكن بسهولة أن يتم باستخدام Nevergrad على مشكلة تعلم آلة معينة من طرق الاختبار المختلفة، ومن ثم مقارنة النتائج. أو، فإنها يمكن أيضا استخدام المؤشر المعروفة لتقييم - بالمقارنة مع الأساليب الأكثر تقدما، وكيف أن وسائل جديدة الأمثل خالية من التدرج.

قد يتم تضمين Isocratic Nevergrad أسلوب الأمثل في أنواع مختلفة من آلة التعلم المستخدمة، على سبيل المثال:

• مشاكل متعددة الوسائط، مثل هذه المشاكل لها الدنيا المحلية متعددة. (مثل التعلم العميق لhyperparametric نمذجة اللغة).

• عندما مشكلة سوء تشكلها، وعادة تعدد المتغيرات الأمثل لها خصائص ديناميكية مختلفة تماما، والتي ستكون مشكلة (على سبيل المثال، لا تعديل على مشكلة معينة وتجاهل معدل التعلم).

• انفصال أو الدورية الأسئلة بما في ذلك المشاكل تناوب جزئية.

• يمكن أن تعتبر جزءا فصل من المشكلة إلى حل مثل هذه المشاكل من قبل العديد من كتلة المتغيرات. ومن الأمثلة على ذلك التعلم العميق أو غيرها من عمليات البحث تصميم الهندسة المعمارية الأشكال، وحدودي-المهام المتعددة الشبكة.

• المتقطعة، ومشاكل مستمرة أو مختلطة. ويمكن أن تشمل هذه نظام الطاقة (لأن بعض محطات توليد الطاقة ذات الانتاج الانضباطي بشكل مستمر، في حين أن محطة الطاقة الأخرى وجود خرج مستمر أو شبه مستمر) من كل طبقة أو يتطلب معدل التعلم اختيار وقت واحد، والأوزان توهين غير الخطية من نوع الشبكة العصبية المهمة .

• مشكلة الضوضاء التي تساهم في حل هذه المشكلة، يمكن إرجاع نتيجة مختلفة عندما وظيفة هو بالضبط نفس الحجج، مثل تعزيز التعلم في مستويات مختلفة.

في تعلم الآلة، يمكن استخدامها Nevergrad لضبط المعلمات مثل معدل التعلم، والزخم، التخميد الأوزان (ربما كل طبقة)، التسرب (المهملة) خوارزمية المعلمات طبقة، وعمق كل جزء من الشبكة وغيرها. أكثر عموما، ويمكن أيضا أن تستخدم أسلوب غير التدرج لإدارة الشبكات (https://www.sciencedirect.com/science/article/pii/S0142061597000409) والطيران (https://www.sciencedirect.com/science/article/ PII / S0142061597000409)، تصميم عدسة (https://www.researchgate.net/publication/222434804_Human-competitive_lens_system_design_with_evolution_strategies) وغيرها الكثير من التطبيقات العلمية والهندسية.

لماذا هو ما إذا كانت احتياجات التدرج الأمثل

في بعض الحالات، كما هو الحال في الاستغلال الأمثل للأوزان الشبكة العصبية في الوزن إلى تحليل لحساب وظيفة التدرج بسيطة. ومع ذلك، في سيناريوهات أخرى، مثل عندما وظيفة حساب و بطيئة، أو عندما مجال متقطع، وظيفة التدرج لا يمكن أن يقدر بها. في هذه الأمثلة التطبيق، وطريقة isocratic يقدم حلا. والحل بسيط هو isocratic بحث عشوائي، وهو البحث على عدد كبير من نقاط أخذ العينات من قبل، وتقييم كل نقطة تفتيش عشوائية، لتحديد أفضل نقطة تفتيش ثلاث خطوات. بحث عشوائي في العديد من السيناريوهات بسيطة أداء جيدا، ولكن في ارتفاع الأبعاد المشهد، ولكن سوء الأداء. يتم استخدام البحث في شبكة عادة آلة التعلم تعديل المعلمة، كما يواجهون قيودا مماثلة. ومع ذلك، هناك العديد من البدائل: بعض من تطبيق الرياضيات، مثل البرمجة التربيعية متتابعة، وتقريب الدرجة الثانية تحديث محاكاة لها؛ وكذلك تحسين النظرية الافتراضية نموذج دالة الهدف، بما في ذلك عدم اليقين النموذج، تطور حساب يحتوي على الكثير من العمل على البديل المحدد، وكذلك الاختلاف في خلط واعدة.

هذا المثال يبين كيف الخوارزميات التطورية لتشغيل. في وظيفة البحث نقطة أخذ العينات الفضاء واختيار أفضل نقطة للمجتمع، ومن ثم يوصي كانت نقطة جديدة حول قليلا في محاولة لتحسين النقطة الحالية للمجتمع.

استخدام Nevergrad معيار الجيل الخوارزمية

استخدام الفيسبوك فريق البحث Nevergrad تنفيذ عدة الاختبارات القياسية للتدليل على أداء خوارزمية معينة في حالة معينة الأفضل. هذه مثال يتوافق معروفة لمجموعة متنوعة من بيئات مختلفة (المتعدد الوسائط أو متعددة الوسائط أو الضجيج أو الضوضاء غير، منفصلة أو غير منفصلة، المهووسين أو المرضى)، ويبين كيفية استخدام أفضل تحسين خوارزمية لتحديد Nevergrad.

في كل مؤشر، كان الفيسبوك الفريق لقيم مختلفة من X تجارب مستقلة. هذا الاتساق يضمن بين مختلف أساليب الفرز على عدة قيم X لا يعتد به إحصائيا. وبالإضافة إلى الأمثلة التالية اثنين الإشارة هنا (https://github.com/facebookresearch/nevergrad/blob/master/docs/benchmarks.md)، فضلا عن قائمة أكثر شمولا، جنبا إلى جنب مع كيفية استخدام سطر الأوامر بسيطة إعادة تشغيل هذه المبادئ التوجيهية المعايير.

ويظهر هذا الرقم مثال الأمثل الضوضاء

يوضح هذا المثال استخدام مبدأ TBPSA الضوضاء إدارة pcCMSA-ES (https://homepages.fhv.at/hgb/New-Papers/PPSN16_HB16.pdf) كيفية التغلب على العديد من البدائل على الأداء. فريق الفيسبوك حيث تمت مقارنة فقط مثال TBPSA والخوارزميات محدودة، ومع ذلك، بالمقارنة مع الطرق الأخرى، وأدائها هو أيضا أفضل.

يمكن أن منصة Nevergrad أيضا بمهام موضوعية منفصلة في العديد من السيناريوهات تعلم الآلة سوف تنشأ. تشمل، على سبيل المثال، يتم اختيار هذه السيناريوهات (على سبيل المثال، وظيفة تفعيل الشبكة العصبية) وحدد نوع من طبقات منها في مجموعة محدودة من الخيارات (على سبيل المثال، أن يقرر ما إذا كان موقعها في احتياجات الشبكة ليتم تخطي الاتصال).

منصات بديلة القائمة (Bbob وطيف) لا تحتوي على أي إشارة منفصلة. ويمكن تنفيذ Nevergrad بعد وظيفة softmax (مشكلة منفصلة إلى مشكلة مستمرة في صاخبة) أو المتغيرات المستمرة discretized لمعالجة المجال منفصلة.

وأشار الفيسبوك فريق البحث أن في هذا السيناريو، FastGA (https://arxiv.org/abs/1703.03334) أداء أفضل. DoubleFastGA معدل الطفرة المقابلة ما بين 1 / قاتمة و(خافت-1) / قاتمة، دون الموافق 1 / قاتمة و02/01. وذلك لأن يتوافق مجموعة الأصلي إلى حقل ثنائي، ولكن هنا، فإنها تعتبر أن أي مجال. في بعض الحالات، بسيطة موحدة خلط معدل الطفرات (https://arxiv.org/abs/1606.05551) أداء جيدا.

تمديد آلة الأدوات التعليمية للباحثين والعلماء

ستواصل Faacebook Nevergrad لإضافة وظائف إلى مساعدة الباحثين إنشاء وتقييم خوارزميات جديدة. النسخة الأصلية لديها وظائف دليل الاختبار الأساسية، ولكن الفيسبوك تخطط لإضافة المزيد من الميزات، بما في ذلك نموذج فعلي وظيفي. في التطبيق، وسوف تستمر في تقديم Nevergrad يصبح أسهل في الاستخدام، ومحاولة لاستخدامها لعدم واضحة المعالم PyTorch التدرج تعزيز التعلم هي الأمثل المعلمات نموذج. Nevergrad يمكن أن يساعد أيضا المعلمات المهام A / B اختبار وتحديد مواعيد مهمة المسح الضوئي الأخرى.

عن طريق: الشبكي: //code.fb.com/ai-research/nevergrad/، AI تقنية مراجعة المترجمة.

انقر لقراءة والإنجازات الأصلية الهامة على مر السنين لنرى الفيسبوك معهد بحوث الذكاء الاصطناعي