هذا المقال هو عبارة عن تجميع للAI Yanxishe بلوق التكنولوجيا، والعنوان الأصلي:

AutoML: أتمتة تصميم نماذج التعلم الآلي للقيادة مستقلة

الكاتب | Waymo TeamFollow

الترجمة | ciky الغريب، Ophria، شيه شوان س س

تصحيح التجارب المطبعية | مراجعة جيف ديمبس | صلصة الكمثرى فان التشطيب | الأسماك وانغ لي

الرابط الأصلي:

https://medium.com/waymo/automl-automating-the-design-of-machine-learning-models-for-autonomous-driving-141a5583ec2a

الكاتب: مقاطعة Shuyang تشنغ وغابرييل بندر *

في Waymo، تعلم الآلة يلعب دورا رئيسيا في تقريبا كل جزء من نظام الطيار الآلي. فإنه يسمح للسيارة لمعرفة البيئة المحيطة والإدراك وفهم العالم، التنبؤ بسلوك الآخرين وتقرر الخطوة المقبلة.

تصور: يستخدم نظامنا مزيج من الشبكة العصبية حتى نتمكن من التعرف على بيانات الاستشعار سيلة لتحديد الأشياء وتتبع لهم على مر الزمن، حتى تتمكن من فهم العالم من حولهم. بناء هذه الشبكات العصبية وغالبا ما يكون مهمة تستغرق وقتا طويلا، هندسة الشبكات العصبية الأمثل لتشغيل على الطيار الآلي لتحقيق الجودة المطلوبة وسرعة السيارة هو عملية معقدة من مهندسينا لإكمال مهمة جديدة قد تكون صقل يستغرق شهورا.

الآن، بالتعاون مع فريق من الباحثين جوجل الدماغ AI، سنكون الأبحاث المتطورة إلى واقع ملموس، وتستخدم لتوليد تلقائيا الشبكة العصبية. الأهم من ذلك، هذه الأكثر تقدما الشبكة العصبية جودة أعلى مهندس من اليدوي صقل، وأسرع.

على التكنولوجيا الطيار الآلي لدينا إلى المدن المختلفة، والبيئة، ونحن بحاجة إلى سرعة عالية جدا لتحسين نموذجنا للتكيف مع سيناريوهات مختلفة. AutoML يسمح لنا القيام بذلك بكفاءة، والاستمرار في تقديم عدد كبير من الحلول ML.

دراسة ناقل الحركة: الهندسة المعمارية، وذلك باستخدام AutoML القائمة

بدأ تعاوننا مع سؤال بسيط: AutoML يمكن أن تولد ذات جودة عالية ومنخفضة الكمون من الشبكة العصبية للسيارة؟

"الجودة" الشبكات العصبية الاجراء لتعطي نتائج دقيقة. "تأخير" يمكن قياس سرعة الشبكة لتقديم إجابات، والمعروفة أيضا باسم "الوقت الاستدلال". لأن القيادة هو النشاط الذي يتطلب منا أن استخدام التغذية المرتدة في الوقت الحقيقي للسيارة ومراعاة أمن أنظمتنا - الطبيعة الحرجة، والشبكات العصبية لدينا تتطلب عملية الكمون منخفضة. ويمكن توفير أكثر مباشرة في الشبكة لتشغيل سيارتنا في أقل من 10 ميلي ثانية يؤدي، العديد من الشبكات التي تنشر من يعمل على الآلاف من الخوادم في مركز البيانات بشكل أسرع.

في ورقتهم AutoML الأولية ، وزملائنا جوجل AI يمكن تلقائيا استكشاف أكثر من 12،000 العمارة لحل CIFAR 10 هذا الكلاسيكية المهام التعرف على الصور: اعتراف صورة صغيرة كما في 10 فئات مثل سيارة، طائرة، كلب وهلم جرا. في مقال لاحق ، وجدوا مجموعة من اللبنات الشبكة العصبية، والمعروفة باسم وحدة NAS، التي شيدت تلقائيا من CIFAR-10 المصنوعة يدويا، ومهام مماثلة شبكة أفضل. ، باحثينا قرر من خلال هذه الشراكة إلى استخدام هذه الوحدات لبناء تلقائيا النموذج الجديد لمهام محددة الطيار الآلي، والتي سوف نتعلم كيف تهاجر إلى معرفتنا في مجال CIFAR-10. لدينا أول تجربة لاستخدام المهمة تجزئة الدلالي: يتم تعريف كل نقطة من السيارات نقطة تحديد المدى سحابة والمشاة، والأشجار.

وأحد الأمثلة على خلية NAS. بمعالجة هذه الخلية المدخلات من طبقتين السابقة في شبكة عصبية.

تحقيقا لهذه الغاية، وتعيين الباحثين لدينا ما يصل خوارزمية البحث التلقائي المستخدمة لاستكشاف مئات من مجموعات مختلفة من وحدات NAS في التفاف هندسة شبكة (CNN)، وتدريب مهمة تجزئة ونموذج التقييم لدينا تحديد المدى. عندما مهندسينا يدويا صقل هذه الشبكات، لا يمكن إلا أن استكشاف عدد محدود من أبنية، ولكن من خلال بناء خوارزميات البحث التلقائي، يمكن أن نستكشف مئات من العمارة تلقائيا. لقد وجدنا أن هذا النموذج من نموذج يدوية الصنع السابق واثنين من التحسينات:

• بعض الكمون كبير في حالة نوعية مماثلة.

• غيرها من كتلة أعلى في ظل التأخير مماثلة؛

وفي ضوء هذا النجاح الأولي، ونحن نطبق يتم تطبيق نفس خوارزمية البحث لاثنين من المهام الإضافية المتعلقة كشف حارة المرور وتوطين. نقل التكنولوجيا التعلم هو أيضا تنطبق على هذه المهام، يمكننا نشر ثلاثة تدريب جديدة ومحسنة الشبكات العصبية في السيارة.

البحث النهاية: بحث عن بنية جديدة من الصفر

شجعنا النتائج الأولية، لذلك قررنا مواصلة البحث على نطاق أوسع يمكن أن توفر نتائج أفضل في الهيكل الجديد. لا تحد نفسك على وحدة NAS وقد وجد، يمكن أن نعتبر مباشرة بنية ذوي الاحتياجات تأخير صارمة للنظر فيها.

إلى نهاية البحث عادة ما يستغرق لاستكشاف الآلاف من الهندسة المعمارية، الأمر الذي سيؤدي إلى تكلفة كبيرة الحسابية يدويا. استكشاف بنية واحدة يتطلب عدة أيام من التدريب في مراكز بيانات الكمبيوتر مع بطاقات GPU متعددة، وهو ما يعني آلاف الحسابات يوميا للبحث عن مهمة واحدة. بدلا من ذلك، قمنا بتصميم مهمة بالوكالة: للحد من مهمة تجزئة تحديد المدى، فإن المهمة يمكن حلها في غضون ساعات قليلة.

فريق يجب التغلب على التحدي يكمن في إيجاد مماثلة بما فيه الكفاية لهذه المهمة انقسام الأصلية من المهام الوكيل. قبل وجود علاقة جيدة بين هيكل نظام الجودة نظام الجودة لتحديد هيكل المهمة مع المهمة الأصلية، وحاولنا عدة تصميم العمل المشتركة بين الوكالات. ثم بدأنا عملية بحث مماثل إلى ورقة AutoML الأصلية، ولكن الآن في مهمة وكيل: بحث نهاية الوكيل. وهذه هي المرة الأولى هذا المفهوم إلى البيانات يدار.

نهاية كيل البحث: استكشاف الآلاف من الهندسة المعمارية في تضييق مهام وكيل، وتطبيق أفضل هندسة معمارية 100 إلى المهمة الأصلية والتأكد من صحتها ونشر أفضل تصميم معماري سيارة.

استخدمنا عدة خوارزميات البحث، هي الأمثل تأخير والجودة، لأن هذه السيارة أمر ضروري. لاحظنا أنواع مختلفة من العمارة CNN ويستخدم استراتيجيات البحث المختلفة، مثل بحث عشوائي وتعزيز التعلم، يمكن أن نستكشف أكثر من 10،000 نوع من أبنية مختلفة للقيام بهذه المهمة وكيل. باستخدام مهمة بروكسي، ويستغرق وقتا لعام حساب على كتلة جوجل TPU استغرق أسبوعين فقط. لقد وجدنا أفضل مما كانت عليه عندما كنا أول NAS نقل الشبكة الخلوية:

• الشبكة العصبية لها نفس نتيجة لانخفاض الكمون و20-30 من الكتلة.

• الشبكة العصبية ذات جودة أعلى، ونسبة الخطأ إلى 8-10، أبنية سابقة لها نفس تأخير.

1) ويبين الشكل الأول وجدت بنية مجموعة بسيطة من البحث العشوائي عن 4000 الهندسة المعمارية. كل نقطة من خلال التدريب والهندسة المعمارية والتقييم. خط الصلبة صفت العمارة الأمثل في مختلف المنطق ضيق الوقت. النقاط الحمراء وأداء الإرسال باستخدام شبكة تأخير شيدت من التعلم. في هذا البحث عشوائي، وشبكة هو أفضل لنقل شبكة التعلم بشكل أفضل.

2) في الرسم البياني الثاني والأصفر، ونقاط زرقاء تظهر نتائج أخرى خوارزمية اثنين من البحث. الأصفر هو بحث عشوائي لمجموعة من العمارة المكرر. تعزيز التعلم الموضحة الزرقاء الاستخدامات واحدة في ، مثل استكشاف العمارة أكثر من 6000. أفضل النتائج. ووجد البحث إضافيتين شبكة من الشبكات من نقل التعلم هو أفضل من ذلك بكثير.

بعض أبنية وجدت في العروض بحث مجموعة مبتكرة من التفاف وحمامات السباحة وعملية إزالة التفاف، كما هو مبين في الشكل. الهندسة المعمارية النهائية هي مناسبة تماما لدينا ليزر الأصلي المهام رادار الفاصل ونشرها على المركبات الطيار الآلي Waymo.

تعمل العصبية بنية الشبكة بحث إلى نهاية وجدت.

ماذا بعد

بدأت سيارتنا اختبار فقط فقط. لفصل رادار ليزر مهمتنا، وكلاء نقل وتفتيش للتعلم نهاية يوفر شبكة يدوية الصنع متفوقة. لدينا الآن فرصة لهذه الآليات المطبقة على أنواع جديدة من المهام، التي يمكن أن تحسن العديد من الشبكات العصبية الأخرى.

يفتح هذا التطور حتى طريقة جديدة ومثيرة لمستقبلنا ML، وسوف تحسين أدائنا التكنولوجيا يحركها الذات والقدرات. ونحن نتطلع إلى مواصلة عملنا مع الذكاء الاصطناعي جوجل، حتى لا تنزعج لأكثر!

إشارة

باريت Zoph وكووك V. لو. العصبية الهياكل وتعزيز التعلم البحث. ICLR 2017 سنة.

باريت Zoph، فيجاي فاسوديفان، جوناثان Shlens، كووك V. لو والتعلم والتعرف على الصور هيكلية متدرجة يمكن نقلها. CVPR 2018 سنة.

* شكر وتقدير

التعاون بين Waymo وجوجل هو Waymo ماتيو ديفين وجوجل كووك لو بادرت وترعاها. العمل الذي قام بالاشتراك بها Waymo من مقاطعة Shuyang تشنغ وغابرييل بندر جوجل وبيتر يناير Kindermans. Duoxieweixi الدعم عنيق.

أعضاء الفريق Waymo وجوجل (من اليسار): غابرييل بندر، مقاطعة Shuyang تشنغ، ماثيو ديفين وكووك لو

أريد الاستمرار لعرضها روابط ذات صلة والمراجع؟

انقر على [AutoML: من دون طيار نماذج التعلم الآلي أتمتة التصميم] أو الضغط لفترة طويلة عنوان الطرفين:

https://ai.yanxishe.com/page/TextTranslation/1441

AI Yanxishe أوصى اليوم: شبكة شبكة شبكة لى فنغ لى فنغ لى فنغ

وجامعة كارنيجي ميلون 2018 السقوط "التعلم العميق" بالطبع يعلمك أساسيات عمق الشبكات العصبية وتطبيقاتها في العديد من المهام AI. بعد انتهاء الدورة، ومن المتوقع أن يكون فهم كاف من التعلم العميق الطلاب والتعلم العميق يمكن تطبيقها في العديد من المهام العملية.

تاريخ الفريق الحرة مقطع فيديو: الشبكي: //ai.yanxishe.com/page/groupDetail/18