[مقدمة جديدة في Zhiyuan] هناك العديد من خوارزميات التعلم الآلي في السوق ، ولكنها ليست شائعة جدًا لأن هذه الخوارزميات تحد من مساحة البحث. لا يزال العديد من الباحثين بحاجة إلى تصميم هيكل نموذج التعلم الآلي بأنفسهم. مساحة البحث AutoML-Zero التي تم إصدارها غير محدودة تمامًا ، ويمكنك البدء بأبسط الصيغ الرياضية. "تقوم شركة Xinzhiyuan بالتعاقد مع المؤلف الرئيسي والمحرر ومدير العمليات ومدير الحساب لإضافة HR WeChat (Dr-wly) لمعرفة المزيد."

يحاول AutoML التعرف تلقائيًا على الخطوات المهمة المتعلقة بالميزات والنماذج والتحسين وتقييم هندسة الميزات واختيار النموذج وتعديل المعلمات ، بحيث يمكن إنشاء نماذج التعلم الآلي دون تدخل بشري. كيف تختلف الطريقة التي اقترحتها Google عن الماضي؟

تبحث الطريقة الجديدة تلقائيًا عن الخوارزميات الجديدة ، باستخدام الصيغ الرياضية الأساسية فقط

تم تصميم Automl-Zero لاكتشاف خوارزميات التعلم الآلي تلقائيًا ، بدءًا من البرامج الفارغة أو العشوائية ، باستخدام العمليات الرياضية الأساسية فقط. عليه يمكن البحث في جميع جوانب خوارزميات التعلم الآلي ، بما في ذلك هيكل النموذج واستراتيجية التعلم ، في وقت واحد دون تفضيل .

على الرغم من أن Automl-Zero لديه مجال بحث واسع ، إلا أن بحث التطور يبدو جيدًا ، بحثت ووجدت شبكة عصبية من طبقتين مع انحدار خطي وانتشار خلفي ، أو حتى خوارزمية خط الأساس التي تتجاوز تعقيد التصميم اليدوي بمقدار كبير.

يوضح الشكل أعلاه مثالاً في تجربتنا ، ويمكننا أن نرى كيف تحل الخوارزمية التطورية مهمة التصنيف الثنائي خطوة بخطوة. الأول هو نموذج خطي ، بدون أي طرق للتحسين ، ثم اكتشف تدريجيا SGD للتحسين ، ثم بدأ في إضافة معدل تعلم عشوائي ، ثم وجد وظيفة تنشيط ReLU ، تهيئة الوزن العشوائي ، تطبيع التدرج انتظر لحظة ، لتقترب أكثر وأكثر من هيكل الشبكة وطريقة التحسين التي صممناها يدويًا.

إذا كنت تريد معرفة المزيد من التفاصيل ، فيمكنك العثور عليها في الورقة. الرابط الأصلي: https://arxiv.org/abs/2003.03384

تقريبًا من الصفر ، ومختلف تمامًا عن التعلم الآلي التلقائي المجمع الذي تم تجميعه

نقوم يدويًا ببناء نموذج نموذجي للتعلم الآلي ، من خلال الخطوات التالية ، معالجة البيانات وبناء النموذج والتعلم والتنبؤ ، ويمكن فهم مبدأ عمل AutoML-Zero ببساطة على أنه وضع الطرق الرياضية الأساسية المتضمنة في كل خطوة في سلة ، ثم إخراجها عشوائيًا من السلة ووضعها في الخطوة المقابلة ، استخدم البحث التطوري للحصول على أفضل تركيبة بشكل مستمر .

ما أوجه التشابه والاختلاف بين AutoML-Zero والتعلم الآلي التلقائي السابق؟ ركز التعلم التلقائي السابق بشكل رئيسي على الهندسة المعمارية ، التي اعتمدت على طبقات معقدة صممها الخبراء كعناصر بناء - أو مساحات بحث مقيدة بالمثل. هدفنا هو إثبات أن AutoML يمكن أن يذهب أبعد من ذلك: فقط استخدم العمليات الحسابية الأساسية كبنات بناء لاكتشاف طريقة تعلُم الآلة الكاملة ، ونحن نثبت ذلك من خلال تقديم إطار عمل جديد ، في مساحة البحث هذه يمكن أن تقلل بشكل كبير من التحيز للتجربة البشرية ووجدت شيئًا مثيرًا للاهتمام.

نستخدم التعلم الآلي لشرح الأساليب المستخدمة في التعلم الآلي التلقائي التقليدي. يمكن للطلاب المهتمين بالتفاصيل قراءة هذه الورقة.

الرابط الأصلي:

طور المؤلف نظام AutoML قويًا جديدًا يعتمد على التعلم الموسيقي (باستخدام 15 مصنِّفًا و 14 طريقة للمعالجة المسبقة و 4 طرق للمعالجة المسبقة للبيانات ، مما ينتج عنه مساحة بحث منظمة مع 110 معلمات مفرطة) . يقوم هذا النظام بتنفيذ البحث التلقائي عن أفضل طريقة للتعلم الآلي من خلال مقارنة الأداء تلقائيًا في مجموعات البيانات المتشابهة وتقييم أداء هذه النماذج المنشأة تلقائيًا في مساحة معلمة محدودة.

كيفية تنفيذ AutoML التقليدي مع Python

في هذه المرحلة ، يجب أن تفهم أن AutoML-Zero أكثر عمومية ويمكن العثور على طرق التعلم الآلي غير المعروفة ، في حين أن التعلّم التلقائي لا يجد إلا الأفضل تلقائيًا في الهيكل والمعلمات الحالية.

لنستخدم Python لإعطاء مثال بسيط:

استيراد autosklearn.classification استيراد sklearn.model_selection استيراد sklearn.datasets استيراد sklearn.metrics X ، y = sklearn.datasets.load_digits (return_X_y = True) X_train ، X_test ، y_train ، y_test = \ sklearn.model_selection.train_test_split (X، y، random_state = 1) AutoML = autosklearn.classification.AutoSklearnClassifier () AutoML.fit (X_train، y_train) y_hat = توقع AutoML. (X_test) طباعة ("نقاط الدقة" ، sklearn.metrics.accuracy_score (y_test ، y_hat))

إذا كنت ترغب في التجربة بنفسك ، يمكنك تثبيت Anaconda ، الذي يدمج معظم مكتبات الحوسبة العلمية في Python المطلوبة ، ثم قم بتثبيت التعلم الآلي من خلال Conda.