AI تقنية الصحافة ، الكاتب النموذج الرابع تو وي وي، ورقة بدءا من "الصين جمعية الحاسبات الاتصالات"، المجلد 15 رقم 3، AI تقنية مراجعة من قبل الاتحاد الحاسوب الصين طبع بإذن.

الدافع آلة أوتوماتيكية الأبحاث التعلم

نظم توصية تعلم الآلة، والإعلان على شبكة الإنترنت، وتحليل السوق المالي، رؤية الكمبيوتر، واللغويات، والمعلوماتية الحيوية وغيرها من المجالات حققت نجاحا في تطبيق هذه الأمثلة من النجاح، وتضمن في نهاية المطاف خبراء البشري. جوجل، الفيسبوك، بايدو، وعلي بابا وتينسنت وغيرها من الشركات الرائدة في مجال التكنولوجيا تعتمد على فريقهم الخبير تعلم آلة لدعم مجموعة متنوعة من التطبيقات داخل تعلم الآلة الشركة والمؤسسات البحثية المختلفة تنفق أيضا الكثير من المال، والتعلم الآلي، ويحافظ على فريق من العلماء. ومع ذلك، للعديد من الشركات التقليدية، الشركات الصغيرة والمتوسطة والمؤسسات البحثية بشكل عام، فإنه من الصعب تشكيل فريق من الخبراء مثل تعلم الآلة، والذي هو السبب في الفجوة هو آلة كبيرة جدا خبراء التعلم، ونقص في المواهب، المواهب والمنافسة شرسة، وفريق إدارة الخبراء التكلفة والخبرة العالية لا يمكن نسخ، وهلم جرا.

من أجل أن تكون قادرة على تعلم الآلة هو تمكين المزيد من الشركات في السيناريو أوسع التطبيقية، وليس هناك عتبة منخفضة حتى عتبة الصفر من أساليب تعلم الآلة، حتى أكثر الناس يمكن تخفيف بتكلفة قليلة أو معدومة تقريبا معرفة بالقضية استخدام وتقليل الاعتماد على تطبيقات التعلم آلة هبطت المواهب الخبراء؟ جاء آلة التعلم التلقائي (تلقائي / الآلي آلة التعلم، AutoML) إلى حيز الوجود. والغرض منه هو جعل أتمتة عملية التعلم الآلي، والحد، أو حتى تماما تجنب المشاركة خبير الإنسان في هذه العملية.

نقطة انطلاق النظرية

خوارزمية تصميم آلة التعلم هو شيء صعب، ويمكن العثور على آلة مشتركة الخوارزميات لحل جميع المشاكل للتعليم آلة التعلم؟ وقد أجاب على هذا السؤال قبل 20 عاما أيضا، لجميع المشاكل المحتملة، يمكن أن تثبت أنه إذا كان كل قضايا لا تقل أهمية، جميع الخوارزميات، بما في ذلك خوارزمية عشوائية تماما، أدائها المتوقع هو نفسه، كل خوارزميات ليست أفضل أو أسوأ من ذلك، وهذا هو الغداء لا الشهير الحرة (أي وجبة غداء مجانية، NFL ) ليست نظرية صارم وضع البصرية.

يعني نظرية العثور على خوارزمية التعلم آلة عالمية تماما لا تعمل. لذلك، بدأ الباحثون إلى تعلم الآلة تتكشف المقابلة لمشاكل مختلفة، مما أدى إلى انتشار تطبيق تقنيات التعلم آلة لا يمكن نسخها. بين آلة الخوارزميات لحل حالة خاصة من مشكلة التعلم ولجميع الأسئلة العامة تماما خوارزميات تعلم الآلة، هناك احتمال أن يمكن أن تحل فئة وليس مجرد حالة خاصة من آلة شائعة نسبيا خوارزميات التعلم. تعلم الآلة التلقائي مثل خروجا عن الاعتبارات النظرية، في محاولة لإيجاد أكثر تنوعا خوارزميات تعلم الآلة.

في الوقت الحاضر، مشهد السيارات آلة الأبحاث التعلم

ساكنة حلقة مغلقة تعلم آلة أوتوماتيكية

ثابت النظر في حلقة مغلقة آلة أوتوماتيكية آلة التعلم مشكلة التعلم هو ثابت، وهذا هو، في ضوء مجموعة ثابتة من التدريب، لا تستخدم المعرفة الخارجية، فإننا نتوقع أن تجد أفضل آلة أداء نماذج التعلم على مجموعة الاختبار. وتشمل الكلاسيكية عملية التعلم الآلي للبيانات تجهيزها، وتجهيز ميزة، والتدريب نموذج. تعلم آلة أوتوماتيكية لديها مجموعة واسعة من البحوث في هذه العمليات الثلاث:

(1) ما قبل معالجة البيانات، والبيانات البحثية التنظيف التلقائي، التحديد التلقائي عينة، البيانات المعززة آليا، ونوع البيانات للاستدلال التلقائي، من أجل تحقيق وتعزيز فهم البيانات الأصلية من أهداف جودة البيانات.

(2) دراسة عن خصائص طريقة معالجة رئيسية تضم توليد تلقائيا ميزة واختيار ميزة تلقائية. الجيل ميزة التلقائي التحول ميزة تشمل، تركيبات واحدة متعددة من الميزات، وعمق الجيل الميزة، وتتميز في التعلم. اختيار ميزة تلقائية تستخدم عادة مع الجيل التلقائي ميزة، وتوليد التلقائي للميزة الأولى، واختيار سمة ثم التلقائي، وتجهيز ميزة للمجمع، بالتناوب عادة بين التكرارات اثنين.

وتشمل البحوث (3) تدريب نموذج عموما اختيار خوارزمية التلقائي والتكوين خوارزمية التلقائي. محاولات خوارزمية التلقائي لاختيار واحد أو عدة خوارزميات لمجموعة واسعة من القضايا من الجهاز خوارزميات التعلم، هذه الخوارزميات لديهم الكثير من المعلمات فرط تحتاج ليتم تكوينه تلقائيا تكوين الخوارزمية تدرس كيفية فائقة التكوين تفضيلات، مثل كيفية تكوين الشبكة العصبية هيكل، وكلاهما سوف يتم استخدامها جنبا إلى جنب مع التطبيقات العملية.

بمساعدة المعرفة خارجي ثابت التعلم الآلي التلقائي

الخارجية المعرفة بمساعدة آلة أوتوماتيكية ثابتة محاولات لرسم الخبير البشري لتحديد معالجة البيانات الطريقة، طريقة معالجة ميزة والتدريب نموذج نهج خوارزمية للتعلم آلة التلقائي التعلم. سيكتسب خبراء البشري خبرة من الجهاز تعامل الماضية مشاكل في التعلم والمشاكل امتدت لاحقا إلى هذا الجهاز التعلم.

بيئة تعليمية ديناميكية آلة أوتوماتيكية

تعلم الآلة التلقائي في بيئة ديناميكية يحاول حل تستمر البيانات إلى تتراكم، تحدث مشاكل عند مفهوم الانجراف.

التكنولوجيا الأساسية

جوهر الدراسة كيف آلة أوتوماتيكية التعلم هو بيانات أفضل طريقة المعالجة، حيث تجهيز طريقة، مكونات اختيار أسلوب التدريب النموذج القائم، وكذلك مجموعات من التحسين، وذلك أن الخصائص المطلوبة للنموذج الأمثل علمت (انظر الشكل 1) .

يواجه الدراسة حاليا ثلاث صعوبات رئيسية هي:

(1) بين وظيفة وتأثير لا يمكن ترتيب hyperparametric التعبير الصريح، وهي وظيفة "الصندوق الاسود".

(2) فضاء البحث ضخمة من طرق العلاج الممكنة والتراكيب والأسي، في حين أن طرق العلاج المختلفة لديها الخاصة فرط معالمها، عندما أبعد ما تكون أكثر عرضة للذهاب أبعاد ميزة أكثر من 20 عاما، والتي تحتوي على مزيج من فضاء البحث الإرسال المتعدد ممكن مساحة الدولة.

كل حساب (3) قيمة البيانات وظيفة تتعلق في معظمها تجهيزها، وتجهيز ميزة، وكلها تدريب نموذج عملية، وحساب قيمة الدالة تكلفة باهظة الثمن للغاية. لحل هذه المشاكل، والتكنولوجيا الأساسية هي أساس لاستخدام طرق البحث وأساليب تقوم على أخذ العينات وطرق القائم على التدرج.

التعلم التلقائي آلة الإطار (1) في FIG.

طرق البحث الأساسية

طريقة البحث هو الأسلوب بحث الشبكة الأكثر شيوعا. ويشكل هذا الأسلوب مجموعة من المعلمات التي تعبر الشبكة متعددة الأبعاد تسعى إلى الحد الأمثل، سهلة التنفيذ، وتستخدم على نطاق واسع، ولكن مع تعقيد البعد معلمات البحث تنمو باطراد، وسيتم البحث عن يضيع على البعد المعلمة أقل أهمية. طريقة البحث العشوائي عينة عشوائية من الفضاء المعلمة، كل البعد مستقل عن بعضها البعض، للتغلب على مشكلة عنة أبعاد والبحث الإسراف. في التطبيقات العملية، وغالبا ما تؤدي بشكل أفضل من عشوائية طريقة البحث شبكة البحث عن التميز.

وبناء على طريقة أخذ العينات

طرق أخذ العينات المعتمدة على أكبر قدر من طريقة دراستها، هي أساس في الغالب النظري، والأداء في كثير من الأحيان أفضل من طرق البحث الأساسية. هذه الأساليب عادة ما يولد واحد أو أكثر أخذ العينات نقاط فضاء العينة مرة أخرى بعد عينات تقييمها، فإن الخطوة التالية وفقا لأخذ العينات ردود الفعل نتيجة للتقييم، وأخيرا إلى العثور على نقطة معلمة أفضل نسبيا (انظر الشكل 2) . تقع أساليب أخذ العينات إلى أربع فئات على أساس:

2 بناء على طريقة أخذ العينات من FIG.

• الصفر النظام القائم على نموذج الأسلوب الأمثل

يحاول هذا الأسلوب لإنشاء نموذج للمعلمات التكوين والتأثير النهائي، واستنادا إلى نموذج لتسعى الأمثل. وتستند هذه الأساليب عادة على نقطة البداية عينات لديه نموذج لتقييم التأثير، ومن ثم استخدام بعض استراتيجية أخذ العينات على أساس التعلم نموذج لتوليد المقبل أو المجموعة التالية من العينات، وتأثير مزيد من التحديث النموذج الجديد وفقا للنقاط أخذ العينات التي تم الحصول عليها ، اختزال التكرار، لذلك تسعى إلى تحسين وظيفة الصندوق الأسود. لأن وظيفة ليكون الأمثل هي وظيفة "الصندوق الأسود"، ويمكن الحصول على قيمة وظيفة في عملية حل حساب ويست وظيفة مباشرة من التدرج، ومن المعروف أيضا باسم الصفر النظام أسلوب الأمثل (الصفري النظام هو من الدرجة الأولى فيما يتعلق خطوة الحوسبة التقليدية أو اثنين درجة الأمثل) أو أسلوب غير التدرج.

مثل هذه الأساليب واثنين من الاهتمامات الرئيسية: نموذج واستراتيجية أخذ العينات. بناء نموذج عام يستخدم للتنبؤ تأثير الموافق معلمات التكوين. منذ يستند نموذج على أخذ العينات قبل التعلم عينات ردود الفعل نقطة أساس، وظيفة تقدير مساحة منطقة غير مستكشفة هي استراتيجية أخذ العينات عموما أقل دقيقة تتطلب المفاضلة بين مهام استكشاف الفضاء والتحسين، أي المفاضلة بين الاستغلال (الاستغلال) والاستكشاف (التنقيب)، ويشار إلى E & E.

الأمثل النظرية الافتراضية هو الاحتمالية أساليب النموذج القائم، عموما عملية جاوس، والشبكات العصبية النظرية الافتراضية والغابات عشوائية كنموذج، ولتعزيز احتمال استخدام، ورفع المطلوب، الكون الصليب، GP-UCB مثل كاستراتيجية أخذ العينات، وهذه وتنفذ سياسات E & E في صريحة أو ضمنية. وتستند معظم الطرق الشائعة في النظرية الافتراضية تمويه عملية التحسين، وهذه الأساليب في أقل المعلمات البعد، وأخذ العينات نقاط أقل أداء ممتازة، ولكن من الصعب أن تستخدم عندما يكون هناك أكثر عالية الأبعاد، وأخذ العينات نقاط، وحتى بعض العلماء حاول استخدام الشبكات العصبية النظرية الافتراضية على حل هذه المشكلة.

إحداثيات استنادا إلى انكماش العشوائي (عشوائي تنسيق تقلص، RACOS) تصنيف على أساس الإحداثيات العشوائية وانكماش على أساس نموذج التصنيف لتحسين نموذج صفر النظام، على نحو فعال حل التعقيد الحسابي عال من التحسين النظرية الافتراضية، وأنواع المعلمة محدودة مشكلة، بل هو عادة معظم نهج الجشع بسيط لE & E. أثبتت طريقة عشوائي تنسيق انكماش في اعلى المشهد الأبعاد متفوقة بشكل كبير على أساس عملية التحسين التمويه النظرية الافتراضية.

• طرق البحث المحلية

يتم تحديد طريقة البحث المحلي عموما حي محددة بطريقة أو بأخرى، بدءا من حل الأولي، والبحث عن حل حي، ومواصلة استكشاف حل حي أفضل لتحسين كامل المساحة الحل. أكثر الطرق الشائعة هي تلة التسلق، والبحث شعاع المحلي وهلم جرا. البحث المحلي بسيط ومرن وسهلة التنفيذ، ولكن من السهل الوقوع الأمثل المحلي، ويرتبط ارتباطا وثيقا نوعية هيكل الحل الأولي والحل من الحي.

• الاستدلال

طريقة الكشف عن مجريات الأمور هو محاكاة ظاهرة بيولوجية، أو الحصول على الإلهام من بعض الظواهر الطبيعية على الوجه الأمثل، والأكثر شيوعا هو الأسلوب الإحتساب التطوري. هذه الأساليب لأن هناك أساس نظري قليلا، والتطبيق العملي الصعب أن يؤثر على طريقة التحليل.

• بناء على طريقة تعزيز التعلم

ويمكن لهذه الأساليب تجد بعض هندسة الشبكات العصبية الجديدة، وتحقق من قدرة معينة لترحيل، ولكن بسبب بك تعزيز التعلم البحوث خوارزمية التعلم الخاصة بهم ليست ناضجة بعد، لتحسين كفاءتها منخفضة نسبيا.

الأساليب القائمة على التدرج

طريقة التفاضل المطالبة بسبب الأجزاء العليا والمعلمات الأمثل جدا، والتعقيد الحسابي عالية، وبالتالي، ونادرا ما يستخدم التدرج حل مباشرة الهدف الأمثل.

التركيز على البحوث

التلقائي التركيز على البحوث تعلم الآلة على الكفاءة والتعميم. التلقائي آلة التعلم كفاءة حل المشكلات هي آلة أوتوماتيكية الرئيسية تعلم تقنيات الهبوط. وتشمل الكفاءة الأمثل ست فئات:

(1) خلط الأمثل موضوعي، وتقييم المعلمة تكلفة المستهدفة كجزء من التحسين، لا مفاضلة بين التكلفة الحسابية وفعالية.

(2) غير متزامن ومتواز متزامن الموازاة.

(3) التوقف عن التكرار في وقت مبكر من التدريب في وقت مبكر من فحص معايير الأداء أقل جيدة، وتوفير موارد الحوسبة، مثل الكلاسيكية أكثر من استراتيجية بمقدار النصف المتعاقبة، كل على مدى فترة من الزمن ليست نصف إزالتها من المعلمات، وفورات كبيرة الموارد الحاسوبية (انظر الشكل 3).

(4) الساخنة لتدريب نموذج البداية، نتائج إعادة التدريب مع المعلمات مماثلة للحد من تقييم تكلفة المعلمات المفرط.

(5) عينات البيانات باستخدام البحث حدودي على عينة صغيرة بدلا من عينة كاملة من معلمات البحث، منذ قد تكون هناك اختلافات بين عينة صغيرة والعينة الكاملة الأمثل المعلمات، وقد حاول بعض الباحثين لدراسة عينة صغيرة والعينة الكاملة العلاقة بين الإخلاص لعدة تعلم آلة أوتوماتيكية (انظر الشكل 4).

(6) عمليات البحث وتعلم آلة فائقة حدودي تتضافر لتعزيز الكفاءة والفعالية، مثل طريقة القائمة على السكان.

تعلم الآلة هو الهاجس الأساسي التعميم، فإن الغرض من التعلم الآلي التلقائي للتعلم ولكن أيضا لتعزيز نموذج التعميم النهائي.

الشكل (3) استراتيجية بمقدار النصف المتعاقبة

FIG آلة أوتوماتيكية تعلم الإخلاص أكثر من 4

كيفية تحديد ما إذا كان الجهاز التلقائي التعلم لتعزيز التعميم، وطريقة تجزئة العامة للتدريب والتحقق من صحة مجموعات من التقديرات. لمزيد من خفض مخاطر الإفراط في صالح إلى مجموعة والمصادقة، وهناك تركز بعض الدراسات على كيفية تعميم تأثير هذا النموذج هو تقدير أكثر معقولية. وبالإضافة إلى ذلك، ويرجع ذلك إلى آلة أوتوماتيكية تعلمها وغالبا ما يترافق من قبل الكثير من الوقت في تعلم المعلمات مختلفة من النموذج، وحدد في نهاية المطاف سوى "أفضل" من نماذج مختلفة، واختيار بعض النماذج لدمج التعلم هو أيضا وسيلة المعمم للترقية. أكثر وأكثر كفاءة استراتيجيات خلط والتحسين المزيد من العمل لتعزيز تعميم خوارزميات تعلم الآلة الأوتوماتيكية لتعظيم الاستفادة.

تطبيق الكلمة

وسائل لحل المشكلة بين البيانات من مختلف تحويل / تكرار الكلمة آلة أوتوماتيكية تعلم أكثر صعوبة. الوسائل لحل مشاكل مختلفة التشابه أو قابلة للتحويل / أعلى تكرار المقاومة، مؤتمتة أكثر بسهولة، في حين أن أكثر صعوبة. حاليا التلقائي آلة التعلم سيناريو الهبوط بيانات الصورة الرئيسية وبيانات الجدول.

بيانات الصورة

عمق التعلم حقل من نجاح الصورة. عمق جوهر التعلم هو "التلقائي" ميزة التعلم الهرمي. تحليل صورة قبل الحاجة إلى يدويا قيام بكسل الأصلي المستخرج من الكثير من الميزات، ويحل التعلم عميقة هذه المشكلة. وتتميز في هذا التعلم عمق يمكن أن يتعلم أثناء القيام ميزة تصميم تحولت الاصطناعي تصميم الشبكة العصبية. لهذا النوع من البيانات، جوهر التلقائي البحوث تعلم الآلة هو جعل حقل صورة من الشبكة العصبية أتمتة التصميم الهندسة المعمارية. وكلما زاد التشابه بين بيانات الصورة، بكسل الإدخال الأصلي هو: هل يمكن إيجاد حلول للمشاكل الهجرة وإعادة استخدام كبير، وبالتالي فإن الهبوط الآلي والتعلم الآلي على بيانات الصورة هي سهلة نسبيا.

بيانات الجدول

بيانات الجدول هي البيانات المجردة، أي تشابه قوي بين جداول مختلفة من البيانات، وهذا يعني بيانات مختلفة إلى حد كبير في كل عمود من الجدول، وبيانات الجدول أيضا ترتبط ارتباطا وثيقا العمل الفعلي، والحاجة إلى معالجة توقيت مفهوم مشاكل الانجراف والضجيج، لذلك التلقائي صعوبة التعلم الآلي في الهبوط على بيانات الجدول كبيرة، إلا أن التلقائي العصبي تصميم بنية الشبكة ليست كافية. تضم مزيد من التركيز الأبحاث على كيفية توزيع البيانات تلقائيا جدول واحد في تعدد جداول البيانات في تعلم الآلة النهائي المطلوب.

آفاق المستقبل

الاتجاه الخوارزميات

من حيث خوارزميات تعلم الآلة الأوتوماتيكية، والعمل المستقبل ما اذا كنا نستطيع تحقيق انفراجة في الاتجاهات الخمسة، سيكون لدينا قيمة أكبر.

1. تحقيق مكاسب في الكفاءة. يمكن اعتبار الكفاءة من جانبين من التعقيد الوقت وتعقيد عينة. في موارد الحوسبة معينة، قرارات أكثر فعالية إلى حد ما، وإمكانية التعلم الآلي التلقائي، وهو ما يعني المزيد يمكن استكشافها، قد يؤدي أيضا إلى نتائج أفضل. وبالإضافة إلى ذلك، والحصول على نوعية وصفت العينة غالبا ما تكون مكلفة للغاية، وبالتالي فإن عينة التعقيد هو أيضا واحدة من العوامل الرئيسية لهبوط تعلم الآلة. تعلم عضوا مقدمة (علوم عضوا نموذج + = مواصفات النموذج) في آلة أوتوماتيكية الخارجية بمساعدة المعرفة والتعلم باستخدام الهجرة التعلم، وفعالة للحد من اتجاه ممكن عينة تعقيد المستقبل (انظر الشكل 5).

الشكل (5) تعليم نقل وقطع التعلم

2. التعميم. تعتبر حاليا تعلم الآلة أقل التلقائي، تعلم الآلة هو تعميم معظم البحوث الهامة على تعميم احتياجات المستقبل إلى تعزيز.

3. تحسين العملية برمتها. معظم فترة الدراسة الحالية فقط التلقائي آلة التعلم تعلم الآلة مرحلة معينة (مثل ميزة تلقائية، واختيار خوارزمية الآلي، والتكوين خوارزمية التلقائي) مختلفة من الاحتياجات الفعلية للعملية برمتها آلة أوتوماتيكية تقنيات التعلم.

4. فتح مواجهة العالم. العالم الحقيقي ليس ثابتة تقنيات التعلم آلة أوتوماتيكية لمواجهة العالم مفتوحة لمعالجة توقيت البيانات، ومفهوم الانجراف، والضوضاء وغيرها من القضايا.

5. سلامة وتفسيرها. لتمكين التعلم الآلي التلقائي مع الأمن، والحاجة إلى معالجتها للتعامل مع الهجمات، ومقاومة للضوضاء، والخصوصية وغيرها من القضايا. إذا تم نشر نظام التعلم الآلي التلقائي للنظام الفعلي التفاعل مع الناس، تحتاج للتفسير أفضل.

النظرية

في نظرية التعلم آلة أوتوماتيكية، وأيضا غير مفهومة الحاضر دراسة قليلا، وتعميم وتطبيق التعلم آلة التلقائي. لذلك، لدينا للرد على خوارزميات تطبيق والتعميم آلة أوتوماتيكية التعلم، جدوى آلة خوارزمية التعلم الآلي التلقائي خوارزميات التعلم الذي يوجد الطبقة العامة من المشاكل وحول هذه القضية أوسع من الفضاء ولكن نحتاج أيضا إلى إجابة .

نبذة عن الكاتب

تو وي وي

وتعلم مهندس رفيع المستوى في النموذج، كبير العلماء آلة الرابعة. على نطاق واسع منصة توزيع تعلم الآلة إطار GDBT النموذج الرابع النبي المصممين وقاد الفريق AutoML التطبيقات والترحيل لصناعة التعلم وتحقيق نتائج هامة تحسينها.

البريد الإلكتروني: tuweiwei@4paradigm.com

لمزيد من المعلومات حول الأبحاث الأكاديمية تعزيز التعلم والموضوعات، يرجى النقر قراءة النص الأصلي تاريخ AI Yanxishe تعزيز التعلم مجموعة الورق ~