استعراض

 المادة يدخل السابقة التقليدية خوارزمية التعلم الآلي وتطبيقاته في التوصية الذكية (انظر الروابط في نهاية المقال). اليوم نقدم عميق تعلم أساسيات الخوارزميات توصية الذكية المستخدمة، بما في ذلك المؤسسات الشبكة المشتركة، وعملية التدريب نموذج يشيع استخدام الأسلوب، نحن سوف يعود على سلسلة من التوصيات خوارزمية بناء على دراسة معمقة على هذا الأساس.

1. مقدمة العمق لتعلم أساسيات

شبكة 1.1MLP

شبكة MLP هي نوع من معظم الشبكة المستخدمة على نطاق واسع، حيث شبكة DNN MLP تنتمي، وهو اصطناعية إلى الأمام هيكل الشبكة العصبية، ومجموعة من ناقلات كما يلي إخراج هيكل الشبكة انتشار الأمام ناقلات المدخلات:

العلاقات على جميع المستويات:

.

حيث يمثل وظيفة التنشيط، مركزية وظائف تنشيط المشترك هي: وظيفة sigmod، وظيفة تان، وظيفة ReLU.

وظيفة sigmod:

وظيفة تان:

وظيفة ReLU:

شبكة 1.2RNN

RNN هو عقدة اتصال لتشكيل عصابة المنحى الشبكة العصبية الاصطناعية، بالمقارنة مع شبكة DNN، RNN يمكن أن يكون الناتج باستخدام حساب توقيت المدخلات والمخرجات الحالية، وهيكل الشبكة على النحو التالي:

توسيع النحو التالي:

طبقات من العلاقة:

.

شبكة 1.3CNN

الشبكة العصبية التلافيف، هو الشبكة العصبية السابقة التغذية إلى الأمام، يمكن التعرف عليه بواسطة مساحة المستمر للعملية التفاف، حققت نتائج جيدة في معالجة الصور. هيكل الشبكة العصبية التلافيف لديها طبقة المدخلات من الصورة الأصلية، طبقة الإلتواء، طبقة المجمعة، وطبقات مرتبطة ارتباطا كاملا، وطبقة الانتاج. هيكل الشبكة على النحو التالي:

علاقة اتصال بين طبقات كل منها كما يلي:

العلاقة التفاف X بين طبقة المدخلات طبقة C:

C وأخذ عينات من طبقة التفاف العلاقة طبقة S:

طبقة وطبقة انتاج عينات Y S العلاقة:

حيث K = {كم، ن} يمثل نواة الالتواء.

شبكة 1.4AE

AE من التشفير، هي شبكة غير خاضعة للرقابة. وبما أن الهدف من التشفير هو مساهمة في الناتج X X 'في أقرب وقت ممكن، وهيكل من طبقتين من شبكة MLP، الذي يمثله على مقربة من الخطأ إعادة الإعمار، وظيفة الخطأ مع تباين ومتوسط عبر الكون، من أجل ضمان تبعثر الشبكة L1 بالإضافة إلى وظيفة الخطأ تنظيم المدى، من أجل ضمان متانة الشبكة يزيد إدخال البيانات الضجيج العشوائي. هيكل الشبكة على النحو التالي:

شبكة 1.5RBM

مقيدة بولتزمان آلة (آلة مقيدة بولتزمان) RBM هو شبكة غير خاضعة للرقابة. وجود هيكل من طبقتين، وليس ردود الفعل الذاتي اتصال العشوائية نموذج الشبكة العصبية التماثل، الاتصال البينية كله، دون ربط الطبقة الداخلية. RBM هو طريقة استخراج ميزة فعالة لشبكات الاعتقاد العميق (DBN) feedforward العصبية تهيئة الشبكة قد يحسن بشكل كبير من قدرة التعميم، كومة تتألف من عدد وافر من RBM يمكن استخراج ميزات أكثر تجريدا. هيكل الشبكة على النحو التالي:

مبدأ التدريب RBM من معلمات الشبكة أكثر تعقيدا، ببساطة، هو أن تطلب من وظيفة الطاقة شبكة المقابلة إلى أدنى حد ممكن من المعلمات.

1.6 عمق التكامل مع النموذج التقليدي للتعليم

الانصهار مع النموذج التقليدي التعلم العميق، على سبيل المثال: استخدام ملزمة MLP واسعة وعميقة هو نموذج LR، ويمكن تقسيمها إلى نموذج يقوم على وضع التدريب في نموذج الانصهار المتباعدة ونموذج نموذج بإحكام.

المتباعدة نموذج: أجزاء مختلفة من نموذج بتدريب وحدها، على سبيل المثال FNN النموذج هو التضمين المعلمات طبقة ما قبل مدربين تدريبا جيدا، ومن ثم تدريب المعلمات MLP.

ضيق نموذج اقتران: يتم تدريب أجزاء مختلفة من نموذج معا، مثل هذه النماذج قد يتم الإشارة أيضا إلى كنموذج نهاية إلى نهاية، واسعة على سبيل المثال والمعلمة العميقة هو LR المعلمة ويتم تدريب نموذج MLP معا.

طريقتين لديها مزايا وعيوب، ومزايا نموذج المتباعدة مرنة ويمكن تجميعها، ومزايا نموذج يقترن بشكل وثيق مع تدريب للحصول على التأثير الكلي من المعلمات الأمثل من خلال المفصل.

1.7 عمق دراسة وظيفة فقدان شيوعا

المشتركة فقدان فقدان وظيفة بطريقتين: وظيفة فقدان عبر الكون، يعني مربع وظيفة فقدان خطأ

(1) عبر الكون وظيفة الخسارة:

(2) متوسط مربع الخطأ فقدان وظيفة:

1.8 أصل التدرج

نماذج كثيرة في الجهاز خوارزميات التعلم عملية حل هي التي شيدت من قبل وظيفة الخسارة، ومن ثم حل المعلمة المقابلة لوظيفة فقدان الحد الأدنى هو الحل للنموذج. التدرج عملية حل وظيفة على النحو التالي:

الخطوة 1: جميع المعلمات نموذج يشار إلى مجموعة، فإنه قد يتم الإشارة إليها باسم

نظرا مجموعة من عشوائي بين 0 و 1، ل

التهيئة تكرار الخطوات ك = 0.

الخطوة 2: حساب تكراري

بين

للسيطرة على سرعة التقارب، مع الأخذ 0.01.

الخطوة 3 يحدد ما إذا كان التقارب، يتم إرجاع إذا تم استيفاء أي من الشرطين التاليين

، وكان اثنان من الشروط:

• حالة 1:

• التي iteNums هو الحد الأقصى لعدد مرات التكرار.
• حالة 2:

• التي

• هو عدد من المعلمات،

• هي قيمة صغيرة، يمكن أن يستغرق

• .