وانغ التي تم تجميعها من جديد المتوسطة

إنتاج و qubit | عدد ملفه QbitAI

حاليا، الطريقة الوحيدة لتدريب نماذج التعلم الجهاز هو خوارزمية العودة نشر.

التعلم العميق أكثر وأكثر سهولة في إطار الاستخدام، قطار النموذج هو أيضا مجرد بضعة أسطر بسيطة من التعليمات البرمجية. ومع ذلك، تعلم الآلة المقابلة، فإن المقابلة النظر في درجة التمكن من مبادئ التعلم الآلي. وغالبا ما تحدث مشاكل في الظهر، نشر عند كثير من الناس لا يزالون يجدون لقاء صعب للغاية.

في الآونة الأخيرة، تعلم الآلة على متوسط مبتدئين ريان Gotesman، مدرس أندرو نغ في تعلم آلة التعلم بالطبع شعبية، واجه بعض الصعوبات.

عيون ريان من عملية التعلم هو: الانحدار الخطي، والتفتيش، الانحدار اللوجستي، والتفتيش، أصل الانحدار، والاختيار، الاختيار، والتحقق مرة أخرى ......

ثم، ريان والتعلم خوارزمية الشبكة العصبية وما يقابلها من تدريب نموذج، الذي ظهر نشر. على الرغم من أن وو قضيت الكثير من الوقت لشرح ذلك، لكنه لا يزال لا يمكن فهم مبادئ هذه التقنية.

ذكر وو أيضا في شريط الفيديو، حتى من دون فهم عميق لهذه الخوارزمية، فإنه يمكن أن تستخدم أيضا في الشبكة العصبية وقام به سنوات عديدة، ولكن ريان تبحث المعلومات لفهم أفضل لمفهوم.

لذلك، وجدت ريان الأوراق الأصلية مرة أخرى الانتشار على جيفري هينتون وآخرون، نشرت في عام 1986 في الطبيعة " التمثيل التعلم عن طريق أخطاء نشر الظهر "ونقلت الصحيفة عن والآن ما يقرب من 15،000 مرات.

أوراق العنوان:

هذا المقال يستحق القراءة بعناية، وعلى بعد مسافة قصيرة الأربعة. ريان بعد دراسة مفصلة، فهم جديد للظهر انتشار وقدم بعض الملاحظات.

وجاء النقل و qubit لمساعدتنا على فهم أفضل للظهر انتشار، وفيما يلي ترجمة لبلوق له:

مجرد طبيعة الخلفية نشر قاعدة السلسلة استخدام ذكي.

قاعدة السلسلة هي خاصية أساسية للمشتقات المناهج الجامعية. وتجدر الإشارة إلى أنه، على افتراض أن هناك ثلاث وظائف و، ز، ح، حيث f هي وظيفة ز، ز هي وظيفة ساعة، ثم و فيما يتعلق مشتق من ساعة يساوي و فيما يتعلق المنتجات المشتقة من غرام وغرام فيما يتعلق ساعة، المشتقات، الصيغة أدناه:

قاعدة السلسلة

نحن نستخدم هذا القانون لشرح مبدأ عمل مكافحة التكاثر.

هنا، ونحن نستخدم معظم الشبكة العصبية بسيطة لتوضيح. وشبكة لديها سوى ثلاث طبقات، وهي طبقة الإدخال الزرقاء، وطبقة مخفية من طبقة الإنتاج الأخضر والأحمر. كل خلية في الطبقة العليا ترتبط الطبقة السفلى في كل خلية، وكل اتصال له وزن، وعندما وحدة لتمرير المعلومات إلى وحدة أخرى، مضروبا في وزن تحديث الأوزان اتصال المعلومات. وسيتم ربط خلية إلى الطبقة العليا لها من قيمة المدخلات من خلال إضافة كل وحدة، وينفذ يتم تمرير هذه المهمة اللوجستية مجموع تلك القيمة إلى الطبقة التالية من الشبكة.

ثلاثة طبقة الشبكة العصبية، وعدد الوحدات 3 و 4 و 3 على التوالي

ومن المفترض M للعينات والتدريب، ويتم التعبير عن الناتج من المدخلات ط عشر على النحو التالي:

حيث، x و y هي ناقلات 3-الأبعاد. ل x المدخلات، دعونا التنبؤ ز العصبية شبكة (المخرجات) القيم، بل هو أيضا متجه 3-الأبعاد، كل عنصر ناقلات المقابلة إلى وحدة الانتاج. لذلك، على كل عينة التدريب، وهناك:

تشكل شبكة ناقلات قيم المدخلات، وقيم الانتاج والقيمة المتوقعة

نظرا المدخلات س، لذلك نحن بحاجة إلى العثور على مجموعة من الأوزان شبكة القيمة المتوقعة تساوي قيمة الانتاج ذ ز أو الوزن أكثر مماثلة. وهكذا، نضيف يتم تعريف وظيفة الخطأ كما يلي:

وظيفة خطأ في الشبكة العصبية

لحساب مجموع الخطأ، استخدمنا كل من العينات في مجموعة التدريب، ويحسب الخطأ مربع بين القيمة المتوقعة وحدة الناتج الحقيقي في طبقة الإنتاج كل من خلايا الدم الحمراء. وتحسب ولخص لكل عينة، للحصول على الخطأ الكلي.

منذ ز هو القيمة المتوقعة للشبكة، اعتمادا على أوزان الشبكة، يمكنك ان ترى سوف تختلف الخطأ الكلي مع التغيرات في الوزن للحق، أهداف التدريب الشبكة لإيجاد الحد الأدنى مجموعة من الأوزان خطأ .

يمكننا استخدام أصل التدرج للقيام بذلك، ولكن الأسلوب أصل التدرج من الكل مطالبة مشتق الخطأ E من كل الوزن محسوبة على الوزن الذي مكافحة نشر الهدف بد أن يتحقق.

الآن، نحن تمتد إلى الحالة العامة، ولكن ليس قبل ثلاثة حدة الانتاج. على افتراض أن عدد إخراج أي وحدة طبقة الإنتاج، ومن المقرر أن ن، الخطأ الكلي لهذه القضية في هذا الوقت هو:

حساب خطأ

هنا الإيجاز، حذف ط مرتفع، لأنه هو ثابت.

قد يكون لديك أدنى شك، هذه هي الطريقة قيمة الخطأ مع التغيرات في قيمة توقع يختلف وحدة الإخراج؟ لعبت المشتقات دورا هنا:

مجموع مشتق الخطأ النسبي لكل وحدة الإخراج، حيث حصلت على قاعدة السلسلة باستخدام مشتقات المدى المربعة

كما وجدنا أنه مع تغيير القيمة المتوقعة من وحدة الانتاج، على أساس الفرق بين الخطأ القيمة المتوقعة والقيمة الحقيقية، التغيير بنفس المعدل.

هنا قد يكون لديك أسئلة إضافية، عند المدخل الكلي تغيير وحدة الانتاج، وسوف يكون من الخطأ كيفية تغيير. هنا فقط استخدام المشتقات. Z لتمثيل مجموع المدخلات مع وحدة الانتاج، ويحصل على قيمة الصيغة التالية:

خطأ مشتق E فيما يتعلق حدات المدخلات والمخرجات-ي ال إجمالي

ومع ذلك، ز هو وظيفة ض حول تطبيق قانون السلسلة، فسيتم إعادة كتابته على النحو التالي:

بعد تطبيق صيغة قاعدة السلسلة

تذكر أنه في كل خلية، وذلك باستخدام وظيفة لوجستية لمعالجة المدخلات قبل تمريرها إلى الأمام. يعني ذلك، ز وظيفة اللوجستية، z غير مدخلاته، ويمكن التعبير على النحو التالي:

وظيفة اللوجستية ومشتقاته

ثم تحصل على:

الخطأ التام فيما يتعلق مشتق من وحدات المدخلات والمخرجات-ي ال إجمالي

هنا قد حسبت، والخطأ الكلي والاختلاف من مجموع المدخلات من وحدة الانتاج.

الآن، لدينا الأوزان خطأ فيما يتعلق وزن مشتق من هذا هو المطلوب طريقة أصل التدرج.

الوحدة الخضراء المقدمة القيمة التنبؤية ز، ك الأوزان اتصال بين وحدات من طبقة طبقة حمراء وخضراء (طبقة المخرجات) تتم إعادة تعيين إلى وحدات ي:

الخضراء الأوزان اتصال طبقة بين وحدات ك ي حدة وزن طبقة حمراء

النظر في الشكل التالي، وحدة انتاج الموافق الأصفر مجموع المدخلات ض. لحساب مجموع المدخلات، للحصول على قيمة انتاج كل من الخلايا الخضراء في السهم الأحمر أي وحدة اليمنى وضرب إتصال لخلايا خضراء وصفراء، وأضاف كل منهم.

يشير السهم الأحمر للحصول على وحدة الإدخال مجموع الصفراء متصل بين العقد وأضاف

لتعزيز، إن وجدت عدد من الخلايا الخضراء، ومن المقرر أن ن، ن مختلف كما هو محدد أعلاه، يمكن التعبير على النحو التالي:

من مجموع المدخلات إلى مخرجات ي

ولذلك، فإننا لا يمكن إلا أن ينظر إليها باعتبارها مستقلة المتغير z غير وظيفة من الأوزان الصدد، يمكن أن ينظر إليه كحجة لوظيفة من ربط قيمة الانتاج حدة.

هنا جاء دور للعب في قاعدة السلسلة.

عندما تغير الوزن من الوزن اتصال وحدة الانتاج، وكيفية تغيير الخطأ، وهو ما يعبر عنه على النحو التالي:

الخطأ التام فيما يتعلق وزن مشتق من الوزن اتصال وحدة الانتاج

تم احتساب الخطأ أعلاه فيما يتعلق وزن مشتق من الوزن اتصال وحدة الإخراج، وهو المطلوب التدرج أصل المعادلة.

ولكن ليس بعد اشتقاق كاملة، ونحن ما زلنا بحاجة لحساب خطأ فيما يتعلق الطبقات الأولى والثانية ترتبط بالوزن من وزن مشتق، هناك حاجة أيضا إلى استخدام قاعدة السلسلة.

بعد ذلك، حساب التغير في العلاقة بين الخطأ وقيم الانتاج ك الخلايا الخضراء:

الخطأ التام فيما يتعلق مشتق من وحدة ك ال قيم الناتج من طبقة خضراء

منذ-ك ال وحدة ذات الأوزان اتصال ي، اتخذنا بعين الاعتبار:

الخطأ التام فيما يتعلق مشتق من وحدة ك ال قيم الناتج من طبقة خضراء

الاشتقاق لينتهي هنا، وحصلنا على مشتق فيما يتعلق الخطأ الكلي للقيمة انتاج خلية . الآن، يمكننا أن نتجاهل إخراج طبقة حمراء، وطبقة خضراء والطبقة الأخيرة من الشبكة، وتكرار جميع الخطوات المذكورة أعلاه لحساب مجموع الخطأ E فيما يتعلق وزن مشتق من الأوزان الإدخال.

وستلاحظون أن "خطأ" بيننا حساب أول مشتق من القيمة المتوقعة والقيمة الفعلية متساوون. وبالمثل، فإن مشتق من مصطلح الخطأ النهائي هي نتاج العناصر الأخرى.

وهذا ما يسمى خوارزمية العودة الانتشار لأننا نسمي هذا شكل من أشكال نشر الخطأ مرة أخرى، يتم تغذيته من الطبقة الأخيرة إلى الطبقة الأولى، ويستخدم لحساب عدد كل وحدة من الأوزان شبكة الخطأ E فيما يتعلق الدليل.

يحسب ما دامت هذه المشتقات، وأنها يمكن أن تستخدم في عملية أصل التدرج لتقليل الخطأ E وتدريب الشبكة العصبية.

آمل أن يكون هذا المقال يجعلك فهم أفضل للمبدأ عمل-نشر مكافحة ~

- انتهى -

التوظيف الصادق

المكدسة تقوم بتجنيد محرر / مراسل، ومقرها في تشونغ قوان تسون في بكين. نتوقع الموهوبين والطلاب المتحمسين للانضمام إلينا! مزيد من التفاصيل، يرجى و qubit عدد الجمهور (QbitAI) واجهة الحوار والرد "تجنيد" كلمة.

و qubit QbitAI عناوين على التوقيع

' " تتبع تقنيات AI دينامية جديدة والمنتجات