مع النجاح الكبير لعمق الشبكة العصبية المحرز في التعرف على الصوت والصورة، AlphaGo البشر الضرب يذهب لاعبين كبار إلى عمق الذكاء الاصطناعي القائم على الشبكة إلى الدخول في موجة ثالثة. في نفس الوقت مشكلة المعلومات على الإنترنت الزائد تواجه المكثفة، التي توصية شخصية هي وسيلة هامة لتصفية المعلومات.

في صالون الفن التاسع في ميتو، ميتو Jiangwen روي من الفيديو الشركة قصيرة كنقطة انطلاق، نموذج عمق لاستكشاف المشهد توصية كيف شخصي. في نفس الوقت هذا النموذج "العميق" فهم تفضيلات المستخدم ويمكن الحفاظ على كفاءة معينة من التفكير.

 / الأعمال الخلفية /

لدينا سيناريو العمل الرئيسي في الفريق الامريكي للفوز على اتجاه المجتمع فيديو قصير، لإظهار اتخذت الولايات المتحدة المنزل مزدوج شكل تدفق صف واحد، والتي تحظى بشعبية مشاهد فيديو قصيرة. إذا كان المستخدم يراقب حاليا فيديو قصيرة بما فيه الكفاية الساخنة، وتريد أن ترى يمكن أن تنزلق عند المحتوى أكثر مماثلة، أي انخفاض في سيناريوهات الأعمال.

الشكل (1)

نحن في عصر المعلومات الزائد، فيديو قصير من هذا المنبر وسائل الإعلام الجديدة ليست استثناء. مع راحة رفع إنتاج فيديو قصيرة والنشر، وكل دقيقة سوف يكون هناك عدد كبير من فيديو قصير أنتج في الثانية، واجه مع الوضع من هذا القبيل من الحمل الزائد للمعلومات، خدمات شخصية توصية أكثر وأكثر أهمية.

 / شخصية عملية توصية /

ينقسم توصية شخصية إلى عدة مراحل. في مرحلة استدعاء تقييم ما قد تكون مهتمة المستخدم في والتصفية من محتوى لا يهتم المستخدم. مرحلة الفرز نتائج تفعل الخدمات التهديف التذكير، إلى المباراة النهائية مرحلة يقدر وبالنظر إلى عدة عوامل الجدة والتنوع ودقة وتوقيت وهلم جرا، وتقدم للمستخدم نتيجة التوصية. وستركز المرحلة التالية من المحتوى التوسع في الفرز. وهناك مجموعة متنوعة من الاستراتيجيات الفرز نموذج مرحلة: خطي LR نموذج، غير الخطية GBDT نموذج، نموذج NN، اخترنا نموذج NN، لأنه لديه مساحة أكبر للخيال ومساحة للعب.

الشكل 2

كيفية الحصول على نموذج جيد عمق DNN؟ لا يمكننا إجراء التعديل كل محاولة لتطبيق الخدمات الإلكترونية، وإنما من خلال عدد من المؤشرات لقياس ما إذا كان النموذج بسرعة وذلك تمشيا مع التوقعات. لذلك علينا أن نبدأ من الأعمال يحتاج نقطتين لتحديد المؤشرين، وهو مؤشر يستخدم لقياس قدرة النموذج لتناسب متري، مؤشر آخر لقياس كفاءة المنطق كفاءة النموذج، فإنه ببساطة كلمتين: شبه و بسرعة .

لماذا تحتاج إلى عبور؟ أول اطلالة له عبر في مثالين. تخيل سيناريو: عندما يفتح المستخدم الولايات المتحدة عندما يعرض فيلم فيديو، إذا كان شريط الفيديو هو موضوع أو تسمية المكياج الدرجة، فمن المتصور عندما يقوم المستخدم بالنقر فوق احتمال اللعب هو أكبر بكثير من الذكور في حين أن المستخدمين الإناث، وهذا هو الترتيب الثاني أمثلة على الصليب. والشيء نفسه يمكن أن تمتد إلى ثالث ترتيب كروس، والإبقاء فقط ميزات الأولين (الجنس: أنثى، العلامات: ماكياج) بشرط، ثم إدخال الخصائص العمرية: مستخدم من سن معينة يلعب هذا النوع من الفيديو احتمال أكبر من المستخدم الآخر، وهو ما يسمى الصليب ثالث ترتيب.

ملاحظة: الصليب أي حيث الصليب، جدول الرموز خصائص fModel_BI عبر الصليب.

 نموذج العمق التطور / /

3، تشير إلى المنطقة الحمراء أن الهدف الأمثل لقدرة النموذج المناسب متري، ولكن في مرحلة لاحقة إلى تحسين كفاءة الهدف المنطق الكفاءة النموذجي.

الشكل (3)

1.LR-FM-NFM-DCN-xNFM-xNFM_Sparse

LR نموذج واسع جدا ونماذج نموذجية الضحلة، مثل هذه النماذج لديها سمة: عندما يتم استخدامها مع دليل يتميز في الصليب الساخنة واحدة الترميز.

المزايا:

سهلة الاستخدام

نموذج خاصة الضحلة، وكفاءة عالية نموذج المنطق

العيوب:

الخطية نموذج المناسب قدرة غير الخطية الفقراء المشهد

ميزة اليدوية CROSS

• التكلفة العالية، عندما على الأعمال مألوفا لا سيما مع عندما يتعلق الأمر بهذا العمل لاستخراج بعض من ملامح أكثر فعالية الصليب، إذا التحول إلى شركة جديدة تحتاج الى انفاق الكثير من الوقت والتكاليف للتعرف على الأعمال الجديدة، من أجل استخراج ميزات عبر فعالة.
• التدرجية الفقراء، مع انتشار خصائص البعد سيناريوهات الأعمال الفعلية، وصعوبة استخراج الفعال لجميع ميزة المتقاطعة سوف تنمو أيضا.
• صالح الفقراء والنوع الاجتماعي وعبر المثالي العلامة النص المذكور أعلاه، وهو عبر اضح، ولكن في الواقع الكثير من حركة المرور عبر هو المتنحية، غير مرئية، فهي من الصعب استخراج الطريقة يدويا.

لالصليب هناك اليدوية العيب ميزات نعتقد يمكن تلقائيا القبض على ميزة عرضية من الجهة مستوى النموذج، لذلك قدمنا نموذج FM.

2.LR-FM-NFM-DCN-xNFM-xNFM_Sparse

FM نموذج هيكل هو مبين في الشكل (4)، والتي تبين جزء من LR الأصلي جزء نموذج الوردي، حيث يمثل الصليب الجزء الأزرق من التعلم، والتعلم عقدة أرجواني يشير إلى الصليب الجنسين الثاني من العلامة.

الشكل (4)

في كل مرة نفعل يقيم نموذج غير متوافر عندما تطور المؤشر الذي هو النموذج القدرة المناسب . ويمكن ملاحظة تأثير في FIG جدول مستوى 5: LR مع الاحترام للنموذج، نموذج FM لديه رفع متواجد حاليا مؤشر جيد.

الرقم 5

من ناحية أخرى، على الرغم من طراز FM اليدوي يتغلب على عيوب مميزة الصليب، لكنه لا يزال ينتمي إلى عائلة من النماذج الخطية. لذلك قدمنا نموذج NFM.

3.LR-FM-NFM-DCN-xNFM-xNFM_Sparse

انطلاقا من نموذج نموذج FM اسم NFM قبل إضافة "العصبية" حقل يعكس التكوين بديهية جدا هو مبين في نموذج FIG NFM. تمكنا من الوصول الكامل إلى طبقة الاتصال في طبقة ثلاثة BI-تفاعل FC (الجانب الأيمن من FIG هيكل نموذج يبقى LR نموذج)، وبهذه الطريقة لتعزيز القدرة على نموذج المناسب غير الخطية. ولكن سوف تجد الوقت للتفكير في النموذج نفسه، NFM نموذج نموذج FM التقاط صور ثابتة فقط كما الدرجة الثانية كروس، والمرتبة الثالثة لا يمكن القبض على أعلى ترتيب الصليب.

6

لغرض التقاط النظام أعلى الصليب، أدخلنا DCN النموذج، وهي ديب الصليب الشبكة.

4.LR-FM-NFM-DCN-xNFM-xNFM_Sparse

بالإضافة إلى نموذج ونموذج DCN NFM عبر مقطع هيكل مشابه. نموذج عبر طريق التحكم في عدد من الطبقات DCN لعبور محددة الاستيلاء على النظام، وطبقة من الدرجة الثانية عبر الصليب يمكن التقاط الصور، ويمكن التقاط المرتبة الثالثة طبقة عبر الصليب ...... وهلم جرا.

الطبقة التالية من خلال توسيع على الصليب لإثبات كيفية التقاط الدرجة الثانية والدرجة الثالثة عبر عبر .

الدرجة الثانية القبض على التقاطع هو: نسبة النقر إلى الظهور (الجنس: أنثى، العلامات: ماكياج) >  نسبة النقر إلى الظهور (الجنس: ذكر العلامات: ماكياج).

النظام الثالث عبر التقاط هو: نسبة النقر إلى الظهور (الجنس: أنثى، العلامات: ماكياج، العمر: 18-36) >  نسبة النقر إلى الظهور (الجنس: أنثى، العلامات: ماكياج، العمر: 12-18).

القبض على التعلم عبر الثاني هو أمر X1 = X0 x0T.

القبض عند التقاط الترتيب الثالث الصليب هو X2 = X0 x1T.

عن طريق هذه الدورة سيتم تمديد للنظام N-تشرين أجل الصليب-N + 1 الصليب. أيضا عند تنفيذ نموذج DCN ملاحظة: مصفوفة السمة رتبة 1، القسم الأول حساب XT مضروبا ث، يفترض أن طول ناقلات تضمين ذلك بعد عام 2000، ثم تعقد الفضاء يمكن أن يكون الأمثل ل20002000 * 2000. من خلال هذه الآلية تنفيذ فعال لمنع مساحة المعلمة OOM كبير جدا جلبت.

تحليل المرحلة

NFM من طراز FM إلى نموذج، وتعزيز القدرة المناسب غير الخطية للنموذج، نموذج من NFM DCN إلى نموذج، وبالتالي فإن نموذج التقاط فقط عبر من الدرجة الثانية لالتقاط أعلى من الدرجة الصليب. ويمكننا أن نرى NFM رفع مقابل FM وDCN مقابل NFM في الشكل 7.

الرقم 7

من طراز LR لFM نموذج، نموذج NFM للنموذج DCN، ونحن نركز على نموذج تعزيز قدرة المناسب في المقابل حققت نتائج جيدة. ولكن من الصعب أن يكون كل من الأسماك ومخلب الدب، وتحسين القدرة على نموذج المناسب حتما تعزيز تعقيد النموذج، مما أدى إلى انخفاض في المنطق نموذج الكفاءة.

المقبل، النظر في (انخفاض القدرة على نموذج يصلح ضمن نطاق مقبول) مع الحفاظ على قدرة تركيب نموذج تعزيز كفاءة نموذج المنطق . أولا، أسباب انخفاض كفاءة المنطق أن طبقة نموذج NFM التضمين، عملية بحث فائقة الأبعاد تضمين طبقة تتميز عملية تستغرق وقتا طويلا، وبالتالي التفكير في استبدال الكلاسيكية طبقة طبقة FC التضمين. ولكن هذا بديل بسيط قد يسبب مشكلتين: معالم النموذج الكبيرة وذات الحجم الكبير .

5.LR-FM-NFM-DCN-xNFM-xNFM_Sparse

مصدر المشكلة هو أنه مهما الميزات يتم توحيد الترميز ناقلات (مثل 128) طول ثابت، لذلك بهذه الطريقة على مساحة الترميز هو مضيعة ذلك؟ لذلك قدمنا حيث فينويك ، ووفقا لميزة تمييز طول فينويك الترميز. عن طريق نقاط ميزة تمتد على نحو فعال شبكة المجال قد دعم أبعاد الميزة، يتغلب على المشاكل والمفرطة المعلمات نموذج المتضخم، وتتميز في هذا النموذج الفرعي نطاق المضافة، وطبقة الانتاج FC، فمن xNFM نموذج.

بعد القيام بتحليل الأمثل على مراحل، وجدنا أن كفاءة المنطق xNFM النموذج هو نموذج NFM مرتين. ولكن لا يزال نواجه الاختناقات في عملية تعزيز هذا النموذج، بعد كل شيء، وكثير من فينويك FC ترقية يجلب أيضا تعقيد النموذج إلى حد ما. عند هذه النقطة ونحن نقدم نموذج xNFM_Sparse.

6.LR-FM-NFM-DCN-xNFM-xNFM_Sparse

الانحدار xNFM_Sparse من FC تضمين تضمين جدول بسيط بحث، ولكن بطريقة منفصلة لتحقيق مجموعة متناثر تضمينها (تضمين بطريقة فعالة)، في حين يتم دمجها في جزء من حساب BI-التفاعل، من أجل تعزيز كفاءة المنطق النموذج من قبل. XNFM النقيض xNFM_Sparse نموذج ونموذج النتائج: بقي متري دون تغيير، ولكن تم كفاءة الكفاءة المنطق الضعف تحسنت مرة أخرى.

 / عمق ملخص نموذج /

لتقديم كفاءة المنطق أعلاه وخطوة بخطوة كيفية قدرة لتتناسب مع نموذج من نماذج الأمثل، إلى جانب النموذج الحالي لتقديم ملخص.

لدينا نموذج يمتد أربعة مجالات هي:

• تضمين
• LR
• MLP
• الصليب

يختلف عن الشبكة العصبية CNN الفهم الدلالي التلافيف من الصورة، وعادة ما تتميز شخصية المشهد توصية عالية الأبعاد جدا ومتفرق، والحاجة إلى وسائل تضمين فعالة للتعامل مع هذه المشكلة. لطراز LR وMLP نموذج ضرورة أن استولت عليها نموذج الذاكرة على نطاق واسع، أي ميزة أن الجزء الرفيع جزء تردد على نطاق واسع من العينة التعلم، والاستفادة من نموذج ذاكرة جيدة، وأنها ظهرت على عينة يمكن استخدامها في ميزة على مستوى منخفض عالية التردد بعض المعلمات للتعلم. وفي الوقت نفسه تحتاج أيضا لالتقاط تعميم نموذج ديب التعميم، ونقاط القوة جزء عميق من أن ذيل طويل جزءا من العينة التعلم، والاستفادة من قدرة التعميم قوية، لعدد صغير من العينات يبدو لم تكن حتى قادرة على تقديم عينة التنبؤ (تضمين متجه صفر). ويمكن تلخيص المقطع العرضي للآخر تلقائيا إلى الثانية الالتقاط، الثالثة، من خلال هذا النموذج، أو حتى أعلى من أجل الصليب، أو MLP عن القبض على مقهورة الصليب، والخصائص السائدة تلخيص عبر الصليب القبض عليه.

الرقم 8

وإذ تشير إلى تطور نموذج العمق، في بداية LR، على نطاق واسع وعميق المرحلة، لدينا لالتقاط يدويا عبور طبيعة الشاملة، بينما على نطاق واسع وعميق أيضا التقاط مقهورة الصليب؛ لFM، NFM، مرحلة DeepFM، تمكنا من القبض على المهيمن الثانية النظام عبر، ثم DCN، نحن عبور أجل السيطرة على طبقات الشبكة، واستولت على مستوى العنصر المهيمن من ذات الترتيب العالي الصليب، حتى ورقة لصنع توسيع xDeepFM، التقاط المهيمنة على مستوى النواقل ذات الترتيب العالي الصليب.

 / المستقبل /

على الرغم من أن الكثير من الفضاء قضى فوق لإدخال عمق نماذج سلسلة FM، ولكن ليس كل من FM لدينا حيث مركز الثقل، بل هو أشبه الأساس ناطحة سحاب منه.

"هذه ليست نهاية المطاف، وهذا هو مجرد بداية."

FM نموذج عمق كنقطة انطلاق، وهي عدم وجود التفكير فيه وكيفية تحسين على مستويين ونموذج الأعمال. الأول هو المستوى التشغيلي، بسيط DNN من السهل جلب السؤالين التاليين:

• بدء الباردة مشكلة

المستخدمين أو الفيديو الناشئة، أقل خصائص السلوك المرتبطة بها، وقد "معايرة" نموذجا جيدا لهذا المستخدم أو الفيديو، يتميز مهارات التفكير الفقيرة

• التمثيل

إحصائيات عددية بسيطة تميز محدودية قدرة سلوك المستخدم البصرية وتستعد بالفعل الناس، هي أكثر عرضة المعلومات البصرية لنداء للمستخدمين

هاتين المسألتين التي نواجهها إدخال دمج البيانات متعددة الوسائط، ونموذج أيضا يجمع بين مزايا مجموعة متنوعة من النماذج. محفوظة FM بعد المزايا في حين قدم CNN وRNN / LSTM.

1. التكنولوجيا الفعالة التضمين للتعامل مع الأبعاد عالية، ميزة متفرق

2. توصيف قدرة غير الخطية، المتنحية فعالية التقاط عبر

3. التقاط الفعالة عبر المهيمن

CNN والتي يمكن القبض على نحو فعال الخصائص البصرية للأبعاد المستخدم. للفيديو في حين الناشئة، حتى لو لم تظهر في بيانات التدريب، CNN أيضا القيام التفكير الجيد. وRNN / LSTM روج لتسلسل العمل للمستخدمين التعلم الفعال.

من منظور النموذج نفسه، هذا نموذج DNN مزاياه الكامنة على النحو التالي:

• مناسبة ممتازة لسعة البيانات، ومجموعة متنوعة من الخدمات للدولة من بين الفن
• على نطاق واسع الأمثل العشوائية خوارزمية بسيطة وفعالة.

لكن DNN أيضا العيوب المتأصلة فيها:

• سوبر معلمات كثيرة جدا (مثل معدل التعلم، المعلمات التنظيم، وما إلى ذلك)، فمن الصعب معرفة
• باستخدام تقديرات نقطة، وليس مع الأخذ بعين الاعتبار عدم اليقين المعلمة

و الاستدلال النظرية الافتراضية ويمكن التغلب على هذه العيوب بشكل فعال. الاستدلال النظرية الافتراضية باستخدام كمية صغيرة من التوزيعات السابقة وتقدير المعلمة، مع المراعاة التامة المعلمات عدم اليقين. لذلك نحن نقدم التعلم عبر الإنترنت عمق النظرية الافتراضية، والإبقاء على مزايا نموذج DNN، في حين يمكن تحديث افتقارها لخدمة العملاء، ونموذج على الانترنت في الوقت الحقيقي، لالتقاط الوقت الحقيقي تعليقات المستخدمين.

-------------

الإصدار الأصلي لعدد قناة الصغرى العامة - الفريق التقني البيانات ميتو (gh_feb1d206d92b)