لى فنغ شبكة AI تقنية مراجعة من قبل: فريق تشو تشانغ بو أكاديمي وأستاذ في الآونة الأخيرة نشرت ورقة "الرسومية المولدة شبكات الخصومة" على أرخايف، ويعرض ورقة إطار نموذج الرسومية-GAN، وهذا النموذج يجمع بين عمق نموذج الضمني ( ميزة عميق نموذج الضمني) ونماذج رسومية احتمالي (نماذج رسومية احتمالي)، والبنية الأساسية يمكن استخدامها لتعزيز بيانات الأداء ولدت الشبكة.

وعمق نموذج الضمني ونموذج احتمالي من FIG.

قبل الحديث عن هذا النموذج، لى فنغ الشبكة لفترة وجيزة شرح عمق نموذج الضمني ونماذج رسومية احتمالي.

يجب على الطلاب دراسة آلة التعلم لا غير مألوف لتوليد نموذج، فإنه يشير إلى سلسلة من عشوائيا يمكن استخدامها لنموذج البيانات المرصودة. وبعبارة أخرى، يفترض في الأبعاد عالية المنفصلة أو المستمر X الفضاء، هناك متغير غير معروف X يطيع توزيع P_data (X). وفقا لبعض التوزيع غير معروف لدينا عينات ملاحظتها العاشر (1)، والعاشر (2)، ، س (N) ويقدر. نموذج الجيل هو إقامة نموذج التوزيع P_model (X) لتقريب توزيع بيانات غير معروف P_data (X)، ويمكن استخدام هذا النموذج لتوليد بعض العينات بحيث "توليد" عينة وعينات "حقيقية"، كما تشبه ممكن. ومع ذلك، من الناحية العملية، وكثيرا ما لوحظ في عينة ليست سوى جزء من العينة متغير حقيقي، ودعا المتغيرات يمكن ملاحظتها. بالإضافة إلى المتغيرات الملحوظة، وهناك بعض المتغيرات غير قابلة للرصد، ودعا المتغير سرية (المتغيرات الكامنة)، أو المتغيرات الخفية. لنفترض أخرى مستترة Z المتغير هو متغير Z منخفضة نسبيا الأبعاد في الفضاء، ونموذج كامل يجب أن تكون على غرار صيغة P_model (X، Z). قاعدة السلسلة P_model (X، Z) = P_model (Z) P_model (X | Z)، يمكن تحويلها إلى نموذج صيغة نمذجة توزيع اثنين: واحد هو توزيع مشروط المتغير الملحوظ X P_model (X | Z) والآخر هو توزيع مسبق P_model المتغيرات سرية (Z).

توليد نموذج، وهناك نوعان، واحد هو نموذج المحدد، واحد هو النموذج الضمني. وذكرت نماذج ضمنية عمق هنا، وهو عمق المشترك للتعلم، والشبكة العصبية هي طريقة غرار ضمنا ص توزيع مشروط (خ | ض). وحيث ما يسمى النمذجة الضمنية، فإنه لا يشير إلى ص توزيع مشروط (خ | ض) النموذج نفسه، ولكن عملية توليد نموذج، أي تعلم رسم الخرائط وظيفة ز: ض س. إدخال الشبكة العصبية مخفيا المتغيرات ض، إخراج متغير المراقبة س. أساسا، وGAN هو شكل من أشكال النماذج الضمنية من العمق، وليس وصفها في التفاصيل هنا.

وفقا لمؤلفي هذه الورقة، وعمق من طراز ضمني من المعروف في الوقت الحاضر يمكن أن تتولد صورة حقيقية للغاية، لكنه فشل في الاستفادة من البنية الأساسية للبيانات، مثل معلومات الدلالي منفصلة للصورة، والاستمرارية بين إطارات الفيديو وما شابه .

من ناحية أخرى، في نظرية الاحتمالات والإحصاء، ويشير إلى ويستخدم نموذج رسومية احتمالي لوصف هيكل FIG حالة نموذج احتمالي العلاقة بين متغير عشوائي متعدد المتغيرات المستقلة. FIG، قبل العقد والحواف بين العقد. في نماذج رسومية احتمالي، تمثل كل عقدة متغير العشوائي (أو مجموعة من المتغيرات العشوائية)، وبين هذه الحواف تمثل احتمال وجود تبعيات متغير عشوائية.

مشتركة نماذج رسومية احتمالي يمكن تقسيمها إلى فئتين: هناك صور ونموذج بياني صليات إلى نموذج. السابق، والمعروف أيضا كما تفعل شبكات النظرية الافتراضية، نيابة عن السببية توجه الرسم البياني احلقي، في حين أن الاتجاه هو هناك. هذه المادة التي تستخدم شبكة النظرية الافتراضية. المعروف أيضا باسم نماذج الموجه غير الرسم البياني تفعل MRF، نيابة عن كل الحافة إلى احتمال الاعتماد بين متغيرين، ولكن لا يشير أي علاقة السببية. FIG نموذج لمزجها غير كامل والاستقلال ويمكن الجمع بين وفقا لتوكيل تجاري شروط التوزيع الاحتمالي، ممثلة في مجموعة من المنتجات الجزئي للالتوزيعات الاحتمالية المشروطة. شبكة النظرية الافتراضية محددة بدقة التالية على النحو التالي:

في تعلم الآلة، ويمكن اعتبار العديد من النماذج تعلم آلة كنموذج احتمال، بل هو أيضا حول المهام المنسوبة لحساب الاحتمالات الشرطية بين المدخلات والمخرجات توزيع التعلم. ومن الواضح أن النموذج رسومية احتمالي يمكن تمثيلها في بنية البيانات، ولكن العيب هو أن لها مع زيادة عدد العقد، فإن خوارزمية تصبح معقدة جدا، لذلك لا يمكن التعامل مع هذا النوع من البيانات صورة معقدة.

اثنين، الرسومية-GAN

الرسومية GAN، كما ذكر أعلاه، يجمع بين مزايا كل من العمق والنموذج الضمني نموذج رسومية احتمالي. على وجه الخصوص، والكتاب المستخدمة في شبكات النظرية الافتراضية لتمثيل بنية رسومية-GAN بين المتغيرات، ومن ناحية أخرى، مع عمق وظيفة احتمال ضمنية إلى نمذجة البيانات المعقدة.

وأعرب في الشكل الرياضي، والنموذج الضمني من التوزيعات الشرطية يمكن أن تكون مكتوبة على النحو التالي:

حيث X، Z كما ذكر أعلاه هو المتغيرات الملحوظة والمتغيرات الخفية المرتبطة G يمثل الرسم البياني احلقي الموجهة (أي شبكات النظرية الافتراضية). بسبب الخصائص الهيكلية المحلية لشبكات النظرية الافتراضية والتوزيع يمكن زيادة تقسيمها إلى:

هنا Pa_G (خ) (خ يتألف المتغيرات الملحوظة والمتغيرات الخفية) التي تسبق تعريف x_pi_k النظرية الافتراضية، مما يدل على الرسم البياني G x_j المرتبطة العقدة الأصل. عندما تتاح لها هيكل تبعية بين المتغير التابع يمكن أن تكون وظيفة من المعلمات من الشبكة العصبية في العمق، وبالتالي لتتناسب مع البيانات المعقدة. هذا المزيج من طراز ضمني خريطة العمق، وسوف يطلق المؤلف المواجهة FIG الجيل شبكة (الرسومية-GAN).

منذ النموذج نفسه هو غاية غير الخطية، التي النتائج في حساب احتمال p الخلفي (ض | *) من الصعب حساب. لحل هذه المشكلة، استخدم المؤلفون الشبكة العصبية لحسابات تقريبية، الذي دعا إحصاءات نظام الاستدلال، وبعبارة أخرى، فإن استخدام الشبكة العصبية لتقدير ع (ض | س، ) من ف التوزيع التقريبي (ض | س ؛ )، حيث [فاي] هو المعلمة الشبكة. التفاصيل هنا مشابهة لعملية المذكورة أعلاه، وهذا لن تبدأ.

كل ما تبقى هو لتوليد معالم النموذج في نفس الوقت للتعلم والتعرف على نموذج، دعونا p و ف هي كما مشابهة ممكن. الكتاب يقترح اثنين خوارزمية الاختلاف التقليل بناء على خوارزمية العالمية، واحدة للخوارزمية المحلية. كما هو مبين:

فقط تجاهل بنية بيانات المعلومات خوارزمية العالمي، للحد من الاختلاف بين ص (X، Z)، و q (X، Z). مشكلة التقليل ثم يصبح:

هو مكتوب GAN في شكل:

من ناحية أخرى، والنظر في المعلومات هيكل البيانات في خوارزمية المحلية، وP_G الأمامي (X، Z) كما هو مكتوب مبسطة

هنا، A هو واجهة (خ | Pa_G (خ))، أو (ض | Pa_G (ض)) اختصار، F_G مجموعة من العوامل ذات الصلة. وفقا لذلك المشكلة تقليل هنا هو شكل مكتوب من GAN:

الثالثة، وحالتين

في الممارسة العملية، والبيانات المتعلقة بالهيكل، وهناك نوعان من حالة نموذجية مشتركة، وأسطورة أعلاه المذكورة أيضا. في حالة واحدة، وبيانات الصورة بعد تعيين سمات أو فئة من تكوين منفصلة على سبيل المثال MNIST (رقمي)، SVHN (الملونة الأرقام الخلفية)، CIFAR10 (الطبيعية)، CelebA (الوجه)، وغيرها من مجموعة البيانات؛ مثلا الوقت هو مجموعة بيانات الصورة تعتمد تتكون من تسلسل، نقل على سبيل المثال MNIST، 3D الكراسي وما شابه ذلك.

ووفقا للالكاتب الرسومية-GAN، هذين النوعين من البيانات لتصميم النموذجين GMGAN وSSGAN، وذلك لإنتاج عينة ذات مغزى.

1، مجموعة البيانات مميزة منفصلة

نموذج: GMGAN

النتائج: لMNIST تعيين البيانات على سبيل المثال. GAN-G وGMVAE كنموذج السيطرة. GMGAN-G وGMGAN-L تمثل النموذج العالمي والمحلي خوارزمية نموذج الخوارزمية. يمثل ك درجة ثابتة من الخلط.

إذا تم إنشاؤها بواسطة عينة وهي ليست بادية للعيان وأكثر من ذلك يفضل أن يكون ذلك، فمن الممكن أيضا لمقارنة البيانات في الجدول التالي:

كما يمكن أن يرى

. A GMGAN خوارزمية لتوليد أداء عينة مقارنة (أو أفضل) من في نماذج أخرى.

B. خوارزمية خوارزمية المحلية العالمية متفوقة لأنه يستخدم البيانات والمعلومات هيكل.

2، ومجموعات البيانات مميزة مستمرة

نموذج: SSGAN

النتائج: في التجارب المذكورة أعلاه، وقد يرجع ذلك إلى عينة تشكيل MNIST نسبيا تنضج، والفجوة بين كل نموذج قد لا يعكس تماما. في نقل MNIST (أي الزمن الرقمي مع الحركة) النتائج في مجموعة البيانات ومجموعة البيانات 3D الكراسي هنا نحن ننظر.

يظهر هذا الرقم عندما يتم ضبط الوقت T إلى 16، وعدد من عينات إنشاء نموذج. نتائج العديد من النماذج الأخرى على مثل مجموعة بيانات لا تتحمل مشاهدة مباشرة.

وينعكس الأداء نفسه أيضا في لدت كراسي 3D، شريطة هنا T = 31. من نتائج هذه العينات يمكن أن ينظر إليه الرسومية-GAN الأداء المتميز في استخدام بنية البيانات.

الاستنتاجات والبحوث المستقبل

لى فنغ ملخص الشبكة: هذه الهدايا ورقة إطار نموذج الرسومية-GAN، شيدت نموذج يستند إلى معلومات تكوين الإطار يمكن استخدامها في البيانات المهيكلة، وبالتالي زيادة تحسين نوعية العينات الناتجة عن ذلك. في هذه المادة، وكانت واضعي بنية منفصلة والبنية الزمنية مثالين إثبات فعالية وتفوق هذا الإطار النموذجي. يقول المؤلفان الكود كما المستخدمة هنا، ثم يتم المشتركة على جيثب.

المادة، فإن الكتاب المذكور أيضا في دراسات المستقبل المحتمل أن يتوسع الرسومية-GAN القيام بما يلي: 1) هيكل نموذج، الخوارزمية خوارزمية التعلم والاستدلال المعمم؛ 2) في التحقق من صحة النموذج، سوف تضطر إلى استخدام أمثلة من (شجرة مثلا) للقيام بنية أكثر تعقيدا؛ 3) في الاستخدام العملي، محاولات لاستخدام البيانات المهيكلة التعلم شبه إشراف.

المراجع:

Chongxuan لي، ماكس ويلينغ، يونيو تشو بو تشانغ، الرسومية شبكات الخصومة المولدة، أرخايف: 1804.03429

شاكر محمد بلاجي Lakshminarayanan، التعلم في النماذج التوليدية الضمنية، أرخايف: 1610.03483

Qiuxi بنغ، تعلم الشبكات العصبية مع العمق

شبكة النظرية الافتراضية، Wikipedia_en