المصدر: الخبرة

هذه المقالة حول 3123 كلمات اقترح القراءة 6 دقائق.

توضح هذه المقالة أحدث ثماني ورقات على خريطة المعرفة من جوجل، PSU، مؤتمر الشعب الوطني، ومايكروسوفت، تينسنت، علي بابا، ويحتوي على دراسة الهجرة الوصفية، رسم خريطة للشبكة العصبية، عينة صغيرة من تصنيف النص.

استعراض التعلم عينة صغيرة هو محور الأوساط الأكاديمية والاهتمام الصناعة في السنوات الأخيرة. منذ عام 2020، AAAI، نشرت WSDM، ICLR، أوراق المؤتمر CVPR، أحدث الانتهاء من سلسلة صغيرة 8 ورقة على رسم خرائط المعرفة، من جوجل، PSU، الوطني لنواب الشعب الصينى، ومايكروسوفت، تينسنت، علي بابا وما إلى ذلك، يحتوي يوان نقل التعلم، ورسم خريطة للشبكة العصبية، عينة صغيرة من تصنيف النص وما إلى ذلك، يرجى الاطلاع!

1، الرسم البياني قلة شوت التعلم عن طريق نقل المعرفة (المعرفة من خلال الهجرة خريطة التعلم عينة صغيرة)، AAAI2020

ملخص : للتحدي العقد مشكلة تصنيف شبه أشرف وقد درس على نطاق واسع. وقد أثار الرقم الشبكة العصبية (GNNs) مثل الحدود المقبلة في السنوات الأخيرة اهتماما كبيرا. ومع ذلك، فإن معظم GNN مع طبقة خفيفة، مجال محدود المستقبلة، ولا يجوز الحصول على الأداء المرضي، وخاصة في الحالة التي يكون فيها عدد قليل من العقد المسمى. لحل هذه المشكلة، وضعنا مبتكرة إلى الأمام نوع واحد من ضوء التعلم عينة صغيرة (غفل) على أساس معرفة مسبقة من خوارزميات الرسم البياني المساعدة لزيادة دقة تصنيف الرقم المستهدف. على وجه التحديد، والفضاء المتري المشتركة بين نقل الثانوي والهدف FIG، والمساحة تضمين وظائف عقدة محددة جزءا لا يتجزأ من النموذج الأولي من FIG تتميز تسهيل نقل بنية المعرفة. عدد كبير من الدراسات التجريبية والاجتثاث عن أربعة رسومات مجموعات البيانات في العالم الحقيقي تثبت فعالية النموذج المقترح لدينا

عنوان ورقة :

https://arxiv.org/abs/1910.03053

2، AdarGCN: التكيف تجميع GCN لقلة شوت التعلم (التكيفية تعلم عينة صغيرة من GCN البلمرة)

ملخص : يفترض القائمة صغير أسلوب التدريب التعلم العينة (FSL) أن هناك عينة كافية فئة مصدر والمعرفة يمكن نقلها إلى أقل من الدرجة هدف التدريب العينة. ومع ذلك، فإن هذا الافتراض هو في كثير من الأحيان غير فعالة، وخاصة في الاعتراف الحبيبات غرامة. في هذا العمل، نحدد مجموعة جديدة من FSL، دعا fewshot fewshot التعلم (FSFSL)، في هذه الحالة، فئة مصدر والطبقة المستهدفة محدودة فقط عينات التدريب . للتغلب على مشكلة ندرة نوع مصدر البيانات، خيارا طبيعيا هو الاستيلاء من شبكة الإنترنت مع اسم فئة مثل الكلمة البحث عن الصور. ومع ذلك، فإن الصورة لا محالة زحف إلى تلف الكثير من الضوضاء (صور غير ذي صلة)، وبالتالي التأثير على الأداء. لحل هذه المشكلة، نقترح إزالة صورة غير ذات صلة على أساس العلامة التفاف رسومية شبكة GCN تقليل الضوضاء (LDN) طريقة . على هذا الأساس، فإننا نقترح طريقة تقوم على GCN FSL نظيفة الصور على شبكة الإنترنت والصور التدريب الأصلية. LDN وFSL للقيام بهذه المهمة، نقترح نموذجا جديدا على التكيف البلمرة GCN (AdarGCN). باستخدام AdarGCN، يمكن تلقائيا تحديد، لكل عقدة في FIG قامت ينتشر بعيدا ومقدار انتشار في التكوين FIG، وذلك للحد من آثار عينات الضوضاء والتدريب الحافة. وهناك عدد كبير من التجارب تبين أن AdarGCN لدينا تحت FSFSL الجديدة وFSL التقليدي وضع الأداء المتفوق.

عنوان ورقة :

https://www.zhuanzhi.ai/paper/5189982e35b0950b3dd3da91d68a5d07

3، قلة شوت الجيل اللغة الطبيعية للحوار الموجه المهام (موجهة نحو مهام الحوار عينة صغيرة من جيل اللغة الطبيعية)

ملخص : الجيل اللغة الطبيعية (NLG) وحدة هو جزء مهم من نظام الحوار لأداء مهام محددة، وحوار إجراء دلالات الرسمية للغة الطبيعية إلى استجابة. وبناء على نجاح بيانات النموذج التقليدي أو النماذج الإحصائية تعتمد عادة على عدد كبير من التعليقات، والتي لمجالات جديدة ليس ممكنا. لذلك، في التطبيقات العملية، وكيفية استخدام بيانات محدودة علامة على ترقية جيدة NLG النظم الحيوية. ولهذه الغاية، نقترح أول مؤشر NLG FewShotWoz تعيين لمحاكاة التعلم عينة نظام حوار صغير لأداء مهام محددة . وعلاوة على ذلك، نقترح نموذجا SC-GPT. من قبل عدد كبير من NLG المشروح كوربوس قبل التدريب، والوصول إلى قدرات التوليد التي تسيطر عليها، وصقلها من قبل عدد قليل من علامات المجال تحديدا، من أجل التكيف مع الحقل الجديد. أجريت تجارب على FewShotWoz woz وتشير مجموعات البيانات الكبيرة أن العديد من المجالات، SC-GPT هو أفضل بكثير من الطريقة المقترحة قبل (تقاس من قبل مجموعة متنوعة من مؤشرات التقييم الآلي واليدوي).

عنوان ورقة :

https://www.zhuanzhi.ai/paper/16510460dca11e426c62e6d82031c7fc

4، ميتا نقل التعلم من أجل صفر شوت فائقة الدقة (يوان ترحيل الصفر الدراسة عينة من السوبر الفرعية) CVPR2020

ملخص : الإلتواء الشبكة العصبية (CNNs) من خلال استخدام عينات الخارجية على نطاق واسع، مع تحسينات كبيرة في فائقة الدقة صورة واحدة (SISR) الجوانب. وعلى الرغم من أدائها استنادا إلى مجموعات البيانات الخارجية بشكل جيد للغاية، لكنهم لا يستطيعون استخدام المعلومات الداخلية للصورة محددة. مشكلة أخرى هي أنها لا تنطبق إلا على الظروف الخاصة التي هي تحت إشراف البيانات. على سبيل المثال، يجب أن تكون دقة منخفضة (LR) من صورة عالية الدقة (HR) صورة أسفل عينات "Bicubic" صورة خالية من الضوضاء. من أجل حل هاتين المشكلتين، وقد اقترح الصفر قرار السوبر (ZSSR) للمرونة داخل التعلم . ومع ذلك، فإنها تحتاج إلى الآلاف من تحديث الانحدار أن المنطق لفترة طويلة. في هذه الورقة، نقترح استخدام صفر فائقة الدقة عينة من التعلم الانتقال خلية . وبدلا من ذلك، لأنه يقوم على المعايير الأولية المشتركة للعثور على دراسة داخلية مناسبة. وهكذا، يمكننا استخدام المعلومات الداخلية والخارجية، والتي يمكن أن تولد تحديث التدرج نتائج كبيرة. (انظر الشكل 1). مع أسلوبنا، يمكن للشبكة التكيف بسرعة مع ظروف معينة الصورة. وفي هذا الصدد، يمكن تطبيق أسلوبنا لعملية التكيف بسرعة مع الظروف في صورة طائفة واسعة.

عنوان ورقة :

https://www.zhuanzhi.ai/paper/060b612853dfdd5af41688d50ce946d0

5، تصنيف قلة شوت النص مع التوزيعية التواقيع (عينة صغيرة تصنيف النص) ICLR2020

ملخص : في هذه المقالة، نحن مناقشة تطبيق الفوقية التعلم في عينة صغيرة تصنيف النص . Metalearning أظهرت أداء قويا في رؤية الكمبيوتر، والرؤية الحاسوبية، ووضع على مستوى منخفض يمكن نقلها بين مهمة التعلم. ومع ذلك، يتم تطبيق هذه الطريقة على النص تحدي مباشرة - مهام ثروة من المعلومات عن السمة المفردات لمهمة أخرى، قد يكون غير ذي صلة. لذلك، لدينا نموذج لا تعلم إلا من الكلمة، ولكن أيضا استخدام توزيعها، وتوزيع الترميز الكلمات ذات الصلة تظهر واسطة. لنا نموذج التعلم المفردات في إطار دولار التدريب، لتعيين هذه الميزات انتباه لتصبح النتيجة، ثم عشرات الانتباه إلى قياس كلمة التمثيل . أثبتنا أن لدينا نموذج في مجموعات البيانات ستة المؤشر على (متوسط تصنيف 1 شوت 20.0)، والتعلم معرفة المفردات من شبكة النموذج (سنيل وآخرون، 2017)، على عينة صغيرة من تصنيف النص وتصنيف العلاقة هي أفضل بكثير من شبكة النموذج.

عنوان ورقة :

https://arxiv.org/abs/1908.06039

6. تطور الخسائر للبدون اشراف فيديو التمثيل التعلم (يمثل الفيديو غير خاضعة للرقابة تطور فقدان التعلم) CVPR2020

ملخص : نحن اقترحنا طريقة جديدة للتعلم من البيانات لا تحمل علامات الفيديو بتمثيل فيديو على نطاق واسع . من الناحية المثالية، ينبغي أن يكون هذا شكل عام، تحويل، يمكن استخدامه مباشرة لمهام جديدة، مثل الصفر أو إجراءات تذكر لتحديد وعينات الدراسة. ونحن سوف وصف التعلم غير خاضعة للرقابة تمثيل متعدد الوسائط، متعددة المهام مشاكل التعلم، حيث التدوين التي كتبها تصحيح مشتركة بين وسائط مختلفة . على هذا الأساس، قدمنا مفهوم وظيفة فقدان التطور، واستخدام خوارزمية البحث التطورية للعثور تلقائيا الجمع الأمثل من وظيفة فقدان يحتوي على العديد من المهام وأنماط (من الإشراف). على هذا الأساس، فإننا نقترح قاعدة تستند مؤشر التقييم غير خاضعة للرقابة تمثيل زيبف، والتي مؤشر الاستخدام لتتناسب مع توزيع مجموعة كبيرة من البيانات غير المسماة بمثابة قيود مسبقة. هذا غير خاضعة للرقابة ملزمة، وصفت دون أي دليل، وضعف الرقابة، والقيد معين تسفر عن نتائج مماثلة في هذه المهمة. حققت أساليب التعلم غير خاضعة للرقابة المقترحة تمثيل جيد من التعلم في شبكات RGB واحدة، وأفضل من الأساليب التعليمية القائمة. والجدير بالذكر، أنه يقوم أيضا على التسمية من طريقة (على سبيل المثال، ImageNet) عدة أكثر فعالية، بالإضافة إلى مجموعات بيانات ضخمة والفيديو كامل المسمى.

عنوان ورقة :

https://www.zhuanzhi.ai/paper/1cd13817179b2c3e512bbf00a320b4eb

7. قلة شوت كشف الصوتية عبر الحدث (صوت التعلم الفوقية للكشف عن الحدث احتمال صغير) التعلم الفوقية ICASSP 2020

ملخص : هذه الورقة دراسات على عينات صغيرة من تكنولوجيا الصوت الكشف عن الحدث. قادرة على اكتشاف عينة صغيرة التعلم علامة الحدث جديدة مع بيانات محدودة للغاية. مقارنة مع المجالات البحثية الأخرى مثل رؤية الكمبيوتر، والتعرف على الكلام أقل تعلم من عينة الدراسة. نقدم درهم إماراتي أسئلة عينة صغيرة، واستكشاف طرق مختلفة لاستخدام الطرق التقليدية في المراقبة، فضلا عن مجموعة متنوعة من أساليب التعلم الفوقية التي يشيع استخدامها في حل وعينات صغيرة . مقارنة مع خط الأساس إشراف، نموذج التعلم الفوقية لديها أداء أفضل، مما يدل الجديد تأثير تعميم الحدث الصوتي به. تحليلنا بما في ذلك أثر الاختلافات في التهيئة وميدانية لمزيد من التحقق من صحة مزايا أسلوب التعلم الفوقية في عينة صغيرة من درهم.

عنوان ورقة :

https://www.zhuanzhi.ai/paper/1600398c5662ddbea82187c132819ea4

8. عبر المجال تصنيف قلة شوت عبر المستفادة التحول ميزة الحكيم (عبر المجال وعينات صغيرة) ICLR2020

ملخص : يقصد الصغيرة تصنيف العينة في كل فئة لتحديد سوى عدد قليل من فئة جديدة المسمى الصور. المقاييس التقليدية وعينات صغيرة باستخدام خوارزمية التعلم القائم على ميزة وظيفة مميزة متري من الصورة الاستعلام مع عدد أقل من صورة العلامة جزءا لا يتجزأ من (بدعم مثال) جزءا لا يتجزأ من المقارنة بين فئات المتوقعة. على الرغم من أنه ثبت أن هذه الطرق لها أداء جيد، ولكن نظرا لخصائص التوزيع بين المجالات هناك فرق كبير، وهذه الأساليب في كثير من الأحيان لا يمكن تعميمها على نطاق غير مرئية. في هذا العمل، حللنا مشكلة عينة حد كبير على أساس طريقة التصنيف في مجال نقل تحت. فكرتنا الأساسية هي استخدام مرحلة التدريب أفيني التحول من ميزات تحسين الصورة لمحاكاة ميزات مختلفة في مناطق مختلفة من التوزيع. من أجل التغييرات الالتقاط في خصائص مختلف مجالات التوزيع وطبقنا مزيد من التعلم - أساليب التعلم للبحث hyperparameter طبقة تحويل ميزة الحكيم. نحن نستخدم الفئة 5 صغيرة مجموعات البيانات عينة: مصغرة ImageNet، كوبا، سيارات، أماكن والأخمصية، والكثير من التجارب والبحوث في مجال ضبط الاجتثاث المعمم. وقد اظهرت النتائج أن طبقة تحويل ميزة المقترحة لمجموعة متنوعة من المقاييس استنادا إلى نموذج، ونقل المجال عند توفر عينات يتفق تحسين الأداء التصنيف. .

عنوان ورقة :

https://arxiv.org/abs/2001.08735

- انتهى -

تسينغهوا الانتباه - بيانات أكاديمية تشينغداو للعلوم قناة الصغرى الرسمية منصة الجمهور " بيانات الإرسال THU  "أيتها الأخوات ولا". إرسال البيانات THU  "لرعاية المزيد من المحاضرات ونوعية المحتوى.