شبكة لى فنغ منظمة العفو الدولية تكنولوجي ريفيو: تعلم آلة الدوائر في هذه الأيام، حدث شيء مضحك، مجموعة من العلماء المعروفين في الكفاح من أجل عقد ICML 2018 (نقاش) العقول معا، فإن النتائج لا يتشاجر.

من "ميل غريب" لبدء

قبل افتتاح ICML عام 2018، وهو أستاذ مساعد في جامعة كارنيجي ميلون، زاكاري C. ليبتون والدكتور يعقوب جامعة ستانفورد شتاينهاردت نشرت بالاشتراك مقالا بعنوان "مثيرة للقلق الاتجاهات في منح الدراسية آلة التعلم" (آلة التعلم البحوث الأكاديمية اتجاه غريب) من ، وصف الدراسة أربعة اتجاه غريب الأكاديمي شهدت في السنوات الأخيرة الآلة:

• لا يمكنك التمييز بوضوح بين التفسير والمضاربة.

• وعندما تحسنت في التجارب المظاهرة، انها لا تستطيع تأكيد المصدر الحقيقي للتحسين، هذا التركيز حسب كثيرا على المكاسب الأداء من هندسة الشبكات غير العصبية يجب أن تكون التغييرات، ولكن في الواقع مشتق من الأداء الكامل اختبار فائقة المعلمة.

• الرياضيات: استخدام الكثير من المفاهيم الرياضية والصيغ مجرد الخلط بين مفهوم أو ننظر طويل القامة، ولكن ليس حقا لجعل تعبير واضح، مثل الخلط بين مفهوم التقنية وغير التقنية.

• المفردات الاعتداء، كما هو الحال مع بعض غير تقليدي، دلالة العامية من الكلمات، أو المفردات إلى التكنولوجيا الحالية لإضافة معنى إضافي.

وبالإضافة إلى التحليل وتنتقد هذه الاتجاهات، والكتاب أيضا الصحيح مقال أسلوب الكتابة، وكيفية النظر بشكل صحيح ونشرت يعطي نصائحه الخاصة.

وبالإضافة إلى هذا المقال على تويتر يتم توجيهها على نطاق واسع والمناقشة، في الواقع، ICML 2018 أيضا على هذه المادة باعتبارها التمهيدي، وإنشاء النقاش (آلة التعلم: مناظرات العظمى) في اليوم الأخير من الورشة، دعا العديد من المعروف جيدا العلماء في مجال آلة تشارك في النقاش.

وينقسم النقاش بأكمله إلى أربعة مواضيع: تعلم الآلة الصرامة البحوث، وإمكانيات الإنصاف والقيود المفروضة على تعلم الآلة، والأمن، والتعلم الآلي والتعلم العميق النهج. وتنقسم 16 العلماء إلى أربع مجموعات لموضوع للنقاش. نقاش تتخللها أيضا بكلمة صغيرة، ويوضح زاكاري ليبتون بعض النقاط الهامة في هذه المادة، وتذكير تبقى علماء الممارسات الضارة يقظة.

من زاكاري ليبتون، والحديث عن إساءة استخدام ورقة اللغة

• موحية المفردات: التفكير الموجه، والوعي، المتعالي، والفضول، ويخشى، دلالات. ويبدو أن هذه الكلمات لتعبر عن نموذج مع الإنسان مثل القدرة المعرفية، ولكن أسوأ بكثير في الواقع. مرة واحدة وقد تم استخدام المفردات، ويعتقد أن زيادة عدد معنى تقني، ثم الباحثين سيكون لاختيار لأنها قد تستمر، أو استبدال مفردات جديدة.
• المفردات التقنية الاعتداء: إزالة التفاف، والتفسير، والنموذج التوليدي، وتركيب، التعميم. هذه الكلمات لها معنى تقني في حد ذاته، ولكن غالبا ما تستخدم للإشارة إلى ما شابه ذلك، ولكن ليس لديها نفس معنى الزميلة، أسفرت أيضا عن استمرار الارتباك.
• "حقيبة" كلمات: المساواة، وتفسيرها، وعيه. وقد يكون لهذه الكلمات العديد من المعاني المختلفة للكلمة مثل حقيبة مليئة المقابس.

من زاكاري ليبتون، والمؤلفين من ورقة اقترح: الدافع، واستخدام اللغة، والخبرة والإنجاز والنظرية نفسها يجب أن يكون الصرامة كافية

• الدافع: لنسأل "لماذا" ولا تكون راضية عن "كيف جيدة"
• اللغة: والغرض من هذا المحتوى هو مكتوب يمكن فهمها، بما في ذلك المراجعين والطلاب وعامة الجمهور (إن أمكن)
• نتائج تجربة الصرامة: الرمز المشترك لضمان التكرار، ودراسة كمتغير مراقبة وتحليل الأخطاء، وصف تفصيلي للخوارزمية ورداءة الوضع الأداء
• نظرية: طلب مرارا نفسي، هل كانت النظرية صحيحة، بل هو علاقة، فمن واضحة وموجزة؟

من زاكاري ليبتون، فمن المستحسن بالنسبة للأشخاص من المقيمين:

• توجيه البحوث نحو الحوافز من المراجعين، لذلك ينبغي المراجعين تحمل المسؤولية.
• وتعكس تعليقات المراجعين بك "قيمة المعرفة العلمية المدربين تدريبا عاليا وقدرات اتصال واضحة حتى الآن؟
• سوف تكون أكثر استعدادا / غير مستعدة لقبول المزيد من الورق، لأنها: - يتضمن النتائج السيئة - حوكموا على خوارزمية لا عمل مجموعات البيانات / القضايا - بما في ذلك مجمع (ولكن أيضا يمكن أن تصبح من الصعب جدا على قراءة وفهم) نظرية

النقاش الآية

النقاش كلها غنية جدا، وجها لوجه نقطة الاتصال نظر أيضا أفرزت الكثير من الشرر، بحضور جمهور أعرب شعورا جديدا. على الرغم من أن الظروف لا يمكن استنساخ النص الكامل للجميع، ولكن ظهرت مقتطفات شبكة لى فنغ AI تقنية استعراض بعض كلاسيكية جدا من المناقشة، ويشحذ الفكر الجملة.

"ديب التعلم" الموضوع - نهج التعلم العميق الحالي والمنظور ينطوي على أوجه قصور، الأمر الذي يحد أيضا القدرة على جعل رفيع المستوى آلة الاستخبارات مع عمق التعلم، ما لم نحصل على وسائل أخرى لتكملة

غاري ماركوس زعيم، أستاذ علم النفس في جامعة نيويورك، مختبر الذكاء الاصطناعي اوبر السابق

• إذا قمت بإدخال بيانات تغير قليلا قليلا، والنظام لا يمكن أن تعمل بشكل صحيح، وأنه ليست في الحقيقة "يتعلم" أي شيء من ذلك؟

• إذا كان لنا أن نتعلم كيف يمكن اعتبار التطور البيولوجي، فإن أي عملية التكيف يمكن عدها ب "التعلم"، بعد ذلك سوف تصبح واسعة جدا "التعلم" بالمعنى المقصود للكلمة، ونحن الآن فإن النقاش لا تجعل أي معنى أ.

• إذا لم يكن هناك نموذج نظري، مجرد القيام الصندوق الأسود الأمثل لا يكفي.

توماس G.Dietterich جامعة ولاية أوريغون أستاذ فخري، رئيس AAAI السابق

• ابنة الدماغ غاري ماركوس العائلة 200 سنة من البيانات المشفرة عن طريق التطور، الكرسي بحيث أنها يمكن معرفة كيف كان عليه.

• نحن لا ثم جسد الخوارزمية. يجب أن تعكس اسم الخوارزمية ما يقومون به، وكيفية القيام به، بدلا من الغموض بالمقارنة مع الحكمة، والفضول، مثل مفهوم الحلم الإنساني.

• لذلك لماذا القطط لديها أربعة أرجل؟ (غاري ماركوس ذهب إلى القول: أربع أرجل ولكن لا يزال يمكن إزالتها بعد المشي.)

• لالسببية، وأعتقد أن الناس المبالغة في تقدير أهمية العلاقات بين السبب والنتيجة، وقدرة الإنسان على التعامل مع العلاقة السببية الخاصة ليست الطريقة. لذلك هو موضوع البحث مثير للاهتمام.

• 80 إلى 90 من كل حكمة ممكنة البشرية والسلوك الاجتماعي، والمشاعر ذات الصلة، ولكن هذا الجانب من الصعب الحصول على البيانات.

• هذا ICMLDebates ما نريد النقاش، لا ينبغي أن تناقش كيفية إعادة تحديد هذه الشروط ونحن نتحدث عن في نهاية المطاف هو ما يعنيه.

"المساواة" الموضوع - لحول قضايا المساواة للدخول في مناقشة فعالة، مجتمع التعلم آلة لا ينبغي أن يتم تخفيضها إلى المساواة بين مشكلة فنية. على العكس من ذلك، يجب أن تكون المشكلة أكثر وأكثر وضوحا قضية مجموعة واسعة من المنظمات تغيرت أكثر وأكثر، ولكن أيضا إلى الترشح للتأثير السياسي من التكنولوجيا في حد ذاتها

رودريغو Ochigame ، MIT دكتوراه، معهد ماساتشوستس للتكنولوجيا وسائل الإعلام مختبر الذكاء الاصطناعي والمعنوي فريق الإدارة

• اليوم، وصناعة التكنولوجيا من أجل المساواة للقيام بذلك، وما هي صناعة التأمين من 1980s الاكتوارية تفعل الشيء نفسه، فإنه بنجاح تنتهي هذه الحركة الاجتماعية.

• المساواة خوارزمية غير موجود. ولكن المساواة القرار موجود. مطالبات للتنمية متساوية من خوارزمية بسيطة جدا، وهذا هو استراتيجية سياسية مشروعهم المشترك، ثم أنها قادرة على تجنب قضايا المساواة الحسابية جلبت تأثير بعيد المدى الاجتماعي.

"الصرامة" الموضوع

زاكاري ليبتون استاذ جامعة كارنيجي ميلون مساعد، "مثيرة للقلق الاتجاهات في منح الدراسية آلة التعلم" باعتباره

• أهمية البحث العلمي هي مساهمة قيمة، وليس المال الوفير.

• المبتدئين قد لا يفهم ما هي أسئلة مفتوحة، ونحن لا نعطيهم المتاعب.

• يجب أن نعطي الأولوية في الاهتمام لاكتشاف معارف جديدة، بدلا من بنية الشبكة المكتشفة حديثا.

• علينا أن نحاول تجنب استخدام "المساواة"، "تفسيرها" هذه "حقيبة" أسلوب المفردات - عند فتحه لرؤيتها، من يدري ما سوف يأتي. أساسا كل شخص لديه فهم مختلف للكلمة، قبل فهمها أول من يفعل العديد من التفسيرات والتعريفات.

جيمس برادبري

• الرياضيات الصرامة وتفسيرها العامية على حد سواء نهاية الإحداثيات، هم أنفسهم ليسوا هم المشكلة نفسها.

• نحن بحاجة الى مزيد من الأبحاث والتجارب للتحقق من صحة لدينا أطروحة القيام به في اختيار الماضي هو الصحيح.

• مفاهيم الإنسان العامية (مثل "الفضول") مهم جدا للتواصل الحقيقي، لأنها يمكن وأوسع مفهوم الحدس الاجتماعي والإنساني لتوليد الروابط.

"الأمن" الموضوع - نظام التعلم الآلي اليوم هشة، وهذه المسألة أمر بالغ الأهمية حتى أننا لا يجب أن تسمح المستخدمة على نطاق واسع في سيناريوهات العالم الحقيقي الذي

بيرسي ليانغ ، أستاذ مساعد في جامعة ستانفورد، والعلماء المعروفين في مجال البرمجة اللغوية العصبية

• نموذج التحقق الرسمي لا جدوى منها، ولكن في محاولة للقيام بذلك هو مفيد.

• هجمات نموذج رياضي وغالبا ما تكون بسيطة جدا، وليس تمثيلا لحالة عملية ومفيدة في العالم الحقيقي.

• من "منظمة العفو الدولية في المختبر" (اختبار المرحلة أنبوب AI) إلى "منظمة العفو الدولية في الجسم الحي" (المرحلة الجنينية AI) هناك فرق حقيقي. وإذا كنا لا محاولة نشر نظام AI، لن نكون قادرين على التعلم.

الكسندر Madry ، معهد ماساتشوستس للتكنولوجيا أستاذ مشارك، وأعضاء فريق CSAIL

• (سعيد لبيرسي ليانغ) I مثل وجهة نظرك، وهذه الأفكار هي خلاقة جدا. أنا لا أتفق معهم، ولكن أنا مثلهم.

• ربما نحن بحاجة لتذكير شباب الباحثين ملاحظة أن محتوى الورقة "ليس دائما" الصحيح.

"ردود الفعل" النقاش

لهذه المناقشة، ونحن قد نتوقع العلماء من تلقاء أنفسهم إلى إيجابيات وسلبيات، حرب شرسة من الكلمات. ولكن العلماء ما يبدو المشاركين في النقاش ديها فهم واضح للمشاكل القائمة في هذا المجال، حتى أن أربعة أشخاص شاركوا في النقاش حول معظم القضايا يمكن أن تصل إلى اتفاق في وقت قريب. المشاركة في الحشد النقاش الرئيس AAAI، جامعة ولاية أريزونا أستاذ سوباراو Kambhampati التغريدات عن أسفه عن ما يلي:

• حتى الآن، يبدو ICML مناظرات مدعومة جيدا أن "نفس الجانب من الطاولة لتجلس بشكل مريح الجانبية من الصعب على الناس أن مشاجرة" فرضية

• عندما يكون الناس أو كم من الوقت أو نتفق مع بعضها البعض، هو النقاش صعبة حقا مثيرة (وربما تكون خفيفة جدا، لا توافق، كما أنها لن تظهر عليه)

يراقب النقاش هيروم أندرسون نهاية اللعبة، مدير البيانات العلمية والتقنية لخص أيضا يشعر من الأشياء تستحق التأمل: يمكن للمهاجم استخدام أساليب غير متوقعة لمهاجمة يبدو النظام لا يهم، مما يؤدي في النهاية إلى عواقب هائلة "كنا مجرد نظام توصية رخيصة فقط، فقد أصبح الآن رئيس ترامب" .

أضف التكنولوجيا الجديدة في ورقة بالطبع المنطقي، ولكن علينا أن نفكر مليا في التكنولوجيا الجديدة والثقافة الجديدة، وهناك أشياء كثيرة جدا. تقارير لى فنغ شبكة AI تقنية الاستعراض.