ثلاثة عشر من معبد آو فاي تقرير Qubit | الرقم العام QbitAI
هل يستحق يورغن شميدهوبر جائزة تورينغ؟
دخلت جائزة تورينج "فترة الترشيح" ، وهو موضوع نوقش لسنوات عديدة تم طرحه مرة أخرى.
يورغن شميدهوبر ، والد LSTM ، له أيضًا أهمية كبيرة لنهضة وتطور الذكاء الاصطناعي اليوم. حتى الاقتباسات من الأوراق الأخيرة تم تجاوزها.
هذا صحيح ، إنها الإنجازات النظرية الأساسية لعمالقة التعلم العميق الثلاثة الذين فازوا بجائزة تورينج العام الماضي - يوشوا بينجيو ، وجيفري هينتون ، ويان لوكون.
وعلق رئيس ACM Cherri M. Pancake أيضًا:
يرجع تطوير الذكاء الاصطناعي إلى حد كبير إلى التقدم الجديد للتعلم العميق الذي وضعه هؤلاء الأشخاص الثلاثة.
في الواقع ، في ذلك الوقت ، تساءل البعض ، لماذا لم يحصل والد LSTM Jrgen Schmidhuber على نفس الجائزة؟
لماذا لم يتم منح جائزة تورينج والد LSTM Jrgen Schmidhuber ؟؟؟
في ثلاثة أشهر أخرى ، ستقام جوائز تورينج سنويًا.
اليوم ، تم إطلاق هذا الموضوع مرة أخرى.
نشر مستخدمو الإنترنت من Reddit رسالة تفيد بأنه يجب منح جائزة تورينغ لهذا العام إلى يورغن شميدهوبر.
بمجرد ظهور الموضوع ، تسبب في نقاش ساخن بين مستخدمي الإنترنت.
بعض الناس يوافقون ، لكن البعض الآخر يشعر بعدم الجدارة.
ماذا يحدث؟
يورغن شميدهوبر يستحق جائزة تورينج؟
عرض الاقتراحيعتقد الكثير من الناس أن لجنة جائزة تورينج ارتكبت خطأ العام الماضي - لم يتم ترشيحها لجورجين شميدهوبر.
حتى في أهم مشاركات Reddit حول "الثلاثة الكبار الذين فازوا بجائزة تورينج" ، لا يزال المحتوى الأكثر تعليقًا مرتبطًا بـ Jrgen. https://www.reddit.com/r/MachineLearning/comments/b63l98/n_hinton_lecun_bengio_receive_acm_turing_award/
تحقيقا لهذه الغاية ، كتب مستخدمى الانترنت "غير العادل" أغنية من أجل تشجيعه أغنية LSTM .
استنتج مستخدمو الإنترنت أن جائزة تورينج في عام 2020 ستجعله أكثر حماسًا.
لم يفز بجائزة تورينج في عام 2019 ، قد يكون ذلك بسبب عدم وجود اتصالات جيدة بما فيه الكفاية ، ويقول بعض الناس أنه من الخارج. يجب أن نقوم ببعض الحركات الشعبية وندعو هؤلاء "الأعضاء المعترف بهم اجتماعياً" لترشيحه.
كما أدرجت الكثير من "الأدلة" التي كان يجب أن يفوز بها يورغن.
1. أنشأ يورغن شميدهوبر بالفعل GAN في عام 1990 ، لكنه أطلق عليه الفضول في ذلك الوقت. هذا في الواقع بحث مشهور جدًا ، و GAN هو مجرد تطبيق بسيط. وفاز يوشوا بجائزة تورينج عن نظرية ابتكرها يورغن قبل عقود ، وهو أمر مثير للسخرية والحزن.
2. فاز DanNet من فريق Jrgen Schmidhuber بأربع تحديات للتعرف على الصور قبل AlexNet ، وفاز أيضًا بخط اليد الصيني ICDAR 2011 ، وعلامات المرور IJCNN 2011 ، وتقسيم الدماغ ISBI 2012 ، واكتشاف السرطان ICPR 2012 وغيرها من التحديات. يمكن القول أن DanNet ستكون "Superman CNN" في عام 2011.
3. لم تذكر أوراق جيف هينتون الرئيسية الخمسة للتعلم العميق العمل السابق الذي قام به يورجن شميدهوبر.
وجهة نظر المعارضةبالطبع ، هناك أيضًا العديد من مستخدمي الإنترنت الذين يختلفون في التعليقات أدناه.
إنه حقا يستحق جائزة. ولكن لا يمكن منح جائزة تورينج لنفس المساهمة.
هناك أيضا مستخدمى الانترنت يمزحون حول هذا.
لنكون صادقين ، في هذا المنعطف ، يجب أن نفتح جائزة شميدهوبر. كنت نصف مزاح. بعد قراءة أوراق وملاحظات هذا الرجل ، لا أعتقد أنه صاحب رؤية.
تخيل أن هينتون ، بينجيو وليكون فازوا بجائزة شميدهوبر الأولى.
ابدأ جائزة Schmidhuber ، ومكافأة أولئك الذين قدموا مساهمات رائدة في مجالهم ، لكنهم لم يفوزوا بالجائزة أو سرقهم الجائزة من قبل الآخرين.
"إنه عملي الرائد"
في الواقع ، كان يورغن شميدهوبر نفسه ساخطًا إلى حد ما.
في السنوات الأخيرة ، كثيرا ما لا يوجد احترام كاف لعمله الرائد "لقد اجتذب هذا النوع من التعبير المكثف انتباه العالم.
لذا ، اسمحوا لي أولاً أن أصف ما هو العمل الرائد LSTM.
كما تغني الأغنية ، LSTM ذاكرة طويلة وقصيرة المدى يشبه الاختصار إلى حد ما ذاكرة الدماغ البشري.
إنه نوع خاص من الشبكات العصبية المتكررة (RNN) ، نشر أصلاً في عام 1997. لذا ، ما هو خاص؟
يمكن لـ RNN العادي استخدام المعلومات التي تم تعلمها سابقًا في المهمة الحالية ؛ ولكن كلما كانت المعلومات أبعد ، كلما كان من الصعب ربطها. على سبيل المثال من مدونة كريستوفر كولا:
توقع "الغيوم في سماء الكلمة الأخيرة في "" سماء "، ليس من الضروري الاتصال بالسياق ؛
إذا كنت تريد أن تتنبأ "لقد نشأت في فرنسا ... أتكلم بطلاقة فرنسي "داخلي" فرنسي "، يعرف RNN العادي ملء لغة ، ولكن ليس من السهل الاتصال" فرنسا "هذه الرسالة البعيدة.
ولدت LSTM لحل هذه المشكلة. الفرق بينها وبين RNN العادي هو:
يحتوي الجزء الحلقي من RNN العادي على طبقة واحدة فقط (tanh) ، والتي تتغير فقط وفقًا لتغير الحالة h ، لذلك فهي حساسة للإدخال قصير المدى:
وجزء التداول من LSTM ، ينضم إلى الحالة c مرة أخرى ، يحافظ على الحالة طويلة الأجل. ونتيجة لذلك ، أصبح جزء التداول أربع طبقات لتحديد مدى تأثير الحالة قصيرة المدى على المؤامرة طويلة المدى.
بهذه الطريقة ، يمكن لـ LSTM تعلم تسلسل أطول. هذه مشكلة لطالما أزعجت العالم الأكاديمي.
تم نشر الورقة في عام 1997 من قبل شميدهوبر وطالبه Hochreiter.
في وقت لاحق ، تم الترويج لـ LSTM من قبل العديد من الأطراف ، والآن أصبحت طريقة لا غنى عنها في مجال التعلم الآلي.
ولكن كلما كانت هذه التقنية أكثر أهمية ، كلما شعر شميدهوبر أنه لم يتلق اهتمامًا كافيًا.
بعد كل شيء ، فإن الثلاثة الكبار في التعلم الآلي مشهورون بالفعل في جميع أنحاء العالم ، واسمه أقل بكثير من ارتفاع صوت هذه.
بعيدًا عن مركز الكون ، عمل كمدير مشارك لمعهد دايل مور للذكاء الاصطناعي (IDSIA) في مانو ، لوغانو ، تيسينو ، جنوب سويسرا.
في عام 2015 ، للاحتفال بالذكرى الستين للذكاء الاصطناعي ، شارك العمالقة الثلاثة في كتابة مقال نظرة عامة على التعلم العميق نشر في الطبيعة.
كما يقرأ الجميع بعناية ، تلقى هذا المقال معارضة من شميدهوبر:
أدرج تسعة أسئلة وانتقد مراجعة الثلاثة الكبار لعدم احترام إنجازات أسلافه.
على سبيل المثال ، لا يوجد ذكر لـ Alexey Ivakhnenko ، تم نشره هو وأصدقائه في العالم في عام 1965 أول شبكة تعلم عميقة فعالة .
على سبيل المثال ، اكتب الانتشار الخلفي (BP) في ذلك الوقت ، استشهدوا فقط بأوراقهم الخاصة ، وعدد قليل من الأوراق الأخرى ، متجاهلين أوراق Bryson et al. في أوائل الستينيات. تم تطوير BP لاحقًا من النتائج في ذلك الوقت.
على سبيل المثال ، لا يوجد ذكر لشميدهوبر نفسه RNN العمل أعلاه.
وسرعان ما عاد LeCun من بين الثلاثة الكبار إلى أقرانه في أوروبا. السبب الرئيسي هو أن الجدارة الأكبر يجب أن تنتمي إلى أولئك الذين يقدمون الأفكار تطبيق الأفكار على التعلم الآلي الناس على:
قبل عام 1986 ، كان العديد من الأشخاص قد استخدموا بالفعل قاعدة السلسلة ، ووجد الكثير من الناس أن الوظيفة متعددة الخطوات يمكن أن تعكس مصفوفة اليعاقبة معًا.
ولكن هل يمكن القول أن غاوس وليبنيز ونيوتن ولاغرانج اخترعوا انتشار الظهر؟
لا! لم يطبقوا هذه الفكرة على التعلم الآلي ولم يدركوها.
قال LeCun أن العديد من الناس فكروا في تدريب آلة مع قاعدة السلسلة ، ولكن لم يتم اختراع الانتشار العكسي حقًا حتى الثمانينيات.
كما أنه قال:
أراد يورجن الاعتراف به كثيرًا ، قائلاً إن كل شيء كان له الفضل ، وأشياء كثيرة لا يستحقها.
وقد دفعه ذلك إلى الوقوف بعد كل حديث وقول ما عرضه الآخرون على أنه حديثه الخاص ، وكانت الطريقة التي اقترحها غالبًا غير مهذبة.
تم تشكيل عكس والد LSTM والثلاثة الكبار.
عندما فاز الثلاثة الكبار بجائزة تورينج معًا ، تذكر كل من أكل البطيخ هذه المعركة المثيرة للاهتمام وقام ببناء مبنى تلو الآخر.
LSTM يصعد إلى أعلى ورقة AI رقم 1 في القرن العشرين
ومع ذلك ، منذ وقت ليس ببعيد ، حدث شيء مثير للاهتمام-- تجاوزت الكلاسيكية الكلاسيكية .
في بحث التعلم العميق في القرن العشرين ، لم تعد الأوراق الأكثر استشهاداً تنتشر مرة أخرى.
ونشره Hochreiter و Schmidhuber LSTM .
بالنسبة للانتشار الخلفي ، على الرغم من وجود العديد من الأوراق ذات الصلة ، إلا أنها لم تعد أعلى من LSTM:
إذا تم حساب عام واحد فقط ، مثل عام 2019 ، الذي انتهى للتو ، وفقًا لنتائج الباحث العلمي من Google ، فإن ورقتي الانتشار العكسي لثلاثي DE Rumelhart و GE Hinton و RJ Williams ، فإن اقتباسات العام بأكمله في العام الماضي تضيف 3085 مرة.
ولكن تم الاستشهاد بـ LSTM المفضلة الجديدة 6750 مرة.
أكثر من ضعف السابق.
ثم يأتي السؤال.
هل تعتقد أن والد LSTM ، Jrgen Schmidhuber ، من المتوقع أن يفوز بجائزة تورينج هذا العام؟
شيء اخر
يورغن شميدهوبر لديه العديد من التلاميذ والأحفاد ، والأكثر شهرة هو سيب هوخريتير الذي يتعاون مع LSTM.
سيب هوخريتير ، سابقًا جوزيف هوخريتير ، عالم كمبيوتر ألماني. من عام 2006 إلى عام 2018 ، قاد معهد المعلوماتية الحيوية بجامعة لينز ، النمسا ، ثم قاد معهد التعلم الآلي.
في عام 2017 ، أصبح رئيسًا لمختبر الذكاء الاصطناعي لمعهد لينز للتكنولوجيا ، والمكرس لتطوير أبحاث الذكاء الاصطناعي. عمل سابقًا في الجامعة التقنية في برلين ، وجامعة كولورادو بولدر ، والجامعة التقنية في ميونيخ.
يعتبر LSTM الذي أكمله هو وجورجين شميدهوبر معًا علامة فارقة في تعلم الآلة.
بوابة
مناقشة رديت: https://www.reddit.com/r/MachineLearning/comments/eivtmq/d_nominate_jurgen_schmidhuber_for_the_2020_turing/
https://www.reddit.com/r/MachineLearning/comments/eg8mmn/d_the_1997_lstm_paper_by_hochreiter_schmidhuber/
رابط مرجعي
مدونة كولا:
ويكيبيديا https://en.wikipedia.org/wiki/Sepp_Hochreiter
