المصدر: الخبرة
هذا المقال عن 10000 كلمة ، يوصى بالقراءة لمدة 15 دقيقة.
من خلال سنوات من الخبرة في مجال علم الأعصاب الحسابي ، يشرح مؤلف هذه الورقة الروابط المختلفة بين CNN وعلم الأعصاب في شكل سؤال وجواب.
لا يزال هناك العديد من الشكوك حول ما إذا كان استخدام الشبكات العصبية التلافيفية كنموذج للنظام البصري مدعومًا من قبل النظرية البيولوجية. من خلال سنوات من الخبرة في مجال علم الأعصاب الحسابي ، يشرح مؤلف هذه الورقة الروابط المختلفة بين CNN وعلم الأعصاب في شكل سؤال وجواب.
الشبكات العصبية التلافيفية العميقة كنماذج للنظام البصري: ضمان الجودة
مثل مدونتي الأخيرة ، أكتب هذا بسبب مناقشة حديثة على تويتر [1] ، تحديدًا حول كيفية ربط مكونات شبكة عصبية تلافيفية عميقة (CNN) بالدماغ. ومع ذلك ، فإن معظم الأفكار هنا هي أشياء كنت أفكر فيها وأتحدث عنها. بصفتي شخصًا يستخدم شبكات CNN كنماذج للنظام المرئي ، غالبًا (في المحادثات البحثية والمحادثات الأخرى) يتعين عليّ (في المحادثات البحثية والمحادثات الأخرى) سرد الدوافع والدعم لهذا الاختيار. هذا جزئيًا لأنهم (في بعض النواحي) جدد في علم الأعصاب ، ولكن أيضًا لأن الناس يشككون في ذلك. في علم الأعصاب ، غالبًا ما تعاني النماذج الحسابية من الركود ، إلى حد كبير (ولكن ليس بالكامل) من أولئك الذين لا يستخدمونها (أو يبنونها) ؛ غالبًا ما يتم تصوير النماذج الحسابية على أنها غير عملية أو عملية للغاية. في هذا الجو ، تحصل على نفور عام من التعلم العميق / الضجيج المتعلق بالذكاء الاصطناعي (والفوائد المالية التي يجلبها) ، وتحصل على نموذج يكرهه بعض الناس حقًا.
لذا ما أحاول القيام به هنا هو استخدام نموذج بسيط للإجابة على السؤال (QA) لشرح بشكل معقول ودقيق مثل الصور الممكنة لاستخدام الشبكات العصبية التلافيفية (CNNs) لنمذجة الرؤية البيولوجية. لا يزال هذا الحقل الفرعي قيد التطوير ، لذا لا توجد العديد من الحقائق الصعبة ، لكنني سأحاول سرد بعض الأشياء بأفضل ما يمكنني. أيضًا ، من الواضح أن هذه هي إجاباتي الشخصية على هذه الأسئلة (وبعض شكوكي) ، لذا يرجى اعتبارها جديرة بالاهتمام.
اخترت استخدام شبكات CNN كنموذج للنظام البصري ، بدلاً من السؤال الأكبر "هل يمكن أن يساعدنا التعلم العميق في فهم الدماغ؟" - لأنني أعتقد أن هذا مجال أكثر منطقية وإثمارًا (وأيضًا المجال الذي أعمل فيه) . ومع ذلك ، لا يوجد سبب لعدم استخدام هذا الإجراء العام (بالإشارة إلى تحديد بنية من خلال التدريب على البيانات البيولوجية والبيانات ذات الصلة) للمساعدة في فهم مناطق ووظائف الدماغ الأخرى وتكرارها. بالطبع ، يمكن العثور على هذه المشكلة الأكبر في المقالات ذات الصلة [2 ، 3].
1. ما هي الشبكات العصبية التلافيفية (CNN)؟
الشبكات العصبية التلافيفية هي فئة من الشبكات العصبية الاصطناعية. لذلك ، فهي تتكون من وحدات تسمى الخلايا العصبية التي تأخذ مجموعًا مرجحًا من المدخلات والمخرجات بواسطة طبقة التنشيط. دائمًا ما يكون الإدخال إلى طبقة التنشيط وظيفة غير خطية ، وعادةً ما تستخدم "ReLu" كوظيفة تنشيط ، مع الاحتفاظ بجميع المدخلات الإيجابية وتصبح 0 لجميع المدخلات غير الإيجابية.
ما يميز شبكات CNN هو الطريقة التي ترتبط بها الخلايا العصبية. في الشبكة العصبية الأمامية ، يتم تنظيم الوحدات في طبقات ، ويمكن فقط للوحدات الموجودة في طبقة معينة الحصول على مدخلات من الوحدات الموجودة في الطبقة أدناه (على سبيل المثال ، لن تظهر أي مدخلات من وحدات أخرى في نفس الطبقة). CNN هي شبكة تغذية. ومع ذلك ، على عكس شبكات التغذية الأمامية الفانيليا القياسية ، فإن وحدات CNNs لها تخطيط مكاني. في كل طبقة ، يتم تنظيم الخلايا في شبكات ثنائية الأبعاد تسمى خرائط المعالم. كل خريطة معلم هي نتيجة إجراء التفاف على الطبقات أدناه. هذا يعني تطبيق نفس المرشح التلافيفي (مجموعة الأوزان) في كل موضع في الطبقات أدناه. وبالتالي ، يمكن لخلية في موقع معين على الشبكة ثنائية الأبعاد تلقي مدخلات فقط من الخلايا الموجودة في نفس الموقع في الطبقة أدناه. علاوة على ذلك ، فإن الأوزان المرفقة بالمدخلات هي نفسها لكل وحدة في خريطة المعالم (ومختلفة لخرائط المعالم المختلفة).
بعد الالتفاف (وعدم الخطية) يتم إجراء بعض العمليات الحسابية الأخرى عادةً. نهج حسابي محتمل (على الرغم من أنه لم يعد شائعًا في شبكات CNN الحديثة عالية الأداء) هو تطبيع الميزات المتقاطعة. هنا ، يتم تقسيم قيمة التنشيط في موقع مكاني معين في خريطة المعالم على قيمة التنشيط في نفس الموقع في خرائط الميزات الأخرى. العملية الأكثر شيوعًا هي التجميع. هنا ، يتم استخدام الحد الأقصى لنشاط منطقة مكانية صغيرة لكل شبكة خريطة معالم ثنائية الأبعاد لتمثيل تلك المنطقة ، مما يقلل من حجم خريطة المعالم. هذه المجموعة من العمليات (التفاف + نونلين > يُشار إلى التجميع بشكل جماعي باسم "الطبقة". يتم تحديد بنية الشبكة من خلال عدد الطبقات واختيار المعلمات المختلفة المرتبطة بها (على سبيل المثال ، حجم المرشحات التلافيفية ، وما إلى ذلك).
تحتوي معظم شبكات CNN الحديثة على طبقات متعددة (5 على الأقل) تنتهي في طبقة متصلة بالكامل. تشبه الطبقات المتصلة بالكامل شبكات التغذية الأمامية القياسية لأنها لا تحتوي على تخطيط مكاني أو قيود اتصال. غالبًا ما يتم استخدام 2-3 طبقات متصلة بالكامل ، مع قيام الطبقة الأخيرة من الشبكة بعملية التصنيف. على سبيل المثال ، إذا كانت الشبكة تقوم بتصنيف 10 كائنات ، فستحتوي الطبقة الأخيرة على 10 وحدات ويتم تنفيذ عملية softmax لإنشاء الاحتمال المرتبط بكل فئة.
هذه الشبكات هي بشكل رئيسي التعلم تحت الإشراف و انتشار عكسي يتدرب. هنا ، يتم تغذية أزواج الصور وتسميات الفئات المرتبطة بها في الشبكة. يتم إدخال قيم بكسل الصورة إلى الطبقة الأولى من الشبكة ، وتنتج الطبقة الأخيرة من الشبكة الفئة المتوقعة. إذا كانت هذه الفئة المتوقعة لا تتطابق مع الفئة الفعلية ، فسيتم حساب التدرج اللوني لتحديد ما إذا كان يجب تغيير الأوزان (أي القيم الموجودة في مرشحات الالتفاف) لجعل التصنيف صحيحًا. من خلال القيام بذلك باستمرار ، عدة مرات (في معظم الحالات ، يتم تدريب هذه الشبكات على قاعدة بيانات ImageNet ، والتي تحتوي على أكثر من مليون صورة من 1000 فئة كائن) ، يمكن أن تتمتع هذه النماذج بأداء عالٍ في اختبار دقة الصور. يمكن الآن أن تحقق الاختلافات في شبكات CNN معدل خطأ يبلغ 4.94 [4] (أو أقل) ، وهو أفضل من الأداء البشري. عادة ما يتم عمل عدد من "الحيل" التدريبية لإنجاز هذا العمل ، مثل اختيار معدل التعلم وتنظيم الوزن (غالبًا عن طريق التسرب ، حيث يتم إيقاف نصف الأوزان العشوائية في كل فترة تدريب).
تاريخيًا ، تم استخدام التدريب المسبق غير الخاضع للإشراف لتهيئة الأوزان ، والتي تم تحسينها بعد ذلك من خلال التعلم الخاضع للإشراف. ومع ذلك ، لم يعد هذا ضروريًا للنماذج التي تعمل جيدًا بالفعل.
للحصول على مقدمة متعمقة لشبكات CNN الصديقة لعلماء الأعصاب ، تحقق من الورقة:
الشبكات العصبية العميقة: إطار عمل جديد لنمذجة الرؤية البيولوجية ومعالجة معلومات الدماغ (2015) [5]
2. هل CNN مستوحاة من النظام البصري؟
نعم. أولاً ، كانت الشبكات العصبية الاصطناعية ككل مستوحاة من البيولوجيا الناشئة للخلايا العصبية في منتصف القرن العشرين (كما يوحي اسمها). تم تصميم الخلايا العصبية الاصطناعية [6] لتقليد بعض الخصائص الأساسية للخلايا العصبية الحقيقية ، مثل كيفية تلقي المعلومات وتحويلها.
ثانيا، الملامح الرئيسية للشبكات التلافيفية والحسابات التي تقوم بها مستوحاة مباشرة من بعض الاكتشافات المبكرة في النظام المرئي. في عام 1962 ، اكتشف Hubel and Wiesel أن الخلايا العصبية في القشرة البصرية الأولية تستجيب لميزات بسيطة محددة في البيئة المرئية ، وخاصة الحواف الموجهة. علاوة على ذلك ، لاحظوا نوعين متميزين من الخلايا [7]: الخلايا البسيطة (التي تستجيب بشدة لاتجاهها المفضل فقط في مواقع مكانية محددة جدًا) والخلايا المعقدة (التي تتمتع استجاباتها بثبات مساحة أكبر). وخلصوا إلى أن الخلايا المعقدة تحقق هذا الثبات من خلال تجميع المدخلات من خلايا بسيطة متعددة ، لكل منها موقع مفضل مختلف. تشكل هاتان الميزتان (الانتقائية إلى ميزات محددة وزيادة الثبات المكاني من خلال اتصالات التغذية الأمامية) أساس أنظمة الرؤية الاصطناعية مثل شبكات CNN.
يمكن إرجاع هذه النتيجة مباشرة إلى تطوير شبكات CNN من خلال نموذج يسمى Neocognitron [8] (انظر الشكل أدناه). طور هذا النموذج كونيهيكو فوكوشيما في عام 1980 ، حيث قام بتجميع المعرفة الحالية حول الرؤية البيولوجية في محاولة لبناء نظام رؤية اصطناعي وظيفي. يتكون النيوكونيترون من "خلايا S" و "خلايا C" ويتعلم التعرف على الصور البسيطة من خلال التعلم غير الخاضع للإشراف. أوضح Yann LeCun ، باحث الذكاء الاصطناعي الذي طور CNNs في الأصل ، [9] أنها تستند إلى neocognitron.
3. متى أصبحت شبكة CNN مشهورة؟
على مدار تاريخ رؤية الكمبيوتر ، ركز الكثير من العمل على التصميم اليدوي للميزات التي يجب اكتشافها في الصور التي يتم تحديدها بناءً على المعتقدات حول المعلومات الأكثر قيمة. بعد التصفية بناءً على هذه الميزات المصنوعة يدويًا ، يتم التعلم فقط في المرحلة النهائية لتعيين هذه الميزات إلى فئات الكائنات. يتم تدريب شبكات CNN من البداية إلى النهاية من خلال التعلم الخاضع للإشراف ، مما يوفر طريقة لإنشاء الميزات الأكثر ملاءمة للمهمة تلقائيًا.
كان أول مثال رئيسي في عام 1989 ، عندما درب LeCun وزملاؤه شبكة CNN صغيرة [10] للتعرف على الأرقام المكتوبة بخط اليد باستخدام backprop. في عام 1999 ، مع تقديم مجموعة بيانات MNIST ، تم تطوير وإثبات قدرات شبكات CNN بشكل أكبر. على الرغم من هذه النجاحات ، اختفت هذه الأساليب تدريجيًا من مجتمع البحث حيث اعتبرت عملية التدريب صعبة وأصبحت طرق الشبكة غير العصبية مثل آلات ناقلات الدعم منتشرة.
جاء الشيء الكبير التالي في عام 2012 ، عندما فازت شبكات CNN ، المدربة تدريباً كاملاً بأساليب خاضعة للإشراف ، بمسابقة ImageNet السنوية. في ذلك الوقت ، كان معدل الخطأ لتصنيف كائن فئة 100025 ، لكن AlexNet [11] حقق خطأ بنسبة 16 ، وهو تحسن كبير. اعتمد الفائزون السابقون في مسابقة ImageNet على تقنيات قديمة مثل الشبكات الضحلة وآلات المتجهات الداعمة (SVM). مع تطوير CNNs ، تم استخدام بعض التقنيات الجديدة ، مثل استخدام ReLu (بدلاً من دالة السيني أو وظيفة الظل غير الخطية الزائدية) ، وتوزيع الشبكة على وحدتي معالجة رسومات ، واستخدام تسوية التسرب. يمكن رؤية عودة ظهور الشبكات العصبية في وقت مبكر من عام 2006 ، ولكن في ذلك الوقت كانت هذه الشبكات تستخدم في الغالب التدريب المسبق غير الخاضع للإشراف. كان هذا التقدم في عام 2012 بلا شك لحظة بالغة الأهمية في انفجار التعلم العميق الحديث.
مراجع:
الشبكات العصبية DeepConvolutional العصبية لتصنيف الصور: مراجعة شاملة (2017) 12
4. متى بدأ الارتباط بين شبكات CNN والنظام البصري؟
يأتي الكثير من الأبحاث حول الشبكات العصبية في علم الأعصاب اليوم من دراسات نُشرت في عام 2014. قارنت هذه الدراسات صراحة نشاط الخلايا العصبية لدى البشر وقرود المكاك مع نشاط الخلايا العصبية الاصطناعية المسجلة في شبكات CNN عندما عُرضت أنظمة مختلفة على نفس الصورة.
الأول هو Yamins et al. (2014) [13]. استكشفت هذه الدراسة العديد من هياكل CNN المختلفة لتحديد ما أدى إلى الأداء الجيد في التنبؤ باستجابات خلايا تكنولوجيا المعلومات في القرود. بالنسبة لشبكة معينة ، تم استخدام مجموعة فرعية من البيانات لتدريب نموذج انحدار خطي يقوم بتعيين النشاط في الشبكة الاصطناعية إلى نشاط خلية تكنولوجيا المعلومات الفردية. تم استخدام القوة التنبؤية للبيانات لتقييم النموذج.
كما تم استخدام نهج ثان ، وهو تحليل التشابه التمثيلي [14]. لا يتضمن هذا النهج تنبؤات مباشرة بالنشاط العصبي ، ولكنه يسأل عما إذا كان النظامان يمثلان المعلومات بنفس الطريقة. يتم ذلك عن طريق بناء مصفوفة لكل نظام ، مع قيم في المصفوفة تمثل مدى تشابه الاستجابات مع مدخلين مختلفين. إذا كانت هذه المصفوفات تبدو متشابهة في أنظمة مختلفة ، فإن المعلومات التي تمثلها متشابهة أيضًا. كما هو مبين أدناه:
باستخدام كلتا الطريقتين ، تم تحسين شبكات CNN لتتفوق على النماذج الأخرى في التعرف على الكائنات. علاوة على ذلك ، توقعت الشبكة في الطبقة الثالثة نشاط خلايا V4 بشكل أفضل ، بينما توقعت الطبقة الرابعة (والأخيرة) خلايا تكنولوجيا المعلومات بشكل أفضل. يشير هذا إلى وجود تطابق بين طبقات النموذج ومناطق الدماغ.
هناك نتيجة أخرى وهي أن الشبكات التي تعمل بشكل أفضل في التعرف على الكائنات تكون أفضل في التقاط نشاط خلية تكنولوجيا المعلومات دون تحسين مباشر لبيانات تكنولوجيا المعلومات. ينطبق هذا الاتجاه أيضًا بشكل عام على الشبكات الأكبر والأفضل [15] ، حتى حد معين (انظر س 11).
كما استخدمت ورقة أخرى ، Khaligh-Razavi and Kriegeskorte (2014) [16] ، تحليل التشابه التمثيلي ، حيث قارنت 37 نموذجًا مختلفًا بخلايا تكنولوجيا المعلومات البشرية والقردة. ووجدوا أيضًا أن النماذج التي تؤدي أداءً جيدًا في التعرف على الكائنات ستطابق تمثيلات تكنولوجيا المعلومات بشكل أفضل. علاوة على ذلك ، فإن شبكة CNN العميقة المدربة من خلال التعلم الخاضع للإشراف ("AlexNet") هي أفضل أداء وأفضل تطابق ، مع أداء طبقات لاحقة في الشبكة أفضل من ذي قبل (كما هو موضح في الشكل أدناه).
5. هل استخدم علماء الأعصاب أي شيء مثل شبكات CNN من قبل؟
نعم! استُوحى نموذج النيوكوجنيترون المذكور في السؤال الثاني من نتائج هوبل وويزل ، وألهم بدوره شبكات CNN الحديثة ، لكنه ولّد أيضًا فرعًا من أبحاث علم الأعصاب المرئي ، كان أبرزها على الأرجح توماسو بوجيو [17] ، توماس سيري [18] ، ماكسيميليان ريزنهوبر [19] ومختبرات جيم ديكارلو [20]. تُستخدم النماذج القائمة على مجموعات التلافيف والتجميع الأقصى [21] لشرح الخصائص المختلفة للأنظمة المرئية. تميل هذه النماذج إلى التدريب بخصائص غير خطية وميزات غير خاضعة للإشراف على عكس شبكات CNN الحالية (التي كانت شائعة أيضًا في التعلم الآلي في ذلك الوقت) ، ولم تصل إلى نطاق شبكات CNN الحديثة.
لقد تقاربت المسارات التي اتخذها علماء الأعصاب المرئيون وباحثو الرؤية الحاسوبية وتباعدت بشكل مختلف أثناء سعيهم لتحقيق أهدافهم المنفصلة والمترابطة. ولكن بشكل عام ، يمكن اعتبار شبكات CNN استمرارًا لمسار النمذجة الذي وضعه علماء الأعصاب المرئيون. تتعلق المساهمات في مجال التعلم العميق بقوة الحوسبة وطرق التدريب (والبيانات) التي تمكن هذه النماذج من العمل في النهاية.
6. ما الدليل الذي لدينا على أن شبكات CNN "تعمل مثل الدماغ"؟
للشبكات العصبية التلافيفية ثلاث خصائص رئيسية يمكن أن تدعمها كنماذج للرؤية البيولوجية:
- يمكنهم أداء المهام المرئية على مستوى قريب من المستوى البشري ،
- إنهم يكررون الميزات الأساسية المعروفة عن النظام المرئي من خلال بنية ،
- يرتبط النشاط الذي ينتجهون ارتباطًا مباشرًا بنشاط المناطق المختلفة في النظام المرئي.
الشكل: ميزات التسلسل الهرمي المرئي
أولاً ، وفقًا لطبيعتها وهندستها المعمارية ، فإن لها عنصرين مهمين في التسلسل الهرمي البصري. أولاً ، مع تقدمنا من الإصدار الأول إلى تكنولوجيا المعلومات ، يستمر حجم المجال الاستقبالي للوحدات الفردية في النمو مع تقدمنا على مستوى الشبكة. ثانيًا ، بينما نتكيف عبر الطبقات ، تستجيب الخلايا العصبية لميزات الصورة المعقدة بشكل متزايد ، مثل الانتقال من الخطوط البسيطة لـ V1 إلى أجزاء الكائن في تكنولوجيا المعلومات. يمكن رؤية هذه الزيادة في التعقيد الوظيفي مباشرة من خلال تقنيات التصور المتاحة في شبكات CNN [22].
بالتعمق في (3) ، أثبتت العديد من الدراسات التي أعقبت العمل الأصلي في 2014 (Q4) العلاقة بين النشاط في شبكات CNN والنظام المرئي. كل هذه تظهر نفس النتيجة العامة: قد يكون نشاط الشبكات الاصطناعية مرتبطًا بنشاط النظام المرئي عندما يتم عرض كلاهما نفس الصورة. علاوة على ذلك ، تتوافق الطبقات اللاحقة في الشبكة مع المناطق اللاحقة للتيار البصري البطني (أو النقاط الزمنية اللاحقة عند الاستجابة لطرق مثل MEG).
الشكل: تصور الميزات التي تعلمتها الشبكة على مستويات مختلفة
تم استخدام العديد من الأساليب ومجموعات البيانات المختلفة لتوضيح هذه النقاط ، والتي يمكننا رؤيتها في الدراسات التالية:
Seibert وآخرون (2016) و Cadena et al. (2017) و Cichy et al. (2016) و Wen et al. (2018) و Eickenberg et al. (2017) و Gland van Gerven (2015) و Seeliger et آل (2017).
ركزت هذه الدراسات بشكل عام على الاستجابات العصبية الأولية للصور الطبيعية المعروضة بإيجاز لفئات الكائنات المختلفة. على هذا النحو ، فإن شبكات CNN هذه تلتقط ما يُطلق عليه "التعرف على الكائن الأساسي" [23] ، أو "القدرة على التمييز السريع بين كائنات مرئية معينة."
يمكن تكرار سلسلة من التمثيلات العصبية التي ينتجها النظام البصري بواسطة CNN ، مما يشير إلى أنهم يمرون بنفس عملية "فك التشابك" [24]. أي أن كلا النظامين يقبلان تمثيلات لفئات الكائنات المختلفة التي لا يمكن فصلها على مستوى الصورة / شبكية العين وإنشاء تمثيلات تسمح بقابلية الفصل الخطي.
الشكل: الارتباط بين تمثيلات طبقات CNN المختلفة ومناطق الدماغ ، من Cichy et al.
بالإضافة إلى مقارنة الأنشطة ، يمكننا الخوض في (1) ، أداء الشبكة. يمكن أن تؤدي المقارنات التفصيلية لهذه الشبكات مع سلوك الإنسان والحيوان إلى مزيد من التحقق من فائدتها كنماذج وتحديد المجالات التي لا يزال التقدم فيها مطلوبًا. تظهر النتائج من هذا النوع من العمل أن هذه الشبكات قادرة على التقاط أنماط سلوك التصنيف البشري (وحتى التنبؤ / التلاعب بها) بشكل أفضل من النماذج السابقة في عدة مجالات ، لكنها تقصر في بعض التفاصيل ، مثل كيفية زيادة الأداء مع الضوضاء ، أو ما يحدث عندما تتغير الصورة قليلاً جدًا.
تمت دراسة هذه التأثيرات السلوكية في الأوراق التالية:
Rajalingham et al. (2018)، Kheradpishhet al. (2015)، Elsayed et al. (2018)، Jozwiket al. (2017)، Kubilius et al. (2016)، Dodge and Karam (2017)، Berardino et al. ( 2017) و Geirhos وآخرون (2017).
سواء كان كل هذا يتناسب مع مواصفات نموذج جيد للدماغ البشري ، فإن أفضل طريقة للقيام بذلك هي من خلال النظر إلى ما يفكر فيه الأشخاص في النظام البصري حول نموذج النظام البصري: "فهم حل الدماغ للتعرف على الأشياء يتطلب منا بناء أنظمة التعرف الاصطناعي ، ومصممة في النهاية لمحاكاة قدراتنا البصرية ، غالبًا من خلال الإلهام البيولوجي (على سبيل المثال).
هذه الأساليب الحسابية مهمة لأنها يمكن أن توفر فرضيات قابلة للاختبار تجريبياً ، وبما أن إنشاء مثيل لأنظمة التعرف على الوظائف يعد مقياسًا قويًا بشكل خاص لفهم نجاح التعرف على الأشياء. "- بينتو وآخرون ، 2007
من هذا المنظور ، من الواضح أن شبكات CNN لا تمثل حركة الكائن في علم الرؤية ، ولكنها تدور حولها أكثر.
7. هل يمكن للنماذج الأخرى أن تتنبأ بشكل أفضل بالنشاط في المجال المرئي؟
بشكل عام ، لا. قارنت العديد من الدراسات بشكل مباشر قدرة CNNs ونماذج النظام المرئي السابقة مثل HMAX [25] لالتقاط النشاط العصبي. جاء سي إن إن في المرتبة الأولى. تشمل هذه الدراسات ما يلي: Yamins et al. (2014) و Cichy et al. (2017) و Cadieu et al. (2014).
8. هل شبكات CNN هي نماذج آلية أو وصفية للنظام البصري؟
التعريف المعقول للنموذج الميكانيكي هو أنه يمكن تعيين الأجزاء الداخلية للنموذج إلى الأجزاء الداخلية للنظام محل الاهتمام. من ناحية أخرى ، لا تتوافق النماذج الوصفية إلا مع العلاقة الإجمالية بين المدخلات والمخرجات. وبالتالي ، يمكن أن يكون النموذج الوصفي للنظام البصري طريقة يمكنها التقاط صورة وإخراج تسميات الكائنات التي تتوافق مع التسميات البشرية ، ولكنها تفعل ذلك بطريقة ليس لها علاقة واضحة بالدماغ. ومع ذلك ، كما ذكر أعلاه ، يمكن تعيين طبقات CNN إلى مناطق من الدماغ. وبالتالي ، فإن شبكات CNN هي نماذج آلية للتحولات التمثيلية التي يقوم بها النظام البطني لأنها تتيح التعرف على الأشياء.
بالنسبة لشبكات CNN ككل ، لا يتطلب النموذج الميكانيكي منا قبول أن جميع المكونات الفرعية ميكانيكية. خذ هذا كمثال ، باستخدام الخلايا العصبية القائمة على المعدل في نماذج دوائر الدماغ التقليدية. النموذج العصبي القائم على المعدل هو مجرد وظيفة تحدد قوة الإدخال لمعدل إطلاق النار الناتج. وبالتالي ، فهذه نماذج وصفية للخلايا العصبية: ترتبط المكونات الداخلية للنموذج بالعمليات العصبية التي تؤدي إلى معدل إطلاق النار (النماذج الفيزيائية الحيوية التفصيلية مثل الخلايا العصبية Hodgkin-Huxley آلية). ومع ذلك ، لا يزال بإمكاننا استخدام الخلايا العصبية القائمة على المعدل لبناء نماذج ميكانيكية للدوائر (مثال يعجبني [26]). تعتمد جميع النماذج الميكانيكية على نموذج وصفي كوحدة أساسية (وإلا فسنحتاج جميعًا إلى الذهاب إلى ميكانيكا الكم لبناء النموذج).
إذن ، هل مكونات CNN (أي الطبقات التي تتكون من الالتواء ، واللاخطية ، وربما التطبيع والتجميع) هي نموذج آلي أو وصفي لمناطق الدماغ؟ من الصعب الإجابة على هذا السؤال. بينما تتكون هذه الطبقات من الخلايا العصبية الاصطناعية التي يبدو أنها تم تعيينها إلى (مجموعة) من الخلايا العصبية الحقيقية ، فإن تنفيذ العديد من العمليات الحسابية ليس بيولوجيًا. على سبيل المثال ، يتم تنفيذ التنظيم (في الشبكات التي تستخدمها) باستخدام معادلة تقسيم ذات معلمات عالية. نعتقد أنه يمكن تنفيذ هذه الحسابات بآليات عصبية واقعية (انظر مثال الشبكة المذكورة أعلاه) ، لكن هذه ليست مستخدمة حاليًا في هذه النماذج (على الرغم من أنني وأعمل آخرون عليها ... انظر س 12).
9. كيف نفسر علاقة الأجزاء المختلفة من شبكة CNN بالدماغ؟
اعتاد علماء الأعصاب على التعامل مع الأشياء على المستوى الخلوي ، ونماذج مثل شبكات CNN التي قد يجدونها مجردة تتجاوز المعنى العملي (كان العلماء الإدراكيون يقومون بنمذجة مجردة متعددة المناطق لفترة من الوقت ، لذلك قد يكونون أكثر دراية).
الشكل: ربط شبكات CNN بمناطق الدماغ والمعالجة
ومع ذلك ، حتى بدون تفاصيل بيولوجية دقيقة ، لا يزال بإمكاننا تعيين مكونات CNN إلى مكونات النظام المرئي. أولاً ، يكون الإدخال إلى CNN عبارة عن قيم بكسل ثلاثية الأبعاد (RGB) ، والتي يتم تطبيعها إلى حد ما ، والتي تتوافق تقريبًا مع حساب شبكية العين والنواة الركبية الجانبية. تنشئ عملية الالتواء خريطة معالم ذات تخطيط مكاني ، مثل بنية الشبكية في المنطقة المرئية ، مما يعني أن كل خلية عصبية اصطناعية لها مجال تقبلي مقيد مكانيًا. تحدد المرشحات التلافيفية المرتبطة بكل خريطة معلم تعديل معالم الخلايا العصبية في خريطة المعالم هذه. لا يُقصد من الخلايا العصبية الاصطناعية الفردية أن تحدد بشكل مباشر الخلايا العصبية الحقيقية الفردية ؛ قد يكون من المعقول التفكير في الوحدات الفردية كأعمدة قشرية.
أي طبقات سي إن إن تتوافق مع مناطق الدماغ؟ استخدم العمل السابق نماذج تحتوي على عدد صغير فقط من الطبقات ، والتي وفرت دعمًا لرسم خرائط من طبقة واحدة إلى منطقة دماغية. على سبيل المثال ، في Yamins et al. (2014) ، كانت الطبقة التلافيفية النهائية هي أفضل مؤشر لنشاط خلية تكنولوجيا المعلومات ، يليها نشاط خلية V4. ومع ذلك ، فإن العلاقة الدقيقة ستعتمد على النموذج المستخدم (تسمح النماذج الأعمق بوجود طبقات أكثر لكل منطقة من الدماغ).
الطبقة المتصلة بالكامل في نهاية الشبكة التلافيفية لها تفسير أكثر تعقيدًا. علاقتهم الوثيقة بالناتج النهائي بعد المرور عبر المصنف وحقيقة أنهم لم يعد لديهم رؤية شبكية تجعلهم يشبهون قشرة الفص الجبهي. لكنها قد تؤدي أيضًا أداءً جيدًا في التنبؤ بنشاط خلية تكنولوجيا المعلومات.
10. ما الذي يحتويه نظام الرؤية ولا تملكه شبكة CNN؟
هنالك الكثير. ربما تكون المسامير ، والتشعبات ، والتمييز بين الخلايا المثيرة والمثبطة ، ووصلات التغذية المرتدة ، والوصلات المغذية ، والتذبذبات ، والتشعبات ، والطبقات القشرية ، والمعدلات العصبية ، والخلايا البصرية المختلفة ، والتكيفات ، هي تفاصيل الدماغ التي تهمك أكثر.
بالطبع ، هذه ليست موجودة في شبكات CNN القياسية. ولكن تم دمج العديد منها في نماذج CNN الأحدث ، مثل: اتصالات التغذية الراجعة ، والوصلات الجانبية ، إلخ. [27-32].
من الواضح أن شبكات CNN ليست نسخًا طبق الأصل مباشرة لرؤية الرئيسيات. لكننا نعلم أن هذا لا يعني أن CNN غير مؤهلة. لا يوجد نموذج (أو يجب أن يكون) نسخة متماثلة كاملة من النظام. هدفنا هو التقاط الميزات الضرورية لشرح ما نريد معرفته عن الرؤية. سيرغب باحثون مختلفون في معرفة الجوانب المختلفة للنظام البصري ، لذا فإن غياب ميزة معينة يمكن أن يعني أشياء مختلفة لأشخاص مختلفين. على سبيل المثال ، ما الميزات المطلوبة للتنبؤ بمتوسط استجابة الخلايا العصبية لتكنولوجيا المعلومات في أول عرض تقديمي للصور يبلغ 100 مللي ثانية؟ هذا سؤال تجريبي لا يمكننا أن نبدأ بالقول إن هناك حاجة إلى جميع القياسات الحيوية ، أو أن النموذج سيء بدونه.
يمكننا القول أن النموذج الذي لا يحتوي على تفاصيل مثل E-I هو أكثر تجريدًا من نموذج يحتوي على تفاصيل. لكن لا حرج في التجريد. إنه يعني ببساطة أننا على استعداد لتقسيم المشاكل إلى تسلسل هرمي والعمل عليها بشكل مستقل. في يوم من الأيام ، يجب أن نكون قادرين على تجميع مستويات مختلفة من الشرح معًا وأن يكون لدينا نمط يكرر الدماغ على نطاق واسع ودقيق.
11. ما الذي تفعله CNN ولا يفعله نظام الرؤية؟
بالنسبة لي هذا هو السؤال الأكثر صلة. النماذج التي تستخدم نوعًا من السحر غير البيولوجي لحل المشكلات الصعبة هي أكثر إشكالية من تلك التي تفتقر إلى سمات بيولوجية معينة.
السؤال الأول: يمكن أن تكون أوزان الالتفاف موجبة أو سلبية. هذا يعني أن الاتصالات الأمامية تكون مثيرة ومثبطة (بينما تكون الروابط بين مناطق الدماغ مثيرة في الغالب). يمكننا ببساطة التعبير عن تأثيرها على الشبكة من حيث الأوزان ، والتي يمكن إجراؤها فعليًا عن طريق التوصيلات التحفيزية للتغذية الأمامية بالخلايا المثبطة ، ولكن هذا ليس المكان الذي تكمن فيه المشكلة.
بعد ذلك: يتم تقاسم الأوزان. هذا يعني أنه في نفس خريطة المعالم ، يتم الحصول على جميع المواضع من مدخلات مختلفة بنفس الأوزان. على الرغم من أن ضبط الاتجاه يظهر في عرض شبكية العين لـ V1 ، إلا أننا لا نفترض أن الخلايا العصبية المختلفة في الفضاء المرئي لها نفس الأوزان. في النظام المرئي ، لا توجد آلية لضمان تنسيق جميع الأوزان ومشاركتها. لذلك ، يجب أن يتم استبدال الاستخدام الحالي لمشاركة الوزن للمساعدة في تدريب هذه الشبكات بنهج أكثر جدوى من الناحية البيولوجية.
ثالثًا: ما الذي يحدث مع max pooling؟ في مصطلحات علم الأعصاب ، فإن عملية التجميع الأقصى مماثلة لمعدل إطلاق الخلايا العصبية التي تساوي معدل إطلاق أعلى مدخلات إطلاقها. نظرًا لأن هذا يتطلب معلومات من العديد من الخلايا العصبية ، فمن الصعب تصميم خلية عصبية يمكنها القيام بذلك بشكل مباشر. لكن عملية التجميع كانت مستوحاة من اكتشاف الخلايا المعقدة ، بدءًا من متوسط التجميع ، والذي يمكن للخلايا العصبية تنفيذه بسهولة. ومع ذلك ، فقد أثبت max pooling [33] أنه أكثر نجاحًا في أداء التعرف على الكائنات وتهيئة البيانات البيولوجية [34] ، ويستخدم الآن على نطاق واسع.
مزيد من التنقيح لشبكات CNN من قبل باحثي التعلم الآلي يجعلها مختلفة بشكل متزايد عن أنظمة الرؤية (لأن هدف باحثي التعلم الآلي هو ببساطة أداء النموذج). تتمتع بعض أفضل شبكات CNN أداءً بالعديد من الميزات التي تبدو غريبة من منظور بيولوجي. علاوة على ذلك ، فإن عمق هذه النماذج الجديدة (50 طبقة) يجعل أنشطتها أقل صلة بالنظام البصري [35].
بالطبع ، يتعلق الأمر بكيفية تدريب هذه الشبكات (عن طريق backpropagation). سيتم تناول هذا في السؤال 13.
12. هل يمكن لشبكات CNN أن تصبح أشبه بالعقول؟
أحد الأسباب الرئيسية التي جعلتني أصبحت عالمًا في علم الأعصاب الحسابي هو أنه يمكننا فعل ما نريد. لذا نعم! مستوحاة من القياسات الحيوية ، يمكننا جعل شبكات CNN القياسية أكثر فاعلية. لنرى ما تم إنجازه حتى الآن:
كما هو مذكور أعلاه في Q10 ، تمت إضافة العديد من العناصر إلى متغيرات مختلفة من شبكات CNN ، مما يجعلها أقرب إلى نظام بصري حقيقي. بالإضافة إلى ذلك ، تم العمل على زيادة شرعية عملية التعلم (انظر السؤال 13).
بالإضافة إلى هذه الجهود ، تتضمن بعض الجهود الأكثر تحديدًا لتكرار التفاصيل البيولوجية ما يلي:
يُظهر Spoerer et al. (2017) ، المستوحى من علم الأحياء ، كيف أن زيادة الاتصالات الجانبية والتغذية المرتدة تمكن النماذج من التعرف بشكل أفضل على الأجسام المسدودة والصاخبة.
نفذ كوستا وآخرون (2017) شبكة ذاكرة طويلة المدى باستخدام مكونات الحافز الحيوي. غالبًا ما تُستخدم LSTMs عند إضافة العودية إلى الشبكات العصبية الاصطناعية ، لذلك من المفيد جدًا تحديد كيفية تنفيذ وظيفتها بيولوجيًا.
13. شبكات CNN تستخدم backpropagation لمعرفة معنى أوزانها؟
يتضمن Backpropagation كيفية تغيير الأوزان في أي مكان في الشبكة لتقليل الخطأ النهائي. هذا يعني أن الخلايا العصبية في الطبقة الأولى سيكون لديها بعض المعلومات حول الخطأ الذي حدث في الطبقة العليا. . ومع ذلك ، تميل الخلايا العصبية الحقيقية إلى الاعتماد على قواعد التعلم المحلية ، مع التغييرات في الأوزان التي تحددها بشكل أساسي الخلايا العصبية المرتبطة بها ، ولكن لا تتأثر بالخلايا العصبية البعيدة جدًا. لذا فإن التكاثر العكسي لا يعكس ظاهرة بيولوجية.
لا يحتاج هذا إلى التأثير على تفسيرنا لنموذج CNN المدرب كنظام رؤية. لا يُقصد من الأساليب المستخدمة بشكل شائع لحساب المعلمات في النماذج أن تحمل أي تشابه مع كيفية تعلم الدماغ (مثل الاستدلال البايزي للتوصيل الوظيفي). ومع ذلك ، فإن هذا لا يجعل نموذج الدائرة الناتج غير قابل للتفسير. حسنًا ، في الحالات القصوى ، يمكننا التفكير في backpropagation كمجرد أداة ملائمة للمعلمات. في الواقع ، يستخدم Yamins et al (2014) تقنية مختلفة لتركيب المعلمات (بدلاً من الانتشار العكسي).
ومع ذلك ، فإن اتخاذ هذا الرأي يعني أن بعض جوانب النموذج ليست مناسبة للتفسير. على سبيل المثال ، لا نريد أن يرتبط منحنى التعلم (أي كيف يتغير الخطأ كما يتعلم النموذج) بالأخطاء التي يرتكبها البشر أو الحيوانات عندما يتعلمون.
على الرغم من أن الاستخدام الحالي للتكاثر العكسي ليس مقبولًا من الناحية البيولوجية ، إلا أنه يمكن تفسيره على أنه نسخة مجردة لما يفعله الدماغ بالفعل. يبذل الباحثون جهودًا مختلفة لتحقيق المعقولية البيولوجية لعملية التعلم. سيوفر هذا شرحًا بيولوجيًا أفضل لعملية التعلم. ما إذا كان استخدام إجراءات التعلم البيولوجي الأكثر عقلانية يؤدي إلى نشاط عصبي يتوافق بشكل أفضل مع البيانات هو سؤال تجريبي لم تتم الإجابة عليه.
من ناحية أخرى ، فإن التعلم غير الخاضع للإشراف هو الآلية الأكثر ترجيحًا للدماغ ، لأنه لا يتطلب ملاحظات صريحة حول الملصقات ، ولكنه بدلاً من ذلك يستخدم البيئة الطبيعية لإنشاء تمثيلات. حتى الآن ، لم يحقق التعلم غير الخاضع للإشراف أداء التعلم الخاضع للإشراف. ومع ذلك ، فإن التقدم في طرق التعلم غير الخاضعة للإشراف قد يؤدي إلى نماذج أفضل للنظام البصري.
14. كيف يمكننا تعلم الأنظمة المرئية مع شبكات CNN؟
لا يمكن تعلم أي شيء من شبكات CNN بمعزل عن غيرها. يجب التحقق من صحة جميع الأفكار والتطورات على أساس البيانات التجريبية. ومع ذلك ، هناك ثلاث طرق يمكن أن تساعدنا بها شبكات CNN في فهم النظام البصري.
الأول هو التحقق من حدسنا. تفسير فاينمان هو أننا "لا نفهم ما لا نستطيع بناءه." مع كل البيانات التي تم جمعها والنظريات حول النظام البصري ، لماذا لا يستطيع علماء الأعصاب إنشاء نظام بصري فعال؟ يجب أن يكون هذا صادمًا لأنه يعني أننا نفتقد شيئًا حيويًا. الآن يمكننا أن نقول أن حدسنا حول النظام المرئي صحيح تقريبًا ، فنحن نفتقر إلى قوة الحوسبة وبيانات التدريب.
والثاني هو مراعاة موقع الاختبار التجريبي المثالي. هذا استخدام شائع للنماذج الميكانيكية في العلوم. نستخدم البيانات الموجودة لبناء نموذج. ثم نقوم بإجراء تعديلات مختلفة على النموذج لتحقيق ما نحتاجه حقًا. يمكن أن يكون هذا بمثابة توليد فرضية للتجارب المستقبلية و / أو كطريقة لتفسير البيانات التي لم تُستخدم سابقًا لبناء النماذج.
الطريقة الثالثة هي من خلال التحليل الرياضي. كما هو الحال مع النمذجة الحسابية ، ضع معتقداتنا حول كيفية عمل النظام المرئي في مصطلحات رياضية ملموسة. بينما يتطلب تحليل النموذج غالبًا مزيدًا من التبسيط ، إلا أنه لا يزال بإمكانه تقديم رؤى مفيدة حول الاتجاهات العامة والقيود المفروضة على سلوك النموذج. يهتم بعض باحثي التعلم الآلي أيضًا بتشريح هذه النماذج رياضيًا.
15. ما الذي تعلمناه من نمذجة أنظمة الرؤية باستخدام شبكات CNN؟
أولاً ، نتحقق من صحة حدسنا ، ونظهر أن شبكات CNN يمكنها بالفعل بناء نظام رؤية فعال. علاوة على ذلك ، يساعدنا هذا النهج في تحديد أنظمة الرؤية على المستويات الحسابية والخوارزمية. تعد القدرة على التدريب على التقاط البيانات العصبية والسلوكية في قلب النظام المرئي للتعرف على الأشياء. يعد الالتفاف والتجميع جزءًا من الخوارزمية التي تنفذها.
أعتقد أن نجاح هذه الشبكات يساعد أيضًا في تغيير تصور فريقنا لأبحاث علم الأعصاب البصري. ركز الكثير من علم الأعصاب البصري على الخلايا الفردية. بعد النمذجة المجردة للنظام البصري ، بدلاً من التقيد بخلايا عصبية معينة ، ينصب التركيز على تشفير المجموعة. قد تؤدي محاولة فهم خلية عصبية واحدة إلى نفس النتيجة ، ولكن يبدو أن النهج مع المزيد من الخلايا العصبية أكثر كفاءة.
علاوة على ذلك ، يمكن أن يساعدنا عرض النظام المرئي كنظام كامل بدلاً من المناطق المعزولة على فهم النظام البصري بشكل أفضل. كان هناك الكثير من العمل للنظر في V4 ، على سبيل المثال محاولة وصف بالكلمات أو الرياضيات البسيطة ما الذي يجعل الخلايا في هذا المجال تستجيب. بينما يُنظر إلى V4 على أنه جزء وسيط في مسار التعرف على الكائن ، لا ينبغي وصفه وتفسيره بمعزل عن غيره. من هذا التعليق: "تفسير وحدة ما ، على سبيل المثال ، كاشف للعين أو الوجه ، قد يساعدنا بشكل حدسي على فهم الأشياء المهمة والتقاطها. ومع ذلك ، قد تضخم هذه التفسيرات درجة التصنيف والتوطين ، وتقلل من الإحصاء والتوزيع طبيعة هذه التمثيلات. "في الواقع ، يُظهر تحليل الشبكات المدربة أن تعديلات الوحدة الفردية القابلة للتفسير لا ترتبط بالأداء الجيد ، وقد تم تضليل العديد منها تاريخيًا.
سيحقق استكشاف البنى المختلفة مزيدًا من التقدم الملموس. من خلال معرفة التفاصيل المطلوبة لالتقاط الاستجابات العصبية والسلوكية للعناصر ، يمكننا رسم روابط مباشرة بين الهيكل والوظيفة. في هذه الدراسة ، كانت إضافة اتصالات جانبية إلى الشبكة أكثر فائدة في شرح المسار الزمني لاستجابات التدفق الظهرية من المسار الزمني للتدفق البطني. أظهرت دراسات أخرى أن اتصالات التغذية الراجعة مهمة لالتقاط ديناميات التدفق البطني. يمكن التقاط مكونات معينة من الاستجابات العصبية في نماذج ذات أوزان عشوائية ، مما يشير إلى أن بنية طبقات منفصلة يمكن أن تفسرها. بينما تحتاج المكونات الأخرى إلى التدريب على فئات صور طبيعية وصالحة.
علاوة على ذلك ، فإن الملاحظة التي تشير إلى أن بعض شبكات CNN ذات الأداء الجيد (انظر س 11) لا تتنبأ بدقة بالنشاط العصبي ، حيث تُظهر أنه ليست كل النماذج التي تقوم بالرؤية هي نماذج جيدة للدماغ. هذا يؤكد أن البنى التي رأيناها يمكن أن تتنبأ بالنشاط العصبي (المراسلات بين مناطق وطبقات الدماغ) جيدًا لأنها تلتقط التحولات التي يقوم بها الدماغ.
نظرًا لأن شبكات CNN توفر طريقة "صورة محسوبة" لتوليد استجابات عصبية واقعية ، فيمكنها أيضًا ربط إشارة أقل بالمعالجة البصرية.
باستخدام CNNs كنموذج للنظام البصري ، يركز عمل المؤلفين [36] على إثبات أن نموذج اكتساب تشابه السمات (الذي يصف تأثير آليات الانتباه على الخلايا العصبية) يمكن أن يفسر تأثيرات الأداء المفيدة للانتباه.
أخيرًا ، وثقت بعض الدراسات عناصر عصبية أو سلوكية لم تلتقطها شبكات CNN (انظر س 6). تساعد هذه في تحديد المجالات التي تتطلب مزيدًا من الاستكشاف التجريبي والحاسبي.
بشكل عام ، أود أن أقول ليس عددًا جيدًا لأن معظم هذا بدأ بالفعل حوالي عام 2014.
المراجع
الرابط الأصلي:
https://neurdiness.wordpress.com/2018/05/17/deep-convolutional-neural-networks-as-models-of-the-visual-system-qa/
