بينك وبين "فهم AI"، سوى ورقة رقيقة
العديد من القراء مرة أخرى إلى الرسالة الأساسية للملك، ويقول شهد الكثير من منهجية منظمة العفو الدولية ومنظمة العفو الدولية بسيطة نسبيا من العلم، نريد أن نرى نقطة من العمق، سمك، لديه رؤية ...... وأوراق النكهات المهنية.
تحقيقا لهذه الغاية، وذلك بمساعدة عدد من الخبراء والعلماء في مجال AI، نفسر أن مجموعة أعلى تترجم الأوراق. اكتمال كل ترجمة التدقيق المقال، فإن الملك والمعلمين الأساسية التحرير يضحكون تعطل معا، وبطبيعة الحال، ونحن نرى بعض الصحف بكت.
الطلاب كان بوكان أن نفهم أنه لا يهم الآن، ولكن ضمان العاهل الأساسية التي سوف تقع يوما واحدا في الحب، وبالتالي عالما جديدا من منظمة العفو الدولية.
القراء الأساسية قراءة أوراق مجموعة التبادل جراحة، الرجاء إضافة سلسلة صغيرة مايكرو إشارة: zhizhizhuji . في انتظاركم.
هذا هو تفسير العملية الأساسية للقراءة 16 أوراق
ACL 2017 ورقات قصيرة
الجناس قرار من الميزات المعجمية: استخدام بحذر
الميزات المعجمية في Coreference القرار: ليتم استخدامها مع الحذر
مركز هايدلبرغ لدراسة نظرية
معهد هايدلبرغ للدراسات النظرية
ميزات المعجمية مجردة هي المصدر الرئيسي للمعلومات حول الأسلوب الحالي قرار التيار الجناس. ميزات المعجمية على يقلد ضمنا الحبيبات يرام بعض من هذه الظاهرة اللغوية. فهي مفيدة جدا للحصول على معلومات تمثل أدناه. تبحث هذه الورقة أوجه القصور الحالية من الجناس قرار ملامح الاستخدام الواسع النطاق للمفردات، وأشار إلى أنه إذا الجناس قرار من الاعتماد المفرط على الميزات المعجمية أن هذه الأساليب سوف يكون من الصعب تعميمها على مناطق أخرى. وبالإضافة إلى ذلك، لاحظنا أيضا أن القرار الحالي الجناس طريقة تقييم معيب من الواضح، على وجه التحديد لتقييم فقط مجموعة معينة من البيانات ينقسم، تداخل كبير بين التدريب فيها، وتطوير واختبار مجموعات.
1 مقدمة
مماثلة لمهام أخرى، ميزة المفردات هي المصدر الرئيسي للمعلومات حول الأسلوب الحالي قرار الجناس. الجناس طريقة حل مشكلة تقسيم مجموعة، حيث كل نقطة التقسيم ولدت من قبل كيان. كما Durrett وكلاين (2013)، كشفت ملامح المعجمية لغة بعض الظواهر تم القبض سابقا من قبل ارشادي نمذجة هذه الظواهر، ولكن على مستوى أدق بكثير من التفاصيل. ومع ذلك، فإننا نشك في أن ما اذا المعرفة من خلال ملامح المعجمية كبيرة استولت يمكن أن تمتد إلى مناطق أخرى.
قدم CoNLL (دورات تعلم اللغة الطبيعية) مجموعة بيانات الأداء قرار الجناس تحسنت بشكل ملحوظ، في أحسن الجناس القرار، كلارك ومانينغ (2016b) طريقة أعماق coref في عام 2011 CoNLL المشتركة الفائزين مهمة --Lee وآخرون 10 من الفرق بين طريقة ستانفورد (2013) من الحكم القائم. ومع ذلك، لا يبدو أن هذا التحسن في المهمة المقبلة واضحة. والأسوأ من ذلك، عندما يطبق على مجموعة بيانات جديدة، أحدث نظام قائم على قواعد قرار الفرق الجناس والطريقة انخفضت بشكل ملحوظ. للحصول على تعريفات حتى ذكر وما يرتبط بها تتفق مع الوقت (غدار وLanglais، 2016a).
في هذه الورقة، ونحن نشير إلى أنه إذا مثل معظم قرار الجناس متقدمة كما تعتمد أساسا على ميزات المعجمية، وسوف تزيد على تركيب. الإفراط في تناسب مجموعة التدريب البيانات لا يتم تجنب المشكلة تماما. ومع ذلك، بين التدريب CoNLL، وتطوير واختبار مجموعة لديها تداخل كبير، مما يزيد بشكل كبير من احتمال وقوع أكثر من لتركيب. ولذلك، معيبة برنامج التقييم الحالي، لأنه يتم تقييم فقط على تداخل مجموعة التحقق من الصحة. من أجل ضمان تحسينات فعالة، ونحن نعتقد أنه يجب أن يكون هناك تقييم خارجي في مجال الأدب يشير إلى المجموع.
2 ميزات المعجمية
استخدام ميزات المعجمية وعدم استخدام ميزات كلمات ذات علاقة يشير إلى الفارق الكبير في الأداء بين أسلوب أجيال الهضم، مما يدل على أهمية الميزات المفردات. أظهرت Durrett وكلاين (2013) أن السمات المعجمية يلتقط ضمنا بعض الظواهر، مثل دور من عدم اليقين وبناء الجملة، وعلى غرار هذه الظواهر من المميزات الكشف عن مجريات الأمور. التشكل الدقيق سطح (2013) باستخدام الكلمات Durrett وكلاين عن ميزات المعجمية. ومع ذلك، عند استخدام الكلمات فى ناقلات كلمة بدلا من مورفولوجية سطح تشكيله، وأكثر فائدة لاستخدام ميزات المعجمية. ناقلات هو وسيلة فعالة للحصول على كلمة جمعية الدلالي. على وجه الخصوص، لأنها توفر وسيلة فعالة للحصول على الوصف المذكور. Durrett وكلاين (2013) تبين أن الكشف عن مجريات الأمور إضافة بعض الميزات على ميزات المعجمية، مثل النوع والعدد، شخص والأدوار النحوية، لكنه لم يحقق نتائج أفضل بكثير.
في أعماق coref، والأكثر قرار الجناس المتقدمة أيضا اتباع نفس الطريق. كلارك ومانينغ (2016b) استخدام الكثير من الكلمات ويضم مجموعة من الميزات غير المعجمية، بما في ذلك مطابقة السلسلة، تباعد، نوع ونوع وخصائص اللغة، لالتقاط المعلومات اللازمة لحل المشكلة، والفرق الرئيسي هو أن كلارك ومانينغ يستخدم (2016b) بدلا من ناقلات المدى Durrett وكلاين (2013) سطح الميزات المستخدمة.
وبناء على كورت خطأ (Martschat وStrube، 2014) تحليل مقارنة مع نظام لا يستخدم ناقلات كلمة والمنتجات العميقة coref أقل التذكر والدقة الأخطاء، وخاصة بالنسبة الضمائر. على سبيل المثال، في أعماق coref CoNLL تحديدها بشكل صحيح 83 من مجموعة تنمية "انه" يشير إلى. قد يكون هذا بسبب وجود أفضل كلمة ناقلات تمثيل السياق.
على مناطق أخرى من التقييم 3
بالإضافة إلى النجاح الظاهر تحقق ميزات المعجمية، فإنه يمكن أيضا أن يناقش هو كيفية تدريب التقاط البيانات المفردات يتميز أن تمتد إلى مناطق أخرى من المعرفة. كما ذكرت غدار وLanglais (2016b) على مجموعات البيانات CoNLL القرار التدريب الجناس الأكثر تقدما من ضعف الأداء. في مجموعة البيانات الجديدة WikiCoref (غدار وLanglais، 2016b)، حتى إذا تم وضع الصورة كما WikCoref CoNLL نفس مجموعة البيانات التسمية، و (2013 لي، وما إلى ذلك) هو أسوأ من نظام قائم على القاعدة. في هذه المجموعة بيانات، يتم سرد الجناس نتائج قرار الأخيرة في الجدول 1.
وتظهر نتائج استخدام MUC (Vilain، الخ، 1995)، B3 (باجة وبالدوين، 1998)، نتائج الطرق الثلاثة CEAFe (لوه، 2005)، ومتوسط درجة من F1 ثلاث طرق، وهي النتيجة CoNLL وLEA (موسوي وStrube، 2016).
الجدول 1 CoNLL مجموعة الاختبار ونتيجة المقارنة WikiCoref
بيركلي هو Durrett وكلاين (2013) يشير إلى نوع من مجموعة ميزة نموذج تضم FINAL، المعجم بما في ذلك، أولا، أخيرا، قبل وبعد الكلمة، النسب، وطول، وعدد الملعب الكلام والكلمات والجناس سواء سابقة المتداخلة فيه، المتحدث نفسه ومطابقة سلسلة صغيرة مجموعات الميزة.
كورت هو Marscha وStrube (2015) يشير إلى نموذج رفيع المستوى. كورت التالية مجموعة ميزة: المعجم، أولا وآخرا، قبل وبعد الكلمة، النسب، طول، وهي جزء من الكلام، وعدد ونوع وفئة الدلالي، تبعيات والكلمات التبعية، المعجم اسمه نوع كيان، كلمتين تظهر المسافة، المتحدث نفسه، سواء كانت متداخلة كلمة الجناس وسابقة، وفيه مجموعة من مطابقة السلسلة. الجدول 1 بيركلي وجزء كورت من غدار وLanglais (2016a).
غير العميقة coref كلارك ومانينغ (2016b) يشير إلى نموذج رفيع المستوى. ناقلات العميقة coref يحتوي على عدد كبير من الكلمات، وهي: كلمة مركزية، أولا، مشاركة، الأمامي / الخلفي الكلمتين، وكلمة التي تعتمد، فإن متوسط كلمة ناقلات بالإضافة الأمامي / الخلفي خمس كلمات، كل ذكر كلمة، كلمة من الكلمات والجمل من الوثيقة. في أعماق coref يحتوي أيضا على نوع وطول وذكر الموقف، بغض النظر عن المحتوى سواء أشير إليها في، التي تتألف من مسافة مميزة المتداخلة الأخرى المذكورة، المشار إليها المتكلم ومجموعة من اثنين مطابقة السلسلة الصغيرة الميزة.
لالعميقة coref ، ويستخدم CoNLL متوسط تقييم لتحديد أفضل تدريب لتطوير نموذج مركزي. عميق coref استخدام LEA الدرجات (موسوي وStrube، 2016) لاختيار أفضل نموذج. ومن الجدير بالذكر أنه في تجارب مختلفة، قد تكون نتائج النموذج البارز في أعماق coref مختلف قليلا. ومع ذلك، في أعماق coref الأداء هو دائما أفضل من أعماق coref عالية.
وسوف نقوم بإضافة كلمة إلى القاموس WikiCoref العميقة coref عن عميق coref والعميقة coref . في أعماق coref ذكرت قاموس الكلمات WikiCoref العميقة coref ليس جزءا لا يتجزأ من الأداء. لذلك، لالعميقة coref، سيتم تهيئة عشوائيا في كلمة لا وجود لها في WikiCoref CoNLL، بدلا من استخدام كلمة ناقلات word2vec تدريب قبل. عميق coref مقارنة مع أعماق coref، واستخدام ما قبل تدريب كلمة أفضل لأداء كلمة متجه من العادي. ومنذ ذلك الحين، فإننا نشير إلى coref عميقة مع عميق coref .
4 لماذا من شأنه أن يحسن تدريجيا تختفي؟
في هذا القسم، ونحن ندرس الوضع على ميزات المعجمية في الجناس القرار لا ينطبق على مجالات جديدة فقد تحسنت كثيرا.
ويبين الجدول 2 معدل الحدوث في مجموعة التدريب والبيانات CoNLL الاختبار تشير إلى غير المضاعفة، كما المضاعفة الضمائر الاصبع في وقت واحد. وتشير هذه النسبة المرتفعة إلى درجة عالية من قبيل الصدفة بين مجموعة البيانات CoNLL.
الحد الأقصى التداخل بين مجموعات التدريب والاختبار ونوع حزب العمال (الكتاب المقدس). "ح" (هاتفي) نوع من التداخل في الضمائر غير الشخصية منخفضة نسبيا. ومع ذلك، يتضمن هذا النوع عدد كبير من الضمائر. اخترنا البنك الدولي (مدونة) وهناك نوعين PT انخفاض درجة التداخل وعلى درجة عالية من التداخل من هذا النوع من التحليل للقيام به.
تعتبر الجدول 2 في مجموعة التدريب للإشارة إلى الضمائر غير المضاعفة في نسبة المذكورة في بيانات التدريب
3 يبين نتائج الاختبارات التي يقدمها في كل أسلوب دقة الجناس، عندما يحتوي مجموعة اختبار نوع واحد فقط، أي حزب العمال أو البنك الدولي الجدول: وتشمل (1) مجموعة التدريب جميع أنواع (المادة التقييم) و (2) مجموعة الاختبار يتم استبعاد أنواع منها من مجموعة التدريب والتطوير (التقييم الخارجي).
الجدول 3 فن التقييم وارتفاع وانخفاض النوع تقييم خارج متداخلة
بيركلي النهائي هو Durrett وكلاين (2013) الجناس الأسلوب دقة، ويفسر مجموعة ميزة النهائي في الجزء 3. berkeley- قرار الجناس السطح هو نفس الأسلوب، إلا أن الخصائص السطحية، أي أصل أو الجنس أو العدد، والمتحدث نفسه يتم استبعاد وظائف متداخلة مجموعة ميزة نهائية.
كورت كورت-معجمية هو نسخة من دون استخدام ميزات المعجمية، أي، يتم استبعاد كلمة المركز، الكلمة الأولى، والكلمة الأخيرة، فإن كلمة قبل وبعد الفترة المذكورة.
وبالنسبة للمنطقة لتقييم التدريب من خلال 100 تكرار النموذج البارز في أعماق coref أن كلارك ومانينغ (2016a) الإعدادات. ومع ذلك، مجموعة المستندة إلى الأداء التنمية، لدينا تقييم خارج الحدود تدريب فقط 50 نموذج متكرر.
وتشير النتائج نوع PT من أن وجود درجة عالية من التداخل بين مجموعات البيانات التدريب والاختبار، وكلها ترتكز على أداء المصنف تعلم تحسنت بشكل ملحوظ. في بيانات التدريب، عميق coref أكبر المكاسب، تتجاوز درجة LEA 13. كورت استخدام المفردات وكمية كبيرة نسبيا من الميزات غير المعجمية، وبيركلي - السطح هو نظام لغوي بحت. ومع ذلك، عندما PT تضمينها أو استبعادها في البيانات التدريب، والفارق في الأداء أقل من كورت بيركلي أرض. بيركلي باستخدام قيم مميزة تشذيب، المعجمية ميزات أقل من 20 مرة حذف الخروج من بيانات التدريب. ولعل هذا هو السبب في أن الفارق في الأداء درجة عالية من التداخل بيركلي في مجموعة البيانات لتكون أقل مما كانت عليه في أنظمة بعبارة أخرى.
أقل تداخل نوع، أي WB، في جميع بنود النظام، بما في ذلك نوع من كسب الأداء بيانات التدريب يتألف انخفاضا كبيرا. ومن المثير للاهتمام، عندما يتم استبعاد هذا النوع من مجموعة التدريب عندما-بيركلي النهائي، كورت كورت-المفردات والأداء تحسن. عميق coref باستخدام الشبكة العصبية المتطورة وعمق من السمات الرئيسية من المفردات، تلقينا أعلى ارتفاع في التكرار على مجموعات البيانات التدريب والاختبار. عندما نستخدم الشبكة العصبية أكثر تعقيدا، وضعت بيانات التدريب من قدرة الذاكرة القوية.
ومن الجدير بالذكر أيضا أنه في التقييم الخارجي، ورفع وخفض أداء ليست كلها بسبب الميزات المعجمية، الأداء كورت المفردات خارج في تقييم أداء وانخفضت بشكل ملحوظ حزب العمال. التدريب المصنف يمكن أيضا أن نتذكر البيانات السمة الأخرى. ومع ذلك، بالمقارنة مع نوع الرقمية والاتساق الأدوار النحوية أو ميزات، وميزات المعجمية وفقا لأعلى احتمال الإفراط في تركيب المشكلة.
قمنا بتحليل كذلك الانتاج العميقة coref في بيئة التطوير. يبين الجدول 4 ركزت بعدد كل خطوط على أزواج ارتباط عميق coref إنشاؤها في أنواع مختلفة من التنمية. يظهر خط شهدت العلاقة بين نسبة كل نوع من التدريب يركز ينظر إلى (سابقة والجناس كلمة). جميع النسب هي باهظة عالية، والشيء الأكثر إثارة للقلق هو أن كلا من الاسم الصحيح يجري ذكرها هو اسما مشتركا.
وفقا لما إذا كانت صحيحة للإشارة إلى العلاقة، والعلاقة في الجدول 5 الجدول 4 تقسيم أبعد من ذلك. النتائج في الجدول 5 تبين أن المحتويات في بيانات التدريب يمكن أن نرى، أكثر من علاقة غير لائقة كما ذكر في هذه التراكيب.
وتشير مثل هذه نسبة عالية، (1) تطوير وتدريب تتركز المذكورة عالية من التداخل. و (2) على الرغم من أن استخدام ناقلات مصطلح واسع عميق coref بدلا من مورفولوجية سطح دقيق، ولكن انظر للمحتوى، ونتائج تحول بقوة.
الجدول 4: علاقة رأس الزوج بين نسبة العميقة coref التي أنشأتها بيانات التدريب
الجدول 5: رأس الزوج في بيانات التدريب التي أنشأتها العلاقة بين نسبة العميقة coref
قمنا بتحليل العلاقة التي تم إنشاؤها من قبل أنظمة قائمة على قواعد ستانفورد، وحساب نسبة في مجموعة التدريب العلاقات القائمة. في الجدول رقم 5، وانخفاض نسب كل من المقابلة العميقة coref. ومع ذلك، فإن النظام لا يستخدم بيانات التدريب، وهذه النسبة عالية بشكل مدهش. هذا التحليل يسلط الضوء على تداخل CoNLL البيانات. ونتيجة لهذا درجة عالية من التداخل، فإنه من الصعب تقييم إحالة عالمي لأساليب الهضم. هذا عالية الحبار التداخل، ذكر المجهول، في الحالة التي يكون فيها نظرا مسؤول حلها، فمن الصعب تقدير على CoNLL مجموعة بيانات عالمية.
نحن أيضا احتساب نفس الجدول معدل 5 أخطاء العميقة coref ونذكر تتعلق بالعلاقات عداد المفقودين. ونذكر يتم احتساب الخطأ أدوات تحليل الأخطاء كورت (Martschat وStrube، 2014). 6 ويبين الجدول المقابلة نسبة الخطأ التذكير. مقارنة مع الجدول 4، يؤكد الجدول 6 نسبة منخفضة العميقة coref التحيز ينظر المذكورة.
الجدول 6: نسبة الخطأ استدعاء البيانات التدريب علاقة رأس الزوج الموجودة في أعماق coref.
على سبيل المثال، والعلاقات العميقة coref، بما في ذلك 31 حالة، وهما من التي وردت أسماء الأعلام والأسماء المشتركة، والتي تشير إلى مركز كلمة "وطنية". كل هذه العلاقات "الدولة" مع واحد ينظر في بيانات التدريب المذكورة عنه. ونتيجة لذلك، وهذا يثير التساؤل عن كيفية تصنيف النص ستتعامل مع الدول في بيانات التدريب لم يرد ذكرها.
يتذكرون زوج واحد من اسما مشتركا التي يمكن أن تساعد يلتقط تصنيف المعرفة في العالم إلى حد ما. من "هايتي" و "قوانغتشو" مجموعة المراقبة، والمصنف يمكن تعلمها "هايتي" بلد "كانتون" هي مدينة. إذا، ومع ذلك، تقوم أساسا على بيانات التدريب، ثم درجة فائدة من كلمة المعرفة أمر مشكوك فيه. اثنين لا تتطابق العلاقة بين العبارة رئيس إسم اسما هو من الصعب حلها. ويشار إلى هذا الاقتران باسم قرار من التشابه الدلالي القبض على (Clarking ومانينغ، 2016b). علاقة هذه المجموعات 49 العميقة coref في مجموعة التنمية. في كل هذه العلاقات، وتعيين خمسة أزواج فقط في تدريب الغيب، كل العلاقات خاطئة. وعلاوة على ذلك، ليفي، وآخرون. (2015) يؤثر أيضا تم تحليل السمات المعجمية، وكما hyponymy المترتبة على ذلك. أنها تظهر معظم المصنفات المتقدمة يمكن أن نتذكر الكلمات فى بيانات التدريب. عندما المصنف بين مجموعات التدريب والاختبار يكون لها بعض الكلمات الشائعة، يمكنك الاستفادة من هذه الذاكرة المفردات.
5 مناقشة
نعرض مجموعة واسعة من التطبيقات الجناس قرار من الميزات الانحرافات المعجمية. يمنع هذا الخطأ لنا تطوير أقوى وأكثر عالمية من الجناس القرار. بعد كل شيء، على الرغم من قرار الجناس هو خطوة هامة في فهم النص، ولكنها ليست مهمة النهائية. الجناس قرار سيتم تطبيق الأسلوب لا يمكن أن تستخدم للإشارة إلى مختارات تعليق المهام والمجالات. لذلك، في تطوير الجناس قرار ينبغي إيلاء الاهتمام لعالمية.
وبالإضافة إلى ذلك، وتبين لنا أن هناك تداخل كبير بين التدريب والتحقق من صحة وضع مجموعة البيانات CoNLL. وقد اقترحت أساليب القياس LEA في محاولة لجعل برنامج التقييم ذات الصلة أكثر موثوقية. ومع ذلك، لضمان حل الجناس موثوق للتنمية، سوى مؤشرات التقييم يمكن الاعتماد عليها وحدها لا تكفي. لمجموعة التثبت من طرق التقييم تحتاج إلى أن تكون موثوق بها. إذا كنت تستطيع حل المشكلة لتحسن كبير أفضل الرجوع إلى الوسائل مجموعة البيانات التي بدلا من استكشاف مجموعة البيانات نفسها، ثم مجموعة البيانات لتقييم أنه يمكن الاعتماد عليها.
والغرض من هذه الورقة ليست ضد استخدام ميزات المعجمية، وخصوصا عندما يستخدم كلمة كناقل ميزات المعجمية. كلمة ناقلات مجتمعة هي وسيلة فعالة للحصول على جمعية الدلالي. ربما ينبغي لنا أن نكون أكثر فائدة لوصف السياق، بدلا من تلقاء نفسها. تقليم ميزات المعجمية نادرة من ميزة المصاحبة العالمية يساعد أيضا على منع الإفراط في تركيب.
من أجل ضمان تحسين أكثر وضوحا، ونحن نطلب الجناس قرار في برنامج التقييم الحالي، وإدماج أساليب التقييم التي تتجاوز الحدود الإقليمية. يمكن إجراء تقييم خارج نطاق مجموعة البيانات الشرح الهضم (مثل WikiCoref، MUC أو ACE) من خلال استخدام أنواع القائمة CoNLL مجموعة البيانات باستخدام الآخر موجود أو الرجوع.
ورقة رابط التحميل:
إرسال رسالة الابهام دائرة الأصدقاء
معا نستكشف AI الهبوط الكيلومتر الأخير
الصحافة وتحديد رمز ثنائي الأبعاد التي يمكن أن تضاف الاهتمام
يونيو القراءة الأساسية أحبك
