مقابلة | يانغ زهيلين ، المؤسس المشارك لـ Intelligence Cycling
المراسل | شو ويلونغ ، المحرر | قوه روي
إنتاج | CSDN (المعرّف: CSDNnews)
يعد عمود مقابلة "AI Technology Ecology" الخاص بالشخصيات جزءًا مهمًا من مبادرة تعلم AI بواسطة CSDN. من خلال المقابلات التي أجريت مع كبار رجال الأعمال في مجال الذكاء الإصطناعي ورواد الأعمال والصناعات KOLs في النظام البيئي للذكاء الاصطناعي ، فإنها تعكس تفكيرهم في الصناعة ، والحكم على الاتجاهات المستقبلية ، والممارسة التقنية ، وتجربة النمو. في عام 2020 ، ستجري CSDN مقابلات مع أكثر من 1000 شخص لتشكيل سلسلة ، وذلك لتحديد الأشخاص الأكثر تأثيرًا في النظام البيئي للذكاء الاصطناعي والبانوراما في صناعة الذكاء الاصطناعي!
هذا المقال هو الثاني عشر في سلسلة المقابلات ، من خلال مقابلة مع Yang Zhilin ، المؤسس المشارك لـ Cycling Intelligence ، تشرح هذه المقالة بالتفصيل تكنولوجيا اللغة الطبيعية مثل نموذج XLNet وسيناريوهات التطبيق لبيانات الحوار.
يتعلم ملايين الأشخاص الذكاء الاصطناعي ، ولديك أيضًا حصة! شارك في مراجعة المقالة ، اترك تعليقًا في منطقة التعليق ، واحصل على تذكرة حية بقيمة 299 يوانًا من "مؤتمر 2020 المطور عشرة آلاف AI" على الإنترنت.
في السنوات الأخيرة ، نظرًا للنمو السريع لخدمات الصوت والفيديو والصور للمستخدمين على نطاق واسع ، أظهر حجم البيانات العالمي نموًا هائلاً ، كما وفرت "Data Oil" لشركات التكنولوجيا عددًا لا يحصى من الفرص لتطوير "تغطية السحابة" . تتوقع البيانات أنه بحلول عام 2020 ، سيصل حجم البيانات العالمي إلى 40ZB ، وستخلق التطبيقات الجديدة مثل إنترنت المركبات ، والتصنيع الذكي ، والطاقة الذكية ، والعلاج الطبي اللاسلكي ، والترفيه المنزلي اللاسلكي ، والطائرات بدون طيار أبعادًا جديدة للبيانات. مع استبدال التكنولوجيا ، لا يزال "الاندفاع الذهبي" الذي رافق تسونامي البيانات مرتفعاً.
أثبتت الحقائق أن الفرص التي توفرها البيانات هائلة للغاية ، ولكن في الوقت الحاضر ، لم يكتشف الأشخاص بشكل كامل بعد القيمة الكاملة لأصول البيانات. في الماضي ، تم تجاهل "المحتوى الذهبي" لبيانات الحوار بشكل خطير.
مع التطور المستمر لتكنولوجيا معالجة اللغات الطبيعية ، يتم إيقاظ قيمة بيانات الحوار الحالية بشكل تدريجي ، كما أن أفضل ممارسات الصناعة والتأثيرات الفعلية في مختلف المجالات تتحسن تدريجيًا - وبدأت تلك الشركات ذات الرؤية في تقدير قيمة بيانات الحوار. نعم ، ولكن لا يزال الكثير منهم يفتقرون إلى أفضل الممارسات لاستخدام هذه البيانات لتحقيق قيمة تجارية. يعتمد الذكاء الدوري على نقطة البداية هذه لسد هذه الفجوة التكنولوجية.
استنادًا إلى تقنيات معالجة اللغات الطبيعية الأساسية مثل نموذج XLNet الأصلي ونموذج Transformer-XL ، فإن الذكاء الدوري يخلق مصفوفة تقنية AI رائدة. "الشيء الرئيسي الذي نقوم به هو: من بيانات المحادثة التي تم إنشاؤها بواسطة عملية المبيعات ، بما في ذلك محادثات الدردشة مع الشركات ، ودردشات WeChat ، والاتصالات التسويقية عن بعد ، والرؤى النصية ، وتمكين التمكين على مستوى القرار ، وفي النهاية تحسين معدلات تحويل المبيعات. "وفقًا للاحتياجات المحددة لمختلف الصناعات ، تم تنفيذ سيناريوهات مختلفة لتطبيق بيانات الحوار. في هذه المقالة ، كانت CSDN محظوظة لمقابلة Yang Zhilin ، المؤسس المشارك لـ Cycling Intelligence ، الذي سيبدأ من سيناريو التطبيق لبيانات الحوار والتحليل الشامل لمبادئ نموذج XLNet ، والتكنولوجيا الأساسية ، والتطوير الحالي للغة البرمجة اللغوية العصبية ، ومسار نمو المواهب بالذكاء الاصطناعي بالنسبة لنا.
في مجال التعلم العميق ومعالجة اللغة الطبيعية ، نجح Yang Zhilin تمامًا. بصفتها أول مؤلف ، أطلقت بالاشتراك نموذج XLNet الدولي الرائد والمدرب مسبقًا في مجال البرمجة اللغوية العصبية مع جامعة كارنيجي ميلون وفريق Google Brain ، متجاوزًا نموذج Google BERT الذي حافظ ذات مرة على أفضل أداء قياسي في 20 مهمة قياسية ، و يطلق على تحقيق أفضل النتائج في التاريخ في 18 مهمة قياسية "التقدم المهم بعد BERT".
Yang Zhilin واثنين من الموجهين رسلان سالاخوتدينوف (رئيس قسم أبحاث Apple AI ، إلى اليمين) ، وليم كوهين (عالم Google الرئيسي ، إلى اليسار)
ولا يزال أصغر "وحيد بعد التسعينات" في قائمة "العلماء الشباب الشباب" في عام 2019 التي نشرها معهد بكين تشى يوان لأبحاث الذكاء الاصطناعي.
حلل دلالات المحادثات واضغط على قيمة البيانات
أصبح استخدام قيمة البيانات محل إجماع معظم الشركات ، من بينها ، تقوم العديد من الشركات بتخزين عدد كبير من التسجيلات الصوتية والسجلات النصية للمبيعات والعملاء وخدمة العملاء والعملاء بغرض تحسين مستويات الخدمة والكفاءة وحفظ أصول بيانات المؤسسة. إن كيفية العثور على معلومات مفيدة للمؤسسة من بيانات المحادثة واكتشاف الطلب المحتمل على المنتج الذي يتضمنه المحتوى الذي عبر عنه العميل هو الهدف الأصلي لتقنية الذكاء الدوري.
قال إن هناك حاليًا أربعة سيناريوهات محددة: أولاً ، استخدم بيانات المحادثة للقيام بعمليات التعدين والفرز والتسجيل للمبيعات عالية النية ، والقيام بمطابقة الحلول والتوصية بالمنتج لكل عميل متوقع ؛ وثانيًا ، استخلاص العملاء من بيانات المحادثة تساعد الصور الشخصية الشركات في بناء أنظمة الصور الشخصية. يمكن للمؤسسات تصميم الأنشطة التشغيلية المستهدفة بمساعدة نظام الصور الشخصية ؛ ثالثًا ، تلغيم تكتيكات المبيعات الفعالة تلقائيًا من بيانات الحوار ، والتي يمكن أن تساعد الوافدين الجدد على المبيعات في الوقت الفعلي وتطلب من الوافدين الجدد التواصل مع العملاء بشكل أكثر كفاءة ؛ رابعًا لمراقبة تنفيذ الكلام ، عادة ما تسمى هذه العملية الإشراف التنفيذي أو فحص الجودة.
"في الوقت نفسه ، نقوم بتحليل العلاقة بين دلالات الحوار والنتيجة النهائية - سواء كان ذلك أمرًا واحدًا ، ونتنبأ بالحوارات التي لها نية واحدة أكبر ، بحيث تشكل هذه السيناريوهات الأربعة حلقة مغلقة". في الحالة الفعلية ، شارك يانغ زهيلين مقارنة بين أفضل تطبيق لشركة التأمين على الحياة ، "بعد أن كانت النتيجة الرئيسية عبر الإنترنت ، زادت مدة المكالمة بنسبة 100 تقريبًا ، وارتفع معدل التحويل إلى 270 الأصلية."
مخطط هيكلية المنتجات الذكية الدورية
تحليل الطبقة التقنية: XLNet متفوقة بيرت !
"على مستوى الإدراك التقني ، فإن الأشياء التي نقوم بها وسيناريوهات التنفيذ مختلفة تمامًا عن روبوتات الحوار التقليدية أو روبوتات الدردشة أو خدمة عملاء الروبوت."
قال Yang Zhilin أن الشيء الرئيسي الذي يقوم به الروبوت هو إجراء مطابقة بسيطة من خلال مجموعة من القوالب ، ثم استخدام القواعد لتوليد ما سيقوله بعد المطابقة. من الناحية الفنية ، في الوقت الحاضر ، لا تستخدم شركات الروبوت بشكل أساسي جيلًا جديدًا من التكنولوجيا ، وسيناريوهات الأعمال التي تقوم بها الذكاء الدائري هي مساعدة الشركات على مطابقة المنتجات مع العملاء والتوصية بموظفين المبيعات. وتؤثر هذه السيناريوهات بشكل مباشر على أداء الشركة. الدقة حساسة للغاية ، يجب أن تكون أحدث جيل من تقنية الدقة العالية. "استخدمنا خوارزمية XLNet الأصلية الخاصة بنا لإنشاء نموذج كبير واستخدمنا الكثير من البيانات للتعلم ، مما أدى إلى تحسن كبير في كفاءة التعليقات التوضيحية ومعالجة تسلسلات طويلة من النصوص ، والتي يمكن أن تدعم أعمالنا ذات المستوى الأعلى." بالإضافة إلى ذلك ، يمكنه الجمع بشكل أفضل بين دلالات السياق واستخراج العلامات الدلالية من بيانات حوار الاتصال في الوقت الفعلي لإجراء فحص جودة الامتثال ، والتعدين التلقائي لصور العملاء والتعليقات ، والإشراف على التنفيذ للمبيعات وخدمة العملاء.
وفقًا لـ Yang Zhilin ، مقارنةً بـ BERT ، فإن نموذج XLNet له مزايا واضحة. من حيث المبدأ ، كلاهما طرق قبل التدريب. ولكن من منظور أكثر تحديدًا ، فإن XLNet هو في الواقع مزيج من طريقتين مختلفتين قبل التدريب: الانحدار التلقائي والترميز التلقائي. "يمكن اعتبار BERT طريقة ترميز ذاتي ، وسوف تتغلب XLNet على بعض أوجه القصور في BERT" ، وهما في الأساس: لا يحتاج XLNet إلى إدخال رموز قناع خاصة ، لذلك سيقلل وقت التدريب المسبق والضبط الدقيق (الضبط الدقيق) توزيع غير متناسق للبيانات ؛ بالإضافة إلى ذلك ، يمكن لـ XLNet نمذجة الارتباط بين الكلمات المختلفة ، ويفترض BERT أن جميع الكلمات التي يتم توقعها مستقلة. قامت XLNet بتبني بعض التغييرات الأكثر رسمية وذكية بحيث لا تحتاج إلى هذا الافتراض. "لذا فإن XLNet هو نموذج أكثر عمومية ، يزيل الافتراضات الأكثر صرامة وينمذجة أفضل للعلاقات السياقية في اللغة الطبيعية."
التخطيطي XLNet
خلف منتجات وحلول محددة ، يواجه الذكاء الدوري أيضًا صعوبات فنية. من ناحية ، يحتاجون إلى استخدام النماذج التي طرحوها في سيناريوهات الأعمال ، ومن ناحية أخرى ، يحتاجون إلى اقتراح حلول فنية لبعض التحديات في سيناريوهات محددة. على وجه التحديد ، "تستخدم الكتلة الأولى بشكل رئيسي سلسلة من نماذج NLP العامة مثل Transformer-XL و XLNet ، بالإضافة إلى بعض خوارزميات التعلم النشطة ، كالطبقة السفلية لدعم تطبيقات الطبقة العليا. الكتلة الثانية هي بالنسبة لهذه السيناريوهات المحددة ، سيكون الأمر صعبًا نسبيًا ".
النقطة الصعبة 1: يتضمن تسجيل الأدلة كيفية دمج البيانات من العديد من الطرائق المختلفة. على سبيل المثال ، بالإضافة إلى بيانات الحوار ، في بعض الأحيان ستكون هناك بيانات سلوكية وبيانات تجارية ، والتي تحتاج إلى دمج البيانات من طرائق مختلفة في نفس الإطار. النقطة الصعبة 2: كيفية تصميم النص ببنية حوار طويلة. عادة ما لا يعمل استخدام نموذج تم تدريبه مسبقًا جيدًا ، لأنه لا يمكنه وضع نموذج لهيكل الحوار بشكل فعال ، ولا يمكنه نمذجة تسلسلات نصية طويلة جدًا ، لذا لتحسين النموذج ، يمكننا الآن التعامل مع الأطوال. ألف كلمة نصية. النقطة الصعبة 3: لا توجد طريقة للإنتاج على نطاق واسع للاعتماد بشكل كبير على بيانات وضع العلامات ، لذا يجب تحسين كفاءة وضع العلامات. من خلال عينة صغيرة من أفكار التعلم ، تم إدخال نظام جديد ، والآن يمكن استخدام 10 فقط من كمية الملصق لتحقيق نفس التأثير كما كان من قبل ، وهو أمر مفيد جدًا لأعمال النسخ المتماثل على نطاق واسع.من بينها ، الاختناقات التقنية أمر لا مفر منه.
"عند القيام بالتجارب ، كل فكرة جديدة قد لا تكون قادرًا على العمل بها." يعتقد يانغ زهيلين أن الشيء الأكثر أهمية هو التعامل مع الاختناقات ، لتحسين العقلية. "في كثير من الأحيان ، لا تحتاج إلى متابعة التجارب دون أن تفشل ، ولكن يجب عليك التكرار بسرعة أكبر والحصول على النتائج بسرعة أكبر."
هنا حقبة مجيدة من البرمجة اللغوية العصبية
في السنوات الأخيرة ، أدى ارتفاع التعرف على الكلام ورؤية الكمبيوتر وفهم اللغة والتقنيات الأخرى إلى جعل الذكاء الاصطناعي ، الذي ظل هادئًا لأكثر من نصف قرن ، حارًا مرة أخرى. تثبت الحقائق أيضًا أن الذكاء الاصطناعي لا يقتصر على الطلب فحسب ، بل إنه داخلي أيضًا.
يعتقد Yang Zhilin أن الخوارزمية وقوة الحوسبة هي في الواقع عملية حلزونية. "إن الطريقة الدافعة للذكاء الاصطناعي هي أن قوة الحوسبة والخوارزمية تتصاعدان وتكملان بعضهما البعض. في البداية ، تكون قوة الحوسبة صغيرة جدًا ، ولا يمكن للعلماء سوى دراسة أفضل خوارزمية. ولكن عندما تكون قوة الحوسبة كبيرة ، فإن العديد من الخوارزميات غير مجدية. تعاني الورقة من هذا النوع من المشاكل: يعمل تحت قوة حوسبة صغيرة يعمل بشكل جيد ، ولكن عندما تكون قوة الحوسبة كبيرة ، فإنها ليست مفيدة على الإطلاق. "" في جوهرها ، في عملية التكرار بين الخوارزمية وقوة الحوسبة ، أحدث جيل تحل الخوارزمية مشكلتي البيانات الضخمة والنموذج الكبير. على سبيل المثال ، إذا كنت تستخدم NLP ، فالنموذج الكبير هو Transformer ، ويتم حل البيانات الضخمة عن طريق التدريب المسبق ".
وهو أيضًا "ازدهار" للنماذج الكبيرة + البيانات الضخمة ، التي خلقت مباشرة حقبة NLP المجيدة.
وقال إن هناك اختراقين رئيسيين في مجال البرمجة اللغوية العصبية في السنوات الأخيرة: الاختراق الأول هو من منظور النموذج ، من نموذج بسيط إلى نموذج كبير يعتمد على المحول. تتمثل ميزة Transformer في أنه مع المزيد من المعلمات ، يستمر التأثير في التحسن ، ولديه قدرة قوية جدًا على تصميم المسافات الطويلة. ميزتا نموذج Transformer تجعل من الممكن القيام بأشياء كثيرة لم تكن ممكنة من قبل. التقدم الرئيسي الثاني هو التحول في نموذج التفكير ، الذي ولد على أساس أساليب ما قبل التدريب التي يمكن أن تستخدم بشكل فعال البيانات غير المصنفة. "بعبارات بسيطة ، يعد Transformer اختراقًا في منظور النموذج. طريقة التدريب المسبق هي اختراق في نموذج التفكير. يحل الأول مشكلة كيفية تدريب نموذج كبير ، والأخير يحل مشكلة عدم امتلاك NLP للبيانات الضخمة."
بالنسبة للمطورين الذين يرغبون في التجذر في مجال الذكاء الاصطناعي ، قال Yang Zhilin من المهم جدًا اغتنام فرص العصر الحالي. "هل ترغب في تعلم تقنية تطوير الذكاء الاصطناعي ، أعتقد أن هناك مسارين: المسار الأول هو التعلم المنهجي من الأعلى إلى الأسفل. على سبيل المثال ، انظر إلى كتاب دراسي أكثر منهجية أو دورات عبر الإنترنت لمساعدتك المعرفة في المجال لديها بعض الفهم المنهجي ؛ المسار الثاني هو نهج تصاعدي مدفوع بالطلب. أي أنك تواجه أولاً مشكلة في الواقع ، ثم تنتقل من هذه المشكلة من خلال عمليات البحث المختلفة عبر الإنترنت أدوات للتحقيق في الأدبيات ذات الصلة. "والأهم هو ،" تأكد من كتابة التعليمات البرمجية! "، أو تشغيل بعض التعليمات البرمجية الحقيقية ، وليس مجرد البقاء في مستوى ممارسة القراءة أمر مهم للغاية.
من "العمليات المنفصلة بين الإنسان والآلة" إلى "الاقتران بين الإنسان والآلة" ، سيمكن الذكاء الاصطناعي في نهاية المطاف الاتصال
"في مجال الذكاء الاصطناعي ، أنا معجب للغاية بـ" أبو الشبكات العصبية "Geofrey Hinton ، لأنه أقدم مؤسس ، والأهمية واضحة بذاته." إنه هو أيضًا ، مما دفع Yang Zhilin إلى مواصلة الزراعة في مجال معالجة اللغات الطبيعية بالإضافة إلى ذلك ، "أعتقد أن اللغة نفسها أكثر إثارة للاهتمام. اللغة هي الناقل للمعرفة والإدراك البشري. إذا كان بإمكان الآلة فهم اللغة ثم التفكير على أساس فهم اللغة لاتخاذ بعض القرارات ، فهي في الواقع ذكاء متقدم جدًا. الأداء ، وهو أيضًا موضوع أكثر أهمية في مجال الذكاء الاصطناعي ، من ناحية أخرى ، فهو مرتبط بالتوقيت ، لأنه عندما بدأت البحث قبل أربع أو خمس سنوات ، حققت السيرة الذاتية لرؤية الكمبيوتر أو التعرف على الكلام اختراقات ، وتم تحقيق العديد من التأثيرات. لقد تم القيام بذلك بشكل أفضل. لكن البرمجة اللغوية العصبية لا تزال تفتقر إلى بعض الإنجازات. أعتقد أنه ستكون هناك مشاكل أكثر صعوبة في هذا المجال تحتاج إلى حل ".
كما أرست الخبرة العملية لأهم الشركات مثل Google و Facebook الأساس لريادته الناجحة في وقت لاحق. "هناك مكسبان مباشران في هاتين الشركتين: الأولى هي القيام ببعض نتائج البحث ، والآن نستخدمها بالفعل ، بما في ذلك أفكار التعلم النشط (التعلم النشط) ، نماذج التدريب المسبق ، يمكن استخدامها مباشرة أولاً ، الإنجاز الثاني ، منهجية أكثر جزئية ، أي عندما تواجه مشكلة ، تتعلم تقسيم المشكلة الكبيرة إلى مشاكل صغيرة ، ثم تفكيكها واحدة تلو الأخرى ، أعتقد أن في الواقع ، ريادة الأعمال والأبحاث لها العديد من الأساليب الشائعة. ".
ومع ذلك ، لا تزال هناك بعض الصعوبات التقنية التي يجب اختراقها على الطريق أمام الذكاء الاصطناعي لتمكين التواصل حقًا. وذكر أن هناك ثلاثة جوانب رئيسية:
أولاً ، من "العمليات المنفصلة بين الإنسان والآلة" إلى "اقتران الإنسان والآلة". في الوقت الحاضر ، هناك معظم الشركات التي تعمل في الروبوتات الحوارية في السوق. ما تفعله هو في الواقع "القتال بين الإنسان والآلة وحده". على سبيل المثال ، في سيناريو المبيعات ، اسمح لرئيس المبيعات بالمتابعة مع الروبوت أولاً ، ثم دع الأفضل للمتابعة ؛ وينطبق الشيء نفسه في سيناريو خدمة العملاء ، واستخدم الروبوت أولاً لالتقاط بعض الأسئلة البسيطة ، ثم سلم إلى الدليل خدمة العملاء لالتقاط. هذه في الواقع حالة من التشرذم ، يقوم الروبوتات والبشر بمهام مستقلة دون تنسيق. "نريد أن يقترن الأشخاص والآلات بشكل أفضل. على سبيل المثال ، في عملية المبيعات ، تقدم الآلات المساعدة إلى مندوبي المبيعات ، أو تساعد الأشخاص في اتخاذ القرارات ، أو توصي الآلات ببرامج للأشخاص ، وينفذ الأشخاص هذه البرامج. أعتقد أن" اقتران الإنسان والآلة " في نهاية المطاف سيصبح شكلاً أفضل لسيناريو المبيعات ، وليس مجرد معركة منفصلة بين الإنسان والآلة ". ثانيًا ، يصل خرج القرار من العملاء الضحلين إلى العمق. وهو أيضًا مثال على روبوت الحوار. فهم يقومون بالأشياء بشكل أساسي باستخدام الروبوتات الصادرة الآلية لإرسال بعض المعلومات البسيطة للعملاء ، أو طرح بعض الأسئلة البسيطة لجمع استبيان ، أو عمل وظيفة تذكير. هذه في الواقع لمسات ضحلة نسبيًا ، مما يعني أن الروبوت هو المسؤول فقط عن نقل المعلومات ، وهي معلومات ضحلة نسبيًا. "ما نقوم به هو إشراك التعلم الآلي أو خوارزميات البرمجة اللغوية العصبية بعمق في أهم عملية اتخاذ قرارات المبيعات ، بما في ذلك من يجب متابعته ، وما الذي يجب دفعه ، وكيفية التواصل مع العملاء ، وما إلى ذلك." ثالثًا ، اترك للآلة القدرة على التعلم الذاتي. "عندما نحقق اقترانًا بين الإنسان والآلة ويمكن للآلة العمل مع الأشخاص ، تحتاج الماكينة إلى أن تكون قادرة تلقائيًا على تحديث وترقية نماذج الخوارزمية بناءً على السلوك البشري أو نتائج القرارات البشرية لتشكيل حلقة مغلقة لمساعدة قدرة المبيعات على التطور بدلا من البقاء في نموذج ثابت ".
iningWining Gartner حاوية المنتج أولاً ، يفوز Alibaba Cloud في المعركة الرئيسية للسحابة الأصلية!
asked سألني محاور تينسنت هذه الشجرة الثنائية ، لقد صادف أن أكون | مشروع القوة
Win GitHub 2000+ Star ، كيف تتفوق منصة Alink Cloud المفتوحة المصدر لنظام التعلم الآلي Alink على 11 لعبة "بيانات" مزدوجة؟ علم بيئة تكنولوجيا الذكاء الاصطناعي
acquired استحوذت Microsoft على شركة لشخص واحد؟ برامج الكراك سوني ، وكتابة روايات القراصنة ، ومشاهدة حياته الصعبة للبرنامج!
templateقالب مشروع التعلم الآلي: 6 خطوات أساسية لمشروع ML
IBM ، Microsoft ، Apple ، Google ، Samsung ... قام عمالقة التكنولوجيا في blockchain بالفعل بالعديد من الأشياء!
summary ملخص مبرمج صغير: 6 طرق لتحليل عملية Linux ، سأخبرك جميعًا
رفاهية اليوم: اترك تعليقًا في منطقة التعليق واحصل على "مؤتمر عشرة آلاف 2020 لمطوّر الذكاء الاصطناعي" بقيمة 299 يوان على الإنترنت تذكرة واحدة مباشرة. تعال وحرك إصبعك واكتب ما تريد أن تقوله.
