مذكرة لى فنغ شبكة AI تقنية الاستعراضي: هذا المقال من مذكرات أبل تعلم الآلة (أبل آلة التعلم جورنال). بلوق التفسير وغيرها من التكنولوجيا عمالقة AI مختبر المواد، وتبادل الإنجازات التكنولوجية المختلفة، على الرغم من أن أبل تعلم الآلة مذكرات يصف أيضا التجارب التي تعلم التكنولوجيا ذات الصلة الصادرة عن الجهاز، ولكن التركيز هو تحقيق المنتجات والعمليات، الموارد التقنية تجربة المستخدم مفاضلة بين أكثر مثل "مدير المنتج من منظمة العفو الدولية مذكرات تطوير التطبيق". المحتوى يمكن العثور عليها في الماضي، وكيفية تصميم صينى نظام التعرف على الكتابة اليدوية التي يمكن تشغيلها في الوقت الحقيقي على أبل ووتش ،، وذلك لإتاحة الوقت الحقيقي كشف الوجه خوارزمية تشغيل اي فون، كان أبل أن تفعل الكثير من الجهد.

في الفترة الأخيرة، طرحت شركة آبل سيري، اعتمادا على كيفية موقع المستخدم، وتحديد دقيق للموقع من المستخدمين المذكورة حولها. لى فنغ شبكة AI تقنية مراجعة جمعت على النحو التالي.

في السنوات الأخيرة، نظرا لدقة تكنولوجيا التعلم عميقة تستخدم على نطاق واسع، قد تحسنت بشكل ملحوظ التعرف على الكلام التلقائي (ASR) الأنظمة. ومع ذلك، ويتم ذلك في المقام الأول إلى تعزيز أداء التعرف على الصوت العالمي، ولكن تحديد دقيق لاسم معين من الكيان (على سبيل المثال، والأعمال التجارية المحلية الصغيرة) لا يزال عنق الزجاجة الأداء.

توضح هذه المقالة كيفية الرد على هذا التحدي، وتحسين سيري تحديد نقطة المعلومات POI المحلية (نقطة اهتمام، POI) أسماء قدرة بمعلومات الموقع الجغرافي للمستخدم في نظام التعرف على الكلام. يمكن أن تؤخذ معلومات الموقع إلى نموذج لغة التخصيص حساب المستخدم يسمى نموذج لغة تعتمد على الموقع (جيو-LMS). هذه النماذج يمكن استخدامها ليس فقط نموذج اللغة العامة ونموذج الصوتية (مثل نظام التعرف على الصوت القياسية) يوفر المعلومات، ويمكن أيضا استخدام المعلومات POI نقطة المعلومات في البيئة المحيطة المستخدم، وتقدير أفضل لسلسلة من الكلمات المطلوبة من قبل المستخدم.

مقدمة

بشكل عام، ومساعدي الظاهري قادرون على تحديد وفهم هذه الشركات المعروفة مثل ستاربكس وسلسلة اسم المتجر بشكل صحيح، ولكن من الصعب تحديد عدد من استعلامات المستخدم لملايين POI محلي صغير (نقاط مهمة) الاسم. في نظام التعرف على الكلام التلقائي، اعترف الناس كما اختناق أداء هو: أن يكون بالضبط اسم محدد للكيان (على سبيل المثال، والأعمال التجارية المحلية الصغيرة)، والذي ذيل طويل هو توزيع التردد (كمية صغيرة، وأنواع كثيرة من الاحتياجات).

قررنا اعتماد دمج معلومات الموقع المستخدم لنظام التعرف على الصوت سيري لتحسين القدرة على التعرف على اسم POI والمحلية.

يتكون نظام المدينة التعرف على الكلام التلقائي من جزئين رئيسيين:

• نموذج الصوتية، وجود علاقة بين الخطاب الصوتي واللغوي يتميز القبض على حدة تسلسل، والعلاقة بين الكلام وكلمات مثل

• نموذج لغة (LM)، والذي يحدد احتمال مسبق من تسلسل معين من الكلمات تظهر في لغة معينة

يمكننا التعرف على اثنين من العوامل لهذه الصعوبة (بدقة تحديد الكيانات اسمه):

• يعني أن النظام عادة أن المستخدم قد لا يعرفون كيفية كيفية إصدار اسم كيان غامض

قد يظهر اسم المنشأة فقط في بيانات التدريب نموذج لغة واحدة، أو لا تظهر. تخيل حياتك باسم مختلف الشركات، هل يمكن أن نفهم لماذا هذا يشكل تحديا كبيرا.

سيتم تعيين العامل الثاني مما أدى إلى تسلسل كلمة تتألف من الأسماء التجارية المحلية إلى نموذج لغة للأغراض العامة منخفضة جدا احتمال مسبق، حتى أن اسم الشركة من غير المرجح أن يكون التعرف على الكلام لاختيار بشكل صحيح. (مثل لى فنغ الطابق السفلي شبكة "تاون الفاكهة الموسمية"، واستخدام اليومي الصينية ليست مزيج من هذا القبيل)

طريقة نقترح في هذه الورقة إلى إعداد المستخدمين يفضلون استخدام البحث POI المحلي في محيط الجهاز المحمول، بدلا من ماك، لذلك نستخدم معلومات الموقع من الجهاز المحمول هنا لتحسين التعرف POI الأداء. هذا يساعدنا على تقدير أفضل لسلسلة من الكلمات يريد المستخدم. من قبل تم دمج معلومات الموقع المستخدم في نظام التعرف على الكلام التلقائي سيري، استطعنا إلى حد كبير تحسين دقة التعرف على وفهم من POI المحلي.

سيري كيفية استخدام نموذج اللغة الجغرافي (جيو-LMS) على أساس؟

نحدد تحديد منطقة جغرافية (المناطق الجغرافية) غطت معظم أنحاء الولايات المتحدة، وبناء نموذج لغة بناءا على الموقع الجغرافي (جيو-LMS) لكل منطقة. عندما يطلب المستخدم السؤال المطروح، وسيتم بناء على معلومات الموقع الحالي المستخدم لنظام المخصصة التي تأتي مع نموذج اللغة على أساس الموقع الجغرافي. إذا كان المستخدم خارج أي منطقة جغرافية محددة، أو إذا سيري لا يمكن الخدمات القائمة على الدخول إلى الموقع، سيقوم النظام استخدام الافتراضي العالمي جيو-LM. وفي وقت لاحق، فإن جيو-LM اختيار ربط جنبا إلى جنب مع نموذج الصوتية لنظام التعرف على الكلام التلقائي فك الشفرة. 1 يبين نظام سير العمل كله.

1. نظام لمحة عامة FIG.

المنطقة الجغرافية

نحدد المنطقة الجغرافية على أساس منطقة إحصائية شاملة مكتب الإحصاء الأميركي (الاتفاقات الشاملة الخاصة بالضمانات). من وجهة نظر أنماط التنقل، ويشمل CSA المناطق الحضرية المجاورة مرتبطة اقتصاديا واجتماعيا. يغطي 169 CSA 80 في المئة من سكان الولايات المتحدة. أنشأنا مخصصة لكل CSA جيو-LM، الذي يحتوي على الجيو-LM، التي تغطي جميع المنطقة CSA غير معروف.

من أجل كفاءة البحث للمستخدم CSA يقع، ونحن تخزين الخرائط النقطية من الحدود (أو ملفات الشكل) المقدمة من خطوط الطول والعرض جدول بحث مكتب الإحصاء الأميركي. في وقت التشغيل، والعثور على موقع التعقيد الحسابي هو O (1).

خوارزمية

نظام التعرف على الكلام التلقائي سيري باستخدام آلة الدولة المحدودة (WFST) فك المرجح، واقترح هذا فك أول مرة من قبل Paulik. يستخدم فك التفاضلية مبدأ نموذج اللغة، الذي يوصف في الإطار وما شابه ذلك.

طبقنا نموذج لغة الطبقة، في هذا النموذج، ونحن نستخدم بناء الجملة حيوي استبدال فئة داخل فئة من غير فاصل. 2 وقد وصفت هذا المفهوم. كنا نموذجا اللغة الأساسية، والذي يستخدم للاعتراف العام وفاصل وصفت وعرض محددة مسبقا فئات مثل منطقة جغرافية. لكل فئة، ونماذج لغة هي فتحة من قبل الكيان المرتبطة أسماء فئة بناء، والفئة التي تمثل بناء الجملة. التالي، وذلك باستخدام فتحة الرئيسية ونموذج اللغة استنادا إلى نموذج لغة نموذج اللغة بناء الموقع، الذي يتحقق في القسم التالي.

FIG نموذج لغة الطبقة الإطار العام 2

بناء تعتمد على الموقع نموذج اللغة

بناء لغة بنيت مباشرة في كل طريقة موقع المنطقة الجغرافي نموذج لنموذج لغة (جيو-LM) على أساس كل نموذج يتم إدراجها من خلال نموذج اللغة العام وتدرب مع النص التدريب من معلومات جغرافية معينة موقع نموذج اللغة حصل. المشكلة مع ذلك هو أن النماذج لغة عالمية وعادة ما تكون كبيرة، لأنه يغطي الكثير من المجالات. جيل من نموذج لغة تعتمد على الموقع من حجم نموذج تراكم غالبا ما تكون كبيرة جدا بحيث لا يمكن تحميلها مباشرة في الذاكرة وقت التشغيل. من ناحية أخرى، وأسماء POI يمكن بناء نموذج اللغة المدمجة، قد يكون حجمها في واحد للغاية الالف من نموذج كامل لغة للأغراض العامة، استنادا إلى التحليل الوارد أعلاه، فإننا نقترح هذا الإطار النموذجي لتعليم اللغة.

في إطار نموذج اللغة طبقتنا، نموذج اللغة الرئيسية على النحو الطبقات الأخرى هي نفس التدريب نموذج لغة النص، وتدريب على استخدام نماذج من جميع مجالات الدعم. من أجل تعزيز الدعم للتسمية nonterminal، في البداية نحن نعتمد على النص باستخدام إنشاء نموذج قائم على التدريب من موقع جغرافي محدد النظر فيها، مثل "مشيرا \ CS-POI"، حيث "\ CS-POI" تسمية الطبقة. هذه اصطناعية نموذج النص التهيئة يمكن أن تساعد في توجيه عملية تحديد nonterminals. في نموذج اللغة على أساس الموقع الجغرافي بمجرد نشرهم، وإخراج لدينا نظام التعرف على الكلام التلقائي يكون علامة خاصة، مثل: سيتم تحديد دروس اللغة حول من إطار نموذج كيان جغرافي "\ العلامة CS-POI". والجديد نموذج اللغة الانتاج بناءا على الموقع الجغرافي يسمح لنا بالاستمرار في نموذج لغة تستند nonterminal تقديم النص التدريب.

في نموذج اللغة بحسب المواقع الجغرافية، ويتم تدريب نموذج اللغة فتحة مع فئة معينة كيان (POI). في نظام اقترحنا، لكل منطقة جغرافية قمنا بإنشاء نموذج لغة الفتحة. لغة النص تدريبية نموذجية لكل فتحة من جانب اسم المنطقة POI المقابلة المحلية للتكوين.

ويبين الشكل 3 مثال صغير من نموذج لغة على أساس طبقي المرجحة الآلي ومحدودة، والذي يحتوي على اللغة الأساسية نموذج ممثل قالب بسيط مع ثلاثة احتمالات السابقة (احتمال سجل نسبة إلى خيارات أخرى تظهر) :

= 0.5 الاحتمالات بداهة: نقطة \ CS-POI

بداهة احتمال = 0.3: المكان بالضبط \ CS-POI

احتمال مسبق = 0.2: البحث عن أقرب \ CS-POI

نموذج البالون هو أيضا نموذج اللغة فتحة فتحة، والذي يحتوي على ثلاثة فقط POI مع احتمال مسبق:

= 0.4 الاحتمالات بداهة: جامعة هارفارد

احتمال مسبق = 0.4: TD حديقة

بداهة احتمال = 0.2: Vidodivino

الشكل 3. بسيطة سبيل المثال نموذج لغة تستند على أساس الآلي المحدودة مرجح

وPOI كما ن-غرام لغة الإحصائية التدريب نموذج يسمح لنا نموذج للتغيير ديناميكية اسم POI. على سبيل المثال، ما دام موجودا في "هارفارد" كلمة في النص التدريب، و"هارفارد" و "هارفارد" يمكن أن تكون على غرار في فتحة في نموذج لغة. نحصل على التوزيع الاحتمالي مسبق على أساس حركة المرور الملحوظ الذي تم إنشاؤه.

في العملية، ونحن يجب أن تستند إلى الموقع الحالي للمستخدم كما هو مبين في الشكل 3، حيوي، لتحل محل فعال الطبقة نموذج اللغة الرئيسية nonterminal فتحة منها عن نموذج اللغة، حيث تعني "\ CS-POI" على أساس موقع nonterminal من طراز اللغة.

من أجل ضمان أن القاموس فك يمكن أن تغطي على أسماء جميع POI، عندما لا يمكن العثور على اسم POI في منطقتنا فك القاموس، سوف نستخدم الداخلي "حرف إلى صوت (G2P)، و" النظام تلقائيا تستمد سماع نغمة بدء التشغيل.

هذا الإطار يسمح لنا بأن تكون مرنة لتحديث النظام بأكمله. عندما تريد تحديث أو إضافة منطقة جغرافية POI جديدة، تحتاج فقط إلى إضافة المزيد من فتحة إعادة الإعمار أو نموذج لغة. نظرا لصغر حجم نموذج فتحة للغة، وعملية إعادة إعماره بحيث قريبا، فعالة جدا. على الرغم من أن حجم النموذج المثالي، للأغراض العامة لغة يمكن أن تصل إلى 200MB أو أكبر، في حين أن حجم نموذج اللغة ليست سوى 0.2MB فتحة إلى 20MB، وهذا يتوقف على حجم معين من عدد من الكيانات المدرجة. نموذج لغة المرونة فتحة الاستدامة أمر ضروري لطلبنا. هذا ويرجع ذلك إلى التغير السريع في اسم POI، قد يكون هذا التغيير بسبب موقع الشركة الجديدة فتح أو إغلاق الشركة القديمة وتغيير السكان هنا. وبالإضافة إلى ذلك، ويرجع ذلك إلى نموذج لغة فتحة صغيرة نسبيا، نقترح وضع إطار للسماح للتهيئة الخادم سيتم تحميل مسبقا في ذاكرة النظام كل نموذج لغة. وهكذا، يمكن لعملية التحول تكون فتحة إنجازه في الذاكرة نموذج اللغة، والذي يسمح لنا للحصول على التنفيذ الفعال للغاية. وتشير نتائج الاختبار لدينا أن تركيبة دينامية الحكمة نموذج لغة الرئيسي وفتحة نموذج اللغة يسبب زيادة في تأخير هامشية.

التجارب والنتائج

في هذا القسم، نقدم مقارنة المعايير استنادا إلى موقع نموذج الصيغة المقترحة، ستكون المهمة لتحديد النموذج العام لقورنت الولايات المتحدة POI. في كل التجارب، استخدمنا التفاف الهجين الشبكة العصبية CNN-HMM (ماركوف المخفية التفاف الشبكة العصبية). آلة أوتوماتيكية هو استخدام 5000 ساعة كل البيانات التي حصلت عليها خطاب ملامح مجموعة التدريب للمرشح. على وجه التحديد، ونموذج لغتنا على أساس الموقع الجغرافي كنموذج 4-عنصر التدريب يأتي من. نحن يدويا إعادة كتابة بيانات الاختبار، وتميزت الموقع، في حين يمكنك استخدام نموذج لغة المناسب في فتحة أثناء الاختبار. بعد ذلك، فإننا سوف تصف لنا لأول مرة تستخدم لتدريب واختبار البيانات الجغرافية LM، وعرض النتائج.

معطيات

خط الأساس المشترك للمقارنة مع النص لغة التدريب نموذج التدريب (D1)، وتتألف تم جمعها من مصادر البيانات المختلفة إلى البيانات السرية في استخدام الوقت الحقيقي.

في تدريب استخدمت البيانات لبناء الموقع الرئيسي للنموذج لغة نموذج اللغة (جيو-LM) استنادا لدينا اقترحه قالب D1 وحالة استخدام مصطنع، والتي تشمل "لبناء نموذج لغة تعتمد على الموقع" هذا القسم وذكرت POI فئة علامة.

لبناء نموذج اللغة فتحة، نحن استخراج أسماء POI يتم البحث التحديثات اليومية من شركة أبل السجلات خريطة البحث. يتم استخراج POI وفقا للموقع والسكان إلى مجموعات 170، فتحة وذلك لبناء نموذج لغة 169 المقابلة لطلب CSA وCSA لم تتم تغطيتها من قبل المجموعة العالمية. واحتمال مسبق من كل POI، وفقا لوتيرتها من استخدامها في مجموعة سجلات البحث. يبين الجدول 1 مقارنة بين حجم ن غرام مكونات نموذج اللغة اثنين من عام وجيو-LM. فتحة في 170 مناطق جغرافية أصغر من متوسط حجم نماذج عامة وأكثر من ذلك.

الجدول 1. عدد نموذج اللغة العام وجيو-LM في ن غرام

في تجاربنا، استخدمنا نوعين من بيانات الاختبار:

نحن نستخدم سيري في الولايات المتحدة من تدفق الإنتاج في بيانات المستخدم تم اختيارها عشوائيا في العالم الحقيقي، فإننا نخلق وفقا لمجموعة من اختبارين:

• T1: اختبار مجموعة البحث POI، صوت المحلي 20000 POI تكوين نطاق البحث

• T2: مجموعة الاختبار الشامل، لا يرد الصوت في POI 10000 في تكوين

سجلات البحث POI المحلية داخل مجموعة اختبار (T3). اخترنا ثمانية المناطق الحضرية الكبرى في الولايات المتحدة واختيار POI 1000 الأكثر شعبية على أساس الاستعراضات على الصرخة. لكل POI، سنقوم بتسجيل ثلاثة صوت من ثلاثة متحدثين مختلفة، وتضاف هذه الثلاثة أو حذفها صوت طوق عبارة "الاتجاه ل". يرجى ملاحظة، أزلنا 6500 POI كبير من القائمة، لأن معظمهم يمكن تحديدها دون استخدام جيو-LM، واعترافها تقوم أساسا على الحرارة التي أجريت.

النتائج التجريبية

أجرينا أول تجارب على العالم الحقيقي اختبار المستخدم مجموعة T1 و T2. ويلخص الجدول 3 تظهر النتائج، ويمكن إجراء جيو-LM دون التقليل الدقة في انخفاض T2 من 18.7 نسبة الخطأ كلمة على T1.

منذ T1 غير عينة عشوائية من معدل تدفق تم الحصول عليها في بيئة الإنتاج، فإنه يحتوي على هوم ديبوت ووول مارت مع مثل هذا POI كبير، كانت نماذج لغة مشتركة قادرة على التعرف عليهم. لاختبار نظام التعرف على اسم الأداء على POI المحلي من الصعب العثور عليها، واختبرنا على T3، والذي لا يشمل POI كبير. كما هو مبين في الجدول رقم 4، وتظهر النتائج التجريبية أن نموذج اللغة العام لم يكن جيدا على مجموعات البيانات T3، ويمكن تخفيض نموذجنا الصيغة المقترحة بناء على الموقع الجغرافي المشترك في ثماني مناطق جغرافية كلمة نسبة الخطأ أكثر من 40.

نحن أيضا مقارنة سرعة تشغيل النظامين، وعلى متوسط تأخير جيو-LM يزيد قليلا أقل من 10 ميلي ثانية.

الجدول 3 كلمة المقارنة اختبار نسبة الخطأ على مجموعات العالم الحقيقي المستخدم (T1 و T2) ونموذج لغة مشتركة الحصول جيو-LM

الجدول 4. نموذج اللغة العام وكلمة نسبة الخطأ جيو-LM تم الحصول عليها في اختبارات المقارنة سخونة مجموعة POI (T3) من ثمانية المناطق الحضرية الكبرى في الولايات المتحدة

خاتمة

في هذا العمل، ونحن لشرح موقع فعالة جدا لنموذج اللغة (جيو-LM) على أساس، أن لديها بعض المزايا:

• عملية التدريب مرنة جدا

• لغة كفاءة البناء نموذج وقت التشغيل

• في مهمة الاعتراف POI المحلية، ودقة نظام التعرف على الكلام التلقائي بالمقارنة مع النموذج لغة العامة قد تحسنت كثيرا

تظهر تجاربنا أن استخدام المعلومات المحلية يمكن أن يتم تخفيض بحث POI معدل خطأ كلمة المحلية بأكثر من 18. لم يتم تضمين POI في كبير نسبة الخطأ كلمة، سيتم تخفيض بنسبة تزيد عن 40.

منذ التأثير على سرعة النظام هو صغير، لتغطية منطقة أخرى لا يزال هناك مجال كبير للتحسين. ومع ذلك، بالإضافة إلى نموذج لغة الإقليمي، كما أننا بحاجة إلى الاستمرار في تقديم جيو-LM العولمة، بحيث نظام التعرف على الكلام التلقائي يمكن التعامل مع الاستعلام عن بعد، وقادرة على الاستجابة للمستخدم خارج المنطقة المدعومة.

أساليب ونظم مع اللغة المحددة المستخدمة في هذه الورقة غير ذي صلة. لذلك، بالإضافة إلى اللغة الإنجليزية ومساحة الأمريكية، كما دعمت بمد جيو-LM إلى مناطق أخرى.

لمزيد من المعلومات، فضلا عن مجموعة واسعة من تقييم الأداء للجيو LM نقترح في هذه الورقة التي أجريت، يمكننا أن نرى ICASSP2018 رقة نشرت في "نماذج الجغرافية في اللغة للالتعرف على الكلام التلقائي".

مراجع

 مكتب تعداد الولايات المتحدة، "مناطق الإحصائية المشتركة للولايات المتحدة وبورتوريكو،" 2015.

 مكتب تعداد الولايات المتحدة، "لرسم الخرائط الحدود، و Shapefiles،" 2015.

 M. Paulik، "إدخال تحسينات على سلوك تشذيب نماذج DNN الصوتية،" Interspeech 2015.

 H. Dolfing وI. هيذرنجتون، "نماذج تزايدي اللغة للالتعرف على الكلام عن طريق المحولات محدود للدولة،" وقائع ASRU، 2001، ص. 194-197.

 D. Povey، A. غوشال، G. Boulianne، L. Burget، O. Glembek، N. غويل، M. Hannemann، P. Motlicek، Y. تشيان، P. شوارتز، وآخرون، "إن كالدي التعرف على الكلام أدوات ، "وقائع ASRU، 2011، ص. 1-4.

 O. عبد الحميد، A. محمد، H. جيانغ، L. دنغ، G. بن، وD. يو "الشبكات العصبية التلافيف للالتعرف على الكلام،" المعاملات IEEE / ACM على الصوت والكلام ومعالجة اللغة، المجلد 22، رقم 10، ص 1533-1545، 2014.

 X. شياو، H. تشن، M. Zylak، D. سوسا، S. ديسو، M. كريشنامورتي، D. ليو، M. Paulik، وY. تشانغ "نماذج الجغرافية في اللغة للالتعرف على الكلام التلقائي" في وقائع ICASSP 2018.

عبر أبل آلة التعلم جورنال، لى فنغ شبكة جمعتها منظمة العفو الدولية تقنية مراجعة