تشي ون الاشياء | شينيوان

شيلي الاشياء 19 يونيو ذكرت اليوم، مختبرات هافانا في بكين الكشف عن التفاصيل التقنية لأول أدائها والمعالج سحابة AI وسبتمبر أطلقت العام الماضي سحابة الأول AI معالج المنطق.

التدريب AI في مركز البيانات، الاستدلال والتنبؤ المجال، ودعا NVIDIA GPU AI رقاقة "الأخ الأكبر"، وهو المهيمن في مجال التدريب AI، ما يقرب من ناحية لا يقهر.

وفقط هذا الاسبوع، وسجل الشركات الأجنبية لإطلاق AI المعالج (AIP، AI المعالج) للتدريب في أول سحابة، ودعا غاودي، والمعروفة باسم قوة معالجة نظام التدريب من نظام GPU مع نفس العدد من 4 مرات.

هذه الشركات سجل اسمه هافانا مختبرات، مضى عليها أكثر من 4 سنوات، في العام الماضي فقط انفصلت عن الغامض "وضع الشبح"، وخلال تسعة أشهر فقط، فقد أطلقت منظمة العفو الدولية ومنظمة العفو الدولية المنطق معالج غويا التدريب معالج غاودي، ومن المنتج الرئيسي NVIDIA لديه أداء أفضل.

انها بالضبط كيف قوة اثنين من رقائق، والقدرة على كسر النمط القائم في مجال رقاقة سحابة AI؟ وكيف تحقيق هذا الأداء؟ اليوم، هافانا مختبرات رئيس الشؤون التجارية في المدينة المنورة ايتان يدخل اثنين من أداء معالج قوي هافانا مختبرات منظمة العفو الدولية، وتنفيذ مجموعة من الأداء المبتكر وراء هذه التغييرات.

أولا، وتدريب ما يصل إلى أربعة أضعاف الأداء من V100، في النصف الثاني من هذا العام، وشمل عينة

أولا مقدمة موجزة هبنا مختبرات، تأسست الشركة في عام 2016 ومقرها الرئيسي في إسرائيل، هناك مركز البحث والتطوير في بولندا، وهناك نوعان من مراكز مبيعات في الصين والولايات المتحدة. انها هدف اضحة إلى حد ما، لتصبح في المستقبل من قادة الصناعة في مجال رقاقة AI.

فريق عملها معروفة من المعالج، DSP، وتصميم النظام، شركة تصميم مواقع الإنترنت. وتشمل منتجات البرمجيات وتطوير الأجهزة، وعدد من أقسام وأفرج عن المنتجات AI.

تشرين الثاني الماضي، أكملت الشركة جولة B للتمويل بقيادة الاستثمار إنتل 75 مليون $، وتمويل ما مجموعه نحو 120 مليون $.

هافانا مختبرات بدأت للتو المعالج الأول AI التدريب هذا الأسبوع، وسوف توفر عينة محددة من العملاء في النصف الثاني 2019.

وقال ايتان المدينة المنورة أن غاودي هناك نوعان من أبرز رئيسية هي: أولا، لديها أعلى من قوة المعالجة GPU، وتحسين الأداء واستهلاك الطاقة، والثاني هو من خلال وحدة مدمجة في إيثرنت RDMA معالجة، وتوفير التدرجية على رقاقة الماضي لا يمكن أن يتحقق .

1، والهندسة المعمارية المبتكرة

تصميم غاودي يتبع العمارة الشعبية - منصات الحوسبة المفتوحة (OCP، توسيع مشروع حساب)، ودعم FP32 نموذجي، bfloat16 وبعض شكل صحيح المستخدمة لتدريب شكل الفاصلة العائمة، معالج واحد هو أعلى أداء المنتجات في هذه الصناعة.

في ResNet-50 نموذج كان في هذه الصناعة الأكثر شهرة NVIDIA تسلا V100 يمكن التعامل مع حوالي 600 صورة في الثانية الواحدة، واستهلاك الطاقة 300W، والصور غاودي في الثانية يمكن التعامل مع 1650، ما يقرب من نصف استهلاك الطاقة من V100.

وقد اعتمدت بعض الشركات رقاقة اليوم هو الأكثر تقدما تكنولوجيا عملية 7nm في الجيل الجديد سحابة AI رقاقة، ومع ذلك، اختار غاودي تقنية التصنيع 16nm.

ايتان المدينة المنورة تمثل، لم يتحقق الأداء غاودي فائقة من خلال هذه العملية، ولكن من الهندسة المعمارية المبتكرة.

بالقرب الخطية قابلية الهندسة المعمارية المبتكرة من نظام التدريب أداء المعالج غاودي لا يمكن أن تتحقق، حتى في حالة أصغر دفعة الحجم، ولكن أيضا للحفاظ على قوة الحوسبة عالية.

هذا يبين الشكل قابلية للغاودي، وتدريب ResNet-50، وذلك باستخدام نفس حوالي 700 المعالجات، غاودي القدرة الحاسوبية يمكن أن تصل إلى 3.8 أضعاف V100.

وأضاف ايتان المدينة المنورة أنه في مختلف منصة أنظمة النطاق، وكانت غاودي قوة المشغل وقوة أعلى من GPU.

وهكذا، استنادا إلى التدريب على أداء المعالج غاودي لا يمكن أن يتحقق من نظام جهاز توسع واحد على تمديد خطي من مئات بنيت كبيرة من المعالجات.

2 ومتكاملة معيار إيثرنت، لتحقيق السرعة وعدد من الموانئ التوسع غير المحدود

في تدريب AI، يرتبط تطويره أساسا إلى الشبكة.

غاودي المتكاملة رقاقة المعالج 10 منافذ إيثرنت 100GbE، كل الدعم منفذ إيثرنت RDMA على المتقاربة الإيثرنت (ROCE V2) ميزة، حتى أن نظام AI، حساب النظام وتخزين النظام يمكن استخدام سرعة منفذ إيثرنت القياسية و عدد من الحصول على قابلية غير محدودة تقريبا.

RDMA هو النائية تكنولوجيا الوصول المباشر للذاكرة وسرعة عالية، الكمون منخفضة للغاية وانخفاض استخدام وحدة المعالجة المركزية الخصائص، أول العمارة بتقنية InfiniBand الحصرية، والاتجاه تقارب الشبكة، وهناك ROCE وiWARP، سيتم نشر RDMA في صنع حاليا إيثرنت الأكثر استخداما على نطاق واسع.

حاليا الآخرين معالج الموسعة باستخدام بروتوكول شبكة اتصال خاصة، وغاودي تستخدم بروتوكول إيثرنت المشترك، والذي يسمح للعملاء بسهولة الأجهزة هافانا إلى مراكز البيانات الموجودة، كل ذلك باستخدام معيار إيثرنت مزود شبكة التبديل منظمة العفو الدولية إلى بناء كتلة.

قبل الرئيس التنفيذي لشركة NVIDIA جين هسون هوانغ هو أيضا مؤسس وGTC 2019 كلمة رئيسية، وذكر على وجه التحديد تصعيد (التوسع الرأسي) وتوسيع نطاق من (التوسع الأفقي)، وقال انه يعتقد على نطاق وتصل الحصيلة ليست فعالة جدا، وتوسيع نطاق بمعظم بل هو وسيلة جيدة لدعم RDMA عبر الإيثرنت التقليدية.

NVIDIA غير بتقنية InfiniBand شبكة مركز البيانات 6900000000 $ شراء الملك المطلق - سجل الشركات الإسرائيلية Mellanox والتكنولوجيا الأساسية هي RDMA.

فريق هافانا مختبرات يتفق كثيرا مع هذا الرأي من NVIDIA، على هذا الأساس، أنها وضعت وNVIDIA ليست بالضبط نفس المسار.

NVIDIA تسلا V100 دعم RDMA التبديل الحاجة بكيي، ورقاقة واحدة هافانا غاودي ROCE RDMA متصلة مباشرة، بالإضافة 10 متكاملة على ورقة 100GbE ROCE RDMA غاودي، وعدد أكثر من NVIDIA.

منافذ إيثرنت 10 في المناطق الداخلية من غاودي، وهناك سبعة معالج غاودي الأخرى لربط الموانئ الثلاثة المتبقية يمكن استخدامها للاتصال الخارجي، مما يلغي الحاجة لNIC.

مع معالج غاودي، يمكن هافانا مختبرات العملاء توسيع نطاق وتحجيم نظام التدريب AI باستخدام محولات إيثرنت القياسية.

وعلاوة على ذلك، بالمقارنة مع تصميم هافانا القياسية، والنظم القائمة على GPU تعتمد على واجهة نظام الملكية، ومصممي النظام، مما يحد من قابلية وذات طابع انتقائي.

الثاني، والمواصفات اثنين الحوسبة بطاقة، مماثلة لNVIDIA DGX-1 نظام العملاق

معالج غاودي مع 32GB ذاكرة HBM-2، وهي متاحة حاليا في حجمين:

HL-200 - بطاقات PCIe ل، مع ثمانية منافذ إيثرنت 100GB، يمكن أن تحل محل بطاقة الخادم القائمة مباشرة V100.

HL-205 - استنادا OCP-OAM بطاقة ابنة القياسية، مع 10 أو 20 منافذ إيثرنت 100GB 50GB إيثرنت.

وعلاوة على ذلك، قدم هافانا نظام يسمى 8 غاودي HLS-1، وهذا ليس هو نظام المعالج الرئيسي، ومجهزة بطاقة 8 منه هافانا HL-205 ابنة، أربعة بكيي الرابط الخارجي والمضيف 24 باستخدام متصلة الموجودة التبديل منفذ إيثرنت 100Gbps إيثرنت، بحيث وافر من العملاء من خلال نشر HLS-1 نظام لتمديد الأداء في معيار الرف 19 بوصة.

ومن العارضتين (جميع إلى جميع) اتصال تدريب يسمح 8 غاودي على كافة المعالجات، دون الحاجة إلى أي التبديل إيثرنت خارجي.

يمكن للعملاء اختيار تطبيق متطلباتهم على أساس وحدة المعالجة المركزية مختلفة AI التسارع، وهذا هو القول هافانا مختبرات تحقيق فصل بين نظام وحدة المعالجة المركزية وتسريع الخادم، مستقلة عن بعضها البعض بين اثنين، كل ترقية، مما يوفر للعملاء مع أعلى المرونة، مما يتيح للعملاء حرية اختيار الخادم وحدة المعالجة المركزية، تحققت من خلال الربط بين ميناء لرسو السفن.

وقال ايتان المدينة المنورة أنه بناء على رف كامل توفر غاودي HLS-1 واجهة قياسية نمطية غير مسبوق والمرونة لدعم فعال والاحتياجات المتزايدة AI الحوسبة الهندسة المعمارية.

داخل النظام، ومنع انتقال 8 رقائق البطاطس. خارجيا، وأحال تمديد الجانبي بين النظام يمكن التأكد من أن البيانات مع نسبة انسداد الحد الأدنى.

كل نظام يمكن أن تكون متصلا التبديل إيثرنت خارجي واحد، هذا التبديل يمكن زيادة متصلة رفوف أخرى لتشكيل المعالجات لديها المئات أو الآلاف من مجموعات التدريب أكبر غاودي.

ويمكن أن تستند HLS-1 على المكونات الوظيفية لأشكال مختلفة من العملاء، ويمكن للعملاء اختيار لتصميم نظم الملكية الخاصة، وتشكيل توازن خاص بين الاتصالات الداخلية والخارجية ويمكن تمديد اتصال لتتناسب مع عبء العمل.

كل يحتوي على ثمانية HLS-1 HL-205 بطاقة ابنة، وهو نفس عدد V100 بنيت DGX-1، وهذا الخارجي المشترك بالإضافة إلى ذلك، HLS-1 و NVIDIA DGX-1 العملاق في المقام الأول أربعة مختلفة :

1، DGX-1 باستخدام بروتوكول الملكيه NVLink، وهذه الطريقة يمكن أن السبيل الوحيد لتحقيق شبكة الربط الكهربائي، لا يمكن أن يتحقق عبر اتصال بين الفيلم والفيلم، بل يمكن أن يتم حساب رقاقة HLS-1 و المستوى RDMA ROCE في وقت واحد، وتمديد الطولي الحجم.

2، DGX-1 يربط وجود انسداد، HLS-1 كامل وحجب غير عبر يربط.

3، كل DGX-14 مع أربعة منافذ إيثرنت 100GB الخارجية، كل HLS-1 من 24 منفذ إيثرنت خارجي.

4، DGX-1 PCIe لديه على فقدان أداء الإرسال، وHLS-1 والنقل والإدارة على أسس مختلفة، مضاعفة لا يحدث، فإنه لن يسبب اختناقات CPU المضيف الخارجية.

غاودي هو المعالجات القابلة للبرمجة بشكل كامل وقابلة للتخصيص، ومجهزة مع الجيل الثاني من التنسور نواة معالجة (TPC)، وأدوات تطوير متكاملة، والمكتبات، والمجمعين، وأدوات البرمجيات معا توفير حل شامل ومرن. على أساس الهندسة المعمارية DSP لها، حزمة برامج غاودي لديهم الكثير من المرونة.

خدمات دعم البرامج غاودي تتفق مع غويا، بما في ذلك SynapseAI مداخن البرمجيات وأدوات التطوير التي يستخدمها الزبائن غويا يمكن متابعة الوصول إلى أدوات تطوير البرمجيات.

SynapseAI كومة البرنامج هو مترجم التنمية المخصصة هافانا ونواة وقت التشغيل يحتوي على مكتبة غنية ومفتوحة سلسلة أداة، للعملاء لإضافة نواة الملكية.

مربع على سبيل المثال، نظام غاودي 16، كامل داخلي عبر الاتصال يمكن أن تتحقق ميناء 50GbE إيثرنت، بحيث أيضا 32100GbE المتبقية لمنافذ إيثرنت الخارجية، وهذا النظام التعبئة والتغليف 16 لا تتطلب مكونات إضافية غاودي ، وتحتاج فقط إلى توصيل الكابلات لتحقيق التوسع.

معظم التدريب التعلم العميق في استخدام التوازي البيانات لبناء، بناء على التوازي البيانات، فإن تخفيض الهرمي فائدة ممكنة من هذا المعالج بيانات موازية هو لتحقيق واسع النطاق الحوسبة، وضمان الكفاءة الحاسوبية.

يمكن للعملاء دمج تبديل إيثرنت في كل مربع، في مربع، يمكن للعملاء اختيار التبديل إيثرنت عام، مع التبديل في بعض الموانئ لا يمكن أن يتحقق الوصلات والموانئ المتبقية للإنترنت الخارجي. يمكن إنشاء هذا الصدد مع نظام غاودي 1000.

نموذج المعالجة المتوازية هو النموذج إلى عدد كبير من نموذج صغير، يشير إلى معالج مختلف العملية في نموذج مواز القائمة، والتحدي الأكبر هو عرض النطاق الترددي الاتصال بين المعالج، ويتم المعالج غاودي الكثير من الاتصالات والموانئ لضمان كاف عرض النطاق الترددي الاتصال.

نموذج المعالجة المتوازية، ومحدود DGX-2 منفذ NVLink تقدم ما يصل الى 16 GPU معا، ولكن يمكن القيام به مئات غاودي وضع المعالجة المتوازية.

هذا هو السبب متكاملة RDMA في رقاقة، من خلال وحدات معايير المدمج في واجهة إيثرنت القياسية، والدعم، ويمكن للعملاء الحصول على مزيد من حرية الاختيار، كما تم توسيع تدريب الحدود المستقبل أبعد من ذلك.

ثالثا، أول معالج الجيل AI المنطق: أداء أعلى ثلاث مرات من NVIDIA T4

سبتمبر 2018، هافانا مختبرات AI المنطق معالج الإصدار الأول لغويا، لنفس الفترة من عام مبيعات العملاء وحجم الإنتاج في الربع الأخير من العام الماضي. اليوم، وبعد تسعة أشهر، وقال ايتان المدينة المنورة، والأداء غويا لا يزال على AI رقاقة المنطق الرائدة في السوق.

AI السوق المنطق ينمو، وفقا لايتان المدينة المنورة، والآن في السوق لم يصل بعد إلى المنتج مرضية تماما، فهي 90 في المئة من الزبائن الاستمرار في استخدام وحدة المعالجة المركزية للتفكير والتنبؤ، ولكن هؤلاء العملاء يبحثون عن أعلى إنتاجية، أي أقل تأخير واستهلاك الطاقة، وأصغر حجما وأقل تكلفة المنتجات، غويا يجلب هذه التحسينات الأداء بالنسبة لهم.

غويا معالج اثنين من السمات الرئيسية: مصممة للتصميم AI، برمجة البرمجيات. وبالإضافة إلى ذلك كما أن لديها ثلاث مزايا: ارتفاع عدد السلطة، وفعالة من حيث التكلفة، مما يسمح للمستخدمين متعددة لتقاسم الموارد الحاسوبية.

كما هو مبين، والتفكير في اختبار ResNet-50 نموذج، وأداء يفوق بكثير NVIDIA غويا، XILINX، وشركات مثل رقاقة إنتل AI المنطق، تقريبا ثلاثة أضعاف NVIDIA تسلا T4.

وعلاوة على ذلك، قال ايتان المدينة المنورة أعلى غويا 2 مرات نسبة الطاقة من T4، وأسرع من الوقت الحقيقي تجهيز GPU.

يقال في مركز البيانات، ثلاث بطاقات غويا حساب 45000 صور في الثانية الواحدة، أي ما يعادل ثمانية NVIDIA تسلا V100 GPU، 169 من أداء الخادم وحدة المعالجة المركزية التي تحققت.

المفتاح لتحقيق هذا الأداء العالي، والتي هافانا مختبرات البحث والتطوير للهندسة المعمارية المبتكرة.

وحدة المعالجة المركزية وGPU الحوسبة للأغراض العامة، ليست مناسبة AI تماما للتعامل مع هذه المهمة، ولكن بنية المعالج AI هافانا مصممة خصيصا لمنظمة العفو الدولية. ومن موتر نواة معالجة (TPC، التنسور النواة)، تسارعت وحدة مضاعفة مصفوفة، ودعم FP32، INT32 وغيرهم من نوع بيانات مختلطة الدقة. هذا الهيكل تسمح غويا لدعم مجموعة متنوعة من الشبكات العصبية.

ويعتقد ايتان المدينة المنورة أن المفتاح هو لحساب القدرة AI المنطق والتأخير، والحوسبة مركز البيانات، فإن حجم دفعة مختلفة يكون لها تأثير كبير على هاتين النقطتين عندما دفعة واحدة.

أي تغذية حجم دفعة المتاح AI عينة تدريبية نموذجية، نفس مجموعة التدريب البيانات، إذا كان حجم دفعة كبيرة، وعدد من التدريب سوف تصبح أقل. صغر حجم الدفعة أكثر عشوائية، ويمكن أن تؤدي إلى نموذج من الصعب أن تتلاقى، ولكن بشكل عام كلما زاد حجم الدفعة، فإن اتجاه الانحدار تكون أكثر دقة، ولكن القدرة تعميم تتدهور، ولكن أيضا يؤدي إلى تأخير أطول.

لغويا يمكن القيام به في التكرار واحد مقابض عملية صورة واحدة فقط، وهذا هو، عندما 1 حجم الدفعة =، هل تجهيز الثاني صورة واحدة 7107.

سحابة الباعة عادة مستأجرة من قبل المستخدم في شكل بطاقة واحدة، ولكن خفض الكمون غويا، وبطاقة واحدة يمكن أن تكون مشتركة من قبل عدة مستخدمين، للتأكد من أن المستخدم أثناء استخدام التكلفة المنخفضة لل، منخفضة الكمون، لضمان أن يحصل المستخدمون على خير تجربة الخدمة.

قلق آخر في المعلمة المنطق AI هو دقة المنطق.

عادة في التفكير والتنبؤ، ويتم ذلك النموذج التقليدي للالمعالج الفاصلة العائمة من قبل عدد صحيح المدربين، سيؤدي بالتأكيد إلى فقدان المعلومات، تؤثر على دقة النهائية.

العمارة الدقة هجين غويا، وفقدان كامل للدقة صغيرة جدا، ونموذج لا يتطلب التشذيب أو إعادة التدريب في عملية تكميم.

في المنطق والتدريب، هندسة البرمجيات أمر بالغ الأهمية أيضا. العديد من مراكز البيانات من عمل منظمة العفو الدولية ذات الصلة الموجودة أساسا في وحدة المعالجة المركزية وGPU لإكمال، وبالتالي فإن التحدي هو كيفية تحقيق هافانا التنقل جيدة، مما يسمح للعملاء لنشر بسرعة عمل منصة غويا القائمة على معالجات أخرى من قبل.

وقال ايتان المدينة المنورة، كثير من الناس لا يعتقدون أن مثل هذا أنشئت حديثا هافانا سنوات للمساعدة في توفير مثل هذه البيئة البرمجية الشاملة، ولكن في الولايات المتحدة والصين والعديد من العملاء قد شهدت بالفعل منتجات غويا وإعطاء ردود فعل جيدة، التحقق من ذلك بيئة فعالة جدا.

في كومة البرمجيات دعا المشبك AI، دعم TensorFlow، Pytorch الآخرين التيار إطار منظمة العفو الدولية. في الجزء العلوي، مع مجموعة متنوعة من إطار التيار الرئيسي لديه واجهة، والمجمعين هافانا مختبرات الرسومات، والمكتبات، وهلم جرا متصلا وقت التشغيل. كما يدعم في كومة برامج المكتبة التخصيص، كما يوفر الأدوات اللازمة لعمل العميل الأمثل مخصصة للزبون أكبر قدر ممكن من المرونة.

وبالإضافة إلى ذلك، المشبك AI التدريب دعم العملاء تنفيذها على وحدة المعالجة المركزية، GPU، TPU، غاودي وهلم جرا من بنيات المعالج مختلفة، وبين هافانا مختبرات الاستدلال ونواتج التنبؤ مستقلة عن بعضها البعض.

وقد وضعت الفيسبوك آلة التعلم مترجم الوهج، وغويا وتميز الموقع الرسمي هو أول من دعم الوهج تجميع البيئة.

تكنولوجيا الفيسبوك ومدير الاستراتيجية فيجاي راو أعرب: "الفيسبوك تبحث عن منصة مفتوحة للابتكار في هذا القطاع ونحن سعداء لرؤية التكامل غويا هافانا مختبرات الذكاء الاصطناعي تطبيقات المنطق المعالج المصدر المفتوح كما مترجم الخلفية الوهج تعلم آلة اصطناعية وجودي. ذكية التدريب OCP حدة المعالج المسرع (OAM) مواصفات ".

عمل آخر غويا هو توفير سعيها لينكس، يحتاج المستخدمون فقط إلى تحميل أحدث نسخة من لينكس، يمكنك ان ترى متكاملة في لينكس غويا.

الخلاصة: كانت منظمة العفو الدولية الاسعار القياسية رقاقة المشاكل المؤقتة: الهبوط والبيئية

دافيد دهان هافانا مختبرات الرئيس التنفيذي، AI التدريب نموذج المطلوبة لحساب السلطة ينمو باطراد سنويا. لذلك، وتحسين الإنتاجية وقابلية للتصدي لمراكز البيانات والحوسبة السحابية الحاجة الملحة لحساب القوة تصبح مهمة حرجة.

لمركز البيانات لديها لمجرد أن يكون على رقائق عالية الأداء AI، وسعت هافانا مختبرات من محفظة AI AI معالج تعليلها إلى معالج التدريب، والأداء الرفيع، وانخفاض استهلاك الطاقة، والتدرجية، وغيرها من الميزات للبرمجة، وتوفير سحابة AI شريحة جديدة اختيار.

ومع ذلك، فقد كان NVIDIA قادرا على الجلوس في السنوات OVERLORD رقاقة سحابة منظمة العفو الدولية، بالإضافة إلى GPU المتوازية الحوسبة السلطة من تلقاء نفسها وتناسب عمق التعلم، وهو ما ساهم أيضا CUDA منصة برمجيات، فمن GPU قوي + CUDA معا قوي لNVIDIA تراكمت لديها قاعدة كبيرة للمستخدم، وذلك لإنشاء أكثر شمولا القائمة على النظم الإيكولوجية.

وكانت رقاقة هافانا مختبرات سحابة AI في أداء اختراق، ولكن الخطوة التالية هي خلق مشاكل لجميع الشركات رقاقة سحابة AI نواجهها معا: الهبوط، والنمو المطرد، وكذلك بنيت من البيئة السليمة.