مذكرة لى فنغ الشبكة: هذه المقالة المؤلف الأصلي lqfarmer، ورقة الانتهاء من العمود يعرف تقريبا من المؤلف "التعلم العميق وNLP" . وكانت شبكة لى فنغ إذن مستنسخة.

لى فنغ شبكة ملاحظة: هذه المقالة مترجمة من أي GPU (ق) إلى الحصول على أعماق التعلم

التعلم العميق هو مجال الحوسبة الطلب قوية، واختيار GPU يحدد عمق تجربة التعلم الخاص بك عملية البحث وبشكل أساسي. في غياب GPU، والانتظار للحصول على الانتهاء من التجربة في كثير من الأحيان يستغرق وقتا طويلا، قد تكون قيد التشغيل اليوم، أيام أو أشهر أو لفترة أطول. ولذلك، اختيار جيد، GPU السليم، يمكن للباحثين تبدأ بسرعة متكررة شبكة التعلم العمق، تجربة يمكن بضعة أشهر تنتهي في غضون أيام قليلة، بعد أيام قليلة من هذه التجربة يمكن الانتهاء في غضون ساعات قليلة. لذلك، في وقت GPU الشراء، والاختيار الصحيح أمر بالغ الأهمية. فكيف لاختيار GPU الصحيح ذلك؟ اليوم سنقوم بدراسة هذه المسألة، وسوف نقدم بعض الاقتراحات المناسبة لتساعدك على جعل اختيار مناسب.

بدء التعلم مع فائق السرعة GPU هو جانب مهم جدا من التعلم العميق، لأنها يمكن أن تساعدك بسرعة اكتساب الخبرة العملية، وهي خبرات أساسية لبناء، سيكون لدينا ما يكفي من الوقت لمعرفة عمق تطبيقها لحل مشاكل جديدة. من دون هذه الملاحظات السريع، ونحن في حاجة إلى إنفاق الكثير من الوقت للتعلم من الأخطاء. لذلك، اليوم للحديث عن كيفية اختيار GPU مناسبة لدراسة متعمقة البحث.

أولا، بعض النصائح العامة

أفضل GPU العام (متواضعة): تيتان إكس بي

فعالة من حيث التكلفة شاملة، ولكن قليلا أكثر تكلفة: GTX 1080 تي، GTX 1070، GTX 1080

الثمن هو أيضا جيدة وغير مكلفة: GTX 1060 (6GB)

وعندما وضعت البيانات >  250GB: GTX تيتان X (ماكسويل)، NVIDIA تيتان X باسكال أو NVIDIA تيتان إكس بي

ليس هناك ما يكفي من المال: GTX 1060 (6GB)

تقريبا أي مبلغ من المال: GTX 1050 تي (4GB)

هل لعبة Kaggle: GTX 1060 (6GB) ينطبق على أي لعبة "طبيعية"، أو GTX 1080 تي ل "المنافسة التعلم العميق"

الكمبيوتر الرؤية الباحث: NVIDIA تيتان إكس بي، لا تشتري الآن أن تيتان X جديد (باسكال أو ماكسويل)

باحث الموظفين: GTX 1080 تي. في بعض الحالات، مثل معالجة اللغة الطبيعية، وGTX 1070 أو GTX 1080 كان كافيا - الآن التحقق من متطلبات ذاكرة النموذج الخاص بك

بناء مجموعة GPU: وميزة هذا المجمع، لاستكشاف الآخر للقيام به.

في أول دراسة والبحث المتعمق: بدءا GTX 1060 (6GB). وفقا للمصلحة الخاصة بك المقبل (دخول، Kaggle المنافسة، والبحوث، وتطبيق التعلم العميق) وهلم جرا، مما يجعل الاختيار. حاليا، GTX 1060 هو أكثر ملاءمة.

كنت أريد أن أحاول التعلم العميق، ولكن ليس الكثير من متطلبات: GTX 1050 منظمة الشفافية الدولية (4 أو 2GB)

ما GPU أن تختار؟ NVIDIA GPU، AMD GPU أو إنتل زيون فاي؟

المكتبة القياسية NVIDIA تتيح لبناء أول مكتبة التعلم عميقة يصبح من السهل جدا على أساس CUDA، OpenCL وAMD ليست هذه قوية المكتبة القياسية. الآن، وبطاقات AMD لا يحبون مثل هذه جيدة مكتبة دراسة متعمقة، وبالتالي فإن NVIDIA فقط. حتى لو كانت هناك ويمكن أيضا أن تستخدم بعض المكتبات OpenCL، ولكنني لن العصا مع NVIDIA، لأن GPU أو GPGPU المجتمع الحوسبة قوية جدا، لا يمكننا الاستمرار في تعزيز تنمية المستقبل CUDA، وOpenCL محدودة نسبيا. لذلك، في المجتمع CUDA، فمن السهل للحصول على حلول جيدة مفتوحة المصدر والمشورة يمكن الاعتماد عليها.

وبالإضافة إلى ذلك، حتى لو بدأت دراسة متعمقة فقط، NVIDIA لا تزال مستمرة التنمية في العمق. وقد دفع هذا الاختيار خارج. غيرها من الشركات الآن تنفق المال والجهد في التعلم العميق، وذلك بسبب تأخر بدء، هو الآن متخلفة نسبيا. برنامج التعلم العمق هو حاليا، بالإضافة إلى NVIDIA CUDA-، فإن العديد من الأجهزة والبرامج الأخرى تواجه أكثر أو أقل من مشكلة.

أما بالنسبة لبرنامج معالجة زيون فاي إنتل، والإعلان عن المطالبات الرسمية التي يمكن للمبرمجين استخدام وضع كود C القياسية، وأنه من السهل إلى رمز يتم تحويلها بسهولة إلى تسارع زيون كود فاي. تبدو هذه ميزة مثيرة للاهتمام، لأننا لا نستطيع الاعتماد على الموارد الغنية كود C. ولكن، في الواقع، معتمدة فقط على جزء صغير من كود C، لذلك هذه الميزة حاليا ليست مفيدة جدا، ومعظم رمز C لتشغيل ببطء شديد.

كيفية اختيار أسرع GPU في ميزانية معينة

في اختيار GPU، ما هو أول GPU مشكلة أداء أول شيء للنظر هو: هل الأساسية CUDA؟ كم سرعة الساعة؟ كم حجم الذاكرة؟

هذه ليست، لأداء التعلم العميق، والميزة الأكثر أهمية هو عرض النطاق الترددي الذاكرة (ذاكرة النطاق الترددي).

باختصار: هو الأمثل GPU لعرض النطاق الترددي الذاكرة، ولكن على حساب وقت الوصول الذاكرة (كمون). CPU تصميم العكس: إذا كان ينطوي على كمية صغيرة من الذاكرة (على سبيل المثال، العديد من الضرب الرقمي (3 * 6 * 9))، وحدة المعالجة المركزية ويمكن حساب بسرعة، ولكن بالنسبة للكثير من الذاكرة (على سبيل المثال، ضرب المصفوفات (A * B * C) ببطء شديد. نظرا لعرض النطاق الترددي الذاكرة، وعندما يتعلق الأمر كميات كبيرة من مشاكل في الذاكرة، GPU بسرعة الحوسبة مزايا تميل الى ان تكون محدودة. وبطبيعة الحال، بين GPU وحدة المعالجة المركزية عن الاختلافات كذلك أكثر تعقيدا، لماذا مناسبة جدا لGPU معالجة عمق مشاكل في التعلم، وغيرها استكشاف القيام به.

حتى إذا كنت ترغب في شراء GPU سريع، والقلق الأول هو عرض النطاق الترددي GPU (عرض النطاق الترددي).

تقييم أداء عرض النطاق الترددي الذاكرة بواسطة GPU

مع مرور الوقت، وحدة المعالجة المركزية وعرض النطاق الترددي GPU هي: عرض النطاق الترددي هو واحد من GPU الرئيسي أسرع من وحدة المعالجة المركزية.

ويمكن مقارنة عرض النطاق الترددي مباشرة على بنية رقاقة، مثل على سبيل المثال وGTX 1070 GTX 1080 هذه البطاقات باسكال، والتي يمكن أن ينظر إليها مباشرة بشكل منفصل عرض النطاق الترددي أداء الذاكرة مقارنة. على سبيل المثال، GTX 1080 (320GB / ثانية) أسرع بنسبة 25 (320/256) مقارنة GTX 1070 (256 GB / ثانية). ومع ذلك، تكوين مختلف، مثل على سبيل المثال GTX 1080 لا يمكن مقارنتها مباشرة مع باسكال وماكسويل GTX تيتان X أو ما شابه ذلك، بسبب العمليات المختلفة التصنيع (في نانومتر)، مما يؤدي إلى أبنية مختلفة لكيفية عرض النطاق الترددي الذاكرة نظرا بطرق مختلفة . وهذا يجعل كل شيء صعبة بعض الشيء، ولكن فقط على أساس عرض النطاق الترددي الكلي، يمكن أن تعطينا تقييم جيد من مدى سرعة سرعة GPU في نهاية المطاف. من أجل تحديد في مجموعة معينة من الظروف، والسرعة التي يمكن أسرع GPU، يمكنك الاطلاع على هذه الصفحة ويكيبيديا لGB / S من عرض النطاق الترددي في وحدات من الرأي؛ المذكورة هنا على هذه البطاقات الجديدة (900 و 1000 سلسلة) سعر دقيق إلى حد ما، ولكن البطاقة القديمة أرخص بكثير - وخاصة إذا كنت شراء هذه البطاقات من خلال موقع ئي باي. على سبيل المثال، المشترك GTX تيتان X تبيع على موقع ئي باي لحوالي 550 $.

عامل مهم آخر للنظر هو أن ليس كل أبنية متوافقة مع cuDNN. منذ المكتبات كلها تقريبا التعلم العميق تستخدم cuDNN عملية الالتواء، مما يحد من اختيار GPU فقط كبلر GPU أو في وقت لاحق، هذا الإصدار GTX 600 سلسلة أو أعلى. الشيء الأكثر أهمية هو، كبلر GPU بطيئة عموما. ذلك يعني أنه يجب عليك تحديد GTX 900 أو 1000 سلسلة GPU، من أجل أداء أفضل.

للحصول على تقدير تقريبي لهذه البطاقات على عمق التعلم أداء المهمة، لقد بنيت بسيطة الخرائط الكنتورية GPU. كيف تقرأ ذلك؟ على سبيل المثال، GTX 980 و 0.35 تيتان X باسكال مثل بسرعة، أو بعبارة أخرى، تيتان X باسكال GTX 980 تقريبا ثلاث مرات.

يرجى ملاحظة أنني لم يمتلك كل من هذه البطاقات، وأنا لم تعمل على جميع هذه البطاقات ومن ثم الحصول على benchemarks التعلم العمق. نتيجة المقارنة من مواصفات البطاقة، وبعض المتاحة الحوسبة المقاييس (في بعض الحالات لتشفير التعدين المال دراسة متعمقة على أداء قوة الحوسبة ذات الصلة غير قابلة للمقارنة) التي تم الحصول عليها. لذلك فان هذه النتائج هي تقديرات تقريبية. قد تختلف الأرقام الفعلية، ولكن عموما يجب أن يكون خطأ صغير نسبيا، من أجل من بطاقات يجب أن تكون صحيحة. نلاحظ أيضا أن أداء ليست كافية لتحقيق الاستفادة الكاملة من أداء GPU من الشبكات الصغيرة سوف تجعل GPU تبدو سيئة. على سبيل المثال، LSTM صغير (128 وحدة مخبأة على GTX 1080 تي؛ حجم الدفعة >  64) من على GTX 1070 لن تعمل بشكل أسرع من ذلك بكثير. من أجل الحصول على الجدول الفارق في الأداء هو مبين في الشكل، تشغيل شبكة أكبر، مثل وجود وحدات مخبأة 1024 LSTM (حجم الدفعة >  64).

المقارنة التقريبية بين أداء GPU. ويقارن هذا إلى إنشاء الاستفادة الكاملة من الوضع أداء GPU.

تحليل التكاليف

مقارنة الأداء المبنية على الرسم أعلاه، مقسوما على سعر يناظرها، والترتيب في الشكل على أساس التكلفة، وارتفاع يعد ممثل التكلفة، وFIG تكلفة تعكس إلى حد ما الفرق بين بطاقات مختلفة.

الفعالية من حيث التكلفة مقارنة الرسم. يرجى ملاحظة أن هذا الانحراف عدد من نواح عديدة، على سبيل المثال، لأنها لا تأخذ في الذاكرة.

علما، مع ذلك، أن على GPU مقياس الترتيب لا يعتبر شاملة. أولا وقبل كل شيء، لا تعتبر GPU حجم الذاكرة. من الرسم البياني أعلاه، GTX 1050 تي أعلى سعر، ولكن عندما تقول التطبيقات العملية تتطلب المزيد من الذاكرة من الذاكرة تي 1050 يمكن أن توفر، ولا يمكن. وبالمثل، فإن استخدام أربعة GPU صغير من مجرد GPU كبير هو أكثر تعقيدا بكثير، وبالتالي GPU صغير هناك العديد من أوجه القصور. وبالإضافة إلى ذلك، وليس من خلال شراء 16 GTX 1050 تي للحصول على أداء 4 GTX 1080 تي، لأن الحاجة إلى شراء ثلاثة الكمبيوتر مكلفة إضافية. وبالنظر إلى هذه النقطة الأخيرة، أي حجم الذاكرة GPU، للحصول على تحليل التكاليف هو مبين في الشكل.

النظر في السعر من الأجهزة الأخرى (مثل أسعار حاسب آلي مجهزة GPU)، لتوحيد تكلفة GPU. هنا، مقارنة بين آلة كاملة تشمل أربعة GPU، وغيرها من تكوين الأجهزة عالية نهاية في ظل ظروف (CPU، اللوحة الأم، الخ) التي تبلغ قيمتها ما يقرب من 1500 $.

لذلك، في هذه الحالة، إذا كنت ترغب في شراء أكثر من GPU، ولا شك، وارتفاع الأسعار وزيادة الذاكرة GPU، منذ متطلبات الذاكرة تحت نفس الظروف، لا تحتاج إلى شراء المزيد من الآلات. ومع ذلك، هذا لا يزال معيبة اختيار GPU من طريقة. إذا يقتصر ميزانيتك، لا توجد وسيلة سعر لا يستطيعون 4 GTX 1080 آلات تي، هذه المقارنة لا معنى له. ولذلك، فإن الحقيقة هي أنه، استنادا إلى إطار ميزانية محدودة، يمكنك شراء أداء النظام الذي هو أفضل؟ في الوقت نفسه، لديك أيضا للتعامل مع قضايا أخرى، مثل: كم هو هذا GPU الاستخدام اليومي للوقت؟ GPU أو ترغب في ترقية جهاز الكمبيوتر بالكامل في غضون سنوات قليلة؟ وتريد GPU الحالي لبيعها في الفترة الطويلة القادمة من الزمن، وشراء GPU جديد وأفضل؟ إلخ

هكذا ترون، أنه ليس من السهل لجعل الحق في الاختيار. ومع ذلك، إذا نظرتم الى توازن كل هذه القضايا، فإنه سيأتي على غرار الاستنتاجات التالية.

توصيات اختيار GPU العام

بشكل عام، أود أن أوصي GTX 1080 تي، GTX 1080 أو GTX 1070. وهي الرسومات ممتازة، وإذا كان لديك المال، يجب عليك شراء GTX 1080 تي. GTX 1070 من متوسط GTX تيتان X (ماكسويل) أرخص. خفض GTX 1080 السعر من GTX 1070 العدد، ولكن منذ قدم تي GTX 1080، وتراجعت الأسعار بشكل حاد، والآن فإن سعر GTX قادرا 1080 مقارنة مع GTX 1070. يجب أن يكون كل ثلاثة 980 تي بطاقة الرسومات أفضل من GTX، لأن لديهم 11GB و 8GB (بدلا من 6GB) من الذاكرة.

8GB من الذاكرة قد تبدو صغيرة بعض الشيء، ولكن كان للعديد من المهام بما فيه الكفاية. على سبيل المثال، Kaggle المنافسة، أكثر من بيانات الصورة، على غرار عميق واللغة الطبيعية المهام التفاهم التي قد تواجه بعض المشاكل.

بالنسبة للأشخاص المبتدئين أو في بعض الأحيان تريد استخدام GPU للمشاركة في مماثلا رجل Kaggle من المباراة، GTX 1060 هو خيار جيد. أنا لا أنصح الذاكرة فقط 3GB GTX 1060 البديل للمنتج، لأن الذاكرة 6G كان محدودا للغاية. ومع ذلك، للعديد من التطبيقات، 6GB غير كافية. GTX 1060 من متوسط تيتان X بطيئة، ولكن GTX 980 لديها مقارنة الأسعار.

على فعالة من حيث التكلفة شاملة، وسلسلة 10 مصممة بشكل جيد جدا. GTX 1050 تي، GTX 1060، GTX 1070، GTX 1080 و GTX 1080 تي جيدة جدا. GTX 1060 و GTX 1050 تي غير مناسبة للمبتدئين، GTX 1070 و GTX 1080 مناسبة للشركات المبتدئة، وهي جزء من البحوث والقطاعات الصناعية، في حين أن الأداء المتميز للGTX 1080 تي، هي مناسبة للتطبيقات المذكورة أعلاه.

غير موصى بها NVIDIA تيتان إكس بي، لأنه يكلف مكلفة للغاية. قد تحل محلها GTX 1080 تي. ومع ذلك، NVIDIA تيتان إكس بي في مجال البحوث رؤية الكمبيوتر لا تزال لديها بعض استخدام لمعالجة مجموعات كبيرة من البيانات أو بيانات الفيديو. في هذه المناطق، وفقا لعدد من العمليات الحسابية في GB من الذاكرة، NVIDIA تيتان إكس بي فقط من GTX 1080 تي أكثر من 1GB، ولكن في هذه الحالة أيضا مزايا معينة. غير موصى بها NVIDIA تيتان X (باسكال)، وذلك لأن NVIDIA تيتان إكس بي بشكل أسرع، ولكن الثمن هو نفسه تقريبا. ولكن نظرا لندرة هذه GPU في السوق، إذا لم تتمكن من العثور على NVIDIA تيتان إكس بي، يمكنك أيضا شراء تيتان X (باسكال).

إذا كان لديك بالفعل GPU GTX تيتان X (ماكسويل)، ثم الترقية إلى NVIDIA تيتان X (باسكال) أو NVIDIA تيتان إكس بي ليست ضرورية.

إذا كنت قصيرة من المال، ولكن تحتاج ذاكرة 12GB لإجراء البحوث الخاصة بك، ثم GTX تيتان X (ماكسويل) هو خيار جيد.

بالنسبة لمعظم الباحثين الذين GTX 1080 تي غير كافية تماما. معظم الدراسات وبالنسبة لمعظم التطبيقات، GTX 1080 ذاكرة تي يكفي تماما.

في البرمجة اللغوية العصبية، وحدود الذاكرة ليست صارمة بما مجال الرؤية الكمبيوتر، لذلك GTX 1070 / GTX 1080 هو خيار جيد. عادة، تحتاج ما المهام التي يتعين حلها وكيف التجارب لتحديد الحاجة لاختيار GPU واحد، كل من 1080 GTX 1070 أو GTX. عند تحديد GPU، ينبغي أن يكون التفكير بطريقة مماثلة. النظر في ما تقومون به من عمل، وكيفية تشغيل تجربتك، ومن ثم محاولة العثور على GPU لهذه المتطلبات.

للأشخاص الذين يعانون الميزانيات المحدودة، والخيار ظروف أكثر محدودة. GPU على الأمازون خدمات ويب مكلفة جدا وبطيئة، إلا إذا كان مبلغ صغير من المال، ولكن أيضا خيارا جيدا. أنا لا أوصي GTX 970، لأنها بطيئة جدا، حتى في ظل بعض القيود غير مكلفة للغاية (من 150 $ في موقع ئي باي)، وهناك مشاكل مرتبطة يبدأ بطاقة الذاكرة. بدلا من ذلك، فمن المستحسن أن تنفق أكثر قليلا من المال لشراء أسرع والحصول على مزيد من الذاكرة، ولا توجد مشاكل الذاكرة GTX 1060. إذا كنت حقا لا يمكن تحمله GTX 1060، أوصي اختيار تم تجهيز GTX 1050 تي مع 4GB من الذاكرة. 4GB من الذاكرة قد تكون محدودة، ولكن يمكن القيام بها ما لا يقل عن البحوث الخاصة بك، تحتاج فقط إلى إجراء بعض التعديلات على النموذج، يمكنك أيضا الحصول على الأداء الجيد.

GTX 1050 تي بشكل عام هو أيضا خيارا جيدا إذا كنت ترغب فقط في محاولة عمق التعلم، ولكن ليس هناك طلب آخر أكثر.

استنتاج

مع كل المعلومات الواردة في هذه المادة، يجب أن تكون قادرا على النظر في أي نوع من الاختيار GPU الاقتضاء، بالنظر إلى حجم عرض النطاق الترددي الذاكرة المطلوبة (GB / ق) وحجم سعر GPU، هذه الفكرة أيضا في المستقبل لفترة طويلة تطبيق. وأخيرا، إذا كان هناك ما يكفي من الأموال، وشراء المقترح GTX 1080 تي، GTX 1070 أو GTX 1080. إذا كنت قد بدأت للتو لدراسة معمقة للتعلم، أو أموال محدودة، يمكنك شراء GTX 1060. إذا يقتصر التمويل، يمكنك شراء GTX 1050 منظمة الشفافية الدولية، وإذا كنت ترغب في الانخراط في البحث رؤية الكمبيوتر، وشراء تيتان إكس بي.