حدود الأداء اختراق، علي سحابة رقة التنين على قراءة آخر ASPLOS

الكاتب | علي سحابة فريق التنين

ذبيان | ايل

أنتجت | CSDN (ID: CSDNnews)

مقدمة

مؤخرا، أعلنت ASPLOS 2020 صناعة الكمبيوتر أحدث المنجزات العلمية والتكنولوجية، بما في ذلك ورقة بعنوان "عالية الكثافة متعدد المستأجر باري المعدنية الغيمة" قدمت علي سحابة، توضح الصحيفة كيف علي سحابة منذ بنية الخادم تحقيق حل مشاكل التنين الحوسبة السحابية الصناعة لسنوات عديدة من مشكلة فقدان أداء التمثيل الافتراضي، وكسر أسطورة أداء الجهاز المادية، بحيث حدود الأداء اختراق خادم سحابة.

وسائل إدراج أن الكمبيوتر العالمي سيتعرف علي قمة السحابة التكنولوجيا التنمية الذاتية، والتكنولوجيا المبتكرة يعني أيضا أن الصين في صناعة الكمبيوتر العالمية الحصول على مكان.

ASPLOS هي بنية شاملة، لغات البرمجة وأنظمة التشغيل أعلى المؤتمر ثلاثة اتجاهات النظم الحاسوبية، من 1982 منذ إطلاقه لتعزيز تطوير عدد من التقنيات أنظمة الكمبيوتر، العام معدل القبول رقة من حوالي 20.

علي سحابة ورقة بعنوان "عالية الكثافة متعدد المستأجر باري المعدنية الغيمة"، من قبل علي سحابة التنين الباحث تشانغ إكسيانتاو فريق الكتابة الفنية بقيادة المحدد، تفسير مفصل من المزايا التقنية للهندسة المعمارية التنين: ما وراء آلة المادية التقليدية بنسبة 100 يمكن الاعتماد، وقدرات التسليم الطبقة دقيقة والأمن العزلة المادية وفتح الدائرة بأكملها والمنصات السحابية الأخرى.

الافتراضية هو أساس الحوسبة السحابية والخوادم المادية إلى وحدة الحوسبة الافتراضية التي تريد، ومن ثم يكون أقصى قدر من المرونة، لكنها يمكن أن تسبب فقدان الأداء. كيف يمكن حل هذا التناقض؟ أطلقت علي في عام 2017 في "العمارة التنين" للتعويض عن فقدان الأداء الافتراضية، بالإضافة إلى مرونة السحابية ومزايا التشغيل والصيانة.

2019 مؤتمر Yunqi هانغتشو، الذي صدر علي سحابة التنين العمارة الجيل الثالث، ECS يدعم بشكل كامل الجهاز الظاهري، المعدن، والحاويات وغيرها من سحابة الأم، بنسبة 5 أضعاف الأداء في IOPS، PPS، وما إلى ذلك، يمكن أن تساعد في الحد من 50 تكلفة الحسابية. في العام الماضي، و 11 نظام ثنائي النواة على سحابة 100، التنين تألق، والنجاح كانغ تشو خلق 544،000 القلم / ترتيب ثانية الذروة، مقارنة مع نفس تكوين الجهاز المادية، وليس فقط على أداء نظام عمل بنسبة 20، ومقاومة الحمل وارتفاع ضغط أداء أداء الأعمال أفضل بشكل عام على نحو سلس والخطية.

ليس ذلك فحسب، التنين هو أفضل شريك حتى الآن معظم التكنولوجيا حاوية الشعبية. علي سحابة النقيض حاوية خدمة التنين 10 -30 ميزة أداء الجهاز المادية العمارة مبنية.

في الوقت الحاضر، وقد تم تطبيقها على نطاق واسع التنين في إطار تاوباو، لينكس، وسجل هاميلتون، وغيرها من الخدمات لقيمة الذروة عنوان أداء الاختناقات.

ورقة ACM ASPLOS اختيار بعنوان "عالية الكثافة متعدد المستأجر باري المعدنية الغيمة"، من قبل الشخص الكلي علي سحابة الباحث وخط المنتجات المبتكرة هي المسؤولة عن تشانغ إكسيانتاو، علي سحابة كبار الخبراء التقنيين تشنغ، علي سحابة كبار الخبراء التقنيين ويانغ هانغ فريق التنين الآخرين تأليف.

في هذه الورقة، لأول مرة تحليلا شاملا للشعبية العارية خدمات الحوسبة السحابية المعادن، والبنية التحتية التنين دلالة. كما جيل جديد من تقنية المحاكاة الافتراضية سيكون اتجاه تطوير التنين، والبنية التحتية الحالية للمقارنة، وضعت في حساب كل من الأجهزة والبرمجيات، والأداء الأساسية، والنفقات العامة الافتراضية من أوجه التشابه والاختلاف. عرض أطروحة فوق بيانات الأداء لمجموعة متنوعة من الأعمال تكشف تماما مزايا فريدة من العمارة المعدن التنين. تفسير مفصل التالية للحصول على ورقة.

ملخص

الافتراضية هي حجر الزاوية في الحوسبة السحابية، متعددة المستأجر (الأجهزة الظاهرية) لتبادل خادم فعلي واحد، وتحسين الاستفادة من خوادم مركز البيانات، مما يجعل من الحوسبة السحابية مزودي الخدمة يمكن تقديم خدمة أكثر فعالية من حيث التكلفة. ومع ذلك، فإن التكنولوجيا إدخال الكثير من القضايا الأمنية وأكثر من ذلك VM المشتركة الخوادم الفعلية ظاهر، خصوصا في الهجمات قناة الجانب الماضية. وبالإضافة إلى ذلك، وحدة المعالجة المركزية والذاكرة وI / O سوف يكون فوق لا يستهان به في الافتراضية الأداء. تحقيقا لهذه الغاية، وأصبح تأجير خادم فعلي نوع الناشئة من الخدمة في سحابة العامة، ينص عقد الإيجار خادم فعلي للمستخدمين مع العزلة قوية، فضلا عن إمكانية الوصول المباشر إلى أداء أكثر شمولا ويمكن التنبؤ به من الأجهزة. ولكن خادم فعلي طريقة التأجير له أيضا سلبياته: أنه يمكن أن يكون فقط للمستأجر واحد، لم يكن لديك قابلية والتكلفة والقدرة على التكيف عالية ضعيفة. يمكن التاجير خادم فعلي الحالي لخادم فعلي كامل مؤجرة لمستخدم واحد، ولا يمكن للمستخدم بسهولة استبدال الصورة الخدمات الأساسية، وتخزينها في الحوسبة السحابية الخادم الإيجار.

في هذه الورقة، نقترح مبتكر عالية الكثافة متعددة المستأجر مشتركة مرونة عارية تصميم الخادم المعادن، وهي مرنة علي سحابة التنين العمارة المعدن (ورقة لتلبية متطلبات دعا استعراض BM-خلية). كثافة علي سحابة التنين العمارة المعدن، كل حالة تعمل على المعدن الحوسبة مجلس التصميم ابنة واحدة، وحساب مجلس ابنة مع وحدات المعالجة المركزية والذاكرة الشخصية. يتم توفير BM-خلية حساب لكل لوحة فرعية مع الأجهزة مختلط / البرمجيات virtio نظام I / O الذي يتيح للعملاء الحصول الحالات aliyun خدمات الشبكة والتخزين مباشرة. BM-الخلية قد استضافة ما يصل إلى 16 المعدن في واحدة من الحالات الخوادم الفعلية، زيادة كبيرة في كثافة الحالات من المعدن الخادم. وبالإضافة إلى ذلك، BM-خلية العزلة الصارمة في المعدن مستوى الأجهزة كل حالة، لزيادة الأمن والعزلة. وقد تم نشر التنين مرونة برنامج عارية كثافة المعادن في السحابة العامة علي سحابة. ويقدم حاليا خدمات لمن مليون مستخدم في وقت واحد.

مقدمة

ظهور خادم فعلي التأجير هو تلبية المتطلبات الصارمة للغاية على أداء أو سلامة الزبائن. ولكن مقابل مستأجر واحد، منخفض الكثافة خوادم المادية، ولكن هناك تكلفة عالية. سحابة العامة فوق معظم الزبائن هم عملاء الصغيرة والمتوسطة الحجم. نحن نحصي عدد من الخدمات vCPU VM سحابة كل المواصفات المذكورة أعلاه، شكل الطلب VM لمدة تقل عن 32Core لأكثر من 95. المواصفات وحدة المعالجة المركزية للخوادم المادية الموجودة لديها الحد الأدنى 64Core، حتى 128Core. هؤلاء العملاء الصغيرة والمتوسطة ليس لديهم خيار، أو تتخلى عن مستوى الجهاز البدني من الأداء والأمان، وذلك باستخدام ظاهرية VM التقليدي، أو تأجير كامل الخادم، وتعطي القيمة مقابل المال. كما أنها لا تملك مرونة السحابة العامة المعدن لم تصبح بعد سبب رئيسي للصلب.

ولهذه الغاية، قمنا بتصميم التنين عالية الكثافة مرنة الهندسة المعمارية عارية المعادن: للتحجيم، مرونة عارية دعم الأجهزة المعدنية للحلول الافتراضية متعددة المستأجر. الإطار المعدني العاري (BM-خلية) يمكن أن تضمن وحدة المعالجة المركزية الأداء والذاكرة لها هو آلة المادية المحلية قيد التشغيل، ولكن أيضا الافتراضية الأجهزة IO، جنبا إلى جنب مع أكثر من وظائف مهمة من سحابة شحن دقائق، والتوسع مرنة، وما شابه ذلك. يتكون BM-خلية من ثلاث وحدات: حساب المجلس الفرعي، IO-بوند، BM-هبرفيسر. حساب مجلس فرعي يحتوي على وحدة المعالجة المركزية والذاكرة الحالات المعدن بدلا من ذلك، يعمل BM-هبرفيسر على خادم فعلي الكامنة لدينا يمكن أن تستضيف بحد أقصى 16 بحساب المجالس الفرعية، يتم توصيل IO-بوند لوحة دون حساب وBM-مراقب أجهزة افتراضية العلاقات. ونحن نقدم هذه الأجزاء الثلاثة بمزيد من التفصيل في الأقسام اللاحقة.

BM-خلية مخطط باستخدام مزايا هامة:

بأسعار معقولة: إن المعدن يصل إلى 16 حالات تبادل خادم فعلي، يمكن للعملاء خفض التكاليف بشكل كبير.

أداء ممتاز-خيط واحد: أمثلة من المعدن CPU عالي التردد، وهذا i7 من 4.2GHz،

متوافقة مع تشغيل وصيانة النظام الحالي: يمكن للعملاء استخدام كأمثلة، مثل المعدن الحالات العارية العاملة الأخرى غير المعدنية، بما في ذلك معكوسة، واستبدال علبة النظام، إضافة / حذف سحابة سحابة الحوسبة القرص عملية فريدة ومريحة.

مقارنة عدد المثال الحالي من مختلف مزايا السحابة العامة على النحو التالي:

التنين العمارة المعدن هي الأجهزة والبرمجيات الافتراضية هيكل متكامل

برنامج التنين والتكامل الأجهزة العارية العمارة الافتراضية المعدن هو التطور الطبيعي ورفع مستوى الافتراضية الموجودة. الشكل أدناه، البنية الكلية أعلاه، BM-الخلية مع برنامج الافتراضية التقليدي على وحدة المعالجة المركزية / الذاكرة، وعملية الوصول ونظام الصيانة، وغيرها من جوانب متعددة المستأجر مضاعفة مشابهة جدا. قمنا بتطوير التنين المعدن الأجهزة المعدن لتبادل مخطط للتعامل مع واحد BM-مراقب أجهزة افتراضية IO الفرعي بحساب مجلس ابنة.

الافتراضية الحالية تواجه أساسا المشاكل التالية:

قبل مناقشتها في التفاصيل التنين العمارة المعدن، دعونا ننظر في في بعض المشاكل التي كتبها سحابة من التكنولوجيا الافتراضية تواجهها حاليا. التنين عارية البرمجيات الافتراضية المعادن والتكامل الأجهزة حلول حلا جيدا لهذه المشاكل.

النفقات العامة الافتراضية لا تستطيع ان تلبي متطلبات الأداء العالي

الافتراضية موجودة خارج نطاق سيطرة الأداء غضب، والتي لا يمكن أن تلبي متطلبات الأداء تطرفا من المشهد

متطلبات الصناعة متناول محددة العزلة الأمن الافتراضية

أداء التمثيل الافتراضي متداخلة لا يمكن أن تلبي احتياجات العملاء

الافتراضية النفقات العامة:

الافتراضية الحالية من وحدة المعالجة المركزية تحدد المبادئ الأساسية يجب أن تنتقل إلى الوراء (VM-الخروج) في بيئة vCPU والبيئة المادية وحدة المعالجة المركزية إلى أسفل. التبديل المتكرر للVM يمكن أن يسبب مشاكل خطيرة في الأداء. على سبيل المثال، اثر تمريرة من خلال نموذجي المقاطعات الجهاز في عملية تدفق ظاهرية طويل جدا. KVM هبرفيسر تحت مفتاح الظاهري يتطلب آلاف من الدورات على مدار الساعة، من المرجح أن تصل إلى ~ 10US التكلفة. في ظل الظروف العادية VMExit (مثل المقاطعات) بلغت نحو 5K، وسوف تبدأ أداء VM أن تتأثر. هناك VMExit جميع الأسباب، مثل المعهد الدولي للصحافة، EPT انتهاك، والوصول MMIO، وهلم جرا.

ونحن عينات 300،000 الحالات ظاهر من البيانات التي تعمل، وجدنا بلغت الأمثلة أكثر من 10،000 مرات في الثانية الواحدة VM-الخروج 3.82، وحتى كثير من الحالات أكثر من 100،000 المفاتيح في الثانية الواحدة.

التنين المعدن BM-خلية حساب نتيجة لوحة فرعية يعمل مباشرة سبيل المثال، وتجنب أي وحدة المعالجة المركزية / الذاكرة الافتراضية النفقات العامة التقليدية.

الافتراضية أداء غضب:

كما العميل حصة المثال ونظام الخدمات نفس وحدة المعالجة المركزية، مما أدى إلى النظام المضيف عندما الخدمة مشغولة قد تؤثر على عملية مثيل العميل. واستبق نحن الحالات التي شملتها العينة في 20000 حالات تشغيل وحدة المعالجة المركزية، وجدت على أمثلة المشتركة، وهناك أكثر من 200 حالات، في عملية احتلت استخدام وحدة المعالجة المركزية من 2. هذا هو الأداء الفعلي لهذا CPU 200 مثال 100 بدلا من 98، في حالة ما إذا حدثت نفس النوع من الأمثلة الحصرية. بعد كل شيء، مطلوب معالجة انقطاع بالضرورة في CPU النظام المضيف لعملية. في حين أن المثال BM-خلية، تشغيل خدمات النظام في BM-هبرفيسر، وحدة المعالجة المركزية تحسب لوحة فرعية مختلفة CPU المادية، عارية حتى المثال التنين المعادن غير موجود أي الشفعة مشكلة موارد الحوسبة.

الافتراضية الأمن:

هذه ليست مشكلة جديدة، ونحن جميعا ندرك مستوى الأمان من الأقل إلى شكل عالية: عملية - > الحاويات - > الافتراضية - > آلة المادية. تحدث الهجمات قناة جانبية حتى هذا الوصف، ليست افتراضية الأمثلة غير قابلة للكسر. التنين فوق حساب لوحة شبه عارية أشواط الحالات المعادن في منفصلة، معزولة فعليا من الطبيعي، وهذه القضايا الأمنية غير موجودة

المتداخلة مشاكل الأداء الافتراضية:

عموما KVM الافتراضية المتداخلة فقدان الأداء في أكثر من 20، وخاصة عند بعض من أكثر تواترا مسرحا للعمليات IO. حتى في المثال فإنه من الصعب تلبية متطلبات الحوسبة السحابية الافتراضية الثانوية الحالية. التنين الحالات المعدن فإنه يمكن تشغيل الافتراضية حل العميل تشغيل متنوعة المفضلة الخاصة بهم من أجهزة تسريع مرة أخرى في المقام الداخلي.

تصميم التنين المعدن بنية النظام

من أجل حل العديد من مشاكل الظاهري التقليدية، BM-خلية اعتبارات التصميم أهداف هي:

متعدد المستأجر

وحدة العزلة الأمن البدنية

وصول نظام التشغيل والصيانة الحالية

أداء الجهاز البدني

منخفضة التكلفة

3 يبين الشكل بنية النظام العامة للBM-الخلية. وندعى Shenlong المثال المعدن: BM-الضيف. وبناء على مثيل ظاهرية التقليدي يسمى: VM-الضيف. ويتكون كل خادم الادنى من لوحة قاعدة وعدد وافر من الحساب الفرعي. على قاعدة هي في جوهرها خادم يعمل بنظام زيون-مبسطة. كل مجلس لديه PCIe لحساب التوسع شبه موصل لوحة في قاعدة النهاية. المكونات الرئيسية بما في ذلك وحدة المعالجة المركزية والذاكرة والحافلات بكيي وIO-بوند. IO-بوند هو واجهة الأجهزة تنفيذها في FPGA. توصيله إلى لوحة قاعدة وحساب حافلة الفرعية بكيي، وظيفة جسر شفافة تشبه وظيفة بكيي. IO-بوند محسوبة على الحافلة PCIe لوحة ابنة، والتي تحاكي تعدد الأجهزة التي كتبها virtio virtio نواة دعم برنامج التشغيل القياسية. IO-بوند بمثابة BM-ضيف / virtio الأمامية والجسور الخلفية للBM-مراقب أجهزة افتراضية. حاليا، IO-بوند شبكة دعم virtio وأجهزة التخزين (جهاز كتلة). ويمكن أن تمتد بسهولة لدعم أجهزة virtio أخرى.

تحليل البيانات التجريبية

وسوف يكون أداء التقليدية BM-خلية من تجاوز الظاهري وحدة المعالجة المركزية / الذاكرة على النقيض من ذلك، ولكن أيضا لتحليل بيانات الأداء على الشبكة والتخزين وغيرها الفرعي IO. وأخيرا، سوف نقدم أمثلة عارية أداء التنين المعدنية في سيناريوهات الأعمال في العالم الحقيقي.

وحدة المعالجة المركزية والذاكرة التنميط المثال المعدن التنين

CPU المحلية وأداء الذاكرة الحالات المعدن الحرجة للمستخدم. 7 وFIG 8 يعرض نفس التكوين، الظاهرية المثال المعدن الحالات التي تعمل على الفارق في الأداء CPU SPEC CINT 2006 يقاس أداء الذاكرة أداة STREAM اختبار الفجوة.

جعل FIG على معالجة تطبيع البيانات، يمكن أن ينظر إلى أداء وحدة المعالجة المركزية مع الجهاز المادية الحالات المعدنية العارية تقريبا لا فرق، وحتى بعض أصناف أخرى من الجهاز المادية وأداء وحدة المعالجة المركزية الظاهري من أمثلة 0-4 من عام الخسارة. وكانت أيضا ذاكرة مشابهة، الافتراضية عرض النطاق الترددي الذاكرة حالات المعدن حوالي 98 من الحالات.

تحليل أداء IO الفرعي

وBM-ضيف VM-ضيف virtio تستند إلى مسار I / O aliyun VPC شبكة الوصول إلى نظام التخزين السحابية، والفرق بينهما هو أن virtio BM-الخلية مع الأجهزة - تصميم البرمجيات الهجين. في هذا القسم، سنقوم الفرعية شبكة VM-الضيوف وتخزين BM-صالون وللقيام مقارنة الأداء. سرعة أقصاها العقد الوصول إلى الشبكة كل من مثالنا يقتصر على تعريف المنتج 4M PPS، عرض النطاق الترددي الحد الأقصى من 10Gbit / ثانية، وحد التخزين هو 25 IOPS 300Mbps ل. ولذلك، فإن الغرض من الاختبار هو ما إذا كان نوعين من الأمثلة لتحقيق أهداف التصميم.

PPS: نحن نرى BM-زائر / VM-ضيف يمكن أن تصل إلى 4M UDP PPS هدف التصميم، ولكن أكثر سلاسة VM-ضيف، وهذا قد يكون بسبب مسار BM-ضيف من خلال الأجهزة واجهة البرنامج تبدو أفضل من VM-ضيف متعددة الرصاص.

الكمون: من حيث الكمون، والحصول على التأخير شبكة VM-الضيف ليكون أفضل قليلا من نفس نوع BM-زائر في ثلاث أدوات اختبار، وليس هناك فرق كبير.

تخزين IO: سوف أداء الذاكرة IO فوق BM-الضيوف على أفضل عموما VM-الضيف. وIO الكتابة الوصول العشوائي الكمون الجانب متفوقة BM-ضيف VM-الضيف، والبيانات من حيث ذيل طويل البيانات BM-ضيف أفضل من 50 VM-الضيف.

تطبيقات العملاء نموذجية

بمقارنة تطبيق سيناريوهات حقيقية، يمكننا اكتشاف أفضل مزايا المثال المعدن. على سبيل المثال، قارنا مثالين اختلافات في إنجن إكس خادم الشبكة، قاعدة بيانات MariaDB ل، ومثل قاعدة بيانات الذاكرة رديس.

إنجن إكس: نوع الخدمة معظم الزبائن اختيار الموقع. طلبات BM-ضيف في الجانب الثاني من الوقت لتجهيز كل طلب أن يكون أكثر من 50 VM-ضيف

MariaDB ل: MariaDB لهو أنواع بيانات الاختبار القياسية، ودمجها في sysbench. يتجاوز قراءة أداء BM-ضيف VM-guest15 أو أكثر، في حين يتم تجاوز أداء الكتابة لأكثر من 50

رديس: قاعدة بيانات هياكل البيانات للقراءة الذاكرة. يستخدم على نطاق واسع رديس لتحسين أداء الخادم وقدرات الخدمة. BM-زائر في أداء الاختبار رديس متفوقة على كل VM-الضيف. 15 و 16 في FIG. هنا لم يعد متعب.

بعض الأفكار

IO-بوند الأداء الأمثل: أداء IO-بوند فوق المسار الحرج للنظام IO. تنفذ حاليا من قبل FPGA. يمكننا عن طريق رقاقة أسيك تنفيذها في المستقبل لزيادة تحسين أداء شبكة التخزين و

النقل الحراري وترقية الحراري: هوت ترقية المعدن في الأمثلة المذكورة أعلاه يمكن تحقيقه. بينما نحن ترقية قاعدة BM-مراقب أجهزة افتراضية يمكن القيام به على سبيل المثال لا تصور العملاء. قدمنا أمثلة من التكنولوجيات تطوير الحرارية "سريعة وقابلة VMM لايف ترقية البنية التحتية في الغيمة الكبيرة" في 2019 ASPLOS مفصل الورق. ونظرية نقل الحرارة، وحالات المعدن يمكن أيضا أن يتحقق، حققنا بعض المحاولات. حاليا قيد التطوير.

دعم SGX: دعم SGX دون أي مشاكل في المثال أعلاه المعدن. في المقابل يرجع ذلك إلى إزالة العقبات الافتراضية، ودعم SGX أسهل.

ملخص

قدمنا العارية الخدمات السحابية المعادن بيانات تصميم وتنفيذ واختبار التنين عالية الكثافة BM-الخلية. وقد ثبت عمليا أن الجيل القادم من الافتراضية والاتجاه صناعة التنمية والأجهزة والتكامل حلول البرمجيات التنين في متوافقة مع الافتراضية مزايا الفرضية، القائمة لتعزيز الأداء والأمان. هنا، نقدر بإخلاص جهود علي فريق سحابة الابتكار لدفع جميع الموظفين التقنيين.

عشر دقائق للبدء رد فعل + MirrorX، من رمز الأمامية لم يعد يحجب الله العظيم | برنامج القوة

"مرحبا، العالم"، وليس مجرد بضعة أسطر من التعليمات البرمجية الحديثة

بيثون إنشاء تخطيطات دينامية، انظر الاتجاهات العالمية وباء

الانتهاء! الثعبان الأصفر! 80 من المبرمجين: سعيد، كيف ترون؟

بايدو الربح مهندس التعدين غير القانوني 100000، حكم عليه بالسجن لثلاث سنوات؛ أبل قضية مكافحة الاحتكار غرامة بقيمة 1.1 مليار يورو، اقترح جيثب اكتساب الآلية الوقائية الوطنية | المهوسون العناوين

فاز تشو 4700 أنظمة ستار العالمي التصور البيانات اندلاع، خفيفة الوزن فائقة الصينية OCR ...... جيثب الأسبوع محة الساخنة

عقد الراتب السنوي 220،000 $، حالا ليست جيدة كمتدرب؟

الاحتياجات التدريبية لتجربة الولادة نذر؟ كيفية كتابة تجربة مشروع تجاري؟ المبرمجين مقابلة إعداد قوائم الجرد

مفهوم عامل الميناء من الصعب أن نفهم؟ المادة الحصول على ميناء عامل الميناء ملزمة

المبرمجين المهارات الأساسية: بيثون لماذا البيانات يجب تحليلات؟ منذ فترة طويلة وكتابة الجواب على JD ...

بيثون معالجة الصور الفعلية | التحول غير الخطية من صورة رمادية التحول لوغاريتمي، وتحويل غاما

TCM باء شو شو بينغ عالية: في منتصف العمر "العدوى"، بداية أبدا دهني