المصدر: RealAI

هذه المقالة حول 3674 كلمات القراءة الموصى بها 9 دقائق

توضح هذه المقالة معهد بحوث منظمة العفو الدولية من جامعة تسينغهوا حاضنة الأعمال RealAI (رايلي الحكمة) رسميا خوارزميات منظمة العفو الدولية الأولى لاختبار السلامة في البيئات القاسية والمواجهة مع تعزيز الاصطناعية منصة أدوات الاستخبارات منصة الأمن --RealSafe.

مع تطور الذكاء الاصطناعي، أو AI تقوم باستبدال ببطء العمل البشري بالتعاون مع مجموعة متنوعة من المشاهد منذ سنوات عديدة، فإنها يمكن أن تصبح العين البشرية، والأذنين، والأسلحة، وحتى الدماغ. من بينها، تكنولوجيا رؤية الجهاز كأساس لعصر AI، كانت منظمة العفو الدولية خوارزمية وراء العديد من عمالقة التكنولوجيا والشركات الناشئة معا مطاردة ساخنة. ومع ذلك، من وراء الكواليس من هذه التطبيقات الرئيسية، في كثير من الأحيان مخبأة من قبل الأمن خوارزمية المخاطر الناجمة عن عيوب فنية .

على سبيل المثال، لا يمكن تغطيتها البيانات في بعض التدريب لسيناريو متطرف، قد تظهر المركبات الذاتية صنع القرار الغريب، مما يؤدي إلى مخاطر سلامة الركاب. اعتبارا من عام 2016 حتى الآن، ظهرت تسلا، اوبر وغيرها من المشاريع لمساعدة السائق وأنظمة القيادة الآلية في حادث خطير مماثل تسبب الموت. ومثل هذه الحالات تطرفا قد يكون افتراء الخبيثة واستخدامها، ويبادر "عينة ضد الهجوم"، في يوليو من العام الماضي، بايدو والمؤسسات البحثية الأخرى مرة واحدة من خلال 3D الطباعة، مما يسمح للطيار "تجاهل" العائق، والسيارة حدث تصادم كما يهدد خطر السلامة المرورية.

فقد كان قادرا على مهاجمة بنجاح، في المقام الأول رؤية الجهاز ورؤية الإنسان هي مختلفة تماما. يمكن تغييرها بإضافة الاضطرابات صغيرة (أي تدخل المبين أعلاه المتعمد "عينة العداء") على معلومات الصورة المدخلات مثل الكائن، الخوارزمية يمكن أن تؤدي إلى أخطاء كبيرة. وبالإضافة إلى ذلك، مع مزيد من تطوير AI، يتم تطبيق الخوارزمية لنموذج، والتشخيص اتخاذ القرارات المالية أكثر مماثلة الطبية وغيرها من سيناريو المفتاح الأساسي، فإن تهديد "الثغرات" هذا AI تصبح أكثر وضوحا.

في السنوات الأخيرة، بما في ذلك عميد معهد بحوث الذكاء الاصطناعي من جامعة تسينغهوا أكاديمي تشانغ بو، وشوم الخ السابق نائب الرئيس التنفيذي للداعية العالمية مايكروسوفت لتطوير الذكاء الاصطناعي آمنة وموثوقة ومسؤولة وذات مصداقية منظمة العفو الدولية، ومنظمة العفو الدولية التطبيقات الأمنية فهي الاتجاه التركيز.

ومع ذلك، والأمن AI كحقل الناشئة، على الرغم من الهجمات ضد العينات، الخ أصبحت تزداد تعقيدا، في نعمة مجتمع المصادر المفتوحة، أدوات، والنمو السريع للأساليب الهجوم متطورة ووسائل ذات الصلة الدفاع وتعزيز شعبية صعوبة في مواكبة. في عملية تطوير وتطبيق خوارزميات AI، خوارزميات مثل الضعف ضد العينة وجود الحواجز الفنية العالية لاختبار، وعدم وجود أدوات اختبار الآلية الموجودة حاليا في السوق، ولكن معظم الشركات والمؤسسات في مجال لم يكن لديك الخبرة لصحيح تعامل مع تزايد الهجمات الخبيثة.

أولا، من تقييم الأمن لرفع مستوى الدفاع، RealSafe جعل منظمة العفو الدولية أكثر أمانا والسيطرة عليها

لحل هذه النقطة الألم، في الآونة الأخيرة، معهد بحوث منظمة العفو الدولية من جامعة تسينغهوا حاضنة الأعمال RealAI (رايلي الحكمة) رسميا خوارزميات منظمة العفو الدولية الأولى لاختبار السلامة في البيئات القاسية والمواجهة مع منصة أداة التعزيز - RealSafe اصطناعية منصة أمن الاستخبارات.

ومن المعلوم أن المنصة الرائدة التي بنيت على خوارزميات AI الهجومية والدفاعية، وتوفير تقييم الأمن من الدفاع إلى تعزيز الحل الشامل متوفر حاليا للقسوة الظروف اكتشاف بما في ذلك الوجه من خوارزميات منظمة العفو الدولية المعتادة، وما إلى ذلك، التي يمكن ان تتعرض، فإنه يمكن منع إمكانية ضد أي هجوم.

وقال RealAI، تماما كما ولدت عصر أمن الشبكات، اختراق الهجمات الإلكترونية على نطاق واسع من برامج مكافحة الفيروسات، والعثور على التهديدات فيروس كمبيوتر المحتملة، وتوفير بنقرة واحدة نظام التحسين، وتنظيف القمامة مع الاصلاحات وغيرها من المهام، وفريق RealSafe R & D يريد إنشاء منصة الاصطناعية التي كتبها RealSafe عمر الذكية "برنامج مكافحة الفيروسات" لتوفير الدعم لبناء اصطناعية الجدران النارية نظام الاستخبارات، مساعدة الشركات على التعامل بفعالية مع نقاط الضعف في منظمة العفو الدولية خوارزمية عصر أنجبت "فيروس جديد".

منصة RealSafe يدعم حاليا اثنين من وحدات رئيسية هي: تقييم سلامة النموذج، حلول الوقاية.

من بينها، نموذج تقييم السلامة أساسا لتزويد المستخدمين مع نموذج منظمة العفو الدولية لخدمات التقييم الأمنية. يحتاج المستخدمون فقط الوصول إلى نمط المرجوة من واجهة SDK تقييم API، أو داخليا أو تحميل الخاصة بهم مجموعة الإنترنت البيانات المحددة، استنادا إلى مجموعة متنوعة من المنصات خوارزمية يولد عينات من التناظرية ضد الهجمات، ودمجها في خوارزميات مختلفة، وعدد من التكرارات، وحجم الاضطرابات تأثير التغيرات في نموذج تتعرض للهجوم، تعطى درجات السلامة ونموذج مفصل تقرير التقييم (كما هو موضح أدناه). الآن يدعم الصندوق الأسود وصندوق الهجمات السوداء الاستعلام طريقة الهجرة من الهجوم.

حلول الدفاع هذا النموذج هو لتزويد المستخدمين مع رفع مستوى الأمن، ويدعم منصة RealSafe حاليا خمس طرق لإزالة الدفاع المشترك ضد الضوضاء، التلقائي معالجة إزالة الضوضاء من إدخال البيانات، والإضرار المتعمد المهاجم ضد أضاف الضوضاء. وفقا لنتائج تقييم نموذج الأمنية المذكورة أعلاه، يمكن للمستخدم اختيار البرنامج المناسب الدفاع، وهو مفتاح لتعزيز نموذج الأمن. وعلاوة على ذلك تأثير دفاعي، وفقا لنقطة قياس للعرض، من جزء من الوجه الثالث ويتعزز من خلال استخدام منصة API RealSafe الدفاع تجسيد، ويمكن زيادة الأمن بنسبة 40.

مع هذا النموذج في حالة الهجمات التوسع يزداد تعقيدا، واصل منصة RealSafe أيضا لتوفير نطاق واسع ووسائل AI العميقة للدفاع، لمساعدة المستخدمين على الحصول على الوقت الحقيقي، وآلية الكشف عن مواطن الضعف وإصلاح القدرات.

ثانيا، "عينة المواجهة" إلى "فيروس AI"، التيار الأجانب خوارزميات التعرف على الوجوه قد "خطر"

وقد غطت يقف أمام التعرف على الوجه الطرفية، كاميرات التعرف على الوجه إلى التحقق من الهوية كاملة من خلال مصادقة التعرف على الوجه مماثلة فرشاة وجه الدفع، شيك الفندق، وفحص التحقق من الهوية، والشهود، وما إلى ذلك من مشهد الحياة.

مع الأخذ بعين الاعتبار الجمهور ضد مفهوم عينات قد تكون أكثر غموضا، اختارت منصة RealSafe الوجه العام أكثر معروفة من على الساحة (الوجه من لاستخدامها على نطاق واسع في السيناريو التوثيق أعلاه) لتوفير تجربة على الانترنت. و، من أجل دراسة في العمق "ضد عينة" تأثير على النظام من تأثير التعرف على الوجه من فريق RealAI بناء على هذه الميزة تم اختبارها على خدمة العرض في الخارج منصة AI السائدة.

اختيار مجموعة مختلفة من الصور الوجه (أدناه)، حيث واحد من الصورة التي تم إنشاؤها بواسطة منصة ضد عينات RealSafe، ولكن ليس الحكم بالعين المجردة، قبل وبعد إضافة "ضد عينة" هي مدخلات لطرف ثالث عرض منصة الوجه محاذاة مماثلة درجة.

وأظهرت النتائج النهائية التي، قبل أن يضيف "الضوضاء"، وهما الصور هي أزور، يتم تحديد AWS لا تنتمي إلى الشخص نفسه، لكنه أضاف "الضوضاء"، أكثر من منصتين تظهر الخدمة كان يطلق عليها نتيجة الخاطئة التي الصورتين تنتمي إلى نفس الشخص، حتى أزور خدمات تقديم منصة تضيف "الضوضاء" التشابه قبل وبعد تصل إلى 70.

من أجل استكشاف النتائج العالمية، اختارت فريق RealAI ثلاثة المحلي وجه التيار البشرية من التركيز على اختبار منصة، أظهرت النتائج أيضا أنه بعد إضافة اضطراب، الحكم أصلا أن يكون تم تعريفه بشكل خاطئ "مختلفة الوجه" الصور بأنها "الشعب نفسه وجه "، قبل وبعد التغيير في حجم التشابه بين ما يصل إلى 20. وتصفيتها من خلال جدار حماية RealSafe "دي الإشاعة"، وهؤلاء الناس يواجهون منصة الاعتراف من "خطأ" مع درجات متفاوتة التصحيح، لتحديد تأثير على ترقية مستقرة.

RealAI هذا الفريق لديه المخاطر المحتملة المتعلقة بالدفاع والعودة إلى المؤسسات الطريقة المذكورة أعلاه لمساعدة لحد من المخاطر.

وقد اظهرت النتائج ان "عينة المواجهة" يمكن أن تتداخل إلى حد كبير مع نتائج التعرف على الوجوه من النظام، وعرضه، فإن السوق الحالي العديد من الشركات الصغيرة والمتوسطة في الهبوط وجه تطبيق التعرف على معظمهم من اختيار لاستخدام الاختبار أعلاه أن العديد من الإنترنت وجه الشركة مفتوحة من على واجهة SDK أو API مما لو مواجهة كبيرة التكنولوجيا الثغرات الأمنية، يعني أن مجموعة واسعة من سيناريوهات التطبيق سوف تكون خطرا أمنيا.

وبالإضافة إلى الوجه الخارجي من ضد الهجمات قد تحدث أيضا في السيناريوهات تطبيق نموذج في الكشف عن الهدف، وعلى المدى الموسع، وهذا قد يعرض للخطر الكشف عن المخاطر الأمنية في مجال التصنيع والحماية وهلم جرا. على سبيل المثال، مراقبة برج انتقال النظام من شبكة الكهرباء، نظرا لمتطلبات حماية أمنية مشددة من برج البث لمنع الرافعات والرافعات البرجية، والألعاب النارية دمرت خطوط النقل، والحاجة إلى أبراج نقل الطاقة الكهربائية الداخلية والخارجية حول رصد في الوقت الحقيقي على مدار الساعة، وهذا في الوقت الحقيقي نظام الرصد وراء الهدف القائم AI كشف خوارزمية لتوفير الحماية.

ووجد فريق البحث RealAI ذلك، طالما أن خوارزمية الكشف عن الهدف الذي العينة ضد بعض الهجمات التي RealSafe، سوف يؤدي إلى فشل نظام الرصد، الامر الذي ادى الى عدم الاعتراف القضية واضحة جدا من الألعاب النارية، وحدوث حالة مماثلة إذا كان هذا صحيحا، ومن المرجح أن يكون من الصعب تحقيق خسائر تقدر.

في الواقع، هذه المخاطر AI الأمن على النحو المذكور أعلاه بسبب عيوب فنية سببها الأساسي خوارزميات منظمة العفو الدولية، في كثير من الأحيان أكثر دهاء، لكنها أدت إلى إطلاق الجسم، وهذه "غير متوقعة" نقاط الضعف الخطر الأكثر عرضة للللخطر ضعيف رابط، ومنصة RealSafe أطلقت في وقت واحد حل الوقاية يمكن أن تعزز فعالية أمن كل تطبيق خوارزميات منظمة العفو الدولية.

ثالثا، "رمز الصفر" +، واثنين من المزايا الرئيسية "قابلة للقياس الكمي" من خوارزميات فعالة للرد على التهديدات

ووفقا للتقارير، RealAI إطلاق حسابي سلامة نموذج اختبار منصة، بالإضافة إلى مساعدة المؤسسات على الاستجابة بفعالية للتهديدات خوارزمية لديها أيضا مزايا التاليين:

• على أساس العنصر والتقييم على الانترنت مشفرة صفر : بالمقارنة مع ART، Foolbox وغيرها من أدوات مفتوحة المصدر تحتاج إلى نشرها على الخاصة، رمز الكتابة، وRealSafe منصة القائم على العنصر، مجموعة ميزة، مما يلغي الحاجة لترميز الصفر تكرار إنشاء عجلة الطاقة ومضيعة للوقت، يحتاج المستخدمون فقط لتوفير البيانات المناسبة الانتهاء الانترنت التقييم، مما يقلل كثيرا من صعوبة التقنية الخوارزمية تقييم، والتعلم منخفضة التكلفة، أي خوارزمية لديها القدرة المهنية يمكن أن تحصل عملية بدأت. على سبيل المثال، الاختبار أعلاه لمايكروسوفت وأمازون وغيرها من منصة طرف ثالث، اتبع الخطوات لإتمام العملية برمتها، وعلى بعد بضع دقائق يمكنك عرض نتائج المسح.
• التصور، ونتائج قابلة للقياس الكمي التعليقات : من أجل مساعدة المستخدمين على تحسين مفهوم السلامة للنموذج، منصة RealSafe شكل قابل للقياس نتائج التقييم الأمن تبين، وفقا لدرجة أداء نموذج في الهجوم على العينة، وكلما ارتفعت درجة طراز أمان أعلى. وبالإضافة إلى ذلك، توفر منصة RealSafe تغييرات الأمان لإظهار، من خلال التغييرات التصنيف الأمني ونمذجة تأثير التغيرات عملية الدفاع في لمحة.

رابعا، الطابق محيط منتجات الأمن، وأكثر المشاهد مرافقة

في الواقع، على عينة كان في الأصل آلة ظاهرة مثيرة للاهتمام نماذج التعلم، ولكن من خلال تطور ترقية المستمر "ضد عينة" تطورت لتصبح وسيلة جديدة للهجوم، وانتشار من العالم الرقمي إلى العالم المادي: على الطريق الذي تم لصقه على ملصق عينة إلى الاندماج تقليد تجريد مضللة المركبات الذاتية تحولت الى الطريق المعاكس، نشرت الصدر المواجهة في الملصق عينة تحقيق معدات الرصد الشبح ......

لذلك، بالإضافة إلى مقدمة المنصة تقييم السلامة لنماذج حسابي في العالم الرقمي، ومعهد بحوث RealAI AI فريق جامعة تسينغهوا أيضا بحث مشترك تراكمت على مر السنين في جميع أنحاء الرائدة AI في العالم تهبط سلسلة من المنتجات الأمنية الهجومية والدفاعية، والمصممة لتلبية المزيد من مشاهد AI الاحتياجات الأمنية.

على سبيل المثال، تقنيات الهجوم، وفريق RealAI لتحقيق أول القراصنة في العالم إلى تحقيقها من خلال نموذج "المواجهة" تكنولوجيا الهاتف المحمول التجارية للقضاء فرشاة الوجه فتح، والسماح للهاتف سوف يرتدي "نظارات خاصة" اعتقد خطأ أنه المالك.

الشكل: الوحيدة في العالم التجاري الهاتف كسر الوجه إفتح حالة عينة ضد تقنيات AI

عن طريق نشر نمط خاص في الأزياء الهدف مراقبة AI لا يمكن الكشف عن الشخص، و "الشبح"، وكذلك في السيارة عن طريق أنماط طلاء خاص، AI كشف تهرب من السيارة.

 FIG: AI تجنب الكشف عن طريق السيارة على نمط عينة AI

اكتشاف ثغرة جديدة على مدى الوقت نفسه، كما أطلقت RealAI تكنولوجيا الدفاع المقابلة، ودعم التيار AI خوارزمية للكشف عن الثغرات الأمنية وتوفير جدار الحماية الأمنية لمهاجمة السلوك نموذج AI AI منعت بشكل فعال.

المد والجزر المتداول في مجال الذكاء الاصطناعي، والمخاطر المصاحبة الأمن أصبحت متنوعة بشكل متزايد، خصوصا في السنوات الأخيرة نظرا لخطر التلف الذي تسببه AI التكنولوجيا غير ناضجة أيضا تحدث بشكل متكرر، يمكن القول، وثغرات خوارزمية أصبحت تدريجيا أمن الشبكات أمن البيانات بعد مشكلة أمنية كبيرة.

لحسن الحظ، مع RealAI التي تمثلها هذه القمة قد بدأت فرق AI بالفعل رحلة في مجال الأمن AI، والبدء في منتجات موحدة تساعد على تقليل الحواجز التجارية وتكاليف للتعامل مع المخاطر الأمنية. وRealSafe اصطناعية منصة أمن الاستخبارات على الانترنت هي RealAI خطوة صغيرة لمحاولة، ولكن بالنسبة للصناعة ككل، وسوف يكون AI تسيطر تطوير الصناعة نحو الطريق إلى الصحة خطوة كبيرة.

- انتهى -

تسينغهوا الانتباه - بيانات أكاديمية تشينغداو للعلوم قناة الصغرى الرسمية منصة الجمهور "  منظمة العفو الدولية لإرسال البيانات  "أيتها الأخوات ولا". إرسال البيانات THU  "لرعاية المزيد من المحاضرات ونوعية المحتوى.