مؤخرا، نشرت المؤتمر الدولي للتعلم آلة ICML أعلى الموقع الرسمي قائمة أفضل ورقة من العام 2018، وفاز باحثون من معهد ماساتشوستس للتكنولوجيا وجامعة كاليفورنيا في بيركلي لقب أفضل الأوراق. من بينها، فريق بحث جامعة كاليفورنيا في بيركلي ليس فقط مصدر قلق للصناعة المرتبطة الأوساط الأكاديمية، ولكن أيضا مع كل واحد منا، وهذا هو AI "التمييز" القضية.

تدريب نظام التعلم الآلي لتقليل الخطأ التدريب في كثير من الأحيان لهذا الغرض، عندما يتعلق الأمر إلى ميزات حساسة مثل الجنس أو العرق، وبالتالي غالبا ما قدم السلوك التمييزي (السلوك التمييزي). الانحراف البيانات التاريخية (التحيز التاريخي) هو على الارجح واحدة من الأسباب. في القروض، والعمالة، والعدالة الجنائية والسيناريوهات الإعلان، وتعلم الآلة بسبب الضرر المحتمل لجماعات يحتمل أن تكون عرضة لانتقادات.

تناقش ورقة العمل المتعلق التعديل الاخير في آلة التعلم (الأهداف الرعاية الاجتماعية على المدى الطويل) إلى الرعاية الاجتماعية على المدى الطويل صنع القرار لغرض الصدد. وبصفة عامة، فإن آلة نموذج التعلم تولد درجة (درجة) لوصف معلومات حول هذا الشخص لكل فرد. على سبيل المثال، تاريخ الائتمان ودرجة الائتمان يصف السلوك المالي للفرد، فإنه يمكن استخدامها من قبل البنوك لتقييم التصنيف الائتماني للفرد. هذه المقالة فقط السيناريو قرض كمثال على ذلك، وصفا مفصلا لهذه المشكلة.

أي مجموعات المستخدمين على درجة الائتمان لديها توزيع محددة لها، كما هو مبين في الشكل.

1 الائتمان توزيع النتيجة والسلوك سداد الرسوم البيانية

بعد تحديد عتبة يسجل يمكن استخدامه لاتخاذ القرارات. على سبيل المثال، يسجل فوق التزام سداد عتبة الحشد، والنتيجة دون عتبة رفض السداد. هذه القاعدة القرار دعا سياسة العتبة (سياسة العتبة).

يمكننا أيضا أن يفهم على أنه نتيجة لتقدير احتمال التخلف عن سداد القروض. على سبيل المثال، درجة الائتمان من 650 شخصا، و90 من الناس سداد قروضهم. البنوك يمكن أن يتوقع تلك النتيجة الائتمان لتقديم قرض من 650 المستخدمين من الإيرادات المتوقعة. أيضا، يمكنك التنبؤ درجة الائتمان فوق 650 (أو أي قيمة عتبة معينة) لجميع المستخدمين توفر القروض الإيرادات المتوقعة.

تأثير على النتائج في العتبة الشكل 2 القروض

دون النظر في عوامل أخرى، سيقوم البنك دائما في محاولة لتعظيم إيراداتها الإجمالية. دخل لسداد مبلغ القرض يعتمد على النسبة بين القيمة القابلة للاسترداد من فقدان التخلف عن سداد القروض. في الشكل، ونسبة العائدات المفقودة من 1 أعلاه: -4، بالمقارنة مع المكاسب والخسائر هي أعلى عادة سعر، سوف تكون البنوك أكثر تحفظا في البت في الإقراض وزيادة الإقراض العتبة. بلغت عدد أننا سوف يسجل أعلى وهذا ما يسمى عتبة الانتقائية (معدل الاختيار).

7 استراتيجيات لتحقيق أقصى قدر من الإيرادات