[صيد الشبكة السحابية (مايكرو إشارة: ilieyun ) 7] 21 يناير ذكرت (ترجمة: أكوام)
أخذت العديد من الخوارزميات ضلال هو لم يكن مقصودا. ولكن هناك صمم بعض خوارزمية من البداية وحتى قرار طبيعتها غير المشروعة. قواعد التطبيع خوارزمية مكتوبة عادة بواسطة رمز جهاز الكمبيوتر، فإنه لا يمكن أن تعتمد على أحداث المستقبل وقد سجلت التنبؤ واسطة. لتدريب خوارزمية، سوف تحتاج إلى توفير البيانات والخوارزميات التاريخية لقياس ما إذا نجاحا محدودا.
في العقود الأخيرة، الخوارزمية احتلت بالفعل صناعة التمويل. توقع التغيرات الديناميكية في خوارزميات التداول في السوق باستخدام البيانات التاريخية.
نجاح هذا النوع من الخوارزمية، يستند الخوارزمية على التنبؤ التغيرات في السوق وكذلك في حالة تأهب للمثول أمام وضع قبالة. يمكن نماذج المخاطر المالية الاستفادة من التغييرات في تاريخ السوق للتنبؤ تحدث تغييرات كبيرة على نطاق عالمي، وهذا ليس لسهم واحد، ولكن لكامل السوق. وكانت نماذج المخاطر السندات المدعومة بالرهن العقاري في صناعة "سيئة السمعة" لهذه النماذج من أزمة واسعة النطاق من ينبع الثقة من تأثير وخسارة لاحقة من الأزمة المالية لعام 2008.
ابتداء من عام 2008، فإننا نادرا ما نسمع تطبيق الخوارزمية في القطاع المالي، وسمع أكثر من خوارزميات البيانات الكبيرة. وكان الجمهور المستهدف من الخوارزميات الجيل الجديد تغييرات في السوق من المجرد إلى الشخصية. ولكن وظيفة الخوارزمية أي تغيير: جمع البيانات عن الأشخاص وتسجيل السلوك عبر الإنترنت، والموقع، والردود على الاستبيان، ومن ثم استخدام مجموعات البيانات على نطاق واسع للتنبؤ سلوك الشراء المستقبل، السلوك الانتخابي والأخلاقيات المهنية.
ومعظم الناس العاديين لا تلاحظ أن الخوارزمية قد توغلت في نموذج البيانات الكبيرة. ويمكن القول: نحن في عملية التعامل مع البيروقراطية، ونظام تسجيل النقاط على استخدام خوارزمية. كلية، وتبحث عن عمل، وتقييم الموظفين، والحصول على بطاقات الائتمان أو التأمين والشرطة والتصويت حتى، التي خوارزميات لعبت دورا هاما. وبالإضافة إلى ذلك، تستخدم هذه النظم في تقنيات صنع القرار هي في معظمها مبهمة، حتى لو كان صانع الخوارزمية غير واضح. وحتى الآن، وهذه التكنولوجيا أيضا تجنب القوانين واللوائح التنظيمية. وهو ما يقودنا كانت لديه شكوك لا مساعدة - بالضبط ما تعمل خوارزمية بالنسبة لنا، لتلعب دورا أكثر أهمية وإلحاحا.
حول خوارزمية خبيثة، وتقسيمه إلى أربع درجات. وتعكس أعلى التمييز الثقافي وعيه. على سبيل المثال، وجدت الأستاذ في جامعة هارفارد اتانيا سويني في جوجل تبدو بحث مثل الأسود هو الاسم الذي يستخدم عند الإعلان أنها تنتج يرتبط مع الجريمة، لذلك يمكننا أن نفترض أن جوجل لم هندسة رمز المتعلقة بإعداد والعنصرية . في الواقع، فإن ظهور هذه الإعلانات مفرغة من قبل المستخدم قبل استخدام سلوك البحث جوجل تسببت. عندما بدا البحث في جوجل مثل اسم الأسود المستخدمة، هم أكثر عرضة للنقر على الإعلانات المتعلقة سوابق جنائية. مثال آخر: عندما جوجل صورة كلمات البحث "الشعر غير المهنية"، والتي تبين الصور النساء السود كلها تقريبا، والتي يرجع أيضا قبل سلوك البحث المستخدم.
ويرجع ذلك إلى إهمال بعض تحيد الخوارزمية من الطريق الصحيح الطبقة التالية. وهذا يشمل لجدولة البرامج التي تمنع العمال ذوي الدخل المنخفض ليعيشوا حياة كريمة. سيتم التعامل مع هذه الخوارزميات مثل أعضاء يستهان بها من المجتمع، في أيام مختلفة من الأسبوع، وهذه النقطة في أوقات مختلفة من اليوم رتبت لهم للعمل، مما يجعلها غير قادرة على رعاية أطفالها، لجزء من الوقت أو الفصول المسائية. هذه الخوارزميات وحشية وفعالة وكبيرة الحجم ولكن تمشيا مع القانون، فإنها تضغط بشق الانفس المال في العمال. جوجل لالتقاط صور لأنظمة وضع العلامات التلقائي، على سبيل المثال. فقد كان مثل وجود مشكلة أن السود وأن يقترن مع التسمية الغوريلا. هذا يرجع إلى إهمال جوهر جوجل - تقييم لجودة المنتج نفسه: لم يكن لديهم للتحقق من أن المنتج هو مناسبة لمجموعة واسعة من حالات الاختبار قبل كود الافراج عنهم.
الطبقة الثالثة هي طبيعة بعض ولكن قاسية في إطار القانون الخوارزمية. على سبيل المثال، قال الفيسبوك المديرين التنفيذيين في استراليا المعلنين لإظهار كيف يمكنك العثور عرضة لتأثيرات الإعلان جمهور المراهقين. هذا أمر مخيف جدا، ولكن لا يعتبر غير قانوني بالضرورة. في الواقع، يمكن اعتبار الاعلان على شبكة الانترنت بشكل عام باعتبارها الطيفية. من ناحية، والإعلان الغني هو كل شيء عن الترف، في حين سيتم توفير الفقراء القروض الصغيرة على الانترنت قصيرة الأجل من البنوك تتطلع. وإذا كان بعض من الجمهور من غير المرجح أن يتسوق، ثم خوارزمية سوف تتقاضى مبلغ أعلى من التأمين على السيارات لهذا الجمهور. اوبر جمدت مجرد أنها للتنبؤ الحد الأدنى للأجور قد تم استخدام يمكن أن تصدر عددا من الخوارزميات، من أجل أن تكون قادرة على تضييق التفاوت في الدخل بين الرجال والنساء.
واحد أسفل من بعض خوارزمية سيئة تتألف عمدا من هذه الخوارزميات أحيانا حتى غير قانوني بشكل صارخ. هناك المئات من الشركات الخاصة التي تقدم أدوات الرصد العامة، وهناك العشرات من المملكة المتحدة. وتستخدم هذه الخوارزميات كطريقة لتحديد موقع إرهابيين أو مجرمين الدعاية، ولكنها يمكن أن تستخدم أيضا لتحديد الموقف من الناشطين المواطن والقضاء عليه. منذ خوارزمية لجمع الكثير من البيانات، الخوارزميات التنبؤية وأنظمة التهديف يمكن استخدامها لتصفية المعلومات الهامة. عدم شرعية هذه الصناعة لا تزال مثيرة للجدل، ولكن تعرضت لعملية غش الأخيرة التي قام بها مراسل قناة الجزيرة من قبل وسيط إقليمي إيران وجنوب السودان نيابة عن النظام الاستبدادي يمكن بسهولة الحصول على شراء هذه الأنظمة. أيضا، وقد انتقد مراقبون أيضا نظام سجل الائتمان الاجتماعي في الصين، و "الائتمان السمسم." وقد وصفت بأنها على درجة الائتمان، ولكن يمكن أيضا أن تستخدم لمراقبة عن كثب وجهات النظر السياسية للمستخدم، والتي يمكن أن تستخدم أيضا كوسيلة للمستخدمين اقناع إلى طاعة.
دعونا ننظر إلى الوضع في بلدهم. السبب في تصميم اوبر "Greyball" الخوارزمية، والتي هي لشركات سيارات الأجرة غير القانونية في المدينة للحصول على سيارة لتجنب التعرض للمراقبة. يستخدم خوارزمية البيانات للتنبؤ أي من الركاب اوبر في انتهاك لشروط الخدمة، أو أحد الركاب التي من المرجح أن تكون الحكومة أرسلت السرية. Greyball للحصول على بعض المعلومات من شأنه أن يكشف عن هوية الركاب، بما في ذلك استخدام تطبيقات متعددة في غضون يوم أو بطاقة الائتمان مع اتحاد الشرطة ملزمة.
وحتى الآن، وأسوأ ما في الطبيعة غير القانونية من الخوارزمية هو الخوارزمية المستخدمة من قبل الجمهور العام في العالم 11 مليون سيارة بتهمة الاحتيال في اختبار الانبعاثات، وخاصة خوارزمية تحجب يمكن للانبعاثات أكسيد النيتريك الفعلية تصل قانون فولكس فاجن 35 مرة الحقائق. في حين أن هذا قد يبدو وكأنه جهاز خاص، ولكن في الواقع يمكن اعتبار خوارزمية. ويستخدم خوارزمية لتحديد والتنبؤ حالات الاختبار حركة المرور، وأنها تتفاعل بشكل مختلف وفقا لنتائج حركة المرور في ظل ظروف معينة. هذا واوبر في "Greyball" الخوارزمية، وتستخدم لخداع العالم.
شركات صناعة السيارات هذه الحالة تستحق المزيد من التفكير، لأن خوارزمية في العالم هو خطر صناعة الشباب وجديدة جدا، ولا تفعل أي احتياطات السلامة مسبقا، والذي مثل صناعة السيارات وفي وقت مبكر. عالم تكنولوجيا الذكاء الاصطناعي لالخاصة الثقة بالنفس من المشجعين، في السوق العالمية هو ما يعادل القريب للمواد السيارات - ولكن ليس الوفير، سيارة عجلة القيادة في أي وقت كان من الممكن أن يطير. أنا واثق من أن هذه السيارة سوف تضطر إلى أن يتم إنتاجها من وقت لآخر، ولكن بعد مرور بعض الوقت، تم تصميم بسبب هذه المشكلة لتحقيق المزيد والمزيد من الخسائر، وسنعمل أيضا على تطوير المزيد من القواعد لالركاب والمشاة الحامية . وذلك في سياق إطلاق العنان للبرمجيات غير قانونية، فإنه قد نضجت الآن شركات صناعة السيارات في العالم، والدروس التي يمكن أن توفر لنا؟
أولا، شركات صناعة السيارات الأخرى أيضا استخدام برامج مماثلة، أنه في ظل ظروف معينة إغلاقه التحكم في الانبعاثات. وبعبارة أخرى، هذه ليست الحالة التي يكون فيها هناك المجرمين فقط، ولكن هناك إجراءات التشغيل القياسية. وبالإضافة إلى ذلك، يمكننا أن نفترض أن هذه الحالة لا تشمل إمكانية مصنعي السيارات التواطؤ مع الآخرين، إلا أن تعامل على أنها المصنعين مدفوعة من قبل المصالح، ويشعر أنها كانت إمكانية التقاط هو الحد الأدنى. بعد ذلك، يمكننا التكهن بشكل معقول أنه قد يكون هناك تم اعتماد عدد كبير من خوارزميات شركات صناعة السيارات لتجنب القيود من القوانين واللوائح، وخاصة بعض المصممين خوارزمية الطنانة يشعرون بأن خوارزمية ليست احتمالا للحصول على صيدها.
بدأ فولكس واجن الفضيحة في عام 2009، وهو ما يعني أن هناك خمس سنوات، تعرضت أيا من هذه الفضيحة الناس. حسنا، هذه المرة في خمس سنوات ما وقع في أمور أخرى؟ دعونا نتأمل هذه السلسلة بدأت ننظر حولنا، ويتساءل الشركة التي تستطيع أن تخدع بنجاح إنفاذ القانون، قوانين الخصوصية أيضا تجنب استخدام خوارزميات أو الاحتيال ولكن لا يمكن الهروب من العقاب.
في الواقع، وتحليل التكاليف والمنافع، واحتيال الخوارزمية مثل شو في الأعمال التجارية نموذج: كانت الشركة قد تم الخداع حتى ننشغل المنظمين. إذا ننشغل للأسف ما يصل، ونحن بحاجة إلى دفع غرامة مالية محدودة، فإن المال ليس له أي تأثير على الأرباح المتراكمة لدينا، مثل قطرة في دلو. بعد كل شيء، وهذا هو وسيلة للتعامل مع انتشار الأزمة المالية في جميع العاملين. اسم اسم لخلق قيمة للمساهمين، ونحن "لديها سبب وجيه" إلى التصرف بهذه الطريقة.
وبعبارة أخرى، فإننا نتوقع في السنوات المقبلة (حتى بضع سنوات)، ويمكن للسيارة تحقيق من دون طيار. إذا كان الأمر حقيقة واقعة، ما إذا كان سيتم وضع اتفاق دولي على نطاق عالمي؟ السيارات بدون سائق الأخلاق المقابلة ما هو؟ عندما الظهور المفاجئ لحفرة على الطريق، وترك مصير المارة سواء شركات صناعة السيارات لمعالجة ذلك؟ إذا كان لنا أن تطوير الأنظمة المناسبة، ثم الأنظمة سواء كان من شأنها أن تنتج الاختلافات في المسائل إنفاذ لأن البلدان المختلفة؟ وسوف حتى تكون متباينة وفقا لوجود مصنع وطني؟
إذا كان الأمر كذلك من السهل التعامل معها في حادث سيارة على القضايا التنظيمية يصعب تحقيقه، فإننا قد يتصور في وضع معقد "التعلم العميق"، أي نوع من الوضع سوف يحدث وراء الكواليس؟
مما لا شك فيه، هذه الأدوات موجودة بالفعل. في الآونة الأخيرة، يتعين على الصين أن أقول لكم تفسير مكان القوية تقنية التعرف على الوجوه - هذا يكفي لتمكنك من العثور الناس jaywalking وأولئك الذين يسرقون ورق التواليت. وهذا يعني أن الشركة يمكن أن يكون لها إمكانية كبيرة لتطبيق هذه التقنيات في المستهلك أو لديهم لتعيين الموظفين. وفي هذا الصدد، كانت هناك حوافز. في الشهر الماضي، وجوجل بسبب إساءة سيطرتهم الخاصة في مجال البحث والعملاء بشكل غير عادل تجاه خدمة جوجل للتسوق (جوجل التسوق) وغرامة قدرها 2.4 مليار يورو. وبالمثل، في العام الماضي، والتسعير ProPublica أيضا خوارزمية شكوى الأمازون، والأمازون سيمثل أيضا الأولوية للمنتجات الذاتي المعرض - حتى إذا لم يكن معظم اختيار فعالة من حيث التكلفة. إذا كنت تعتقد أن الشركات البيانات الكبيرة المتنافسة على شبكة الإنترنت والحصول على اهتمامكم، ثم يمكننا أن نتصور أن المستقبل سيكون أكثر من هذه الخوارزميات تظهر.
وأخيرا، فيما يتعلق فضيحة الاحتيال فولكس واجن، وهناك أكثر من شيء يستحق الذكر. في عام 2014، وفريق جامعة وست فرجينيا مكونة من الأساتذة والمعلمين اكتشف انبعاثات التناقضات فولكس واجن. تطبيق الفريق لوحصل على مكافأة هزيلة مبلغ المجلس الدولي للتنظيف النقل (المجلس الدولي للتنظيف النقل) العرض، وهي منظمة مستقلة غير هادفة للربح من عمليات دافعي الضرائب دفع الولايات المتحدة. الفريق استخدم المال لقيادة السيارة في جميع أنحاء البلاد ومن ثم الحصول على بيانات الانبعاثات، وهذا هو وسيلة رخيصة واختبار واضحة.
أي نوع من التنظيم في الظهور في المستقبل لوقف خوارزميات غير قانونية ذلك؟ والمجلس الدولي للنقل النظيف أيضا منظمة مماثلة؟ وجود هيئة من هذا القبيل - أنه لديه القدرة والاهتمام لوقف خوارزمية وإثبات وجود مخاطر غير الشرعية من هذه الخوارزميات تفعل؟ وحتى الآن، فإن الجواب على هذه الأسئلة لا تزال سلبية. في الواقع، فإن الولايات المتحدة أن هناك بعض الجهات الحكومية الاتحادية وصناعتهم أو المنطقة المسؤولة عن إنفاذ القانون، ولكن أيا من هذه المناطق خوارزميات محددة للبيانات الكبيرة. يبدو أن الاتحاد الأوروبي أن تكون مشكلة أخبار كاذبة بالتحقيق عمل جوجل لمكافحة الاحتكار والفيسبوك، ولكن المنظمين لا تتصل غيرها من الصناعات.
حتى السؤال الأكثر أهمية هو، كيف يمكننا تحقيق الخوارزميات؟ الآن، طبيعة الخوارزمية كود الملكية السري الذي يتم استخدام "السلاح السري" للشركة لحمايتهم. هذه الخوارزميات هي غامضة غير عادي أن الجمهور المستهدف لن يفهم بالضرورة هذه نظام التسجيل عبر الإنترنت، وهو ما يعني أن الجمهور لم يكن يعرف النتائج تقدمهم، ونفس لا يمكن أن يشكو أو القول. الشيء الأكثر أهمية هو، عندما يحدث بعض الأشياء غير عادلة لهم، أنهم لا يعرفون.
وبالنظر إلى هذه المشاكل، ونحن من الصعب حقا أن نتصور كيف يمكن تنظيم خوارزمية الحكومة، حتى هذه الخوارزميات يمكن أن يساء استخدامها، حتى أن الناس أذى. في وجهة النظر هذه، ليست كل أنواع المخاطر في البداية يمكن قياسها كميا. قد يقول بعض الناس أنه مع هذه كاذبة انتشر الخبر، كما تأثرت الديمقراطية. ولكن هل هو كيفية تحديد ذلك الديمقراطية؟
وبطبيعة الحال، لا نستطيع أن نقول أن هذا ليس ميئوسا منه. بعد كل شيء، بحكم التعريف، يتم انتهاك أي خوارزميات غير قانونية قوانين وأنظمة معينة أشرنا. في النهاية، شخص دائما المسؤولين عن الانتهاكات. المشكلة لا تزال موجودة، فكيف ينبغي أن القوانين واللوائح لفرض ذلك؟
اقترح باركر، استاذ علوم الكومبيوتر في جامعة ميريلاند بين شنايدرمان إنشاء "الوطنية خوارزمية مجلس الأمن"، وفكرة القيام خطابا في معهد آلان تورنج (معهد آلان تورنج)، مصممة للسماح للحوادث الأرض التحقيق وحركة النقل الجوي. وسوف تقوم المنظمة مسؤولة أيضا عن التحقيق في حالة الإصابة، وتحديد سبب الضرر محدد لمن هو مسؤول عن الخوارزمية.
وهذا قد يكون فكرة جيدة. عندما نجد هذه الخوارزميات لديها مشاكل، يجب ان نذهب في عمق التحقيق، وإنشاء عملية رسمية أمر جيد. إذا كان لدى المؤسسة القدرة على إنفاذ كافية، وربما بعد ذلك المجلس يمكن أن ننظر إلى العديد من الأسئلة البديهية. ومع ذلك، فإنه ليس من الواضح كم مداه يمكن أن تصل إلى من.
خذ شركات صناعة السيارات للقيام يمكن أيضا أن تحلل هذا التشبيه: خوارزمية في العالم، مثل أي من 30 سيارة مكدسة معا غير موجودة. وبهدوء وحدثت معظم الإصابات في الهيئة المستقلة الفردية. تحت العين الساهرة من الحوادث المرورية مقارنة مع تلك الحوادث بهدوء، غير قادر على التعرف عليه أكثر صعوبة للتحقيق.
ما زلت اعتقد اننا المتوقع أن تكون قادرة على معالجة هذه القضايا. في عالم مليء البيانات المبشر، وهي بيانات لا يمكن التشكيك إلا أن يشعر بالدهشة أن: العلم والتكنولوجيا لشعب ترك انطباعا عميقا، حتى لو كان عن غير قصد تسبب ضررا للالعلوم الإنسانية والتكنولوجيا، كما أنها أشاد علنا تقنية ما هي ملفتة للنظر. في الواقع، لقد عانينا عدد من خوارزميات لجلب ضرر للإنسان. حتى لو كانت هذه الخوارزميات هي سرية جدا وغامضة، ولكن بعد أن تسبب مشاكل كبيرة، وسيتم الكشف عن هذه الخوارزميات يوم واحد.
ماذا يعني هذا للمستقبل؟ أولا، نحن بحاجة للبدء تولي اهتماما للتطورات الخوارزمية. كل خوارزمية هي الجريمة التي وجدنا ينبغي أن يعامل كحالة اختبار. أم لا في انتهاك للوائح من قبل الشرطة استدعت؟ إذا كانت نتيجة عقوبات صارمة؟ إنفاذ الشرطة سواء من ذلك؟ كيف يعاقب نتيجة؟ لقد تعلمنا من الأزمة المالية عام 2008، وفقا لعقوبات قانونية إذا كانت المخالفة أقل من سرقة مصالحهم، ثم سيتم تجاهل جميع الأنظمة. بعد ذلك، يمكن تكثيف، وكان أكثر تواترا في انتهاك للوائح.
عندما نبدأ سجل الإنفاذ، ثم سباق تسلح كما سيتم فتح. وسرعان ما نتوقع عددا كبيرا من القانون الهروب، وتطوير خوارزميات متطورة. هذه الخوارزميات هي معقدة عميقة والصامتة، والمشي على خط رفيع للقوانين والأنظمة المعمول بها في الاسم. حيث سوف تتعلم من الآخرين كيف ننشغل خوارزميات التقدم. وبعبارة أخرى، فإننا سوف يكون أيضا أكثر صعوبة في العثور على أدلة من هذه الخوارزميات لخداع العالم. بطبيعة الحال، سوف استراتيجيتنا أيضا الحصول على أفضل.
نتوقع أن الشركات الكبرى يخبرنا بأنهم "التعامل مع القطاع الخاص." في مجال مكافحة الإرهاب، والوضع هناك بالفعل. عندما الشركات الكبيرة مثل هذا الموقف، لا ينبغي لنا أن نصدقهم. نحن بحاجة إلى وضع إطار الاختبار المعياري - عن الضرر كما ينبغي أيضا أن يكون المعيار المرجعي حد - وتتطلب الشركات لارتكاب خوارزمية لاختبار. اختبار لنا ليس فقط في "بيئة اختبار المختبر"، وإلا فإننا سوف يكرر انبعاثات فولكس واجن الغش في الماضي.
الذي يواجه المشكلة الأكبر هو جوجل، الفيسبوك، والأمازون أيضا لا توافق على فحصها من قبل باحث الخارجي. هذه الشركات تقدم خدمة شخصية حسب الطلب، الطريقة الوحيدة لفهم لاستخدام هذه الخدمات والمزيد من المعلومات الشخصية، ولكن هذا غير مسموح به. إجراء الاختبار فولكس واجن له: نطالب بمزيد من الحقوق واستمرت في مراقبة، وخصوصا عندما نجد أن هناك سلوك غير قانوني. وبالمثل، فإن الخوارزمية المستخدمة في جميع القطاعات يجب أن تكون خاضعة للمراقبة، بما في ذلك صناعة التأمين والعمل، لا يمكن أن تقتصر على الجاني واحد الرصد.
لقد حان الوقت نريد للقتال. في نهاية المطاف، وهذا سوف يصبح سباق التسلح التكنولوجي، ولكن في بداية هذه المناسبة - التي هي الآن، وهذا هو نضال سياسي. ونحتاج الى دليل لإثبات أن من المرجح أن تضر بمصالح يظهر الإنسانية خوارزمية لتكون مشروعة هناك. عندما نجد المشاكل، ونحن بحاجة إلى تنفيذ التشريعات المناسبة واستخدام الشركة ليعاقب خوارزمية الخبيثة من قبل السعر على ما يرام، وبالتالي فإن هذه الشركات سوف يدركون منذ البداية ليس للاحتيال على تحقيق أي ربح. لقد حان الوقت بدأنا نسأل هذه الآلات تعمل لصالحنا، وليس بنا للحصول على الخدمة.
أتى هذا المقال من شبكة الصيد سحابة، ينبغي للطبع، يرجى الإشارة إلى المصدر: HTTP: //www.lieyunwang.com/archives/340405
