[صيد الشبكة السحابية (مايكرو الإشارة :)] 14 يونيو التقرير (المترجمة: آنا)

الجدل حول المخاطر المحتملة من الذكاء الاصطناعي انتشر في صناعة التكنولوجيا بأكملها، مما أدى إلى كامل سيليكون فالي يريد فهم تأثير الذكاء الاصطناعي لا يمكن التنبؤ بها يجلب.

ويعتقد أن زوكربيرج صديقه وادي السليكون الملياردير المسك لا أساس لها إلى حد ما.

المسك هو مؤسس (سبيس اكس) وصناعة السيارات الكهربائية تيسلا، في مقابلة تلفزيونية انه أرسل تحذيرا للعالم وسائل الإعلام الاجتماعية، والذكاء الاصطناعي "قد يكون أكثر خطورة من الأسلحة النووية".

19 نوفمبر 2014، قدم زوكربيرج مأدبة لMaske في بالو ألتو، كاليفورنيا المنزل. هناك الفيسبوك مرافقة مختبر الذكاء الاصطناعي التي شكلت حديثا بالقرب من اثنين من كبار الباحثين واثنين آخرين من المديرين التنفيذيين للشركة.

خلال وجبة، الفيسبوك فريق يحاول إقناع المسك يعتقد أن وجهات نظره حول الذكاء الاصطناعي خاطئة. لكنه لم تهتز. لحضور عشاء الفيسبوك AI مختبر الباحث يان ليكون وقال: "قال المسك في ذلك الوقت،" أعتقد حقا أن الذكاء الاصطناعي هو خطير ".

في جوهرها، والمسك السبب في الواقع بسيط جدا للقلق هو أنه إذا كنا إنشاء أكثر ذكاء الآلة من البشر، فإنها قد يخون لنا للتعبير عن الذكاء الاصطناعي. (مثل فيلم "المدمر"، "ماتريكس" و "2001: أوديسا الفضاء" في مسرحية ع) قال لصناعة التكنولوجيا بأكملها، قبل أن شعبية الذكاء الاصطناعي تماما، يرجى التفكير مليا اصطناعية ونحن ندرس الآن ما مستقبل التكنولوجيا الذكية سيجلب عواقب غير مقصودة.

لا تقارير إعلامية سابقة، سوف موسكر وزوكربيرج لا يناقش بالتفصيل إيجابيات وسلبيات الذكاء الاصطناعي في العشاء، ليست هناك مشكلة لفترة طويلة في هذا المجال من النقاش.

الخارق هذه الكلمة تستخدم لوصف تكنولوجيا الذكاء الاصطناعي اختراق فائقة، مشيرا إلى أن الذكاء الاصطناعي وقد ارتقى إلى مستوى أعلى، ويولد الكثير من آلات الذكاء الاصطناعي. ويمكن لهذه الآلات محل البشر فقط أداء المهام المتكررة بسيطة (مثل السيارات بدون سائق)، يمكنك أيضا إكمال بعض المهام تتجاوز قدرة الإنسان، تماما مثل الخيال العلمي. ومع ذلك، انتشر الجدل الدائر حول الذكاء الاصطناعي لصناعة التكنولوجيا بأكملها.

جوجل أكثر من 4000 موظف وقعت مؤخرا على عريضة احتجاجا على الذكاء الاصطناعي من 9000000 $ عقد الشركة وقعت مع وزارة الدفاع الأمريكية. هذا التداول الدخل الضئيل لجعل العديد من الباحثين AI الشركة مزعجة للغاية. 1 يونيو، وجوجل الحوسبة السحابية ديان غرين، سعى الرئيس التنفيذي للموظفين طمأنة، وأن ينتهي عقده الحالي في 2019، بعد أن جوجل لن يجدد عقد جديد.

أبحاث الذكاء الاصطناعى لديها امكانات كبيرة والنفوذ، وهو المحرك الاقتصادي ولكن أيضا مصدرا للتفوق العسكري. وتقول الحكومة الصينية انها مستعدة لاستثمار مليارات الدولارات في السنوات المقبلة، مما جعل الصين الرائدة في العالم بلد تكنولوجيا الذكاء الاصطناعي، والبنتاغون تسعى بنشاط لمساعدة صناعة التكنولوجيا. سيتم قريبا ولد أسلحة الذكاء الاصطناعي جديدة.

لدينا مجموعة متنوعة من الصناعات انضموا إلى النقاش. الرئيس التنفيذي لشركة أمازون جيف بيزوس في بالم سبرينغز، الذي عقد كاليفورنيا اجتماع السنوي، العديد من الفلاسفة والعلماء من مناطق الساحلية الوسطى وصلنا إلى المشاركة.

"الآن نسيان المشهد الأول الخيال العلمي، وتأتي إلى الحديث عن مخاطر الذكاء الاصطناعي تحقيق". وقال رئيس المشروع الذكاء الاصطناعي ألان دافو المؤسسات البحثية مستقبل الإنسان (مستقبل المعهد الإنسانية). معاهد البحوث مستقبل الإنسان مركز أبحاث في جامعة أكسفورد، وتخصصت في مخاطر التكنولوجيا المتقدمة والفرص.

في الأشهر القليلة الماضية، وشركات التكنولوجيا الأخرى الفيسبوك وفعلت الكثير من الدعاية للجمهور، ويهدف إلى اقتراح مخاطر لا يمكن التنبؤ بها الأبحاث وادي السليكون وتطوير التكنولوجيا سيجلب.

وفي ابريل نيسان قضى زوكربيرج يومين الإجابة على أسئلة معلومات مضللة حول خصوصية البيانات والفيسبوك المشرعين انتشار المقترحة قبل الانتخابات عام 2016. في الشهر الماضي، واجه أيضا مشكلة مشابهة في أوروبا.

أدركت الفيسبوك أن العالم كله يريد إجراء تغييرات على AI يمكن أن تستفيد البشرية تعكس وجهات نظر وأنه من الصعب جدا، بغض النظر عن ما إذا كان الناس حقا مثل ذلك.

حتى لقوا حتفهم مؤسس شركة مايكروسوفت بيل غيتس وستيفن هوكينج من هذه الشخصيات المؤثرة ايضا تزعجه التي خلقت الجهاز سوف يكون أكثر ذكاء من البشر. وعلى الرغم من الاستخبارات على ما يبدو فائقة البشري أيضا نحن بحاجة إلى تطوير بضع سنوات حتى تنضج، لا ينبغي علينا أن نستفيد من شيء لم يفت الأوان للتفكير قبل هذه المشكلة؟

وقال أستاذ علوم الكمبيوتر السابق في جامعة كورنيل ومختبرات بيل الباحث بارت سيلمان: "نحن ندرس تكنولوجيا الذكاء الاصطناعي قوية جدا، ولكن لا يمكننا أن نعرف بوضوح الأثر الذي قد تحققه."

برامج الاتصالات ناقص

باسيفيك جروف هي مدينة صغيرة في ساحل كاليفورنيا المركزي. شتاء 1975، تجمعت مجموعة من علماء الوراثة هناك للتباحث مع بعضها البعض إذا وظيفتك الحالية الخاصة بهم (الجينات التحرير) سوف تعرض للخطر في نهاية المطاف على العالم بأسره. يناير 2017، أجرى فريق تطوير الذكاء الاصطناعي مماثلة أيضا مناقشة مماثلة في هذه المدينة.

أن التجمعات الخاصة التي عقدت في فندق Asilomar يديره مستقبل تنظيم معهد الحياة. إلى الطرف الذي هو لمناقشة تهديد محتمل من الذكاء الاصطناعي وغيرها من التقنيات.

نجتمع الثقل في مجال الذكاء الاصطناعي هنا - بما في ذلك المشاركة في الفيسبوك قبل مختبر الذكاء الاصطناعي عشاء رئيسه السيد LeCun في بالو ألتو، ساعد في تطوير حقل الذكاء الاصطناعي كان واحدا من أكثر الأدوات الهامة الشبكة العصبية. كما حضر نيك بوستروم العشاء، نشر في عام 2014 كتاب "الخارق: مسارات، مخاطر، واستراتيجيات" لمناقشة الذكاء الاصطناعي لديها تأثير كبير جدا. استغرق جامعة واشنطن أستاذ سابق للعلوم الكومبيوتر في سياتل على معهد ألين إتزيوني اورين للذكاء الاصطناعي أيضا في هذه المجموعة من قائمة أشخاص. بقيادة DeepMind (معهد الذكاء الاصطناعي لها تأثير كبير جوجل) دعوة من ديميس حاسابيز أيضا للحضور.

بالطبع، في نهاية المطاف، والسيد المسك، وقال انه تبرع 10000000 $ لمعهد ماساتشوستس في عام 2015. في مرحلة الطفولة، وقال انه ساعد أيضا بناء معهد للبحوث ودعا OpenAI مستقلة الذكاء الاصطناعي، ولإنشاء هدف واضح: لإنشاء آلات فائقة الذكاء، وضمان أنها لن تكون خارج نطاق السيطرة. كما أنه يجعل المسك بشكل واضح إلى جانب السيد بوستروم.

بعد قراءة فائدة كتاب بوستروم. نحن بحاجة إلى التزام اليقظة إلى الذكاء الاصطناعي. قد يكون أكثر خطورة من الأسلحة النووية.

- اندي هيرون المسك (elonmusk) 2014 نيان 8 يو 3 ري

في إجازة في اليوم التالي، أخذ المسك المشاركة في فريق من تسعة أعضاء، المكرسة لاستخبارات اصطناعية فائقة. وطلب من كل أعضاء الفريق سواء الذكاء الاصطناعي لتحقيق هذه المشكلة. حتى مرت الميكروفون أيدي Maske، بغض النظر عن الذي مرت الميكروفون يد، فإن الجواب هو نعم. المسك نقول بشكل قاطع لا. قاعة صغيرة مليئة معرفة الضحك. يعلم الجميع ليس فقط أن الذكاء الاصطناعي المسك من غير المحتمل، وحتى اعتقد انه امر خطير للغاية.

والمسك ثم أضاف: "نحن على الطريق الصحيح لتلبية أو غير الذكاء الاصطناعي، أو هو في نهاية الحضارة".

في نهاية هذه الندوة بمناسبة سئل المسك كيف تنمية الاجتماعية يمكن أن تتعايش مع الذكاء الاصطناعي. فأجاب: يتعين علينا القيام به هو ربط أدمغتنا والسوبر ذكية. وبعد بضعة أشهر، أطلق شركة ناشئة تدعى Neuralink، وحصل على ما مجموعه استثمار بقيمة 100 مليون $. هدف الشركة هو نأمل أنه من خلال الجمع بين الكمبيوتر والدماغ البشري، وخلق ما يسمى واجهة العصبية.

وبطبيعة الحال، وقد ذكرت بعض التحذيرات عن مخاطر الذكاء الاصطناعي في السنوات الأخيرة دائما. ولكن الناس جعل هذه التحذيرات تقريبا لا أحد لديه نفس التكنولوجيا مثل المسك سمعته. وحتى مع ذلك، عدد قليل من الناس يقضون حقا مبالغ كبيرة من المال والوقت في هذا الصدد. وربما لا أحد لديه معقدة مثل الخلفية التقنية المسك.

أعرب عشاء المسك في منزل زوكربيرج المخاوف حول الذكاء الاصطناعي. وبعد أسابيع قليلة، والمسك استدعاء LeCun، وتريد أن تعرف اسم الذكاء الاصطناعي من كبار الباحثين والباحثين يمكن أن تساعد المشاركين برنامج الطائرات بدون طيار تسلا.

في الآونة الأخيرة مكالمة مؤتمر أرباح تسلا، انتقد المسك وسائل الاعلام من الواضح يمكن تجنبه ليس ما يكفي من الاهتمام لهذه الوفيات من خلال التكنولوجيا الآلي - لتحذير المستمر في عالم الذكاء الاصطناعي هو شخص خطير لهذا المنصب أيضا وأهمية. المسك مؤخرا لأن الجمهور يشكك الخسائر والمخاوف حول الشركة جودة السيارة وغيرها من القضايا كدمات وضرب المالية.

القتال بالم سبرينغز

في وادي السليكون، وهناك العديد من الكلمات: نحن نبالغ في تقدير الإنفاق الخاصة بهم يمكن ثلاث سنوات القيام به، والتقليل من شأن ما يمكنك القيام به لقضاء بعض الوقت.

27 يناير 2016، قدم DeepMind مختبر جوجل لاعب محترف قادر على الفوز القديمة آلة لعبة الشطرنج. في المباراة قبل بضعة أشهر، وآلة اسمه AlphaGo للفوز خمسة النيل على بطل أوروبا فان هوى.

ويعتقد الباحثون حتى الذكاء الاصطناعي المتقدم أن تطوير هذا الجهاز قادر على حل تماما اللعبة لا تزال في حاجة إلى إنفاق عقد من الزمان. العودة معقد جدا (مقاعد مجلس الممكنة أكثر من عدد الذرات في الكون)، وأفضل اللاعبين في الفوز وليس فقط الاعتماد على حساب النقي، ولكن الاعتماد على الحدس الخاصة بهم. قبل أن تشن AlphaGo أسبوعين قال السيد LeCun أيضا لخلق آلة وهذه تكاد تكون مستحيلة.

ومع ذلك، بعد بضعة أشهر، AlphaGo أيضا فاز لى شيشي، وأفضل من العقد الماضي أيدي الذهاب. وتسمح هذه الطريقة لعبة الشطرنج آلة يتم الخلط بين خبراء البشري، ولكن أيضا النصر النهائي.

كثير من الباحثين، بمن فيهم قادة DeepMind وOpenAI، بما في ذلك ويعتقد، AlphaGo وراء تكنولوجيا التعلم الذاتي يوفر وسيلة ل "سوبر ذكية". انهم يعتقدون ان هذا التقدم في هذا المجال يتسارع بشكل كبير في السنوات المقبلة.

OpenAI مؤخرا "القطار" النظام واستخدامه للعب ألعاب سباقات الفيديو، والباحثين يشجع ذلك قدر الإمكان لكسب نقاط المباراة في اللعبة. هل حقا يمكن أن تستمر لكسب النقاط، بل ستدور من وقت لآخر في سياق، أو ضرب الجدار الصخري وغيرها من التجديف.

هذا هو عدم الاستقرار يثير مخاوف حول الذكاء الاصطناعي (بما في ذلك فائقة الذكية) هو.

ولكن في شهر مارس من هذا العام، والسيد بيزوس على الأمازون ولقاء سري عقد في بالم سبرينغز، عن معارضتها الشديدة لهذه المخاوف عديدة.

ليلة واحدة، في MIT (معهد ماساتشوستس للتكنولوجيا) الروبوت عالم رودني بروكس وعلماء الأعصاب والفلاسفة، دبليو، ومؤلف سام هاريس على الأخطار المحتملة من الذكاء الاصطناعي مناقشتها. A تسجيل "نيويورك تايمز" الحصول تبين أن يناقش جدا مع لمسة شخصية.

هاريس يحذر من أن لعالم اليوم في سباق لتطوير الذكاء الاصطناعي، قد الباحثون أبدا لديهم الوقت لضمان الاستخبارات السوبر يجري تطويرها في أمان تام.

ثم أجاب بروكس :. "هو مجرد يتصور هذا نفسه شيء من ذلك"، كما اقترح يستند الحجة السيد هاريس على التفكير غير العلمي. هذا ببساطة لا يمكن أن تستخدم لتبرير الذكاء الاصطناعي هو جيدة أو سيئة - هو إهانة للعلماء.

وقال هاريس "إذا كان لديه نقطة، وبطبيعة الحال أنا أقبل بتواضع".

معركة مشرف انتهت أخيرا النقاش والأسئلة من الجمهور. استغرق إتزيوني، مدير معهد ألين على الميكروفون. "أنا لا أتكلم على خشبة المسرح"، قال. ولكن في إلحاح بروكس، وقال انه لا يزال استغرق المسرح، وثلاث دقائق لهاريس قال الكلمات. وقال تنمية نظام الذكاء الاصطناعي اليوم لا يزال ذلك محدودة، يقضون الكثير من الوقت في القلق بشأن فائقة الذكاء لا معنى له.

وقال إتزيوني وهناك عدد قليل من الباحثين العاملين في مجال الذكاء الاصطناعي - المسك هو موقف مشترك بشأن جانب من الفلاسفة وعلماء الاجتماع والكتاب. ومن بين العلماء الذكاء الاصطناعي، ويجب أن نبدأ في القلق حول مفهوم فائقة الذكاء هو أنه "أصبح حواف جدا من ذي الحجة".

زوكربيرج خارج واشنطن

منذ ثلاث سنوات، أكلت الرجلين نقاش العشاء بين زوكربيرج والمسك يصبح حتى غير سارة. وقال في الصيف الماضي، الفناء الخلفي زوكربيرج سجلت الشواء وزوجته العيش في شريط فيديو الفيسبوك مشاهدات الفيديو انه المسك للالذكاء الاصطناعي هو "غير مسؤول للغاية."

وقال في تنمية الذكاء الاصطناعي لم تكن مفتوحة لهم الآن لإنتاج مثل هذا الذعر من شأنه أن يجعل الكثير من الأشياء المفيدة المرتبطة الذكاء الاصطناعي لا يمكن أن تتعرض للخطر من خلال تطوير المركبات الذاتية مثل الذكاء الاصطناعي والحماية الطبية.

وقال زوكربيرج: "أنا الحفاظ على موقف إيجابي لمنظمة العفو الدولية، أنا فقط لا يمكن أن نفهم لماذا الرافضين لأولئك الذين بشر سيناريو يوم القيامة".

وبعبارة أخرى: هل تفكر كثيرا، المسك. أعتبر أن من السهل.

رد المسك أيضا برسالة tweet. "لقد تحدثت لهم مع زوكربيرج"، وكتب المسك انه "لا يزال لديه لفهم حدود الذكاء الاصطناعي".

تحدثت عن هذه مع زوكربيرج، وقال انه لا يزال لديه لفهم حدود الذكاء الاصطناعي.

- اندي هيرون المسك (elonmusk) 2017 نيان 7 يوي 25 ري

في ابريل من هذا العام، اتخذت زوكربيرج إلى الكونغرس لحضور جلسة الاستماع، وشرح كيفية حل الفيسبوك الخاصة بهم كزة السلة.

طريقة واحدة هي الاعتماد على تقنيات الذكاء الاصطناعي. ولكن في شهادته، اعترف زوكربيرج أن العلماء حتى الآن معرفة كيفية أنواع معينة من الذكاء الاصطناعي هو التعلم الذاتي.

وقال: "إنه على مدى العقود القليلة القادمة سوف ننظر في جهاز المخابرات كيف الاصطناعي، سيكون قضية مركزية جدا الآن، والكثير من أنظمة الذكاء الاصطناعي جعل أنفسهم أكثر بكثير من على أساس قدرة التفاهم بين البشر. القرار ".

عمالقة التكنولوجيا والعلماء قد تضحك Maske على الاصطناعي موقف خجول المخابرات، ولكن يبدو أنها تكون أقرب إلى وجهة نظره.

داخل الشركة جوجل، قام فريق تبحث عن العيوب يمكن خداع نظام الكمبيوتر وجعل الناس يرون الأشياء التي لا وجود لها في مجال الذكاء الاصطناعي. فإن الباحثين حذروا من أن توليد الصور الحقيقية والفيديو من نظام الذكاء الاصطناعي تلقائيا سرعان ما سيجعل من الصعب أن نصدق ما نراه على الانترنت.

DeepMind والمجموعات البحثية OpenAI الآن بدأت العمل على مشكلة "الأمن الذكاء الاصطناعي".

DeepMind مؤسس Hassabis ما زالوا يعتقدون Maske تنظر المدقع قليلا. والتعبير عن آرائهم بما يتفق مع زوكربيرج. وهو يعتقد أن الذكاء الاصطناعي ليست خطيرة، على الأقل حتى الآن. ولكن الآن مشكلة الفيسبوك هو في الواقع تحذير.

وقال Hassabis: "نحن بحاجة للاستفادة من هذه الفترة منخفضة، كل التقنيات الحالية لا تزال لا تزال ضمن نطاق السيطرة، حتى نتمكن من الاستعداد مسبقا لاتفاق مع يصبح الوضع أكثر خطورة كما نفعل كل التدابير الوقت الحاضر هو قيمة للغاية. لذلك لدينا للذهاب إلى الاستفادة بشكل كامل ".