[استعراض فاز جي الجديدة يبدو ممارسة OpenAI القلق حول نموذج NLP "قوية جدا" أو الإساءة دون الكشف عن رمز ونموذج للاستفزاز الغضب. اليوم ما يقرب من دائرة كاملة خارج الشبكة AI هي OpenAI من الانتقادات والسخرية، على الرغم من صوت خافت من مزيج من الدعم. "كود العامة" مرة أخرى تصبح محور، وهذا الجانب لا عليك؟
OpenAI النار، ولكن ليس بالطريقة التي تريد.
يوم أمس، أعلن OpenAI في بلوق الرسمية قاموا ببناء نموذج NLP قوية، ولكن لأن هذا النموذج هو قوي جدا، وقادرة على توليد الجملة حقيقية، من أجل الاعتداء تجنب، قرروا عدم الكشف عن بنية محددة للنموذج ورمز (ويطلق سراحهم إلا عدد قليل من العينة).
"قد يكون نماذج لغة عالمية كبيرة أثر اجتماعي كبير"، وكتب بلوق الرسمية OpenAI أن نموذجهم يتم الإعلان عنها الآن "، ويمكن استخدامه لتوليد أخبار كاذبة، هوية شخص التظاهر على الإنترنت، في وسائل الاعلام الاجتماعية نشر كاذبة أو مضللة عن عمد محتوى الكلام، و/ التصيد الذي تم إنشاؤه تلقائيا غير المرغوب فيه ".
استشهد OpenAI أيضا DeepFake، وهذا هو مثال على المجتمع رؤية الكمبيوتر سيئة السمعة، DeepFake، أصبح نظرا لقدرات قوية جيل صورتها على "كاذبة وجه مولد / جهاز شد الوجه"، لإنشاء عدد كبير من الفيديو كاذبة خبيثة، والصوت، و يتم تعطيل الصور.
كما كتب OpenAI مناقشة بلوق السياسة، بما في ذلك ضمان أبحاث الذكاء الاصطناعى آمنة وموثوق بها والأخلاقية والمعايير الأخلاقية. ولكن لم اعتقد ابدا ان رعاية والنوايا، ولكن كان صديقا انتقادات تقريبا من جانب واحد والسخرية.
- OpenAI سميت تماما "CloseAI" لا عليك!
- كما تقدمت MNIST السوبر موديل كبير، لا تقلق بشأن ذلك التعرض للإيذاء دون الكشف عن ذلك؟
ما هو أكثر من ذلك، مثل اتباع بن RECHT، كما أصدر مقال طويل سخرية تويتر:
اليوم أريد أن أعرض ورقتنا "هل ImageNet المصنفات التعميم إلى ImageNet؟" ونحن نحاول اتباع الورقة الأصلية واصفا التكاثر نتائجها، ولكن وجدت أنه من الصعب جدا القيام بذلك! ...... نحن لا يمكن أن يستند إلى البيانات العامة المقرر لبناء نموذج كبير، حدث حزين جدا لتناسب مستوى منطقتنا نموذج ML. ومع ذلك، فإن التغير الطفيف على مجموعة اختبار يؤدي إلى تغيير كبير في توزيع النتائج، ماذا سيحدث في المستقبل يمكنك أن تتخيل نموذج ورمز يتم الافراج عن كل شيء! PS هذه الورقة ما زالت تنتظر المراجعة الإفراج أرخايف، ولكن لدينا النسخة النهائية من PDF كبير جدا، فذلك لأن أرخايف أيضا تعلم ممارسة OpenAI، أعتقد البحوث AI / ML خطير جدا وليس علنا .