تعرض الرجال منغوليا الداخليين إلى خداع 4.3 مليون يوان من قبل الذكاء الاصطناعي للاحتيال في الواجهة في غضون 10 دقائق ، وتم خداع رجال Anhui 1.32 مليون في 9 ثوان ...

للوهلة الأولى في غرفة البث المباشر ، كانت ممثلة شهيرة باعت البضائع. ألقِ نظرة فاحصة ، "Star" هو في الواقع مرساة عادية تستخدم التكنولوجيا الذكاء الاصطناعي (AI) في الوقت المناسب. إنهم يتظاهرون بأنهم فنانين من النجوم ، فقط لزيادة نقطة البيع والمساعدة في بيع البضائع ... في الآونة الأخيرة ، أصدرت جمعية الإنترنت الصينية بيانًا تقول أنه مع المصدر المفتوح للتكنولوجيا الاصطناعية العميقة ، زادت المنتجات والخدمات الاصطناعية العميقة تدريجياً. "إن أعمال الاحتيال غير القانونية والافتراء على الصوت الكاذب ومقاطع الفيديو شائعة.

هذا مزيف وصادق ، مما يجعل الناس لا يقهر. أين الحدود القانونية لـ "تغيير الوجه الذكري"؟ كيف ينبغي أن يمنع الناس العاديون؟

حالة 1

منظمة العفو الدولية "معارف" الكثير من الناس

في الآونة الأخيرة ، أصدرت شرطة باوتو في منغوليا الداخلية حالة نموذجية لاستخدام الذكاء الاصطناعي لتنفيذ احتيال الاتصالات.

السيد Guo من Fujian هو ممثل قانوني لشركة التكنولوجيا. في أبريل من هذا العام ، اتصل به صديقه فجأة من خلال مقاطع فيديو WeChat ، قائلاً إن صديقه يقدم عرضه في بلد أجنبي ، وكان بحاجة إلى إيداع قدره 4.3 مليون يوان. لقد أراد استعارة حساب السيد Guo.

استنادًا إلى ثقة الأصدقاء ، والدردشة المرئية "تم التحقق من هويته ، قام السيد Guo بنقل 4.3 مليون يوان إلى الحساب المصرفي للطرف الآخر في غضون 10 دقائق.

بعد ذلك ، اتصل السيد قوه بصديقه ليتعلم أن يخدع. اتضح أن المخادع غيّر وجهه وتوصيل تكنولوجيا الاقتران من خلال الذكاء الاصطناعى وتظاهر بأنه احتيال عليه. "لقد أعطيتني مقطع فيديو في ذلك الوقت. لقد أكدت أيضًا الوجه والصوت في الفيديو ، لذلك رخيت في التنبيه." قال السيد قوه بعد ذلك. لحسن الحظ ، بعد استلام المنبه ، أطلقت بنوك الشرطة في Fuzhou و Baotou سرعان ما أطلقت آلية الدفع ، مما أدى إلى إيقاف اعتراض 3.3684 مليون يوان ، ولكن تم نقل 931600 يوان ، ويتم استردادها حاليًا.

من قبيل الصدفة ، في 22 مايو ، تلقى السيد هو ، Anqing ، Anhui ، مكالمة فيديو من أحد معارفه للسماح له مساعدته في التحويل. ولكن بعد 9 ثوان ، علق الطرف الآخر الهاتف على أساس "الاجتماع" ، وقال أيضًا إنه "لا يمكن قول" WeChat والهاتف ، أضف QQ ". "لأنني قمت بإجراء مكالمة فيديو ، كنت معارفًا مرة أخرى ، لذلك لم أفكر كثيرًا ، لذلك قمت بنقلها." بعد خداعه ، اتصل السيد الشرطة بسرعة. قامت شرطة المشروع بتجميد الحساب ذي الصلة لأول مرة ، هرع إلى بكين بين عشية وضحاها لالتقاط ثلاثة مشتبه بهم ينطويون على الاحتيال ، واستعادة 1.32 مليون يوان من السيد الذي كان يخدع.

الحالة 2

الابتزاز الابتزاز

في قضية أبلغت عنها شرطة وينتشو ، كان السيد تشن من وينتشو ابتزاز وابتزاز. طلب الخصم من السيد تشن الاتصال به بسرعة بعد تلقي المجموعة ، وليس محظوظًا ، وهدد بنشر الفيديو على الإنترنت. لأنني أعلم أن هذا فيديو اصطناعي ، لكنني لا أعرف كيفية التعامل معه ، طلب السيد تشن من الشرطة المساعدة. هذه القضية هي حاليا قيد التحقيق.

الحالة 3

منظمة العفو الدولية يغير وجهه والتظاهر بأنه نجم مع البضائع

بالإضافة إلى التظاهر بأنه "وجه معارف" للاحتيال ، قد يظهر تغيير وجه الذكاء الاصطناعي أيضًا في عمليات البث المباشر. في الآونة الأخيرة ، ظهرت بعض البرامج التعليمية "التي تبثها الوجه" على الإنترنت. ادعى ناشر البرنامج التعليمي أنه يمكن أن يساعد المستخدمين "على تغيير وجوههم" بسهولة وبشكل كبير في استنزاف البضائع وبيعها.

في مقطع فيديو يعرض تأثير البث المباشر للتغيير في الوجه ، بعد أن يقوم المستخدم بتحميل النموذج المسمى "Jackie Chan" في البرنامج ذي الصلة ، يحتوي الشخص الموجود أمام الكاميرا ، لكن شكل الوجه وتسريحات الشعر لا يزالون أصليين.

وجد المراسل أنه عندما قام المستخدم بميل رأسه أو غير تعبيره ، تحولت ميزات الوجه بشكل طبيعي وسلس. عندما يمر النخيل بالوجه ، ظهر عيب واضح نسبيًا.

يعرض الناشر تأثير الوقت الحقيقي وواجهة البرمجيات لـ "Jackie Chan" (لقطة الشاشة للفيديو).

يُحذًِر

يجب الحفاظ على الوعي

تشكل إساءة استخدام تغييرات الوجه تهديدًا للمصالح العامة.

بالنسبة للأفراد ، في مواجهة احتيال الذكاء الاصطناعي الذي تم تجديده ، يجب علينا الحفاظ على الوعي بالوقاية. يقول بعض الناس أن الخدعة الأكثر فاعلية في مكافحة الحروف لا تصدق. بغض النظر عن كيفية "يتغير" الطرف الآخر ، وكيفية التغيير ، وكيفية قلب الحيل ، "لا تسمع ولا يصدق ذلك. "

قالت جمعية الإنترنت الصينية إنه إذا ادعى شخص ما أنه "عائلة" و "صديق" و "معلم" و "قيادة" ، من خلال البرمجيات الاجتماعية ، الرسائل القصيرة ، البريد الإلكتروني ، وما إلى ذلك ، للحث على تحويلات النقل بأسباب وأسباب مختلفة ، كن متيقظًا في أقرب وقت ممكن. في عصر الذكاء الاصطناعي ، قد يتم تصنيع النصوص والأصوات والصور ومقاطع الفيديو بعمق. في المشاهد النموذجية مثل تحويلات التحويلات والبورصات الرأسمالية ، يجب عليك التحقق من طرق الاتصال الإضافية وتأكيدها مثل رقم الهاتف المحمول للطرف الآخر. حزب آخر.

إذا كنت غاضبًا أو مشبوهًا عن طريق الخطأ ، فيرجى الانتباه إلى حماية الأدلة والاتصال على الفور 96110 للاتصال بالشرطة.

تصحيح

باستخدام "الطريقة" لهزيمة "السحر"

لتصحيح الذكاء الاصطناعي لتغيير الوجه ، يجب أن نستخدم "قانون" لهزيمة "السحر". هذا القانون هو قانون القوانين واللوائح والقوانين.

في وقت سابق ، كان التطبيق الذي ركز على وجه الذكاء الاصطناعي حارًا جدًا. ولكن بعد فترة وجيزة ، بعد مقابلة السلطات التنظيمية ، تمت إزالة هذا التطبيق من الرفوف. كان السبب بسيطًا للغاية ، ومثل هذا الوجه ينتهك على حق المواطنين.

في شهر ديسمبر الماضي ، تم إصدار "لوائح الإدارة الاصطناعية في خدمات الإنترنت" ، والتي أدت بوضوح إلى توليد الوجه ، واستبدالها ، والتحكم ، وتوليف الأصوات البشرية والأصوات المقلدة. وذكر أنه يجب إضافة محتوى المعلومات للمعلومات التي تستخدم توليد الخدمة أو المحررين مع مقدمي خدمات التوليف العميق. توفير الخدمات التي توفر حوارًا ذكيًا أو أصواتًا اصطناعية أو توليد الوجه أو توليد المشهد الأصيل الغامرة أو تغيير وظائف محتوى المعلومات المتغيرة بشكل ملحوظ لتجنب الالتباس العام أو سوء الفهم.

إفادة

غير وجهك أو انتهاك مشتبه به

قال Yue Yanshan ، الشريك الرئيسي لشركة Beijing Yuecheng Law Firm ، إن البث المباشر للبث المباشر للوجه قد تم استخدامه لنشر حق صورة المشاهير ذات الصلة علنًا. إذا كان يتضمن سلوكًا تجاريًا مثل البث المباشر والبضائع ، فسيصبح مؤامرة مشددة.

أوضح Yue Yushan أنه طالما أن موافقة مالك الصورة ، استبدل وجهه بوجه النجم من خلال الوسائل الفنية في البث المباشر ، وهو انتهاك صورة النجم. حتى لو كان مجرد ترفيه ، فإنه لا ينطوي على الربحية ، وهو انتهاك. إذا تم استخدام صورة صورة للبث المباشر ، فهو سلوك تجاري ، وسيتم بالتأكيد النظر فيه من حيث التعويض. إذا كانت الخبيثة ذاتية ، فإن درجة الخطأ كبيرة نسبيًا ، والربح ، قد يكون مبلغ التعويض أعلى.

لاحظ المراسل أن بعض عمليات البث المباشرة التي تستخدم تقنية تغيير الوجه لن تذكر بشكل مباشر أسماء فنانين المشاهير المعنيين ، لكنها لا تعلن بشكل نشط أو تنكرها. يعتقد Yue Yushan أن السلوك يشتبه في وجود احتيال أو دعاية كاذبة. إذا كانت جودة البضائع نفسها ليست جيدة أو تسببت كلمات المرساة أثناء الشحنة في إجراء تقييم سلبي للوجه -إلى - Face Star ، يمكن للنجم المطالبة بمسؤولية الانتهاك عن السمعة.

يفكر

افتح صندوق باندورا السحري

كما دفعت إساءة استخدام تقنية AI -to -face الجميع أيضًا إلى التفكير في مشكلة عميقة. تقنيات جديدة ناشئة باستمرار وتضع الناس بشكل مريح ، ولكن قد يستخدمها الأشخاص الذين يخونون بشكل غير قانوني. على الرغم من أنه لا يمكن إلغاء الناس بسبب الحزن ، إلا أنهم لا يستطيعون تجاهل تأثير سيفها المزدوج. إذا كنت تفتقر إلى الباقة المستحقة ، فقد يفتح AI على وجهك مربع Pandora Magic. بسبب الموقف ، هذا ما يجب أن نفعله بقوتنا لتجنب الأذى.

في الآونة الأخيرة ، أصدرت بعض المنصات والمؤسسات "مواصفات المنصة ومبادرات الصناعة حول محتوى توليد الذكاء الاصطناعي" ، والتي تحظر بوضوح استخدام إنشاء تكنولوجيا الذكاء الاصطناعي وإصدار محتوى الانتهاك ، بما في ذلك على سبيل المثال لا الحصر حقوق الصورة والمفكر حقوق الملكية. سيتم معاقبة المنصة بدقة.

من الواضح ، نظرًا لأن تصميم النظام أكثر دقة ، وتصبح التشريعات ذات الصلة أكثر سليمًا ، فإن مساحة وجه الذكاء الاصطناعي ستصبح أكثر فأكثر.

(Wen Tu Source: وفقًا لـ CCTV News ، Beijing Youth Daily ، VCG ، إلخ)