الخداع Deepfake: سرقت هوية المرأة الهندية لمحتوى الذكاء الاصطناعي المثيرة

استغرق الأمر بضعة أيام فقط لإحساس Instagram Instagram Babydoll Archi بمضاعفة متابعتها إلى 1.4 مليون ، وذلك بفضل لحظات التواصل الاجتماعي الفيروسية.

أحدهما كان مقطع فيديو أظهرها في ساري أحمر ، يرقص بشكل إطاري على السيدة الأمم المتحدة – وهي أغنية رومانية. وأظهرت صورة تم نشرها على المنصة وهي تتظاهر مع نجم الأفلام الأمريكية الكبار Kendra Lust.

فجأة أراد الجميع أن يعرفوها – واسم Babydoll Archi في بحث Google وأولد عددًا لا يحصى من الميمات وصفحات المعجبين. ولكن كان هناك مشكلة واحدة على وشك الظهور – لم تكن هناك امرأة حقيقية وراء الإحساس عبر الإنترنت.

كان حساب Instagram مزيفًا ، على الرغم من أن الوجه الذي تم استخدامه كان له تشابه غريب لامرأة حقيقية – ربة منزل في مدينة Dibrugarh في ولاية آسام ، والتي نسميها سانشي.

لقد كشفت الحقيقة بعد أن قدم شقيقها شكوى للشرطة. تم القبض على Pratim Bora ، صديقها السابق في سانشي.

وقال ضابط الشرطة الكبير سيزل أغاروال الذي يرأس التحقيق لبي بي سي أن سانشي وبورا كانا يسقطان ، وكان الشبه الذي خلقه منظمة العفو الدولية هو “الانتقام الخالص” عليها.

وقالت السيدة أغاروال إن بورا – مهندس ميكانيكي وعشاق الذكاء الاصطناعي (الذكاء الاصطناعي) – استخدمت صورًا خاصة لـ Sanchi لإنشاء ملف تعريف مزيف.

بورا رهن الاحتجاز ولم أدلي بأي بيانات بعد. لقد تواصل بي بي سي مع عائلته وسيقوم بتحديث المقال عندما يتحدثون.

وقالت السيدة أغاروال إن Babydoll Archi تم إنشاؤه في عام 2020 وتم إجراء التحميلات الأولى في مايو 2021. وقالت السيدة أغاروال إن الصور الأولية كانت صورها الحقيقية التي تحولت.

“مع مرور الوقت ، استخدم بورا أدوات مثل chatgpt و dzine لإنشاء إصدار من الذكاء الاصطناعى. ثم قام بسكان المقبض مع صور ومقاطع الفيديو DeepFake.”

وأضافت أن الحساب بدأ في التقاط الإعجابات من العام الماضي ، لكنه بدأ في اكتساب الجر من أبريل من هذا العام.

جاءت شكوى الفقرة القصيرة للشرطة المقدمة من عائلة سانشي في ليلة 11 يوليو مع مطبوعات من بعض الصور ومقاطع الفيديو كدليل.

تقول السيدة أغاروال إنها لم تسمي أحداً لأنهم لم يكن لديهم أي فكرة عن من يمكن أن يكون وراء ذلك.

لم يكن Babydoll Archi اسمًا غير مألوف للشرطة. تقول السيدة أغاروال إنها شاهدت أيضًا تقارير وسائل إعلامية وتعليقات تكهن بأنها تم إنشاؤها من الذكاء الاصطناعي ، ولكن لم يكن هناك أي اقتراح بأنه كان يعتمد على شخص حقيقي.

بمجرد استلامهم للشكوى ، كتبت الشرطة إلى Instagram تطلب تفاصيل منشئ الحساب.

“بمجرد تلقينا معلومات من Instagram ، سألنا سانشي عما إذا كانت تعرف أي بورا Pratim. بمجرد تأكيدها ، تتبعنا عنوانه في منطقة Tinsukia المجاورة. لقد اعتقلناه مساء يوم 12 يوليو.”

تقول السيدة أغاروال إن الشرطة “استولت على الكمبيوتر المحمول والهواتف المحمولة ومحركات الأقراص الصلبة ووثائقه المصرفية منذ أن قام بإثارة الحساب”.

وأضافت: “كان لدى الحساب 3000 اشتراك على Linktree ونعتقد أنه حصل على مليون روبية منه. نعتقد أنه صنع 300000 روبية في خمسة أيام فقط قبل اعتقاله”.

تقول السيدة أغاروال إن سانشي “مذهل للغاية – لكنها الآن هي وعائلتها تتلقى المشورة وهم يحققون أفضل”.

قالت السيدة أغاروال: “هل لا توجد طريقة لمنع حدوث شيء كهذا ،” لكن لو تصرفنا في وقت سابق ، كان بإمكاننا منعه من الحصول على الكثير من الجر “.

وأضافت “لكن سانشي لم يكن لديها أي فكرة لأنها ليس لديها وجود وسائل التواصل الاجتماعي. لقد تم منع أسرتها أيضًا من هذا الحساب. لقد أصبحوا على دراية فقط بمجرد أن تصبح فيروسية”.

لم يستجب Meta لاستعلامات بي بي سي في القضية ، لكنه عمومًا لا يسمح بنشر العُري أو المحتوى الجنسي. والشهر الماضي ، ذكرت CBS أنه أزال عدد من الإعلانات التي تروج لأدوات الذكاء الاصطناعى المستخدمة لإنشاء DeepFakes صريحة جنسيًا باستخدام صور للأشخاص الحقيقيين.

لم يعد حساب Instagram لـ Babydoll Archi ، الذي كان لديه 282 وظيفة ، متاحًا للجمهور – على الرغم من أن وسائل التواصل الاجتماعي مليئة بالصور ومقاطع الفيديو الخاصة بها ويبدو أن حساب Instagram واحد لديهم جميعًا. سألت بي بي سي ميتا ما يخططون للقيام به حيال ذلك.

يقول Meghna BAL ، خبير ومحامي الذكاء الاصطناعي ، ما حدث لسانشي “أمر فظيع ولكنه من المستحيل تقريبًا منعه”.

يمكنها الذهاب إلى المحكمة والبحث عن الحق في نسيانها ، ويمكن للمحكمة أن تأمر التقارير الصحفية التي أطلق عليها اسمها ليتم إسقاطها ولكن من الصعب تنظيف كل أثر من الإنترنت.

وتقول إن ما حدث لـ Sanchi هو ما يحدث دائمًا للنساء ، حيث يتم تعميم صورهن ومقاطع الفيديو على أنها انتقام.

تقول السيدة بال: “أصبح من الأسهل بكثير الآن القيام به بسبب الذكاء الاصطناعي ، لكن هذه الحوادث لا تزال غير شائعة كما نتوقع – أو قد يتم الإبلاغ عنها بسبب وصمة العار أو أن الأشخاص المستهدفين قد لا يعرفون ذلك كما في الحالة الحالية”. وتضيف أن الأشخاص الذين يشاهدونه ليس لديهم حافز للإبلاغ عن منصة التواصل الاجتماعي أو بوابة الجريمة الإلكترونية.

في شكواهم ضد السيد بورا ، احتجت الشرطة بقطاعات قانونية تتعامل مع التحرش الجنسي وتوزيع المواد الفاحشة والتشهير والتزوير لإلحاق الضرر بالسمعة والغش عن طريق التجسيد والجرائم الإلكترونية. إذا أدين ، يمكن للسيد بورا الحصول على ما يصل إلى 10 سنوات في السجن.

وقد شهدت القضية التي أدت أيضًا إلى الغضب على وسائل التواصل الاجتماعي في الأيام الأخيرة بعضًا من القوانين الأكثر صرامة للتعامل مع مثل هذه الحالات.

تعتقد السيدة بال أن هناك قوانين كافية لرعاية مثل هذه الحالات ، ولكن ما إذا كان هناك مجال لقوانين جديدة للتعامل مع شركات الذكاء الاصطناعى التوليدي يجب النظر إليها.

“لكن علينا أيضًا أن نتذكر أن Deepfakes ليس بالضرورة سيئًا وأن القوانين يجب أن تصنع بعناية لأنها يمكن أن يتم سلاحها إلى حرية التعبير”.

اتبع BBC News India Instagramو يوتيوب ، x و فيسبوك