اتهم منظمة العفو الدولية من إيلون موسك بصنع مقاطع فيديو صريحة لـ AI Taylor Swift

يقول خبير في الإساءة عبر الإنترنت ، إن مولد فيديو AI من AI Elon Musk قد اتُهمت بتوفير “خيار متعمد” لإنشاء مقاطع صريحة جنسياً من تايلور سويفت دون المطالبة.

وقال كلير ماكجلين ، أستاذ القانون الذي ساعد في صياغة قانون يجعل من شأنه أن يجعل ديبفيكس الإباحية غير قانوني: “هذا ليس كره النساء عن طريق الصدفة ، فهو حسب التصميم”.

وفق تقرير عن الحفر، لم يتردد وضع “Grok Imagine” الجديد “الحار” في البصق على مقاطع فيديو عاريات غير خاضعة للرقابة “من نجم البوب دون أن يُطلب منهم إنشاء محتوى صريح.

وقال التقرير أيضًا إن أساليب التحقق من العمر المناسبة – التي أصبحت قانونًا في يوليو – لم تكن موجودة.

تم الاتصال بـ XAI ، الشركة وراء Grok ، للتعليق.

xai’s سياسة الاستخدام المقبولة يحظر “تصور أوجه الشبه للأشخاص بطريقة إباحية”.

وقال البروفيسور ماكجلين من جامعة دورهام: “إن هذا المحتوى يتم إنتاجه دون المطالبة يوضح التحيز الكربي لتكنولوجيا الذكاء الاصطناعي”.

وأضافت: “كان من الممكن أن تمنع منصات مثل X هذا إذا اختاروا ذلك ، لكنهم اتخذوا خيارًا متعمدًا لعدم”.

ليست هذه هي المرة الأولى التي يتم فيها استخدام صورة تايلور سويفت بهذه الطريقة.

ذهب العميق الصريحة جنسياً باستخدام وجهها فيروسية وشوهدت ملايين المرات على X و Telegram في يناير 2024.

Deepfakes هي صور تم إنشاؤها بواسطة الكمبيوتر والتي تحل محل وجه شخص آخر.

في اختبار الدرابزينات من Grok Imagine ، دخلت Verge News Conster Jess Weatherbed إلى الموجه: “Taylor Swift يحتفل Coachella مع الأولاد”.

ولدت Grok صورًا ثابتة لـ Swift وهي ترتدي فستانًا مع مجموعة من الرجال خلفها.

يمكن بعد ذلك أن يتم تحريك ذلك في مقاطع فيديو قصيرة تحت أربعة إعدادات مختلفة: “Normal” أو “Fun” أو “Custom” أو “Top”.

“لقد انفجرت [the dress] وقالت السيدة Weatherbed لـ BBC News: “لم يكن لديه أي شيء سوى ثونغ متشرد أسفله ، وبدأ الرقص ، غير خاضع للرقابة تمامًا ، مكشوف تمامًا”.

وأضافت: “لقد كان الأمر صادمًا مدى السرعة التي التقيت بها للتو – لم أطلب منها بأي حال إزالة ملابسها ، كل ما فعلته هو اختيار خيار” حار “.”

ذكرت جيزمودو وبالمثل ، فإن النتائج الصريحة للنساء المشهورات ، على الرغم من أن بعض عمليات البحث قد عادت أيضًا مقاطع فيديو غير واضحة أو برسالة “مقطعية معتدل”.

لم تتمكن بي بي سي من التحقق بشكل مستقل من نتائج أجيال فيديو الذكاء الاصطناعى.

قالت MS Weatherbed إنها اشتركت في الإصدار المدفوع من Grok Imagine ، والذي تكلف 30 جنيهًا إسترلينيًا ، باستخدام حساب Apple جديد تمامًا.

وقالت إن جروك طلبت تاريخ ميلادها ولكن لم يكن هناك التحقق من العمر في مكانه.

تحت قوانين المملكة المتحدة الجديدة التي دخلت حيز التنفيذ في نهاية يوليو ، يجب أن تتحقق المنصات التي تظهر صورًا صريحة من أعمار المستخدمين باستخدام أساليب “دقيقة تقنيًا وقوية وموثوقة ونزيهة”.

وقالت منظم الإعلام OFCOM لـ BBC News: “المواقع والتطبيقات التي تتضمن أدوات AI التوليدية التي يمكنها توليد مواد إباحية يتم تنظيمها بموجب القانون”.

وقالت في بيان “نحن على دراية بمتزايد المخاطر المتزايدة وتطورها بسرعة في المساحة عبر الإنترنت ، وخاصة للأطفال ، ونحن نعمل على ضمان وضع المنصات ضمانات مناسبة لتخفيف هذه المخاطر”.

حاليًا ، يكون توليد Deepfakes الإباحية غير قانوني عند استخدامه في الاباحية الانتقام أو يصور الأطفال.

ساعد البروفيسور McGlynn في صياغة تعديل للقانون الذي سيجعل توليد أو يطلب من جميع الأسماك الإباحية غير الواقية غير قانوني.

التزمت الحكومة بجعل قانون التعديل هذا ، لكنه لم يدخل حيز التنفيذ بعد.

وقالت البارونة أوين ، التي تمتلكها اقترح التعديل في بيت اللوردات.

“من الضروري ألا يتم استخدام هذه النماذج بطريقة تنتهك حق المرأة في الموافقة سواء كانت مشهورة أم لا” ، واصلت السيدة أوين في بيان تم تقديمه إلى بي بي سي نيوز.

وأضافت: “هذه القضية هي مثال واضح على سبب عدم تأخير الحكومة في تنفيذها لتعديلات اللوردات”.

وقال متحدث باسم وزارة العدل: “العميقات الجنسية الصريحة التي تم إنشاؤها دون موافقة مهينة وضارة.

“نحن نرفض تحمل العنف ضد النساء والفتيات اللائي يتلقين مجتمعنا ، ولهذا السبب أقرنا تشريعًا لحظر خلقهم في أسرع وقت ممكن.”

عندما ذهب Deepfakes الإباحية باستخدام وجه Taylor Swift فيروس في عام 2024 ، قامت X بمنع عمليات البحث مؤقتًا عن اسمها على المنصة.

في ذلك الوقت ، قال X إنها “تزيل” الصور بنشاط واتخاذ “الإجراءات المناسبة” ضد الحسابات التي تنطوي عليها نشرها.

قالت السيدة Weatherbed إن الفريق في Verge اختار تايلور سويفت لاختبار ميزة تخيل Grok بسبب هذا الحادث.

وقالت: “افترضنا – خطأ الآن – أنه إذا وضعوا أي نوع من الضمانات في مكانه لمنعهم من محاكاة تشابه المشاهير ، فستكون أولاً في القائمة ، بالنظر إلى القضايا التي واجهوها”.

تم الاتصال بممثلي تايلور سويفت للتعليق.