الاتحاد الأوروبي يطلق تحقيقًا في ميزة Grok AI التي تنشئ صورًا مزيفة للنساء والقاصرين

وقالت رئيسة المفوضية أورسولا فون دير لاين إن أوروبا “لن تتسامح مع السلوك الذي لا يمكن تصوره، مثل التعري الرقمي للنساء والأطفال”.

أطلقت المفوضية الأوروبية تحقيقًا في برنامج الدردشة الآلي Grok التابع لشركة Elon Musk، فيما يتعلق بإنشاء صور مزيفة جنسية صريحة للنساء والقاصرين.

أعلنت المفوضية يوم الاثنين أن تحقيقها سيفحص ما إذا كانت أداة الذكاء الاصطناعي المستخدمة في X قد استوفت التزاماتها القانونية بموجب قانون الخدمات الرقمية للاتحاد الأوروبي (DSA)، والذي يتطلب من شركات وسائل التواصل الاجتماعي معالجة المحتوى غير القانوني والضار عبر الإنترنت.

وقالت بروكسل إن التحقيق سيفحص ما إذا كان X قد خفف بشكل صحيح “المخاطر المتعلقة بنشر محتوى غير قانوني في الاتحاد الأوروبي، مثل الصور الجنسية الصريحة التي تم التلاعب بها، بما في ذلك المحتوى الذي قد يرقى إلى مستوى مواد الاعتداء الجنسي على الأطفال”.

وفي بيان لوكالة الأنباء الفرنسية، قالت رئيسة المفوضية الأوروبية أورسولا فون دير لاين إن أوروبا “لن تتسامح مع السلوك الذي لا يمكن تصوره، مثل التعري الرقمي للنساء والأطفال”.

وأضافت: “الأمر بسيط – لن نسلم الموافقة وحماية الأطفال لشركات التكنولوجيا لانتهاكها وتحقيق الدخل منها. إن الضرر الناجم عن الصور غير القانونية حقيقي للغاية”.

وواجهت جروك غضبًا مؤخرًا بعد أن تم الكشف عن أنه يمكن للمستخدمين أن يطلبوا من برنامج الدردشة الآلي إنشاء صور مزيفة عميقة للنساء والأطفال بمجرد استخدام مطالبات مثل “ضعها في البيكيني” أو “اخلع ملابسها”.

وقالت مفوضة التكنولوجيا بالاتحاد الأوروبي، هينا فيركونن، إن حقوق النساء والأطفال في الاتحاد الأوروبي لا ينبغي أن تكون “أضرارًا جانبية” لخدمات X.

وقال فيركونن في بيان: “إن التزييف العميق الجنسي بدون رضا النساء والأطفال هو شكل من أشكال الإهانة العنيفة وغير المقبولة”.

يخضع X للتحقيق من قبل الاتحاد الأوروبي بشأن قواعد المحتوى الرقمي الخاصة به منذ ديسمبر 2023.

وقالت شركة Grok هذا الشهر إنها ستقصر إنتاج الصور وتحريرها على العملاء الذين يدفعون بعد انتقادات لقدرات الأداة.

نشرت منظمة غير ربحية، مركز مكافحة الكراهية الرقمية، تقريرًا الأسبوع الماضي وجد أن جروك أنتج ما يقدر بنحو 3 ملايين صورة جنسية للنساء والأطفال في غضون أيام.

وفي ديسمبر/كانون الأول، أمر الاتحاد الأوروبي شركة X بدفع غرامة قدرها 120 مليون يورو (140 مليون دولار) لانتهاكها التزامات الشفافية الخاصة بـ DSA.

والاتحاد الأوروبي ليس الهيئة الوحيدة التي تحقق في أداة جروك؛ أعلنت هيئة تنظيم وسائل الإعلام في المملكة المتحدة، Ofcom، أنها بدأت تحقيقًا في X لتحديد ما إذا كانت قد امتثلت للمتطلبات بموجب قانون السلامة على الإنترنت في المملكة المتحدة.