تمنع إندونيسيا الوصول إلى برنامج الدردشة الآلي الخاص بـ Musk Grok بسبب الصور المزيفة

يقول وزير إندونيسي إن التزييف العميق يمثل “انتهاكًا خطيرًا لحقوق الإنسان وكرامة وأمن المواطنين عبر الإنترنت”.

أصبحت إندونيسيا أول دولة في العالم تحظر برنامج الدردشة Grok الخاص بـ Elon Musk بسبب مخاطر المحتوى الإباحي المزيف الذي ينتجه الذكاء الاصطناعي.

وقال وزير الاتصالات والشؤون الرقمية في البلاد يوم السبت إن “ممارسة التزييف العميق الجنسي دون رضاهم” تعد “انتهاكًا خطيرًا لحقوق الإنسان والكرامة وأمن المواطنين في الفضاء الرقمي”.

وقال ميوتيا حفيظ في بيان: “من أجل حماية النساء والأطفال والجمهور من مخاطر المحتوى الإباحي المزيف الذي تم إنشاؤه باستخدام تكنولوجيا الذكاء الاصطناعي، قامت الحكومة… بحظر الوصول مؤقتًا إلى تطبيق Grok”.

وتأتي هذه الخطوة بعد يوم من قيام شركة Grok بتقييد ميزات إنشاء الصور وتحريرها على منصة الوسائط الاجتماعية الخاصة بـ Musk X للمشتركين الذين يدفعون مقابل ذلك، حيث سعت إلى الحد من الانتقادات المتزايدة بشأن التزييف العميق.

تم تهديد Musk بغرامات حيث تعارض العديد من الدول علنًا ضد Grok، الذي سمح للمستخدمين بتغيير الصور عبر الإنترنت لإزالة ملابس الأشخاص.

وقال الملياردير إن أي شخص يستخدم Grok لإنشاء محتوى غير قانوني سيواجه نفس العواقب مثل تحميل مثل هذه المواد مباشرة.

لكن المسؤولين الأوروبيين ونشطاء التكنولوجيا انتقدوا الخطوة التي اتخذت هذا الأسبوع للحد من ميزات أداة الذكاء الاصطناعي للمشتركين الذين يدفعون على X، قائلين إنها فشلت في معالجة مخاوفهم.

ووصف مكتب رئيس الوزراء البريطاني كير ستارمر هذا الإجراء بأنه “مهين” للضحايا و”ليس حلاً”.

وقال متحدث باسم داونينج ستريت يوم الجمعة: “هذا ببساطة يحول ميزة الذكاء الاصطناعي التي تسمح بإنشاء صور غير قانونية إلى خدمة متميزة”. “إنها إهانة لضحايا كراهية النساء والعنف الجنسي.”

وقالت وزارة الثقافة والشؤون الرقمية الإندونيسية يوم السبت إنها استدعت مسؤولي X لمناقشة الأمر.

وتطبق الدولة، التي يبلغ عدد سكانها 285 مليون نسمة، قواعد صارمة تحظر مشاركة المحتوى الذي يعتبر فاحشًا عبر الإنترنت.