تحث الأنثروبيك مختبرات الذكاء الاصطناعي على التوقف مؤقتًا، وتحذر من خطر فقدان السيطرة على البشر

تقترح أنثروبيك أن تتوصل أكبر شركات الذكاء الاصطناعي في العالم إلى طريقة منسقة لإيقاف تطوير أنظمة الذكاء الاصطناعي المتقدمة، محذرة من أن التكنولوجيا تتحسن بسرعة كبيرة بحيث يوجد خطر أن يفقد البشر السيطرة.

قالت الشركة التي تقف وراء برنامج Claude chatbot في تدوينة يوم الخميس إنه مع تزايد سرعة الذكاء الاصطناعي المتطور في تنفيذ المهام، “سيكون من الجيد للعالم أن يكون لديه خيار إبطاء تطوره أو إيقافه مؤقتًا”.

وقالت Anthropic إن معهد الأبحاث الداخلي التابع لها يخطط لاستكشاف المشكلة بالتعاون مع الآخرين و”اتخاذ الإجراءات” للمساعدة في بناء الأنظمة اللازمة للتباطؤ أو التوقف المؤقت بشكل موثوق، دون أن تكون أكثر تحديدًا.

جادل المنافس الإنساني OpenAI لصالح اتباع نهج مختلف في تقرير نُشر يوم الأربعاء، قائلًا إن “الحكومات الديمقراطية – وليس الشركات الخاصة التي تعمل بمفردها – يجب أن تحدد في النهاية القواعد والضمانات وآليات المساءلة”.

وقالت: “وجهة نظرنا هي أن القرارات المتعلقة بوتيرة ابتكار الذكاء الاصطناعي لا ينبغي تركها لأي مختبر أو شركة أو مجموعة اهتمامات خاصة”.

وقالت أنثروبيك في منشورها إن نماذج الذكاء الاصطناعي أصبحت أسرع، مع زيادات سريعة في مدى سرعة تنفيذ مهام برمجية مثل البرمجة بنفسها. واستنادًا إلى الاتجاهات الحالية ومع توفر قوة حاسوبية كافية، يمكن لنظام الذكاء الاصطناعي أن يكون قادرًا على تصميم وتطوير خليفته، فيما يُعرف باسم “التحسين الذاتي العودي”.

وقالت أنثروبيك إن بناء الذكاء الاصطناعي ذاتيًا سيكون بمثابة معلم تكنولوجي كبير من شأنه أن يجلب فوائد في العلوم والرعاية الصحية ومجالات أخرى، لكنه “قد يزيد أيضًا من مخاطر فقدان البشر السيطرة على أنظمة الذكاء الاصطناعي”.

وقد حذرت بعض الشخصيات في صناعة التكنولوجيا منذ فترة طويلة من مثل هذا السيناريو.

يأتي منشور Anthropic بعد تحذير مختلف هذا الأسبوع من فريق من الباحثين في جامعة تورنتو الذين أظهروا كيف يمكن استخدام أدوات الذكاء الاصطناعي لإنشاء نوع جديد من “دودة” الذكاء الاصطناعي التي تتكيف مع استراتيجية القرصنة الخاصة بها حيث تنتشر من جهاز إلى جهاز وتسيطر على شبكة حوسبة واسعة.

وقال نيكولاس بابيرنوت، الباحث الرئيسي، في مقابلة: “أعتقد أنه من المهم حقًا أن يفهم الناس أن نماذج اللغة الأكبر والأقوى ليست فقط هي التي تشكل المخاوف الأمنية”.

مؤلفو المنصب الأنثروبيوقال المؤسس المشارك للشركة جاك كلارك ومارينا فافارو، رئيس معهد الأبحاث التابع للشركة، إن التوقف المؤقت سيتم استخدامه لتمكين “الهياكل المجتمعية وأبحاث المواءمة” من مواكبة تقدم الذكاء الاصطناعي. المحاذاة هي اختصار صناعي للتأكد من أن التكنولوجيا تتوافق مع القيم والنوايا الإنسانية.

ومن شأن التنسيق المقترح أن يسمح لمختبرات الذكاء الاصطناعي المتقدمة بالتحقق من أن المنافسين العالميين قد أوقفوا أو أبطأوا عملهم بالفعل، “وأن جهة فاعلة سيئة لا يمكنها استخدام رعاية التباطؤ المنسق للمضي قدمًا سراً”.

وقالت الشركة إن هناك حاجة إلى آلية عالمية منسقة، لأنه بدونها، فإن التباطؤ في تطوير الذكاء الاصطناعي يمكن أن يسمح للاعبين “الأقل حذراً” باللحاق بالركب وزيادة الضغط على الشركات والحكومات عندما يتخذون خيارات صعبة بشأن سلامة الذكاء الاصطناعي.

تزايدت المخاوف من أن أنظمة الذكاء الاصطناعي المتقدمة قد تخرج عن نطاق السيطرة البشرية وتتسبب في ضرر مجتمعي مع تزايد قدرة التكنولوجيا. أرسل نموذج Mythos الخاص بشركة Anthropic موجات صادمة عبر الصناعات، بما في ذلك الخدمات المصرفية والبرمجيات، في وقت سابق من هذا العام بفضل قدرته على العثور على نقاط الضعف في التعليمات البرمجية الحالية.

لكن التنظيم كان بطيئا، وخاصة في الولايات المتحدة، حيث توجد معظم مختبرات الذكاء الاصطناعي الرائدة. وألقى أمر تنفيذي أصدرته إدارة ترامب في وقت سابق من هذا الأسبوع المسؤولية على عاتق المختبرات نفسها، وطلب منها أن تقدم طوعًا نماذجها الأكثر قدرة لاختبار الأمن السيبراني الحكومي قبل الإصدار العام.

التركيز على السلامة

وقد حث باحثو الذكاء الاصطناعي أيضًا على التوقف مؤقتًا من قبل، لكنهم لم يحققوا نجاحًا يذكر. كان إيلون ماسك، الذي يمتلك مختبر الذكاء الاصطناعي xAI، من بين الداعمين لمبادرة معهد مستقبل الحياة غير الربحي في عام 2023 لوقف تطوير الذكاء الاصطناعي لمدة ستة أشهر لإتاحة الوقت لبناء حواجز السلامة.

لقد وضعت أنثروبيك نفسها منذ فترة طويلة كمختبر للذكاء الاصطناعي يركز على السلامة. وفي وقت سابق من هذا العام، رفضت السماح للجيش الأمريكي باستخدام نماذجها للمراقبة المحلية والأسلحة المستقلة بالكامل، مما أثار رد فعل عنيفًا من الحكومة، التي وضعتها على القائمة السوداء للأمن القومي، والتي من المقرر أن تدخل حيز التنفيذ في وقت لاحق من عام 2026.

يأتي منشور Anthropic في الوقت الذي تتسابق فيه الشركة وشركة OpenAI المصنعة لـ ChatGPT لبيع الأسهم في سوق الأسهم، في طرح عام أولي قد يقدر قيمة Anthropic بما يقرب من تريليون دولار.

أخطر Papernot سلطات الأمن السيبراني الكندية قبل إصدار تقريره، الذي يوضح كيف قام الباحثون بتطوير الدودة في المختبر باستخدام أداة ذكاء اصطناعي “مفتوحة المصدر” يسهل على مطوري البرامج الوصول إليها وتعديلها بتكلفة زهيدة.

وقال: “في الماضي، كان المهاجمون السيبرانيون يركزون على أهداف ذات قيمة عالية للغاية”. “الأنظمة المصرفية والمستشفيات وشبكات الكهرباء وأنظمة معالجة المياه والمدارس.”

واتفق Papernot على أنه ينبغي أن يكون هناك المزيد من التعاون بين الشركات والوكالات الحكومية والباحثين الأكاديميين لتطوير التدابير المضادة حيث تعمل أدوات القرصنة التي تعمل بالذكاء الاصطناعي على تعزيز البحث عن ثغرات الكمبيوتر.

وقال: “هذا الكمبيوتر المحمول القديم الموجود في الطابق السفلي الخاص بك والذي لا تقوم بفحصه بانتظام لا يبدو هدفًا عالي القيمة، ولكن يمكن استخدامه كمنصة إطلاق لمهاجمة هذه الأهداف ذات القيمة الأعلى”. “أي شيء متصل بالإنترنت أصبح الآن في خطر بسبب انخفاض تكلفة شن هذه الهجمات الإلكترونية.”