ابتكر المجرمون نسخ ChatGPT الخاصة بهم

يقول كريشنان إن منشئ النظام نشر مقطع فيديو يظهر أنه يظهر تشغيل روبوت المحادثة وينشئ رسالة بريد إلكتروني مخادعة. كانوا يحاولون أيضًا بيع الوصول إلى النظام مقابل 200 دولار شهريًا ، أو بتكلفة سنوية قدرها 1700 دولار. يقول كريشنان إنه في المحادثات مع المطور وراء FraudGPT ، ادعوا أن لديهم بضع مئات من المشتركين ودفعوا للبيع ، بينما يبدو أن منشئ WormGPT قد تلقى مدفوعات في عنوان محفظة عملة مشفرة شاركوه. يقول كريشنان: “كل هذه المشاريع في مهدها”. ويضيف ، “ليس لدينا الكثير من التعليقات” حول ما إذا كان الأشخاص يشترون الأنظمة أو يستخدمونها.

بينما يدعي أولئك الذين يروجون لبرامج الدردشة الآلية أنها موجودة ، فمن الصعب التحقق من تركيب الأنظمة وشرعيتها. من المعروف أن المخادعين المجرمين عبر الإنترنت يقومون بخداع المحتالين الآخرين ، حيث أظهرت الأبحاث السابقة أنهم كثيرًا ما يحاولون تمزيق بعضهم البعض ، ولا يقدمون ما يزعمون أنهم يبيعونه ، ويقدمون خدمة عملاء سيئة. يقول سيرجي شيكيفيتش ، مدير مجموعة استخبارات التهديدات في شركة الأمن Check Point ، إن هناك بعض التلميحات بأن الناس يستخدمون WormGTP. يقول شيكيفيتش: “يبدو أن هناك أداة حقيقية”. ويقول إن البائع الذي يقف وراء الأداة “موثوق نسبيًا” وله تاريخ في منتديات الجرائم الإلكترونية.

يقول شيكيفيتش إن هناك أكثر من 100 رد على منشور واحد حول WormGPT ، على الرغم من أن البعض منهم يقولون إن البائع لم يستجيب كثيرًا لاستفساراتهم والبعض الآخر “لم يكن متحمساً للغاية” بشأن النظام. Shykevich أقل اقتناعا بأصالة FraudGPT – ادعى البائع أيضًا أن لديه أنظمة تسمى DarkBard و DarkBert. يقول Shykevich أن بعض مشاركات البائع قد أزيلت من المنتديات. في كلتا الحالتين ، يقول الباحث Check Point أنه لا توجد علامة على أن أيًا من الأنظمة أكثر قدرة من ChatGPT أو Bard أو LLMs التجارية الأخرى.

يقول كيلي إنه يعتقد أن المزاعم حول LLM الخبيثة التي تم إنشاؤها حتى الآن “مبالغ فيها قليلاً”. لكنه يضيف ، “هذا لا يختلف بالضرورة عما تفعله الشركات المشروعة في العالم الحقيقي.”

على الرغم من التساؤلات حول الأنظمة ، فليس من المفاجئ أن مجرمي الإنترنت يريدون الدخول في طفرة LLM. حذر مكتب التحقيقات الفيدرالي FBI من أن مجرمي الإنترنت يبحثون في استخدام الذكاء الاصطناعي التوليفي في عملهم ، وأصدرت وكالة إنفاذ القانون الأوروبية يوروبول تحذيراً مماثلاً. تقول وكالات إنفاذ القانون إن LLM يمكن أن تساعد مجرمي الإنترنت في الاحتيال وانتحال الهوية والهندسة الاجتماعية الأخرى بشكل أسرع من ذي قبل وكذلك تحسين لغتهم الإنجليزية المكتوبة.

عندما يحظى أي منتج أو خدمة أو حدث جديد باهتمام الجمهور – من باربي فيلم عن جائحة Covid-19 – يندفع المحتالون لإدراجه في مدفعية القرصنة الخاصة بهم. حتى الآن ، خدع المحتالون الأشخاص لتنزيل برامج ضارة لسرقة كلمات المرور من خلال إعلانات مزيفة لـ ChatGPT و Bard و Midjourney وأنظمة الذكاء الاصطناعي الأخرى على Facebook.

اكتشف الباحثون في شركة الأمن Sophos مشغلي ذبح الخنازير والخداع الرومانسية بطريق الخطأ بما في ذلك نص تم إنشاؤه في رسائلهم – “كنموذج لغوي لـ” أنا “، ليس لدي مشاعر أو عواطف مثل البشر” ، قالت إحدى الرسائل. كما قام المتسللون أيضًا بسرقة الرموز المميزة لتزويدهم بإمكانية الوصول إلى واجهة برمجة تطبيقات OpenAI والوصول إلى برنامج الدردشة الآلي على نطاق واسع.

في تقرير WormGPT ، أشار كيلي إلى أن مجرمي الإنترنت غالبًا ما يشاركون عمليات الهروب من السجن التي تسمح للناس بتجاوز قيود الأمان التي وضعها صانعو LLMs المشهورين. ولكن حتى الإصدارات غير المقيدة من هذه النماذج ، لحسن الحظ ، قد لا تكون مفيدة لمجرمي الإنترنت في شكلها الحالي.

يقول Shykevich ، الباحث في Check Point ، إنه حتى عندما رأى مجرمي الإنترنت يحاولون استخدام النماذج العامة ، فإنهم لم يكونوا فعالين. يمكنهم “إنشاء سلالات برامج الفدية ، وسرقة المعلومات ، ولكن ليس أفضل من مطور عادي” ، كما يقول. ومع ذلك ، لا يزال أولئك الموجودون في منتديات الجرائم الإلكترونية يتحدثون عن صنع نسخ خاصة بهم ، كما يقول شيكيفيتش ، وسوف يتحسنون في استخدام الأنظمة فقط. لذا كن حذرا مما تنقر عليه.

تحديث: 4:15 مساءً بالتوقيت الشرقي ، 7 أغسطس 2023: أخطأت نسخة سابقة من هذه المقالة في كتابة اسم لقب دانيال كيلي. نحن نأسف للخطأ.