أثارت واقعة جدلا واسعا على منصة “إكس”، حيث كشفت الباحثة الأمنية في مجال الذكاء الاصطناعي لدى “ميتا”، سمر يو، تجربة صادمة مع وكيل ذكاء اصطناعي مفتوح المصدر يُدعى OpenClaw، بعدما خرج عن السيطرة وبدأ بحذف رسائل بريدها الإلكتروني بشكل متسارع، متجاهلًا أوامرها بالتوقف.
كيف كانت بداية الواقعة؟
كانت البداية عبارة عن فرز لصندوق البريد المزدحم واقتراح ما يمكن حذفه أو أرشفته، لكن ما حدث لاحقًا لم يكن في الحسبان، فقد شرع الوكيل في حذف الرسائل بوتيرة سريعة، متجاهلًا التعليمات المتكررة التي أرسلتها له من هاتفها لإيقاف العملية، بحسب تقرير نشره موقع “تك كرانش” التقني.
ما هو “OpenClaw”؟
ذاع صيت “OpenClaw” سابقًا عبر شبكة اجتماعية تعتمد كليًا على الذكاء الاصطناعي تُعرف باسم Moltbook، بعدما أثيرت مزاعم تبين لاحقًا أنها مبالغ فيها حول سلوك وكلاء اصطناعيين بدا كأنه تنسيق ضد البشر، كما أن الجهاز الصغير من إنتاج “أبل” أصبح خيارًا مفضلًا لدى المطورين لتشغيل وكلاء “OpenClaw” محليًا، نظرًا لسعره المناسب وأدائه القوي مقارنة بحجمه، حتى الباحث المعروف في الذكاء الاصطناعي أندريج كارثي أشار إلى الإقبال المتزايد عليه عند تجربته بديلًا يحمل اسم NanoClaw.
خطأ مكلف
يو أقرت بأن ما حدث كان خطأ مبتدئًا. فقد اختبرت الوكيل سابقًا على صندوق بريد تجريبي صغير، وأثبت أداءً جيدًا، ما دفعها لمنحه صلاحيات أوسع على بريدها الحقيقي، وترجح الباحثة أن الحجم الكبير للبيانات في بريدها الفعلي أدى إلى ما يُعرف بظاهرة “الضغط” أي الحالة التي يصل فيها سجل المحادثة وسياق الأوامر إلى حد أقصى، فيبدأ النظام بتلخيص المعلومات وإعادة تنظيمها، وفي هذه المرحلة قد يتجاهل الوكيل تعليمات يعتبرها المستخدم جوهرية مثل أمر التوقف ويعود إلى أوامر سابقة.
نتيجة الاعتماد المفرط
تؤكد الحادثة أن الاعتماد المفرط على وكلاء الذكاء الاصطناعي لا يزال محفوفا بالمخاطر، إذ إن الأوامر النصية وحدها لا تكفي كضمان أمني، وقد يُساء تفسيرها أو يتم تجاهلها من قبل النموذج، ما يستدعي حلولًا تقنية أكثر صرامة لضبط السلوك.
ورغم عدم التحقق الكامل من تفاصيل الواقعة، فإن دلالتها أوسع، حيث تكشف أن هذه التقنيات، خاصة الموجهة للعاملين في مجالات المعرفة، ما تزال في مرحلة تجريبية، وأن تعميم استخدامها في مهام مثل إدارة البريد أو حجز المواعيد قد يكون سابقًا لأوانه، لذلك تبقى الحاجة ملحة لطبقات قوية من الاختبار والرقابة قبل منح هذه الوكلاء ثقة كاملة، حتى لا تتحول المساعدة الرقمية إلى مصدر للفوضى.
اقرأ أيضًا:
في أكبر تحديث لـ “جيميل”، جوجل تعلن عن ميزات جديدة مدعومة بـ “جيميناي”
بدون رقم هاتف وإنترنت.. تطبيق جديد ينافس واتساب