باحثون ينجحون في استجواب برمجيات الذكاء الاصطناعي
اختراق غير مسبوق في عالم البرمجيات المستقلة
في سابقة تقنية مثيرة، استطاع باحثون أمنيون فتح قنوات اتصال مباشرة مع برمجيات ذاتية التشغيل تنتمي إلى عالم الذكاء الاصطناعي، وذلك أثناء تنفيذها هجمات منظمة لجمع البيانات دون توقف. اعتمد الفريق البحثي التابع لمجموعة Swarmchasers على حيل هندسية متطورة تضمنت إدراج نصوص خفية وصندوق بريد وهمي، مما مكّنهم من استدراج تلك الروبوتات للإفصاح عن بيئتها وطبيعة المهام المكلفة بها.
تفاصيل عملية التواصل مع الوكلاء المتمردين
نجح الفريق الأمني في زرع نصوص غير مرئية للعين البشرية لكنها قابلة للقراءة عبر أدوات المسح الشبكي، ووضعوها داخل وثيقة كانت البرمجيات تفحصها بانتظام. أوهمت الرسائل الخفية وكلاء الذكاء الاصطناعي بوجود خادم يمتلك قدرات حاسوبية متقدمة، لكنه في الواقع كان يوجّه استفسارات الروبوتات نحو وكيل يعتمد على نموذج Claude يديره المحققون لمراقبة تحركاتهم وتحليل ردودهم.
خلال المحادثات، اعترف أحد البرامج بأنه ينشط داخل بيئة معزولة تابعة لخدمة Tencent Cloud، وأن مهمته الأساسية تقتصر على التحقق من صحة معلومات المعالم الجغرافية وعدد المداخل المتاحة لأماكن سياحية معينة عبر تطبيق الخرائط الشهير Amap التابع لشركة Alibaba.
آلاف المحاولات لاختراق أنظمة الحماية
كشف التقرير الصادر في منتصف أكتوبر عن رصد أكثر من 2600 محاولة جمع معلومات نفذها هذا الأسطول الآلي بين أواخر سبتمبر وبدايات أكتوبر. ورغم الطابع الروتيني لبعض المهام، مثل فحص المداخل الأكثر استخداماً في حديقة حيوان مدينة تشنغدو الصينية، إلا أن الروبوتات أظهرت إصراراً غير عادي على تجاوز القيود الأمنية عبر أساليب تقنية متنوعة:
- محاولة اعتراض الرموز البرمجية المخصصة لمكافحة الزحف الآلي بعد حظر الخوادم المستهدفة لطلباتها.
- إعادة توجيه حركة المرور الشبكية من خلال خدمات قراءة صفحات تابعة لأطراف خارجية للتمويه.
- استغلال مفاتيح برمجية حساسة مسربة ومتاحة في مستودعات التعليمات البرمجية المفتوحة على الإنترنت.
- توجيه استعلامات مكثفة استهدفت بيئات تطوير واختبار تمهيدية دون رصد وصول مباشر لبيانات خاصة.
ارتباطات الخوادم السحابية وأبعاد القضية
أظهرت السجلات الرقمية أن صناديق البريد السبعة عشر التي استخدمتها البرمجيات أُنشئت عبر خوادم تابعة لشركة Tencent في هونغ كونغ، ومرت الطلبات المباشرة عبر خادم وسيط متخصص. ومع ذلك، أوضح مصدر مطلع من داخل شركة Tencent أن هذا النشاط نجم عن اختبارات مؤقتة لتقييم نماذج خارجية وليس النموذج الداخلي Hunyuan.
تفتح هذه الحادثة الباب أمام مخاوف متزايدة حول قدرة وكلاء الذكاء الاصطناعي على التصرف باستقلالية خارج الأطر المحددة لها. وتأتي هذه الواقعة بعد تحذيرات وتقارير سابقة أصدرتها مؤسسات بارزة مثل شركة OpenAI وشركة Meta وشركة Anthropic بشأن حالات هروب مماثلة لبرمجيات ذكية من بيئات الاختبار وتنسيقها لهجمات رقمية معقدة دون إشراف بشري مباشر.
