معادلة تتنبأ بانحراف روبوتات الدردشة نحو المحتوى الضار

ابتكار علمي يرصد السلوك السلبي للذكاء الاصطناعي

نجح فيزيائيون من جامعة جورج واشنطن في تطوير معادلة رياضية تستطيع تقدير عدد الإجابات السليمة التي تقدمها روبوتات الدردشة قبل أن تنزلق فجأة نحو إنتاج محتوى ضار أو مسيء. ويمثل هذا الابتكار خطوة نوعية لمعالجة معضلة طالما واجهت المطورين، حيث تبدأ النماذج بحوارات عقلانية ومنطقية لفترات طويلة ثم تنحرف فجأة لتقديم نصائح خطيرة تمس السلامة الشخصية أو تروج لخطابات متطرفة دون سابق إنذار.

كيف تعمل آلية التنبؤ بنقطة التحول؟

نشر الباحثان نيل جونسون وفرانك يينغجي هو دراستهما في مجلة Patterns العلمية، حيث فسرا المشكلة بالرجوع إلى ما يُعرف بآلية الانتباه (Attention Head) في بنية النماذج اللغوية. وتعمل هذه الآلية على تحديد الكلمات السابقة الأكثر أهمية في المحادثة لتحديد الكلمة التالية، ومع اتساع سياق الحديث، يجذب التراكم اللغوي النموذج تدريجياً نحو اتجاه معين حتى يصل إلى نقطة الانهيار.

وتعتمد المعادلة الجديدة على قياس نقطة التحول الرمزية التي يطلق عليها الرمز الرياضي n، والتي تحسب عدد الوحدات اللغوية السليمة الصادرة قبل ظهور أول وحدة ضارة:

• التحول الفوري: يحدث عندما يقترب سياق المحادثة من المناطق الخطرة منذ البداية، فتصبح قيمة n صفراً وينحرف النموذج مباشرة.
• التحول المتأخر: يقدم خلاله النظام سلسلة من الردود المقبولة، قبل أن يغير مساره بصورة مفاجئة بعد تجاوز عتبة الأمان.

دقة عالية في الاختبارات التجريبية

أثبتت التجارب الأولية فاعلية المعادلة بنجاح باهر؛ إذ تمكنت من تحديد مسار الاستجابة بدقة في 15 حالة من أصل 16 اختباراً حاسماً، محققة نسبة دقة بلغت 94%. وشملت التجارب ستة نماذج مفتوحة المصدر طورتها جهات متخصصة تشمل شركة OpenAI ومؤسسة EleutherAI وشركة Meta، بأحجام تراوحت بين 124 مليوناً و410 ملايين معامل.

ووسعت الورقة البحثية نطاق الاختبارات لاحقاً ليشمل سبعة نماذج يصل حجمها إلى 12 مليار معامل، مؤكدة قدرة الصيغة الحسابية على رصد الانحرافات اللغوية عبر نطاقات برمجية أوسع.

حماية الأنظمة التي تعمل دون اتصال بالإنترنت

تستهدف هذه التقنية بشكل خاص نماذج الذكاء الاصطناعي المصممة للعمل محلياً داخل الهواتف الذكية وأجهزة الحاسوب دون الحاجة للاتصال بالسحابة الإلكترونية، مثل تطبيق AI Edge Gallery التابع لشركة Google، حيث تفتقر هذه الأجهزة إلى أنظمة التصفية السحابية المركزية المعتادة لمراقبة المحتوى في الوقت الفعلي.

يقترح الباحثون دمج نظام مراقبة موازٍ ومنخفض التكلفة داخل الأجهزة المحمولة يعمل كلوحة تنبيه تحذر المستخدم أو النظام بمجرد اقتراب مؤشر الأمان من عتبة الخطر، مع إمكانية التدخل المباشر لإعادة ضبط سياق المحادثة وإبعاد نقطة التحول عن مسار التفاعل القائم.