دعوات لإبطاء تطوير الذكاء الاصطناعي مخافة نهاية البشرية

تحذيرات من التسارع المفرط في تطوير الذكاء الاصطناعي

دعا داريو أمودي، الرئيس التنفيذي لشركة Anthropic، إلى ضرورة كبح السرعة الفائقة التي تتقدم بها تقنيات الذكاء الاصطناعي، محذرًا من أن النماذج المتقدمة قد تؤدي إلى مخاطر كارثية تصل إلى حد انقراض البشرية. وتأتي هذه التصريحات البارزة في وقت تستعد فيه الشركة لإطلاق اكتتاب عام أولي قد يصبح الأكبر في تاريخ الولايات المتحدة، متجاوزًا الاكتتاب الأخير لشركة SpaceX بتقييم مستهدف يصل إلى تريليوني دولار.

وأوضح أمودي في منشور عبر مدونته الشخصية أن معالجة المخاطر بشكل فعال تتطلب الحذر والتروي، مؤكدًا أن الاستثمار في الوقاية وحده لا يكفي، بل يجب الاستمرار في تنظيم معدل تقدم القدرات التقنية لمنح إجراءات السلامة الوقت الكافي للتطور والتكيف. ويأتي هذا بعد أيام قليلة من تصريحات إيفان هوبينجر، مسؤول علوم المحاذاة في شركة Anthropic، الذي أشار إلى وجود احتمال يزيد على 10% لأن يتسبب الذكاء الاصطناعي في إنهاء الوجود البشري خلال العقد المقبل.

أسباب المخاوف: التحسين الذاتي التكراري وسرب الوكلاء

سلط رئيس شركة Anthropic الضوء على عاملين رئيسيين دفتاه لإطلاق هذا النداء لتهدئة السرعة:

• التطوير الذاتي التكراري: تسارعت وتيرة التقدم بشكل ملحوظ منذ صيف هذا العام، بعدما أصبحت الأنظمة قادرة على بناء الجيل التالي من أنظمة الذكاء الاصطناعي ذاتيًا. وأكد أمودي أن ترك هذه الظاهرة دون رقابة قد يجعل التكنولوجيا تتجاوز قدرة البشر على الفهم والسيطرة.
• مخاطر السيطرة الرقمية: بالإشارة إلى الحادثة الأخيرة بين شركة OpenAI وموقع Hugging Face، حذر أمودي من أن سربًا من وكلاء الذكاء الاصطناعي قد يسيطر على شبكة الإنترنت خلال فترة تراوح بين 6 إلى 12 شهرًا القادمة إذا استمر التطور بالمعدل الحالي.

خطة عمل من ثلاث خطوات لتنظيم قطاع التكنولوجيا

اقترح الرئيس التنفيذي لشركة Anthropic خطة علاجية تتألف من ثلاث خطوات رئيسية لضمان الأمان والسلامة:

1. إتاحة الوصول للمقيّمين المستقلين

أن تلتزم كل شركة مطورة لنماذج الفئات المتقدمة بمنح فريق من المقيّمين المستقلين وصولًا مستمرًا يشبه صلاحيات الموظفين الداخليين، لضمان الامتثال الصارم لمعايير الأمان.

2. تنسيق المعايير بين الدول الديمقراطية

أن تتيح الشركات الكبرى في الدول الديمقراطية العمل المشترك لوضع معايير سلامة موحدة، وفرض حدود تنظيمية تمنع التقدم غير المحسوب.

3. التعاون الدولي والتنسيق الشامل

أن تسعى الحكومات الديمقراطية إلى التنسيق مع الحكومات الأخرى عالميًا لضمان آليات التحقق من الامتثال على مستوى دولي شامل.

دعم وتأييد من كبار قادة التكنولوجيا

حذت هذه المبادرة حذوها بين قادة القطاع، حيث لاقت دعمًا مباشرًا من شخصيات بارزة مثل إيلون ماسك والرئيس التنفيذي لشركة OpenAI، سام ألتمن. وأكد ألتمن عبر منصة X اتفاقه التام مع ضرورة تنظيم سرعة التقدم، مشيرًا إلى أن شركة OpenAI ستلتزم أيضًا بمنح صلاحيات للمقيّمين المستقلين لضمان مستقبل أكثر أمانًا للتكنولوجيا.