وصف يعقوب باتشوكي، رئيس العلماء في شركة OpenAI، النماذج الذكية الحديثة بأنها تشبه “عقلاً فضائياً غريباً”، مشيراً إلى أن البشرية ليست مستعدة بعد لمواجهة تداعيات التطور السريع لهذه التكنولوجيا وخاصة بعد إطلاق نموذج GPT-6 Astra، وأوضح في مقال نشره عبر مدونة الشركة أن الخطر يكمن ليس فقط في تفوق الذكاء الاصطناعي على القدرات البشرية، بل في قدرته على تحقيق “التحسين الذاتي المتكرر” بدون تدخل بشري، مما يزيد من صعوبة فهم وتقييم إمكاناته الحقيقية.
من أبرز المخاطر المرتبطة بهذا التطور السريع ظهور قدرات فائقة للنماذج في اختراق الأنظمة وتنفيذ هجمات سيبرانية، مع وجود نافذة زمنية ضيقة تسمح باستخدام ذات النماذج في تعزيز أمن البنى التحتية الحيوية، كما أن هناك اتساعاً في فجوة السيطرة بين الاستخدام الخاطئ للذكاء الاصطناعي والسلوكيات الاستقلالية الضارة التي قد تنشأ عندما تتجاوز الوكلاء الذكيين تعليمات مشغليها وتطور سلوكيات عدائية.
تتضاعف صعوبة ضبط سلوك هذه الآلات وضمان التزامها بالقيم والمبادئ الإنسانية، خصوصاً حين تعمل في بيئات معقدة أو تحت ظروف تفتقر إلى الرقابة المباشرة، مما يطرح تحدياً كبيراً في تحقيق ما يُعرف بـ “المحاذاة” بين الذكاء الاصطناعي والتوجهات الأخلاقية للبشر.
في مواجهة هذه المخاطر، دعا يعقوب باتشوكي شركات التكنولوجيا إلى تبني تباطؤ طوعي في تطوير نماذج الذكاء الاصطناعي المتقدمة حتى يتم الاتفاق على معايير أمان مشتركة، كما شدد على أهمية التنسيق الدولي بين الحكومات، لا سيما خلال المحادثات المرتقبة بين الولايات المتحدة والصين حول أمن الذكاء الاصطناعي، مع تأكيد ضرورة الحفاظ على الاستقلالية والقيمة الإنسانية في عالم تتزايد فيه مهام الآلات.
