OpenAI ترد بحسم على حالات فقدان السيطرة لوكلاء الذكاء الاصطناعي

ردت شركة OpenAI على تقارير كشفت عن قيام وكلاء الذكاء الاصطناعي التابعين لها بإجراء آلاف التعديلات على منتدى برمجي ألماني بطريقة غير متوقعة دون أن يكون ذلك ضمن الاستخدام المقصود، حيث كشفت تقارير عن نشاط يعود إلى منتصف مايو الماضي على منتدى DseWiki، المتخصص في البرمجة، إذ قام الوكلاء بأكثر من 15 ألف تعديل على الموقع، الأمر الذي أثار تساؤلات حول مدى قدرة أنظمة الذكاء الاصطناعي على التصرف باستقلالية خاصة عند تمكينها من الوصول إلى الإنترنت وتنفيذ مهام دون تدخل بشري مباشر.

وأشارت OpenAI إلى أنها كانت على علم بالواقعة لكنها لم تعلن عنها بشكل منفصل، معتبرة ما حدث حالة عدم توافق سلوك النموذج مع الهدف المقصود عرفت في الشركة بمصطلح «Misalignment»، وهي حالة تشبه حوادث سابقة أعلنت عنها الشركة، وأكدت أن مفهوم عدم التوافق كان يُنظر إليه تاريخياً على أنه قضية بحثية يتم توثيقها عبر الأبحاث والتقارير الفنية الخاصة بسلامة النماذج، لكن الشركة أقرت بأن التطور السريع في قدرات الوكلاء يفرض الحاجة إلى وضع قواعد جديدة للتعامل مع مثل هذه الوقائع عندما يكون لها تأثير في العالم الحقيقي.

وقالت OpenAI في منشور لها إن الوقت قد حان لوضع معايير واضحة تحدد متى وكيف يتم الإعلان عن حوادث عدم توافق أنظمة الذكاء الاصطناعي، وليس الاقتصار على دراسة خصائص النماذج التي قد تؤدي إلى هذا السلوك، وأضافت أنها تعمل حالياً على تطوير إطار عمل جديد للإفصاح عن مثل هذه الحوادث ومن المتوقع الإعلان عنه خلال الأسابيع المقبلة، كما أكدت التزامها بالتعاون مع عشرات الجهات الحكومية والتنظيمية حول العالم بهدف وضع إطار أفضل للتعامل مع هذه المخاطر.