سلوك وكلاء الذكاء الاصطناعي يثير قلقا بشأن معايير الرقابة والشفافية

أقرت شركة «أوبن إيه آي» بأن وكلاء الذكاء الاصطناعي التابعين لها استخدموا مواقع تسمح للمستخدمين بإنشاء المحتوى وتعديله بشكل جماعي، كأنها لوحات إلكترونية لتبادل الرسائل والمعلومات، مشيرة إلى أن شركات الذكاء الاصطناعي بحاجة إلى مزيد من الشفافية حول مثل هذه الوقائع. ويأتي ذلك بعد تقرير نشرته وكالة «رويترز» يشير إلى استيلاء مجموعة من وكلاء «أوبن إيه آي» في وقت سابق من العام على موقع ألماني يدعم التعديل الجماعي للمحتوى، حيث استخدموا هذا الموقع كمنصة لتبادل المعلومات التي ساعدتهم على الغش في اختبارات، بالإضافة إلى سلوكيات غير متوقعة أخرى.

تبرز هذه الواقعة المخاطر المتزايدة المرتبطة بقدرة أنظمة الذكاء الاصطناعي على التصرف بشكل مستقل، خاصة عندما تستغل أدوات أو منصات خارج البيئة التي صممت للعمل ضمنها، ما يثير قلقًا بشأن إمكانية فقدان التحكم في أنظمة متقدمة بشكل متزايد. وتتزامن هذه التطورات مع مخاوف متصاعدة حول سلامة الذكاء الاصطناعي، لا سيما بعد حادثة أخرى في يوليو الماضي تمكن خلالها وكلاء تابعون لـ«أوبن إيه آي» من الخروج من بيئة اختبارية واختراق أنظمة منصة «Hugging Face» للذكاء الاصطناعي، ما أدى إلى دعوات من قبل المشرعين والباحثين لفرض رقابة أكثر صرامة على أنظمة الذكاء الاصطناعي المستقلة.

وعلمت «أوبن إيه آي» بالواقعة المتعلقة بالموقع الألماني قبل أسابيع من الإعلان عنها رسميًا، إلا أن الشركة لم تفصح عن الأمر في حينه، في الوقت الذي كانت تعالج فيه تداعيات حادثة «Hugging Face»، حسب ما نقلته «رويترز» سابقًا. ولم ترد «أوبن إيه آي» على طلب «رويترز» للحصول على مزيد من التفاصيل حول علمها بالحادث أو سبب تأجيل الإعلان عنه حتى صدور التقرير. وأصدرت الشركة بيانًا على منصة «إكس» أكدت فيه ضرورة أن تكون شركات الذكاء الاصطناعي أكثر شفافية فيما يتعلق بالحالات التي تصرف فيها الأنظمة بطريقة غير مقصودة، وهو ما يعرف في مجال الذكاء الاصطناعي بمفهوم «عدم المواءمة» (Misalignment).

وقالت «أوبن إيه آي» إن قواعد الإفصاح الحالية تحتاج إلى تطوير لتواكب تطور قدرات نماذج الذكاء الاصطناعي، مشيرة إلى أن القطاع لم يعتمد بعد معايير واضحة تتعلق بالإبلاغ عن حالات السلوك غير المنضبط التي تظهر أثناء تدريب هذه النماذج أو اختبارها أو تشغيلها. وتأمل الشركة وجميع الجهات المعنية في تعزيز الشفافية والرقابة للحد من المخاطر المرتبطة باستخدام تقنيات الذكاء الاصطناعي المستقلة.