خبير أمان يحذر من تصاعد مخاطر الذكاء الاصطناعي على مستقبل البشرية

يتسارع تطوير أنظمة الذكاء الاصطناعي لتصبح أكثر قدرة واستقلالية، لكن هذا التقدم يثير تساؤلات حول قدرة البشر على مراقبة هذه الأنظمة والسيطرة عليها، لذلك لجأت شركة OpenAI إلى الاستعانة بأحد أبرز المتخصصين في أمان الذكاء الاصطناعي من أجل تعزيز جهودها في هذا المجال.

انضم الباحث بول كريستيانو إلى مجلس إدارة مؤسسة OpenAI وأصبح عضوًا في لجنة السلامة والأمن، وهذا يعكس تصاعد أهمية ملف أمان الذكاء الاصطناعي داخل واحدة من أكبر الشركات المتخصصة في التقنية الذكية، كما حذر كريستيانو من خطورة الوصول إلى أنظمة ذكاء اصطناعي فائقة القدرة بدون ضمانات قوية للمواءمة والسيطرة، لأنه قد يؤدي ذلك إلى عواقب كارثية، قد تصل إلى فقدان البشر السيطرة على هذه الأنظمة.

تزداد المخاوف بسبب أن أنظمة الذكاء الاصطناعي لم تعد تقتصر على تقديم الإجابات فحسب، بل تتجه النماذج الحديثة نحو تنفيذ مهام متعددة، والتعامل مع الأدوات والبيانات، واتخاذ قرارات بصورة أكثر استقلالية، لذلك يرى الخبراء أن زيادة استقلالية هذه الأنظمة تفرض تحديًا جديدًا يتطلب تطوير وسائل أكثر فعالية لاختبارها ومراقبتها وإيقافها عند الحاجة.

يأتي تعيين كريستيانو في ظل سباق محتدم بين شركات التكنولوجيا لتطوير نماذج ذكاء اصطناعي أكثر تقدمًا، بينما تتزايد التحذيرات من أن قدرة هذه الأنظمة قد تتجاوز سرعة تطوير قواعد الأمان والرقابة، وهذا لا يعني حتمية وقوع كارثة عالمية، لكن الرسالة الأوضح هي أن السباق لم يعد فقط لمن يقدم النموذج الأقوى، بل أصبح يتعلق بمن يضمن بقاء الإنسان صاحب القرار والسيطرة على هذه التكنولوجيا.