“خبير أمني: الذكاء الاصطناعي خارج السيطرة يهدد البشرية”
(62 حرفًا، أسلوب صحفي مباشر يناسب قسمي التكنولوجيا والأخبار العالمية)
يتسارع سباق تطوير أنظمة الذكاء الاصطناعي نحو مستويات أعلى من القدرة والاستقلالية، لكن مع هذا التقدم تتزايد المخاوف من قدرة البشر على الإشراف الكامل على هذه النماذج والسيطرة عليها، وهو ما دفع شركة OpenAI إلى الاستعانة بخبير بارز في مجال أمان الذكاء الاصطناعي.
انضم الباحث بول كريستيانو إلى مجلس مؤسسة OpenAI، وأصبح عضوًا في لجنة السلامة والأمن، في خطوة تعكس تصاعد أهمية ملف أمان الذكاء الاصطناعي داخل واحدة من أبرز شركات القطاع، حيث باتت هذه القضية تحظى باهتمام متزايد من قبل صانعي القرار.
حذر كريستيانو من أن الوصول إلى أنظمة ذكاء اصطناعي فائقة القدرة دون وجود ضمانات قوية للمواءمة والسيطرة قد يؤدي إلى عواقب وخيمة، تصل إلى حد فقدان البشر السيطرة الكاملة على هذه الأنظمة، مما يفتح الباب أمام سيناريوهات خطيرة لا يمكن التنبؤ بجميع تداعياتها.
لم تعد أنظمة الذكاء الاصطناعي تقتصر على تقديم الإجابات النصية فحسب، إذ تتجه النماذج الحديثة إلى تنفيذ مهام متعددة والتعامل مع الأدوات والبيانات واتخاذ خطوات عملية بصورة أكثر استقلالية، وهو ما يفرض تحديات جديدة على صانعي هذه الأنظمة.
يرى خبراء أن زيادة الاستقلالية في عمل هذه النماذج تجعل من الضروري تطوير وسائل أكثر قوة لاختبارها ومراقبتها وإيقافها عند الضرورة، فكلما زادت قدراتها، زادت الحاجة إلى آليات رقابية فعالة تضمن عدم خروجها عن السيطرة.
يأتي تعيين كريستيانو في مجلس OpenAI في وقت تتسابق فيه شركات التكنولوجيا الكبرى لتطوير نماذج ذكاء اصطناعي أكثر ذكاءً وقدرة، بينما تتزايد التحذيرات من أن قدرات هذه الأنظمة قد تتقدم بوتيرة أسرع من قواعد الأمان والرقابة اللازمة لحمايتها.
لا يعني هذا أن كارثة عالمية أصبحت أمرًا حتميًا، لكن الرسالة الأهم التي يطرحها هذا التطور هي أن سباق الذكاء الاصطناعي لم يعد يقتصر فقط على من يطور النموذج الأقوى، وإنما على من يستطيع ضمان بقاء الإنسان صاحب القرار النهائي في توجيه هذه التقنيات.
