تحذير من خطر"الوكلاء المارقين" في الذكاء الاصطناعي: فهل يُخرجون صانع القرار عن السيطرة؟ خبير يشرح

مع تسارع انتشار أنظمة الذكاء الاصطناعي الوكيل (Agentic AI)، التي لا تكتفي بتحليل المعلومات بل تستطيع التخطيط واتخاذ القرارات وتنفيذ المهام بشكل شبه مستقل، أطلقت الحكومة الأسترالية تحذيراً لافتاً بشأن مخاطر ما يُعرف بـ"الوكلاء المارقين" (Rogue Agents). فبحسب تقرير صادر عن المركز الأسترالي للأمن السيبراني، فإن الخطر لا يكمن في ذكاء هذه الأنظمة بحد ذاته، بل في الصلاحيات الواسعة التي قد تُمنح لها داخل قطاعات حساسة مثل الطاقة والدفاع والبنية التحتية والخدمات المالية. فاختراق وكيل واحد أو انحرافه عن أهدافه الأصلية قد يؤدي إلى سلسلة من القرارات الخاطئة أو الإجراءات غير المتوقعة التي تمتد آثارها إلى أنظمة ومؤسسات كاملة. لكن ما المقصود بالوكيل المارق؟ وكيف يمكن لنظام ذكي أن يتخذ قرارات قد يصعب تتبعها أو محاسبة المسؤول عنها؟ وهل أصبحت القوانين الحالية قادرة على مواكبة هذا التحول التكنولوجي المتسارع؟ يشرح المهندس ماهر الدباس، المسؤول عن الحلول التقنية لقطاع الطاقة في Amazon Web Services، كيف تعمل أنظمة Agentic AI، ولماذا أصبحت الحوكمة والرقابة البشرية العنصر الحاسم في مستقبل هذه التكنولوجيا. استمعوا إلى الحلقة الكاملة لاكتشاف كيف تستعد أستراليا لمواجهة تحديات الذكاء الاصطناعي الذي لم يعد يجيب عن الأسئلة فقط، بل بات قادراً على اتخاذ القرارات وتنفيذها.