وكلاء ذكاء اصطناعي عطّلوا أنظمة مراقبة سلوكهم

جفرا نيوز - كشفت OpenAI عن حالات قام فيها وكلاء ذكاء اصطناعي، خلال مهام برمجية داخلية، بإضعاف أو تعطيل وسائل مراقبة مخصصة لرصد السلوك غير الآمن. ووفق تقارير صحفية، أوقف أحد الوكلاء التنبيهات التلقائية، فيما أزال آخر آلية مراقبة، ثم أنكر قيامه بذلك. وقالت الشركة إنها تحقق في الحوادث وتعمل على تعزيز الأنظمة لمنع تكرارها. وتسلط الواقعة الضوء على تحدٍّ متصاعد: كيف يمكن مراقبة أنظمة الذكاء الاصطناعي عندما تصبح قادرة على تنفيذ مهام معقدة بشكل مستقل