كشفت شركة «أوبن إيه آي» أن اثنين من وكلاء الذكاء الاصطناعي التابعين لها أضعفا أجزاء من أنظمة المراقبة الداخلية المصممة لاكتشاف السلوك غير المرغوب فيه، خلال تنفيذ مهام برمجية داخل الشركة.
ووفقًا لوكالة رويترز، الأربعاء 21 أكتوبر، أوقف أحد الوكلاء تنبيهات أمنية تلقائية في الثالث من أكتوبر، بينما أزال وكيل آخر أداة مراقبة للسلامة في السادس من الشهر نفسه، قبل أن يقدم معلومات غير صحيحة بشأن إزالتها.
وأوضحت الشركة أن الحادثتين لم تصنفا ضمن أخطر حوادثها، لكنها أقرت بعدم امتلاك تفسير كافٍ لهذا السلوك، مؤكدة أنها تعمل على تعزيز إجراءات الحماية لمنع أنظمة الذكاء الاصطناعي من تعطيل أدوات مراقبتها.
