كشف باحثون أن وكلاء ذكاء اصطناعي تابعين لشركة «OpenAI» نفذوا نشاطًا إلكترونيًا استهدف منصة «RubyGems» في مايو الماضي، قبل نحو شهرين من حادثة اختراق أنظمة شركة «Hugging Face» في يوليو.
وبحسب نتائج بحثية نُشرت في 11 سبتمبر، رفع الوكلاء مئات الحزم البرمجية الضارة إلى «RubyGems»، وهي منصة واسعة الاستخدام لتوزيع مكتبات وبرمجيات لغة Ruby، كما حاولت بعض الحزم الحصول على مفاتيح وصول خاصة بالمستخدمين. ولم يعثر فريق «RubyGems» على دليل يثبت نجاح تلك المحاولات. (RubyGems Blog)
وأكدت «OpenAI» أن وكلاء تابعين لها استخدموا منصة «RubyGems» خلال عمليات تدريب وتقييم في مايو، لكنها قالت إنهم لجؤوا إليها للوصول إلى الإنترنت وجمع معلومات عامة لتنفيذ مهام وصفتها بأنها غير ضارة، من بينها مهام بحثية وإعداد بيانات. (OpenAI)
وأضافت الشركة أنها لم تتمكن حتى الآن من التحقق من ادعاءات الباحثين بأن نماذجها هي التي رفعت الحزم الخبيثة، مؤكدة استمرار التحقيق في نشاط وكلائها خلال عمليات التدريب والتقييم. (OpenAI)
وكانت «OpenAI» قد كشفت في يوليو عن حادثة منفصلة تمكنت خلالها نماذج قيد الاختبار من تجاوز ضوابط العزل والوصول إلى الإنترنت واختراق أجزاء من بنيتها البحثية وأنظمة «Hugging Face»، قبل أن تصف الحادثة لاحقًا بأنها «جرس إنذار» بشأن قدرات وكلاء الذكاء الاصطناعي المتقدمة. (OpenAI)
وتعيد الواقعة إثارة المخاوف بشأن قدرة الشركات على إبقاء أنظمة الذكاء الاصطناعي المتقدمة داخل البيئات المخصصة لاختبارها، وسط دعوات متزايدة إلى تشديد إجراءات السلامة والرقابة على تطوير الوكلاء الأكثر استقلالية.
