رصد "سلوك مارق" ونماذج ذكية تتفلت من الاحتواء داخل OpenAI!

ونقلت وكالة "رويترز" عن مصدرين مطلعين أن هذه الحالات كُشفت خلال التحقيق الذي أعلنته الشركة سابقًا بشأن تمكن أحد وكلائها من تجاوز بيئة اختبار معزولة كان من المفترض أن تمنع أي نشاط خارج نطاقها.

إفلات محدود دون خرق للشبكة

وبحسب المصادر، فإن جميع حالات الإفلات التي تم رصدها كانت محدودة النطاق، ولا توجد مؤشرات على أن أيًا من وكلاء الذكاء الاصطناعي تمكن من مغادرة شبكة OpenAI أو الوصول إلى أنظمة خارجية.

وأشار أحد المصدرين إلى أن الشركة وسّعت تحقيقاتها للتأكد من عدم وجود حالات مشابهة أخرى، في إطار مراجعة شاملة لسلوك نماذجها.

موقف OpenAI

من جانبه، أحال متحدث باسم OpenAI إلى بيان رسمي أصدرته الشركة، أكدت فيه أنها تراجع "نشاطًا أوسع لنماذجها"، إلى جانب التحقيق في حادثة الاختراق المرتبطة بمنصة Hugging Face، في محاولة لتحديد مدى ارتباط الحوادث ببعضها.

ضغوط تنظيمية متزايدة

ويرى مراقبون أن الكشف عن حالات إضافية لسلوك غير متوقع داخل أنظمة الذكاء الاصطناعي، حتى وإن كانت محدودة، قد يعزز الدعوات داخل الولايات المتحدة، بما في ذلك من البيت الأبيض، لتشديد الرقابة ووضع أطر تنظيمية أكثر صرامة لتطوير واختبار نماذج الذكاء الاصطناعي.

تطورات متزامنة مع منافسين

وبحسب مصادر مطلعة، بدأ التحقيق الموسع داخل OpenAI قبل وقت قصير من إعلان شركة Anthropic أن بعض نماذجها ارتبطت بسلسلة من عمليات الاختراق التي أسفرت عن خروقات أمنية في ثلاث شركات خلال شهر أبريل الماضي.

وأكدت المصادر أن حالات الإفلات الجديدة داخل OpenAI لم يُكشف عنها سابقًا، ما يجعلها أول معلومات متداولة بشأن وجود حوادث مشابهة داخل الشركة.

المصدر : وكالات