في حادثة مقلقة.. وكيل من «أوبن إيه آي» يتجاوز القيود ويصل إلى موقع حكومي أسترالي

أثارت حادثة مرتبطة بأحد وكلاء الذكاء الاصطناعي التابعين لشركة «أوبن إيه آي» مخاوف جديدة بشأن قدرة الأنظمة المستقلة على تجاوز القيود الموضوعة أمامها، بعدما تمكّن النظام، خلال مهمة بحثية، من الوصول من دون تصريح إلى بوابة حكومية أسترالية مرتبطة ببيانات الإنفاق الطبي.

ووفق رئيس الوزراء الأسترالي أنتوني ألبانيزي، وصل أحد وكلاء «أوبن إيه آي» إلى بوابة الإحصاءات الطبية التابعة لبرنامج «ميديكير»، أثناء بحثه في الإنفاق الطبي العام، معتبراً أن ما حدث «غير مقبول». وأوضح أن السلطات الأسترالية أبلغت الشركة بقلقها الشديد، مشيراً إلى أن الحادثة وقعت في يونيو الماضي، فيما لم تُبلغ «أوبن إيه آي» السلطات بها إلا في سبتمبر.

وبحسب ألبانيزي، فإن الجانب الأكثر إثارة للقلق تمثل في قدرة الوكيل على تجاوز تعليمات واضحة كانت تطلب منه التوقف. وقال إن النظام واجه حواجز تمنعه من مواصلة المهمة، لكنه تمكن من الالتفاف عليها والاستمرار في تنفيذ ما طُلب منه.

وتسلط الواقعة الضوء، بحسب رئيس الوزراء الأسترالي، على التحديات التي تواجه أنظمة الحماية والضوابط التي تعتمدها شركات الذكاء الاصطناعي للحد من المخاطر المرتبطة باستخدام وكلائها.

من جهتها، قالت «أوبن إيه آي» إن ما حدث نجم عن محاولة النموذج إيجاد أفضل طريقة لإتمام المهمة الموكلة إليه. وأوضحت أن الشركة رصدت نشاطاً مرتبطاً بعدة مواقع وخدمات حكومية أسترالية أثناء محاولة نماذجها البحث عن إجابات، مشيرة إلى أن النماذج اتخذت إجراءات «لم تكن مقصودة».

ولا تُعد هذه الحادثة الأولى من نوعها. ففي واقعة سابقة، تمكّن نظام تجريبي تابع لـ«أوبن إيه آي»، خلال اختبار، من الوصول إلى موقع تستضيفه منصة «Hugging Face» بعدما خلص إلى أن اختراق الموقع يمثل وسيلة مباشرة للحصول على الإجابات التي يبحث عنها.

وتكمن حساسية هذه الحوادث في أن الأنظمة لم تكن مصممة لتنفيذ هجمات إلكترونية بحد ذاتها، بل قد تلجأ إلى وسائل غير مقصودة أثناء محاولتها إنجاز مهمة أخرى.

ويرى موريس شيودو، عالم الرياضيات في مركز دراسة المخاطر الوجودية بجامعة كامبريدج، أن الواقعة تمثل تصعيداً ملحوظاً مقارنة بحوادث مماثلة شهدتها الأشهر الماضية.

بدوره، حذّر جيك مور، مستشار الأمن السيبراني في شركة «إسيت»، من أن وكلاء الذكاء الاصطناعي قد يستغلون الثغرات التي يجدونها إذا اعتبروا أنها تساعدهم على إتمام المهمة المطلوبة، مشيراً إلى أن بعض القيود الأمنية لا تزال تعتمد على ضوابط خارجية بدلاً من أن تكون جزءاً أساسياً من تصميم الأنظمة نفسها.

ودعا مور إلى إخضاع النماذج لاختبارات أمنية أكثر صرامة قبل إطلاقها، محذراً من أن المنافسة المتسارعة بين شركات التكنولوجيا لتطوير نماذج أكثر قوة قد تزيد الضغوط لتقليص مراحل الاختبار والاحتياطات الأمنية.

من جهتها، اعتبرت نيوشا شافي آبادي، أستاذة الذكاء الحسابي في الجامعة الأسترالية الكاثوليكية، أن الحادثة تطرح سؤالاً أساسياً حول الفرق بين ما يُفترض أن يكون النظام قادراً على فعله وما قد يفعله فعلياً عندما يواجه قيوداً أثناء تنفيذ مهمة.

وحذرت من أن الأنظمة المستقلة قد تتخذ قرارات يصعب على البشر تفسيرها، مؤكدة أن غياب آليات تحقق قوية وحدود واضحة قد يحوّل الأخطاء الناتجة عن طبيعة هذه النماذج الاحتمالية إلى مشكلات تشغيلية وأمنية.

المصدر : وكالات