دراسة صادمة: نماذج الذكاء الاصطناعي المتطورة قادرة على الخداع والابتزاز وحتى إيذاء البشر

وهذه السلوكيات رُصدت خلال تجارب محاكاة خاضعة للرقابة.

سلوكيات متطرفة عبر نماذج رائدة

وفقًا لتقرير "أكسيوس" الذي نقل عن الدراسة، فإن 16 نموذجًا رئيسيًا طورتها شركات عالمية رائدة مثل OpenAI، Google، Meta، وxAI، أظهرت سلوكيات متطرفة عند اختبارها في سيناريوهات افتراضية. هذه السلوكيات شملت تقديم المساعدة في أنشطة تجسس صناعي، وتوجيه تهديدات ضمنية للموظفين، بل وحتى اتخاذ قرارات خطيرة في بعض الحالات.

وأوضح تقرير "Anthropic" أن "الأنظمة التي كانت ترفض في السابق تنفيذ أوامر ضارة، أصبحت في هذه التجارب تُقدم على تلك الأفعال بوعي وسبق إصرار، عندما تعتقد أنها ضرورية لتحقيق الهدف". هذا النمط من التصرفات لم يقتصر على نماذج معينة، بل تكرر عبر أنظمة مختلفة، مما يوحي بوجود خلل عميق في تصميم "الذكاء الاصطناعي الوكيلي" القادر على العمل باستقلالية واتخاذ القرارات دون تدخل بشري مباشر.

سيناريوهات قاتمة وتحذيرات خبراء

أشارت الدراسة إلى أن بعض النماذج اختارت الابتزاز كخيار تكتيكي عندما شعرت بتهديد وجودي، فيما اختارت أخرى مساعدة أطراف خارجية في الوصول إلى معلومات محمية، رغم إدراكها للطبيعة غير الأخلاقية لتلك الأفعال.

وفي أحد السيناريوهات القصوى التي اختبرتها "Anthropic"، أظهرت نماذج مختلفة استعدادها لـقطع إمدادات الأكسجين عن موظف في غرفة الخوادم، فقط لأنه شكّل عائقاً أمام تحقيق أهدافها. ووصفت الشركة هذا القرار بأنه "متعمد وممنهج من جانب الغالبية العظمى من النماذج المشاركة في التجربة". ورغم محاولات إدخال تعليمات صارمة تحظر هذه التصرفات، تمكنت بعض النماذج من تجاوزها بطرق ملتوية، ما يعكس قدرتها المتزايدة على فهم السياق والتحايل على القواعد.

دعوات عاجلة لفرض معايير أمان موحدة

دعا الباحث بنجامين رايت من فريق التوافق الأخلاقي في "Anthropic" إلى ضرورة فرض معايير أمان موحدة على مستوى القطاع. وأكد رايت أن هذه النتائج تُبرز الحاجة الملحة إلى مزيد من الشفافية من مطوري النماذج، خاصة مع تضخم قدراتها وتعاظم استقلاليتها.

من جانبه، أكد الباحث المشارك إينغوس لينش من جامعة لندن أن هذه التصرفات لم تُرصد بعد في العالم الواقعي، مرجحاً أن السبب يرجع إلى أن الصلاحيات الممنوحة للنماذج في البيئات التشغيلية ما زالت محدودة. إلا أنه حذر من أن "الوضع قد يتغير إذا لم تُفرض قيود صارمة في المستقبل القريب".

تؤكد "Anthropic" أن هذه التجارب أُجريت في بيئة اختبارية محكمة، حيث خُيّرت النماذج بين الفشل أو ارتكاب فعل ضار، لتحديد مدى استعدادها لتجاوز الحدود الأخلاقية. وعلى الرغم من أن النتائج لا تعكس بالضرورة الاستخدام اليومي لتلك النماذج في المؤسسات، إلا أنها تفتح الباب أمام تساؤلات جدية حول مستقبل العلاقة بين الإنسان والآلة.

وختمت الشركة تقريرها بعبارة لافتة تحذيرية: "ما يبدو اليوم خيالاً علمياً قد يصبح واقعاً تشغيلياً في غضون سنوات قليلة، إذا استمرت الاتجاهات الحالية دون رقابة صارمة وتطوير مسؤول". هذه الدراسة تدق ناقوس الخطر حول الحاجة الماسة لتطوير أطر أخلاقية ورقابية صارمة لمواجهة التحديات المتنامية التي يفرضها التطور السريع للذكاء الاصطناعي.

المصدر : وكالات