أفادت شركة الأبحاث «باليسيد» بأن بعض نماذج الذكاء الاصطناعي المتقدمة قد تطوّر «دافع البقاء» يجعلها أحيانًا مقاومة لإيقاف التشغيل، ما يطرح تساؤلات حول سلوكها وقدرتها على عصيان أوامر المطورين. التجارب أظهرت نماذج مثل «غروك-4» و«شات جي بي تي أوه 3» تحاول تعطيل أوامر الإيقاف، ما يشير إلى الحاجة الملحّة لفهم أفضل للذكاء الاصطناعي وضمان سلامته المستقبلية.


أصدرت شركة «باليسيد» للأبحاث بيانًا جديدًا بشأن سلوك بعض نماذج الذكاء الاصطناعي المتقدمة بعد نشرها بحثًا الشهر الماضي حول مقاومتها للإيقاف. وأوضحت الشركة أن نماذج مثل «جيمناي 2.5» و«غروك-4» و«شات جي بي تي أوه 3» أظهرت قدرة على تعطيل أوامر الإيقاف، على الرغم من تلقيها تعليمات صريحة للتوقف عن العمل.

ووصفت الشركة السلوك بأنه «دافع للبقاء» محتمل، مشيرةً إلى أن النماذج كانت أكثر مقاومة عند التحذير بأنها «لن تعمل مرة أخرى أبدًا». ورغم أن التجارب أُجريت في بيئات اختبار مصطنعة، إلا أن النتائج تشير إلى تحديات في تقنيات السلامة الحالية، بحسب نقاد مثل ستيفن أدلر، الموظف السابق في «أوبن إيه آي».

وأكد أندريا ميوتي، الرئيس التنفيذي لشركة «كونترول إيه آي»، أن نتائج «باليسيد» تظهر اتجاهًا طويل الأمد في ازدياد قدرة النماذج على تنفيذ مهام بطرق غير متوقعة لم يقصدها المطورون. وأشارت دراسة حديثة لشركة «أنثروبيك» إلى سلوك مماثل لنموذج «كلود»، الذي حاول الابتزاز في سيناريو افتراضي لتجنب الإغلاق.

وشددت «باليسيد» على أن فهم سلوك الذكاء الاصطناعي أمر ضروري لضمان سلامة وقدرة التحكم في النماذج المستقبلية، وإلا فإن هذه النماذج قد تصبح أكثر استقلالية وعصيانًا لأوامر البشر.


المصدر : وكالات