أظهرت دراسة حديثة لشركة Goodfire.ai أن النماذج الكبيرة للذكاء الاصطناعي، مثل "شات جي بي تي"، لا تخلط بين الحفظ والاستدلال داخل شبكاتها العصبية كما كان يُعتقد.


 بل تبيّن أن الذاكرة والمنطق يُخزنان في مكوّنات مختلفة تمامًا، ما يفتح الباب لفهم أعمق لكيفية "تفكير" الآلة وجعل أنظمتها أكثر موثوقية وأمانًا.

استخدم الباحثون تقنية رياضية تُعرف باسم K-FAC لتحليل مصفوفات الأوزان داخل النماذج. وأظهرت النتائج أن المسارات المخفوضة الانحناء مسؤولة عن حفظ المعلومات واسترجاعها، بينما المسارات العالية الانحناء تتحكم بقدرات التفكير المرن وحل المشكلات الجديدة.

وللتأكد من ذلك، قام الفريق بتعطيل المكونات المرتبطة بالذاكرة (المخفوضة الانحناء)، ولاحظ أن الذكاء الاصطناعي احتفظ بقدرته على التفكير المنطقي، لكنه فقد دقته في الحسابات واسترجاع الحقائق الثابتة.

ويشير الباحثون إلى أن طريقتهم، المسماة “التقليم القائم على الانحناء”، تقلّل من الحفظ الزائد دون الحاجة إلى تدريب إشرافي إضافي. كما يمكن أن تساعد على الحد من تسريب المعلومات أو المحتوى المتحيّز، وقد تساهم في جعل النماذج أكثر كفاءة وأقل تكلفة في التشغيل، ما يمهّد لتطوير أنظمة أكثر أماناً وشفافية في المستقبل.


المصدر : وكالات