السبب الخفي وراء انحياز الذكاء الاصطناعي في معالجة المعلومات

 

توصل باحثون في معهد ماساتشوستس للتكنولوجيا إلى تفسير علمي لسبب تركيز النماذج اللغوية الكبيرة – مثل ChatGPT وDeepSeek – على بداية ونهاية النصوص، مقابل تراجع الانتباه لمحتوى المنتصف. وتُعرف هذه الظاهرة باسم "تحيز الموضع"، وقد تُشكل تحديًا للمستخدمين عند البحث عن معلومات أو عبارات مفتاحية ضمن مستندات طويلة.

الدراسة التي قادها الباحث شين يي وو أوضحت أن النماذج اللغوية تُحلّل النصوص بشكل متسلسل، ما يجعلها تولي اهتمامًا أكبر للكلمات الأولى، لأنها تعتمد على الكلمات السابقة فقط لفهم السياق، دون القدرة على "النظر" للمستقبل أثناء المعالجة.

ويؤدي هذا النمط إلى نوع من التحيز البنيوي، إذ تركز النماذج على ما تعتبره أكثر تأثيرًا لفهم النص: البداية والنهاية. فعلى سبيل المثال، في وثيقة تتكون من 30 صفحة، تصل احتمالية العثور على معلومة مهمة في أولها أو آخرها إلى 85%، بينما تنخفض هذه النسبة إلى 60% فقط في الوسط.

الدراسة كشفت أيضًا عن ظاهرة تُسمى "تأثير الشكل U"، حيث تكون دقة التحليل أعلى على أطراف النص وتنخفض تدريجيًا كلما اقتربنا من منتصفه. ويتضح هذا التفاوت بشكل أكبر في النماذج الأكثر تعقيدًا مثل GPT-4، الذي يحتوي على 96 طبقة معالجة.

ورغم وجود آليات تهدف للتقليل من هذا التحيز، مثل "التلميحات الموضعية" التي تساعد النماذج على إدراك موقع الكلمة داخل النص، إلا أن فعاليتها ما زالت محدودة، خاصة في النماذج الضخمة ذات السعة الكبيرة.

المصدر : وكالات