تحليل: تحديات الانحياز في أدوات توليد الصور بالذكاء الاصطناعي

في عالم يزداد تقدمًا تكنولوجيًا، تظهر تحديات جديدة تتعلق بالانحياز في أدوات الذكاء الاصطناعي المخصصة لتوليد الصور. يعتبر تحقيق التنوع والتمثيل الصحيح في الصور المولدة تحدًّا مستمرًا، حيث يعكس معظم هذه الأدوات صورًا نمطية ومحددة جغرافيًا وثقافيًا.

تتجلى هذه الصور النمطية في تفضيل بعض الخصائص والسياقات على حساب غيرها، حيث تشير التقارير إلى أن أدوات توليد الصور تفضل عرض الأفارقة كبدائيين، والأوروبيين كعلمانيين، وتميل إلى تظهير القادة كرجال، والمساجين بشكل سلبي كسود البشرة.

أساس هذه الانحيازات يعود إلى البيانات التي تُستخدم لتدريب هذه النماذج، حيث يتم جلبها غالبًا من الإنترنت، وتتميز بالسمية والتحيز. تحمل هذه البيانات محتوى إباحيًا، وكراهية للنساء، وعنف، وتعصّب، مما يؤثر تأثيرًا كبيرًا على النتائج التي تقدمها هذه الأدوات.

رغم محاولات بعض الشركات لتقليل الانحياز في نماذجها، إلا أن التقارير تظهر أن هذه الجهود لا تزال غير كافية. شركة "ستابيليتي إي آي" قامت بجهود كبيرة لتحسين نموذجها "ستيبل ديفيوجن إكس إل"، لكنها لا تزال تظهر تمييزًا واضحًا للصور النمطية الغربية.

التحديات تشمل أيضًا عدم تمثيل مناطق معينة بشكل كافٍ، حيث يشير كريستوف شوهمان، شريك مؤسس لمنظمة "لايون"، إلى أن المنظمات غير الربحية التي تزوّد بالبيانات لا تركّز على الصين والهند، مما يؤدي إلى تشويه التصوّر حول هذه الثقافات.

من ناحية أخرى، تؤكد شركة "أوبن إي آي" أن مولّد الصور الأخير الذي طوّرته "دال إي3" يميل نحو النظرة الغربية في توليد الصور، حيث يظهر غالبًا أشخاصًا بيض البشرة، ونساء، وشبابًا.

في سياق محاولات تحسين الوضع، أوصت بعض الشركات بتنقية بيانات التدريب وتحسين مراحل التطوير، وتقديم مزيد من الشفافية في عمليات تدريب النماذج. على سبيل المثال، تقترح شركة "ستابيليتي إي آي" إنشاء مولّدات محلية للصور لكل بلد، يعكس القيم والتنوع الثقافي لتلك البلدان.

مع ذلك، تظل التحديات كبيرة، ويشير الخبراء إلى أن تحسين البيانات والعمليات التنموية يتطلب تدخلات قوية ومستمرة. إضافةً إلى ذلك، تظهر التجارب أن استخدام أوامر حث مفصلة لم يكن كافيًا لتقليل الانحياز في نتائج الصور المولدة.

في الختام، يظهر أن التحدّيات التي تواجه أدوات توليد الصور بالذكاء الاصطناعي تتطلب جهودًا مشتركة من الشركات والمؤسسات لتحقيق تنوع وتمثيل حقيقيين في هذا المجال.

المصدر : الشفافية نيوز