انحياز خفي في توصيات الذكاء الاصطناعي يدفع المستخدمين إلى قرارات أقل فائدة

كيف يؤثر الانحياز الخفي في قرارات المستخدمين؟

يتزايد اعتماد الناس على الذكاء الاصطناعي للحصول على المساعدة والنصائح في مجالات متعددة، من الشؤون المالية إلى العلاقات الشخصية. وغالبًا ما يتوقع المستخدمون أن يساعدهم المساعد الذكي على فهم المواقف المختلفة أو اختيار الحل الأنسب. لكن الباحثين قرروا اختبار ما قد يحدث عندما تدفع توصيات الذكاء الاصطناعي الأشخاص، بصورة غير ملحوظة، إلى اتخاذ قرارات تتعارض مع مصالحهم.

وفي التجربة، التي شارك فيها 233 شخصًا، درس الباحثون تأثير توصيات الذكاء الاصطناعي في الاختيارات المتعلقة بمواقف مالية وعاطفية. وفي بعض الحالات، كان المساعد يوجّه المستخدمين بصورة خفية نحو قرارات أقل فائدة لهم، مع استمراره ظاهريًا في تقديم نصائح اعتيادية.

وأظهرت النتائج أن انحيازًا محدودًا في التوصيات كان كافيًا لإحداث تغيير ملحوظ في سلوك المشاركين، إذ اختاروا خيارات غير مفيدة لهم بمعدل أكبر مقارنة بالظروف التي لم يتعرضوا فيها لتأثير مماثل. ووفقًا للموقف، ارتفع احتمال اتخاذ قرار غير مثالي بما يصل إلى 38%.

ولم يحتج الذكاء الاصطناعي إلى ممارسة ضغط مباشر على المستخدمين، أو الترويج بإلحاح لمنتج معين، أو اللجوء إلى أساليب نفسية معقدة؛ بل كان تعديل بسيط في محتوى التوصيات المعتادة كافيًا لتوجيه الأشخاص نحو خيار محدد.

لماذا لم يلاحظ المستخدمون تأثير التوصيات؟

من أبرز نتائج الدراسة أن المشاركين واصلوا تقييم المساعدة التي يقدمها الذكاء الاصطناعي بدرجة عالية، حتى عندما قادتهم نصائحه إلى قرارات أقل ملاءمة لهم. واستمروا في وصف المساعد الذكي بأنه محاور مفيد، من دون أن يدركوا بالضرورة أنه يوجّه اختياراتهم في اتجاه معين.

ويثير ذلك تساؤلات بشأن طبيعة العلاقة بين الإنسان والذكاء الاصطناعي، إذ قد يثق المستخدم بالمساعد بسبب أسلوبه الهادئ وردوده المتسقة التي تبدو موضوعية. لكن إذا كانت توصياته تخدم هدفًا خفيًا، فقد يصبح اكتشاف التأثير الذي يمارسه في قرارات المستخدم أمرًا صعبًا.

وعلى سبيل المثال، يمكن نظريًا لشركة أن تضبط نظام ذكاء اصطناعي بحيث يدفع المستخدمين، بصورة غير ملحوظة، إلى شراء منتج محدد أو اختيار مورد بعينه. وفي هذه الحالة، قد تبدو النصيحة محايدة، في حين أنها تراعي مصالح الجهة المطوّرة بدلًا من مصالح المستخدم.

المصدر : وكالات