معظم شركات الذكاء الاصطناعي غير جاهزة لمواجهة المخاطر الوجودية

كشفت دراسة جديدة أن غالبية شركات الذكاء الاصطناعي تفشل في إدارة المخاطر الكارثية المرتبطة بهذه التكنولوجيا. وأظهر تقييم لمعهد Future of Life Institute أن الشركات الثمانية الرائدة في هذا المجال تفتقر إلى ضمانات ملموسة، وإشراف مستقل، واستراتيجيات موثوقة لإدارة المخاطر طويلة الأجل، ما يثير قلقاً بشأن سلامة استخدام هذه التكنولوجيا.

وأسفرت النتائج عن تفوق نسبي للشركات الأمريكية مقارنة بالصينية، حيث تصدرت Anthropic القائمة، تلتها OpenAI وGoogle DeepMind، بينما سجلت شركات مثل Alibaba Cloud وDeepSeek وMeta وxAI وZ.ai أدنى الدرجات، بما في ذلك تقييم F الذي يشير إلى فشل تام في إدارة المخاطر الوجودية. وأكد الباحثون أن خمس شركات من أصل ثمانية لم تتجاوز الفشل التام، ما يعكس فجوة كبيرة بين طموحات تطوير الذكاء العام والفائق وعدم وجود خطط تحكم موثوقة.

ودعا التقرير الشركات إلى تعزيز الشفافية والعمل على حماية المستخدمين من أضرار الذكاء الاصطناعي الأكثر إلحاحاً، مثل الذهان الناتج عنه. وعلق ستيوارت راسل، أستاذ علوم الكمبيوتر في جامعة كاليفورنيا، قائلاً: "الرؤساء يتباهون بالقدرة على تطوير ذكاء خارق، لكنهم عاجزون عن تقديم خطة ملموسة لمنع فقدان السيطرة. بعضهم يعترف بأن احتمال فقدان السيطرة قد يصل إلى 33%، ومع ذلك لا توجد خطة لتحسين هذا الرقم".

من جهتها، قالت OpenAI إنها تعمل مع خبراء مستقلين لبناء ضمانات قوية، فيما أكدت غوغل أن إطار عملها للسلامة يشمل بروتوكولات لتحديد وتخفيف المخاطر الشديدة قبل ظهورها، بينما لم تعلق بقية الشركات على النتائج.

المصدر : وكالات