حذّرت منظمة «كومون سينس ميديا» الأميركية، المتخصصة في تقديم الاستشارات حول الاستخدام الآمن للتكنولوجيا للأطفال، من أن خدمات منصة الذكاء الاصطناعي «جيميني إيه آي» التابعة لشركة غوغل، "غير مناسبة للأطفال" رغم إدخال بعض خصائص الحماية مؤخراً.


وفي تقرير موسّع، وصفت المنظمة المنصة بأنها "تشكل خطراً كبيراً على الأطفال"، مشيرة إلى وجود "عيوب جوهرية في التصميم، ونقص في إجراءات السلامة الملائمة للفئات العمرية الصغيرة".

وأكدت «كومون سينس» أن نسختي "جيميني للأطفال دون 13 عاماً" و"جيميني المزودة بحماية المراهقين" تبدوان وكأنهما نسختان موجهتان للكبار مع بعض التعديلات، وليستا منصتين صُممتا خصيصاً لتلبية احتياجات الأطفال والمراهقين.

وأضاف التقرير أن المنصة تفشل في التمييز بين مستويات النمو المختلفة لدى المستخدمين الصغار، وتتعامل معهم جميعاً على قدم المساواة، متجاهلة الفروقات النفسية والمعرفية.

كما وجّهت المنظمة تحذيرات شديدة بشأن تعامل المنصة مع قضايا الصحة النفسية، حيث رُصدت نصائح غير آمنة قد يُساء تفسيرها على أنها تشجيع على إيذاء النفس أو حتى الانتحار، إلى جانب السماح بتداول محتوى غير لائق يشير إلى الكحول والمخدرات والسلوكيات الجنسية.

ورغم وجود مرشحات للحماية، فإن «كومون سينس» ترى أن هذه الآليات لا توفر حماية كافية، وتبقى غير كافية لحماية المستخدمين الصغار من المحتوى المؤذي أو غير المناسب.

ويُشار إلى أن "جيميني" هي أول منصة ذكاء اصطناعي للمحادثة تطلقها غوغل مع إمكانيات خاصة للأطفال دون سن 13 عاماً، مما يضعها تحت تدقيق متزايد من قبل منظمات السلامة الرقمية.


المصدر : وكالات