هل أصبح تشات جي بي تي خطراً؟ انتحار مراهق يشعل النقاش حول سلامة الذكاء الاصطناعي

وقد تقدّم والدا المراهق بدعوى قضائية أمام محكمة في ولاية كاليفورنيا، اتهما فيها شركة "أوبن إيه آي" بتحمّل مسؤولية وفاة ابنهما، مشيرين إلى أن البرنامج "شجّعه على الانتحار" بدل أن يثنيه عنه.

ردّ سريع من "أوبن إيه آي": أدوات رقابة أبوية ومراجعة شاملة للسلامة

في ردّ فوري على الحادث، أعلنت الشركة المطورة لـ"تشات جي بي تي" عن إطلاق أدوات رقابة أبوية وإجراءات أمان محسّنة تهدف لحماية الأطفال والمراهقين من أي تفاعل غير آمن مع نماذج الذكاء الاصطناعي.

وقالت الشركة في بيان رسمي:"مسؤوليتنا أن نضمن أن يخدم الذكاء الاصطناعي الناس بشكل إيجابي، وخاصة الفئات الأكثر ضعفاً".

وتشمل الإجراءات الجديدة:

• إمكانية تحديد أوقات الاستخدام وحجب المواضيع الحساسة.
• متابعة الأنشطة المرتبطة بالحسابات القُصّر.
• الاعتماد على أنظمة تنبيه ذكية ترصد مؤشرات الخطر.
• دعم مباشر عبر شراكات مع منظمات غير حكومية وخطوط مساعدة للوقاية من الانتحار.
• من حادث فردي إلى لحظة مفصلية في قطاع الذكاء الاصطناعي

ورغم أن الحادثة توصف بأنها نادرة الحدوث، إلا أن صداها كان كبيراً، ودفع حكومات وهيئات تنظيمية في أوروبا وآسيا والشرق الأوسط إلى المطالبة بضوابط صارمة على تفاعل الذكاء الاصطناعي مع القُصّر.

وقال أحد الباحثين في أخلاقيات التكنولوجيا: "لم يعد كافياً دفع الابتكار إلى الأمام فقط، بل يجب التفكير في العواقب غير المقصودة، خصوصاً على الفئات الأكثر هشاشة".

وفي تصريحات متكررة، حذّر الرئيس التنفيذي لـ"أوبن إيه آي" سام ألتمان من خطر الاعتماد المفرط على الذكاء الاصطناعي، خاصة من قبل الشباب، مشدداً على أن الذكاء الاصطناعي ليس بديلاً عن الدعم البشري المتخصص، خصوصاً في الحالات النفسية الحساسة.

"رؤية بعض المستخدمين يتعاملون مع الذكاء الاصطناعي كمستشار حياتي تُظهر مدى تأثير هذه التكنولوجيا، لكنها تثير أيضاً مسؤولية كبرى علينا جميعاً"، قال ألتمان.

تشريعات تلوح في الأفق.. وتحوّل نحو "السلامة المتمحورة حول الإنسان"

تتقاطع هذه الخطوة مع اتجاه عالمي متصاعد نحو حماية الأطفال من تأثيرات الذكاء الاصطناعي.

• الاتحاد الأوروبي أقرّ معايير إلزامية لحماية القصّر.
• الولايات المتحدة تناقش أطر رقابية جديدة.
• دول عربية مثل السعودية والإمارات تعمل على إعداد مدونات سلوك تراعي الخصوصيات الثقافية والاجتماعية.

وترى "أوبن إيه آي" أن تحركها الاستباقي يوجّه رسالة طمأنة للمشرّعين والمستخدمين على حدّ سواء، ويعكس التزامها بوضع الإنسان في مركز الابتكار.

الاختبار الحقيقي: من الوعود إلى الممارسات

رغم إعلانها عن الأدوات الجديدة، تدرك "أوبن إيه آي" أن الثقة المجتمعية لا تُبنى بالبيانات الصحفية فقط، بل بالتطبيق الفعلي والتفاعل المستمر مع أولياء الأمور والمربين ومنظمات المجتمع المدني.

وخلص تقرير دولي حديث إلى أن سلامة الذكاء الاصطناعي لم تعد مجرد قضية تقنية، بل تحوّلت إلى قضية إنسانية وتنظيمية تتطلب شراكات متعددة المستويات.

"إذا كانت هذه الحادثة المأساوية قد شكلت الشرارة الأولى، فإن الاستجابة الجماعية – من الشركات إلى الحكومات – هي ما سيحدد ما إذا كنا نتجه فعلاً نحو ذكاء اصطناعي أكثر أماناً وشمولاً"، يقول خبير السياسات التكنولوجية في جامعة أكسفورد.

المصدر : وكالات