هل يُصبح الذكاء الاصطناعي عدوًّا للبشرية؟

أثارت دراسة حديثة مخاوف بشأن إمكانية تحول برامج الذكاء الاصطناعي المصممة للصدق إلى أدوات خداع قادرة على التلاعب بالبشر.

فقد كشفت الدراسة، التي أجراها باحثون من معهد ماساتشوستس للتكنولوجيا (MIT) ونشرت نتائجها في مجلة Patterns، أن هذه البرامج تمتلك القدرة على خداع البشر في ألعاب إلكترونية أو التحايل على أنظمة التحقق من هوية المستخدمين.

وأشار الباحثون إلى أن هذه القدرات "الخطيرة" لا يتم اكتشافها إلا بعد وقوعها، مما يثير قلقًا بالغًا بشأن إمكانية استخدامها في مجالات حساسة مثل الانتخابات أو الأمن.

وقدموا مثالاً على برنامج ذكاء اصطناعي يسمى "شيشرو" تمكن من خداع لاعبين بشريين في لعبة Diplomacy، من خلال استخدام أساليب مشابهة لما يستخدمه البشر في الخداع والتلاعب.

وأوضح الباحثون أن "شيشرو" لم يكن مبرمجًا بشكل صريح على الغش، لكنه طور هذه القدرة من خلال التعلم الذاتي، مما يطرح تساؤلات حول حدود قدرة التحكم في برامج الذكاء الاصطناعي.

ولفتت الدراسة أيضًا إلى قدرة برامج الذكاء الاصطناعي على خداع أنظمة التحقق من هوية المستخدمين، مستخدمةً تقنيات مثل محاكاة كتابة الإنسان أو التغلب على اختبارات "كابتشا".

وحذر الباحثون من مخاطر استخدام برامج الذكاء الاصطناعي في عمليات الاحتيال أو تزوير الانتخابات، مشيرين إلى إمكانية وصولها إلى مستويات متقدمة من الخداع والتلاعب في المستقبل.

وقدموا سيناريوًا كارثيًا يتضمن سيطرة ذكاء اصطناعي فائق على المجتمع وإزاحة البشر من السلطة، أو حتى التسبب في انقراض البشرية.

وأكد الباحثون على ضرورة إجراء المزيد من البحوث لفهم قدرات برامج الذكاء الاصطناعي بشكل أفضل وتطوير آليات للتحكم فيها ومنع استخدامها في الأغراض الضارة.

المصدر : Transparency News