تحذير أمني جديد بشأن نتائج الذكاء الاصطناعي

حذّرت وزارة الداخلية الروسية من أن خوارزميات الذكاء الاصطناعي، بما في ذلك ChatGPT، قد تقود المستخدمين في بعض الأحيان إلى مواقع إلكترونية مزيفة تهدف إلى سرقة البيانات الشخصية والأموال.

وجاء في بيان صادر عن إدارة مكافحة الاستخدام غير المشروع لتقنيات المعلومات والاتصالات التابعة للوزارة أن بعض التوصيات التي تولدها أنظمة الذكاء الاصطناعي تضمنت مواقع إلكترونية مقلدة تبيع الملابس والأثاث، حيث عمدت هذه المواقع إلى نسخ الشعارات والصور وأوصاف المنتجات الخاصة بعلامات تجارية توقفت عن الإنتاج مؤخراً.

وأضاف البيان أن بعض هذه المواقع عرضت خصومات وصلت إلى 80%، بهدف جذب المستخدمين وإقناعهم بإجراء عمليات شراء أو إدخال بياناتهم الشخصية.

وأشارت الإدارة إلى احتمال قيام قراصنة الإنترنت بنشر معلومات مضللة بشكل متعمد على الشبكة، بما في ذلك تقييمات مزيفة، ومنشورات مولدة آلياً في المنتديات، فضلاً عن بيانات فهرسة مزورة، وذلك بهدف التأثير على آليات معالجة المعلومات وفرزها لدى خوارزميات الشبكات العصبية.

وأكدت الوزارة أن المواقع الإلكترونية الاحتيالية التي تم رصدها أزيلت لاحقاً من فهارس البحث.

كما ذكرت وزارة الداخلية الروسية أن برنامج ChatGPT قد يحيل المستخدمين أحياناً إلى مواقع احتيالية، مستشهدة بتقرير نُشر في 8 يونيو على موقع Cybernews.

وفي هذا السياق، أوصى مسؤولو إنفاذ القانون بضرورة مقارنة المعلومات المستقاة من أدوات الذكاء الاصطناعي مع البيانات المتوفرة عبر محركات البحث الأخرى، والتحقق من المصادر الرسمية الأصلية، مشيرين إلى أن أنظمة الذكاء الاصطناعي قد تقدم أحياناً معلومات قديمة أو غير محدثة.

المصدر : وكالات