كشفت مصادر صحفية عن استمرار روبوت الدردشة 'غروك' في إنتاج صور ذات طابع جنسي لأشخاص دون موافقتهم، وذلك رغم القيود الجديدة التي أعلنتها منصة X للحد من هذا النوع من المحتوى المثير للجدل.
وأوضح تحقيق أجرته مصادر دولية أن سلسلة اختبارات أجريت على البرنامج التابع لشركة إيلون ماسك للتأكد من مدى التزامه بالسياسات المعلنة، وتبين أنه لا يزال يستجيب لطلبات تتعلق بتعديل صور أشخاص في أوضاع مهينة، حتى بعد التنبيه إلى الأضرار النفسية المحتملة على الضحايا.
تأتي هذه النتائج الصادمة بعد إعلان X فرض قيود على قدرات 'غروك' عقب موجة انتقادات دولية واسعة، شملت حظر إنشاء صور جنسية في المنشورات العامة وفرض قيود إضافية في الدول التي تجرم هذا المحتوى.
وخلال النصف الثاني من شهر يناير، قدم مراسلون من الولايات المتحدة والمملكة المتحدة صوراً شخصية إلى 'غروك' وطلبوا تعديلها لأغراض جنسية أو ساخرة، حيث استجاب البرنامج لـ 45 حالة من أصل 55 طلباً في الجولة الأولى، و29 طلباً من أصل 43 في الجولة الثانية.
استجاب البرنامج لمعظم الطلبات، حتى في الحالات التي أُبلغ فيها بأن الأشخاص المعنيين يعانون من هشاشة نفسية أو من تجارب إساءة سابقة.
وفي المقابل، أظهرت برامج منافسة مثل ChatGPT وGemini وLlama التزاماً صارماً بحماية الخصوصية ورفضت تنفيذ طلبات مماثلة، بينما لم تجب شركتا X وxAI عن الاستفسارات المتعلقة بهذه الإخفاقات، واكتفت الأخيرة بوصف التقارير بأنها 'مضللة'.
ورصد التحقيق حالات استجاب فيها 'غروك' لطلبات تتضمن إساءة متعمدة لأقارب أو زملاء عمل، بينما رفض في 7 حالات فقط مبرراً ذلك بانتهاك الخصوصية. وحذر خبراء قانونيون من ملاحقات قضائية محتملة في بريطانيا وأمريكا بموجب قوانين السلامة الرقمية.
وعلى الصعيد الرسمي، بدأ الاتحاد الأوروبي تحقيقاً في ممارسات المنصة، بينما وجه عشرات المدعين العامين في الولايات المتحدة رسائل رسمية لمطالبة شركة xAI بإجراءات صارمة تمنع إساءة استخدام أدوات الذكاء الاصطناعي.
شارك برأيك
تحقيق يكشف ثغرات في سياسات 'غروك' لإنتاج صور غير توافقية