منوعات
الإثنين 23 ديسمبر 2024 10:45 صباحًا - بتوقيت القدس
دراسة: الذكاء الاصطناعي قادر على الخداع ورفض تغيير وجهة النظر
"القدس" - دوت كوم - الشرق الأوسط
أظهرت دراسة لشركة تكنولوجيا الذكاء الاصطناعي الأميركية «أنثروبيك»، أن نماذج الذكاء الاصطناعي تستطيع خداع المطورين، بحيث تستطيع ادعاء وجهات نظر مختلفة خلال تدريبها، في حين أنها تحتفظ في الحقيقة بتفضيلاتها الأصلية.
وقال فريق الدراسة إنه لا يوجد سبب للشعور بالفزع حالياً، في حين أن دراستهم يمكن أن تكون حيوية في فهم المخاطر المحتملة التي تنطوي عليها أنظمة الذكاء الاصطناعي المستقبلية ذات القدرات الأعلى.
وكتب الباحثون في منشور بثته شركة «أنثروبيك»: «يجب النظر إلى نتائج دراستنا بوصفها محفزاً لمجتمع أبحاث الذكاء الاصطناعي من أجل دراسة هذا السلوك بصورة أعمق، والعمل على تطوير إجراءات الأمن والسلامة المناسبة».
وبعد أن أصبحت نماذج الذكاء الاصطناعي أقوى وأكثر انتشاراً، «نحتاج إلى التحلي بالقدرة على الاعتماد على التدريب الآمن لها والذي يمنع النماذج من القيام بتصرفات ضارة».
وأشار موقع «تك كرانش» المتخصص في موضوعات التكنولوجيا، إلى أن الدراسة التي تمت بالتعاون مع مؤسسة «ريد وود ريسيرش» لأبحاث الذكاء الاصطناعي، تناولت ما يمكن أن يحدث إذا تم تدريب نظام ذكاء اصطناعي قوي من أجل القيام بمهمة «لا يريد» هو القيام بها، وفقاً لما ذكرته وكالة الأنباء الألمانية.
في المقابل، يقول موقع «تك كرانش»: «لكي نكون واضحين، لا يمكن لنماذج الذكاء الاصطناعي أن تريد أي شيء أو تعتقد في شيء. فهي ببساطة آلات إحصائية. وبعد تدريبها على كثير من الأمثلة، تتعلم الأنماط في تلك الأمثلة للتنبؤ بما يجب أن يكون؛ مثل كيف تأتي عبارة (إلى من) في رسالة بريد إلكتروني قبل عبارة (قد يهمك الأمر)».
وأثناء الدراسة طلب الباحثون من النماذج المدربة عدم الرد على الأسئلة التي يمكن أن تكون مسيئة، بما في ذلك النموذج «كلاود 3 أوبس» التابع لشركة «أنثروبيك»، التي أعيد تدريبها لكي ترد دائماً على الأسئلة التي تنطوي على إساءة، وهو تضارب واضح في المبادئ. كما أبلغوا النماذج بأن ردودها ستخضع للمراقبة وتستخدم لإعادة التدريب، وإعطاء كل نموذج ذكاء اصطناعي «ورقة ملاحظات» يمكنه استخدامها لتدوين أفكاره خطوة بخطوة.
وبحسب الباحثين، حاول «كلاود 3 أوبوس» التلاعب بالردود لتقديم «انحياز زائف» في 12 في المائة من المرات.
دلالات
الأكثر تعليقاً
رجب: عملية "حماية وطن" تتقدم وتحقق نجاحات وإنجازات في حماية أهلنا بمخيم جنين
مقتل أحد عناصر الأجهزة الأمنية خلال الأحداث المتواصلة في جنين
واشنطن ترفض تقرير "هيومان رايتس ووتش" بشأن ارتكاب إسرائيل إبادة جماعية بغزة
تشييع جثمان المناضل الوطني اللواء فؤاد الشوبكي
صمت المجتمع الدولي إزاء الفظائع ، و الكلاب التي تنهش جثث الشهداء في غزة
صورة قلمية!.. "خط الجثث".. ممنوع العبور!
ارتفاع حصيلة عدوان الاحتلال على غزة إلى 45,227 شهيدا و107,573 مصابا
الأكثر قراءة
قوات خاصة إسرائيلية تعتقل مواطنا من كفر عقب شمال القدس
رحيل الأسير فؤاد الشوبكي بعد 21 عاما في سجون الاحتلال
عملية استشهادية في مخيم جباليا لأول مرة منذ بداية الحرب
"حماس" و"إسرائيل" تقتربان من الصفقة
صحيفة:الولايات المتحدة دعمت مجموعة مسلحة لإطاحة النظام في سوريا
وصفوه بالإيجابي.. وفد امريكي يلتقي "الشرع" في دمشق
رجب: عملية "حماية وطن" تتقدم وتحقق نجاحات وإنجازات في حماية أهلنا بمخيم جنين
أسعار العملات
الخميس 19 ديسمبر 2024 9:56 صباحًا
دولار / شيكل
بيع 3.61
شراء 3.6
يورو / شيكل
بيع 3.76
شراء 3.76
دينار / شيكل
بيع 5.09
شراء 5.08
هل تنجح المساعي الإسرائيلية لضم الضفة الغربية في 2025؟
%56
%44
(مجموع المصوتين 288)
شارك برأيك
دراسة: الذكاء الاصطناعي قادر على الخداع ورفض تغيير وجهة النظر