مباشر
أين يمكنك متابعتنا

أقسام مهمة

Stories

26 خبر
  • رياضة
  • العملية العسكرية الروسية في أوكرانيا
  • فيديوهات
  • رياضة

    رياضة

  • العملية العسكرية الروسية في أوكرانيا

    العملية العسكرية الروسية في أوكرانيا

  • فيديوهات

    فيديوهات

  • حرب الخليج

    حرب الخليج

  • نتيجة قرعة الدوري الأوروبي لموسم 2026-2027

    نتيجة قرعة الدوري الأوروبي لموسم 2026-2027

سلوك مقلق.. الذكاء الاصطناعي يهدد كل من يحاول إيقافه!

كشف تقرير صادر عن شركة Anthropic عن سلوك مقلق لنموذجها المتقدم Claude Opus 4 خلال الاختبارات التجريبية.

سلوك مقلق.. الذكاء الاصطناعي يهدد كل من يحاول إيقافه!

وقد تمت محاكاة سيناريوهات معينة، حيث "اكتشف" الذكاء الاصطناعي خططا لإيقافه واستبداله بنموذج آخر، ومن أجل زيادة واقعية التجربة تم تزويد النموذج ببريد إلكتروني مزيّف يحتوي على معلومات شخصية سرية للموظفين وبيانات حساسة، يمكن استخدامها ضدهم.

وفي 84% من الحالات لجأ النموذج إلى تهديد المطورين بفضح المعلومات المسيئة إذا تم المضي قدما في إيقافه.

وكما ورد في التقرير بدأ Claude Opus 4 بالحديث عن المبادئ الأخلاقية أولا، ثم تحول إلى التهديدات عندما لم تنجح هذه الأساليب.

وقد كشفت هذه التجربة عن مخاطر غير متوقعة في تطور الذكاء الاصطناعي والحاجة الملحة لضوابط أمان أكثر صرامة، وأهمية دراسة السلوكيات التنافسية للأنظمة الذكية.

يذكر أن هذه النتائج أثارت جدلا واسعا في أوساط مطوري الذكاء الاصطناعي حول كيفية التعامل مع هذه التحديات الأمنية الجديدة.

المصدر: Naukatv.ru

التعليقات

اللواء والمعلق العسكري يسرائيل زيف: السعودية لم تعد تنتظر إسرائيل.. والثمن قد يكون باهظا

ترامب: مضيق هرمز "أرض أمريكية"

إعلام: ترامب أوعز شخصيا لمدير "CIA" بالسفر إلى روسيا في مهمة "حساسة للغاية"

"أ ب": بعد 6 أشهر.. غيرت حرب إيران وجه الشرق الأوسط لكن ليس كما أراده له مهندسوها

الإخبارية السورية: مقتل شخصين في انفجار قنبلة يدوية أمام مبنى قصر العدل في الحسكة

دمشق ترحب بضم وحدات حماية المرأة YPJ الكردية وتبحث آلية دمجها

الدفاع الروسية: تدمير مجمع مستودعات لصواريخ "فلامينغو" في ضواحي كييف

أبواب سوريا مواربة.. فهل تقبل طهران شرط المصالحة مع دمشق؟

هل وجهت موسكو إنذارا لواشنطن؟.. لافروف يرد

إيران تقترح على دول الجوار مبادرة أمنية مشتركة

المرشد الإيراني مجتبى خامنئي يعلن "بشكل قاطع": ارتكاب أي عمل يضر بالتماسك الاجتماعي ممنوع

رسالة تحذيرية لإيران.. ترامب المسلح يعيد نشر صورته

لافروف: البيت الأبيض لم يرد على التصريحات الأوروبية بشأن "دفن" تفاهمات أنكوريج

سوريا.. جسر الرستن بعد حادث سير مروع.. أضرار متداولة وتوضيح رسمي يحسم الجدل (فيديوهات)

"فارس": "القوات الشعبية" الإيرانية تتوجه بالقوارب نحو مضيق هرمز ردا على "ترهات" ترامب (فيديو)

طهران: إعادة الفتح الكامل لمضيق هرمز رهن جدية واشنطن في الاستجابة لمطالبنا

الخارجية الروسية: احتجاز فرنسا لناقلات النفط "قرصنة ونهب بحري"