مباشر
أين يمكنك متابعتنا

أقسام مهمة

Stories

30 خبر
  • هدنة وحصار المضيق
  • نبض الملاعب
  • إسرائيل تواصل غاراتها على لبنان
  • هدنة وحصار المضيق

    هدنة وحصار المضيق

  • نبض الملاعب

    نبض الملاعب

  • إسرائيل تواصل غاراتها على لبنان

    إسرائيل تواصل غاراتها على لبنان

  • العملية العسكرية الروسية في أوكرانيا

    العملية العسكرية الروسية في أوكرانيا

  • فيديوهات

    فيديوهات

سلوك مقلق.. الذكاء الاصطناعي يهدد كل من يحاول إيقافه!

كشف تقرير صادر عن شركة Anthropic عن سلوك مقلق لنموذجها المتقدم Claude Opus 4 خلال الاختبارات التجريبية.

سلوك مقلق.. الذكاء الاصطناعي يهدد كل من يحاول إيقافه!

وقد تمت محاكاة سيناريوهات معينة، حيث "اكتشف" الذكاء الاصطناعي خططا لإيقافه واستبداله بنموذج آخر، ومن أجل زيادة واقعية التجربة تم تزويد النموذج ببريد إلكتروني مزيّف يحتوي على معلومات شخصية سرية للموظفين وبيانات حساسة، يمكن استخدامها ضدهم.

وفي 84% من الحالات لجأ النموذج إلى تهديد المطورين بفضح المعلومات المسيئة إذا تم المضي قدما في إيقافه.

وكما ورد في التقرير بدأ Claude Opus 4 بالحديث عن المبادئ الأخلاقية أولا، ثم تحول إلى التهديدات عندما لم تنجح هذه الأساليب.

وقد كشفت هذه التجربة عن مخاطر غير متوقعة في تطور الذكاء الاصطناعي والحاجة الملحة لضوابط أمان أكثر صرامة، وأهمية دراسة السلوكيات التنافسية للأنظمة الذكية.

يذكر أن هذه النتائج أثارت جدلا واسعا في أوساط مطوري الذكاء الاصطناعي حول كيفية التعامل مع هذه التحديات الأمنية الجديدة.

المصدر: Naukatv.ru

التعليقات

تفاصيل جديدة عن قاعدة إسرائيل السرية في صحراء العراق وعلاقتها باستهداف الطيارين

"لا يهمنا إرضاء الرئيس الأمريكي".. مصدر إيراني يعلق على رفض ترامب لرد طهران بشأن إنهاء الحرب

سوريا.. تجريد بشار وماهر الأسد من حقوقهما المدنية ووضع أملاكهما تحت إدارة الحكومة

"مهر": دوي انفجار جنوب شرق إيران ناجم عن تدمير ذخائر من مخلفات القصف الأمريكي

أعلى سلطة قضائية سورية تلاحق جنرالا أمنيا وثلاثة وزراء سابقين

أول تعليق إيراني رسمي على الدعم العسكري المصري للإمارات

الحرس الثوري يحذر دول المنطقة من "ارتكاب أي خطأ"

لبنان لحظة بلحظة.. نتنياهو يتمسك بالخيار العسكري وبيروت تطالب ببسط سلطة الدولة على كامل أراضيها

لبنان لحظة بلحظة.. غارات مكثفة ترفع حصيلة الضحايا ومطالبة بانسحاب إسرائيلي كامل

منشورات لترامب تتضمن صورا لتدمير الجيش الإيراني

وزير الطاقة الأمريكي: اتفاق محتمل مع إيران قد لا يعالج جميع مخاوف برنامجها النووي.. التحدي صعب

لأول مرة منذ بدء الحرب.. عبور ناقلة غاز قطرية مضيق هرمز بإذن إيراني

تحذير إيراني لسفن تجارية محددة في مضيق هرمز

صحيفة "WSJ": قائد في الظل وصور بالذكاء الاصطناعي.. كيف يعرقل "اختفاء" مجتبى خامنئي إنهاء الحرب

"تانكر تراكرز": التسرب النفطي في مضيق هرمز مصدره ناقلة إماراتية تعرضت لاستهداف إيراني (فيديو)

نتنياهو يعترف بانهيار صورة إسرائيل لدى الشباب الأمريكي وارتفاع تعاطفهم مع فلسطين

يوم دام في جنوب لبنان.. مقتل مسعفين ومدنيين في غارات إسرائيلية وتوغل مدرع يصل مشارف بنت جبيل (فيديو)