مباشر
أين يمكنك متابعتنا

أقسام مهمة

Stories

37 خبر
  • مونديال 2026
  • اتفاق أمريكي إيراني لوقف الحرب على جميع الجبهات
  • فيديوهات
  • مونديال 2026

    مونديال 2026

  • اتفاق أمريكي إيراني لوقف الحرب على جميع الجبهات

    اتفاق أمريكي إيراني لوقف الحرب على جميع الجبهات

  • فيديوهات

    فيديوهات

  • العملية العسكرية الروسية في أوكرانيا

    العملية العسكرية الروسية في أوكرانيا

  • وفاة شخص وإصابة ثمانية آخرين في حادث تدافع بالأردن خلال مباراة الجزائر

    وفاة شخص وإصابة ثمانية آخرين في حادث تدافع بالأردن خلال مباراة الجزائر

سلوك مقلق.. الذكاء الاصطناعي يهدد كل من يحاول إيقافه!

كشف تقرير صادر عن شركة Anthropic عن سلوك مقلق لنموذجها المتقدم Claude Opus 4 خلال الاختبارات التجريبية.

سلوك مقلق.. الذكاء الاصطناعي يهدد كل من يحاول إيقافه!

وقد تمت محاكاة سيناريوهات معينة، حيث "اكتشف" الذكاء الاصطناعي خططا لإيقافه واستبداله بنموذج آخر، ومن أجل زيادة واقعية التجربة تم تزويد النموذج ببريد إلكتروني مزيّف يحتوي على معلومات شخصية سرية للموظفين وبيانات حساسة، يمكن استخدامها ضدهم.

وفي 84% من الحالات لجأ النموذج إلى تهديد المطورين بفضح المعلومات المسيئة إذا تم المضي قدما في إيقافه.

وكما ورد في التقرير بدأ Claude Opus 4 بالحديث عن المبادئ الأخلاقية أولا، ثم تحول إلى التهديدات عندما لم تنجح هذه الأساليب.

وقد كشفت هذه التجربة عن مخاطر غير متوقعة في تطور الذكاء الاصطناعي والحاجة الملحة لضوابط أمان أكثر صرامة، وأهمية دراسة السلوكيات التنافسية للأنظمة الذكية.

يذكر أن هذه النتائج أثارت جدلا واسعا في أوساط مطوري الذكاء الاصطناعي حول كيفية التعامل مع هذه التحديات الأمنية الجديدة.

المصدر: Naukatv.ru

التعليقات

السعودية تؤكد دعمها لسوريا وتوجه نداء باسم العرب

ترامب يفتح "الصندوق الأسود" ويكشف تفاصيل التفاهمات مع إيران في سويسرا

نتنياهو يتحدث عن التحرر من التبعية لواشنطن ويطرح على ضباطه سؤالا وجوديا

قاليباف: إدارة مضيق هرمز لن تعود إلى ما كانت عليه قبل الحرب وتم الإفراج عن 12 مليار دولار من أصولنا

لغز "قنديل البحر" في سماء إيران.. طيار أمريكي يروي ما رآه قبل إسقاط طائرته

الحرس الثوري يحسم الجدل حول عدد السفن المسموح لها بعبور مضيق هرمز

بحضور ممثلين دوليين ‏وحقوقيين.. جلسة لمحاكمة أحد رموز نظام الأسد

بوتين: روسيا مستعدة للرد السريع والفعّال على أي تهديد

طهران ترد على تصريحات ترامب حول "تحول هدف الحرب إلى إثراء المزارعين الأمريكيين"

طهران وواشنطن تشكلان 4 مجموعات عمل بعد مفاوضات سويسرا

ترامب: لم أكن بحاجة لمساعدة أعضاء الناتو في إيران وفضولي كان الدافع الأكبر لطلبها

الخارجية الأمريكية: روبيو يزور 3 دول خليجية لبحث اتفاق إيران وجهود ضمان أمن الملاحة في هرمز