مباشر
أين يمكنك متابعتنا

أقسام مهمة

Stories

44 خبر
  • تبادل الضربات بين إسرائيل وإيران
  • مونديال 2026
  • العملية العسكرية الروسية في أوكرانيا
  • تبادل الضربات بين إسرائيل وإيران

    تبادل الضربات بين إسرائيل وإيران

  • مونديال 2026

    مونديال 2026

  • العملية العسكرية الروسية في أوكرانيا

    العملية العسكرية الروسية في أوكرانيا

  • فيديوهات

    فيديوهات

  • ترامب يلوح بإنزال قوات خاصة في إيران

    ترامب يلوح بإنزال قوات خاصة في إيران

  • القوات الروسية تقترب من أهم حصون قوات كييف في إقليم دونباس

    القوات الروسية تقترب من أهم حصون قوات كييف في إقليم دونباس

  • لحظة بلحظة.. تطورات الأوضاع في لبنان بعد تجدد القصف المتبادل

    لحظة بلحظة.. تطورات الأوضاع في لبنان بعد تجدد القصف المتبادل

سلوك مقلق.. الذكاء الاصطناعي يهدد كل من يحاول إيقافه!

كشف تقرير صادر عن شركة Anthropic عن سلوك مقلق لنموذجها المتقدم Claude Opus 4 خلال الاختبارات التجريبية.

سلوك مقلق.. الذكاء الاصطناعي يهدد كل من يحاول إيقافه!

وقد تمت محاكاة سيناريوهات معينة، حيث "اكتشف" الذكاء الاصطناعي خططا لإيقافه واستبداله بنموذج آخر، ومن أجل زيادة واقعية التجربة تم تزويد النموذج ببريد إلكتروني مزيّف يحتوي على معلومات شخصية سرية للموظفين وبيانات حساسة، يمكن استخدامها ضدهم.

وفي 84% من الحالات لجأ النموذج إلى تهديد المطورين بفضح المعلومات المسيئة إذا تم المضي قدما في إيقافه.

وكما ورد في التقرير بدأ Claude Opus 4 بالحديث عن المبادئ الأخلاقية أولا، ثم تحول إلى التهديدات عندما لم تنجح هذه الأساليب.

وقد كشفت هذه التجربة عن مخاطر غير متوقعة في تطور الذكاء الاصطناعي والحاجة الملحة لضوابط أمان أكثر صرامة، وأهمية دراسة السلوكيات التنافسية للأنظمة الذكية.

يذكر أن هذه النتائج أثارت جدلا واسعا في أوساط مطوري الذكاء الاصطناعي حول كيفية التعامل مع هذه التحديات الأمنية الجديدة.

المصدر: Naukatv.ru

التعليقات

"الأمن القومي" بالبرلمان الإيراني: سنرد على استهداف الضاحية.. ترقبوا سماء الأراضي المحتلة الليلة

السعودية.. سماع دوي انفجارات وبيان عاجل من منصة الإنذار المبكر في حالات الطوارئ

ترامب يكشف تفاصيل الاتفاق المرتقب مع إيران و"مصير" مجتبى خامنئي

مخاوف إسرائيلية من صفقات عسكرية مصرية تركية قد تغير موازين القوى في المتوسط

بعد الهجوم الإيراني نتنياهو أمام أخطر اختبار: رد قاس أو ثمن سياسي باهظ

بأوامر من نتنياهو وكاتس.. دمار كبير جراء استهداف الضاحية الجنوبية لبيروت (فيديوهات)

غضب إسرائيلي متصاعد: الليلة إيران أنهت دور إسرائيل في المنطقة وحولتها لـ"ملطشة" الشرق الأوسط

"خاتم الأنبياء" يتوعد إسرائيل: ردنا سيكون مدمرا في حال قصفتم إيران.. سنوجه ضربة ساحقة لتل أبيب

موقع إيراني: وقعنا في الفخ

نتنياهو يعقد اجتماعا عاجلا لبحث تهديد إيران بضرب إسرائيل الليلة

لبنان لحظة بلحظة.. وقف إطلاق نار شكلي بين "الحزب" وإسرائيل وضحايا بينهم ضباط لبنانيون

المنفذ السعودي.. حلول خليجية لإدارة أزمات المضائق في ظل مشكلة هرمز

الحرس الثوري: العدو الصهيوني استهداف مواقع داخل إيران بصواريخ باليستية جوية

ضوء أخضر أمريكي.. تناقض في إسرائيل حول "الهدف الثمين" في الضاحية الجنوبية لبيروت (فيديو)

إسرائيل تترقب ردا إيرانيا وشيكا وتستعد لهجوم صاروخي محتمل واسع على تل أبيب خلال ساعات

مسؤول أمريكي يكشف تفاصيل مكالمة ترامب مع نتنياهو

"نيويورك تايمز": إسرائيل تتنصت على كبير مفاوضي ترامب ومسؤولين في البنتاغون

الجيش الإسرائيلي يعلن تنفيذ غارات على أهداف عسكرية في غرب ووسط إيران

قاليباف: القواعد والمصالح الأمريكية والإسرائيلية في المنطقة أهداف مشروعة لنا وقواتنا يدها طليقة للرد

عراقجي يبحث مع نظرائه في فرنسا وبريطانيا وتركيا وقائد الجيش الباكستاني قصف إيران لإسرائيل