العودة إلى جميع الدورات
أمن الذكاء الاصطناعي وتهديدات الذكاء الاصطناعي التوليدي

الأمن السيبراني وحماية المعلومات

أمن الذكاء الاصطناعي وتهديدات الذكاء الاصطناعي التوليدي

5 أيام · 25 ساعة تدريبية4 موعد تدريبي
رمز الدورة
AD27-CYB-038
المدة
5 أيام
ساعات التدريب
25
المواعيد والمدن
4

المواعيد المتاحة

اختر الموعد والمدينة

4 مواعيد ومدن

يرجى اختيار الموعد والمدينة

نظرة عامة

تقدّم شركة الديار للتدريب والاستشارات برنامج «أمن الذكاء الاصطناعي وتهديدات الذكاء الاصطناعي التوليدي» لتطوير فهم أمني لتطبيقات الذكاء الاصطناعي التوليدي عبر البيانات والنماذج والاسترجاع والأدوات المتصلة. يركز البرنامج على نمذجة التهديدات وحماية المعلومات وضبط الصلاحيات وفحص المخرجات واختبارات الجاهزية، مع ربط الأمن بدورة تطوير وتشغيل التطبيق.

تُحلل سيناريوهات تدريبية لمدخلات غير موثوقة وتسريب بيانات وتوصيات خاطئة واستخدام أدوات زائد الصلاحية. ويُصمم المشاركون ضوابط دفاع واختبار ومراقبة في بيئات مصرح بها، دون افتراض أن تعليمات النموذج وحدها تشكل حاجزًا أمنيًا كافيًا.

أهداف البرنامج

  • رسم سطح هجوم تطبيق ذكي.
  • تحليل تهديدات بيانات وتعليمات وأدوات.
  • اختيار ضوابط وصول ومخرجات.
  • تصميم اختبار أمني مصرح ومراقبة.
  • بناء خطة معالجة وحوكمة تشغيل.

محاور البرنامج

المحور الأول: المعمارية والأصول ونمذجة التهديد

  • رسم نموذج وبيانات واسترجاع وأدوات.
  • تحديد أصول وثقة وحدود اتصال.
  • حصر بيانات حساسة ومسارات خروج.
  • تحليل سلسلة توريد ومكونات خارجية.
  • إعداد سجل تهديدات وأولويات.

المحور الثاني: التعليمات والبيانات والمحتوى غير الموثوق

  • فهم حقن تعليمات مباشر وغير مباشر.
  • فصل طلب معتمد عن نص مسترجع.
  • مناقشة تلوث بيانات ومصادر غير موثوقة.
  • تقليل بيانات حساسة في السياق.
  • فحص ضوابط استرجاع وعزل معلومات.

المحور الثالث: الصلاحيات والمخرجات والأدوات

  • تطبيق أقل صلاحية لأداة وهوية خدمة.
  • إضافة اعتماد بشري لأفعال مؤثرة.
  • التحقق من مخرجات قبل تنفيذها.
  • تقييد معاملات وقنوات واتصالات.
  • تصميم حدود تكلفة ووقت وعدد خطوات.

المحور الرابع: الاختبارات والمراقبة والاستجابة

  • بناء حالات اختبار دفاعية مصرح بها.
  • مراجعة تسريب وتجاوز وحدود أمان.
  • تسجيل أحداث مع حماية خصوصية.
  • تحديد إنذارات واستجابة وتعطيل آمن.
  • توثيق نتيجة وضابط ومخاطر متبقية.

المحور الخامس: الحوكمة والتطوير الآمن

  • تنظيم مراجعة تغيير نموذج أو مكون.
  • تحديد مالك مخاطر وموافقات إطلاق.
  • مراجعة شروط مزود ومعالجة بيانات.
  • تحديث ضوابط من نتائج الاختبار.
  • عرض خطة أمن لتطبيق توليدي.

الفئة المستهدفة

  • فرق الأمن السيبراني.
  • مطورو تطبيقات الذكاء الاصطناعي.
  • معماريو الأنظمة والبيانات.
  • مختصو الخصوصية والحوكمة.
  • فرق اختبار الجودة والأمن.
  • مديرو المنتجات والمخاطر التقنية.

أسلوب التدريب

  • ورش معمارية ونمذجة تهديد.
  • حالات حقن وتعامل مع محتوى غير موثوق.
  • تمارين تصميم ضوابط وصول.
  • اختبارات دفاعية في بيئة تدريبية.
  • محاكاة مراقبة واستجابة.
  • مشروع خطة أمن لتطبيق ذكي.

تدريب خاص لفريقك

هل تحتاج إحدى هذه الدورات لموظفي مؤسستك فقط، في المواعيد التي تناسبكم أو في مقر عملكم؟ يمكن لفريقنا تصميم برنامج تدريبي داخلي.

تواصل مع فريقنا