Explainable AI For Insider Threat Detection: Balancing Transparency With Privacy In Enterprise Systems

الملخص

لا يزال اكتشاف التهديدات الداخلية يُعد من أكثر التحديات الأمنية تعقيدًا في أنظمة وتطبيقات المؤسسات على مستوى العالم، ويعود ذلك أساسًا إلى صعوبة التعامل مع التهديدات الأمنية التي ينفذها مستخدمون مخوّلون قانونيًا باستخدام أنظمة الحاسوب. وقد شهدت الأدبيات البحثية تطورًا ملحوظًا في توظيف تقنيات الذكاء الاصطناعي (AI)، ولا سيما في تحسين دقة الكشف عن تهديدات الأمن السيبراني ضمن بيئات وتطبيقات الحوسبة المؤسسية. غير أن العيب الرئيس في نماذج وتطبيقات الكشف الأمني المعتمدة على الذكاء الاصطناعي يتمثل في ظاهرة “الصندوق الأسود” المرتبطة بآلية عمل معظم هذه النماذج، الأمر الذي يثير إشكاليات محتملة تتعلق ببناء الثقة في نماذج الذكاء الاصطناعي وتطبيقاته، خاصة في سياق الحفاظ على خصوصية مستخدمي التطبيقات المؤسسية القائمة على الذكاء الاصطناعي. تحاول هذه الدراسة بحث تطبيق نماذج الذكاء الاصطناعي القابل للتفسير (Explainable Artificial Intelligence – XAI) في سياق الكشف عن مختلف التهديدات الأمنية في تطبيقات الحوسبة المؤسسية. ومن منظور نماذج وتطبيقات التنفيذ التقني، يتم اقتراح إطار تكامل للذكاء الاصطناعي يركز على سجلات أنشطة المؤسسة المقترحة، وذلك ضمن سيناريوهات لأنشطة مؤسسية مستوحاة من بيئات واقعية. ولتحقيق هذه الأهداف، تم اعتماد عدد من أساليب XAI، مثل قيم SHAP، والتفسيرات المعتمدة على القواعد، وتحليل أهمية الخصائص، لبيان السبل الممكنة التي تمكّن محللي الأمن من فهم النتائج التي يوفرها نظام اكتشاف التهديدات الداخلية والتحقق منها، مع ضمان عدم كشف معلومات شخصية أو تنظيمية حساسة. وبوجه عام، تشير نتائج التجارب إلى الفوائد المحتملة المتحققة من اعتماد نظام كشف قائم على XAI، بما في ذلك تعزيز ثقة المحللين، وتقليل عدد الإيجابيات الكاذبة في عمليات التحقيق، إلى جانب تطوير قدرات كشف تنافسية والامتثال لمتطلبات حماية خصوصية البيانات. كما توضح نتائج التجارب مجموعة من معايير التصميم الجوهرية اللازمة لتنفيذ نظام اكتشاف تهديدات داخلية قائم على الذكاء الاصطناعي القابل للتفسير، بما يسهم في دعم محللي الأمن ومطوري الأنظمة الأمنية في تحسين التصميم العام والمخرجات الأمنية، وتحقيق توازن أفضل بين دقة الكشف وحماية الخصوصية، وتجنب أي تعارض محتمل بين عمليتي “الكشف” و“التفسير”.