باحث الأمن السيبراني جيمس كيتل حاول دفع قدرات الذكاء الاصطناعي في الاختراق إلى أقصى حدودها. والنتيجة لم تكن أن الذكاء الاصطناعي أصبح هاكرًا مستقلًا بالكامل، بل أن أخطر ما يستطيع فعله اليوم يظهر عندما يعمل بجانب خبير بشري يعرف أين يوجهه.
#الذكاء الاصطناعي غيّر لعبة اكتشاف الثغرات
الذكاء الاصطناعي الوكيلي غيّر الأمن السيبراني بشكل واضح. أصبح العثور على الثغرات أسرع وأسهل، وأصبح كذلك من الممكن استخدام النماذج للمساعدة في إصلاح الثغرات أو تطوير استغلالات عملية لها.
لكن كيتل أراد اختبار شيء أبعد من مجرد البحث السريع عن الأخطاء. السؤال كان بسيطًا، هل يستطيع الذكاء الاصطناعي ابتكار أسلوب اختراق جديد بالكامل من الفكرة وحتى الهجوم العملي؟
#الإجابة ليست نعم ولا لا
في مؤتمر Black Hat في لاس فيغاس عرض كيتل نتائج تجاربه. بحسب ما توصل إليه، الذكاء الاصطناعي قادر بدرجة محدودة جدًا على ابتكار مسارات هجوم جديدة بشكل مستقل.
لكن الصورة تتغير عندما يدخل الإنسان في الحلقة. مع التوجيه البشري في اللحظات الصحيحة، يصبح الذكاء الاصطناعي شريكًا قويًا جدًا في التفكير واكتشاف أفكار هجومية جديدة.
وهنا ظهرت واحدة من أهم نتائج أبحاث كيتل.
#فئة ثغرات جديدة اسمها Shared-Parser Confusion
بعد سنوات من البحث في ثغرات الويب، يقول كيتل إنه وصل إلى مساحة جديدة من المخاطر أطلق عليها اسم Shared-Parser Confusion. الفكرة ظهرت بعد ملاحظة من الذكاء الاصطناعي حول خوادم ويب تستخدم الشيفرة نفسها لتحليل الطلبات والردود.
وهنا تكمن المشكلة. طلبات المستخدم إلى الموقع غير موثوقة بطبيعتها، أما ردود الخادم فعادة يتم التعامل معها باعتبارها موثوقة.
إذا كان الاثنان يمران عبر نفس منطق التحليل، فقد ينشأ سطح هجوم جديد لم يكن واضحًا من قبل. كيتل وصف الأمر بأنه اكتشاف ضخم لأن تأثيره قد يمتد إلى أكثر من نوع من الهجمات.
#التجربة بدأت في سبتمبر 2025
بدأ كيتل تجاربه باستخدام أحدث نماذج Anthropic وOpenAI المتاحة له وقتها. في البداية أراد قياس قدرة الذكاء الاصطناعي على إجراء أبحاث أمنية نظرية، لكنه واجه مشكلة مزعجة.
بعض النماذج كانت تعيد تقديم أبحاث قديمة وشديدة التخصص وكأنها أفكار جديدة. والتحقق من كل ادعاء كان صعبًا ويستهلك وقتًا كبيرًا.
لذلك غيّر طريقة الاختبار وحصر التجارب في مجال أمن الويب الذي يعرفه جيدًا. بهذه الطريقة يستطيع التحقق من النتائج بنفسه ويقلل احتمالية أن يخدعه النموذج بثقة زائفة.
#بدل أن يسأل الذكاء الاصطناعي عن الإجابة، علّمه طريقة البحث
كيتل لم يكتف بإعطاء النموذج أسئلة عن الثغرات. بدأ بتلخيص منهجيته البحثية نفسها وإدخالها في التجربة، أي أنه حاول تعليم النموذج كيف يفكر كباحث أمني، وليس فقط ماذا يبحث عنه.
ومع تحسن النماذج بمرور الوقت، بدأت النتائج تتدفق بوتيرة أسرع بكثير مما يستطيع هو الوصول إليه منفردًا. بحسب كيتل، كان النظام يقدم خيوطًا بحثية مهمة كل يومين تقريبًا، أحيانًا من دون أن يدخل إلى النظام بنفسه.
#كثرة النتائج أصبحت مشكلة بحد ذاتها
السرعة لم تكن مريحة دائمًا. كيتل وصف شعوره بالقلق من كمية الخيوط البحثية التي تظهر أمامه، لأن كل نتيجة قد تقود إلى ثغرة حقيقية، وكل نتيجة لا يتم فحصها قد تكون فرصة ضائعة.
وهذا دفعه إلى أتمتة أجزاء أكبر من عملية التحليل. بمعنى آخر، الذكاء الاصطناعي لم يسرع البحث فقط، بل أجبر الباحث نفسه على إعادة تصميم طريقة عمله حتى يستطيع مواكبة السرعة الجديدة.
#هل اكتشف الذكاء الاصطناعي فئة ثغرات جديدة بمفرده؟
تقريبًا. كيتل كان يأمل أن يتمكن النظام من اكتشاف فئة كاملة وجديدة من الثغرات، والنظام وصل بالفعل إلى نتيجة من هذا النوع.
لكن المشكلة أنها ارتبطت بنوع نادر جدًا من الأخطاء. وفوق ذلك لم تكن قابلة للاستغلال في الهدف الوحيد المتاح للاختبار، لذلك النجاح الكامل لم يحدث.
لكن التجربة الأكثر أهمية جاءت من Shared-Parser Confusion.
#هنا ظهر أفضل شكل للتعاون بين الإنسان والآلة
الذكاء الاصطناعي لم يستطع إثبات الفكرة وحده. لكنه حلل نتائج حقيقية ومثبتة واقترح فرضية جديدة، ثم أخذ كيتل الفرضية واختبرها وأكد أنها تستحق البحث فعليًا.
وهنا تكمن النقطة الأهم. كيتل يقول إنه على الأرجح لم يكن سيصل إلى الفكرة وحده، وفي الوقت نفسه النموذج لم يكن قادرًا على إثباتها وحده.
الاكتشاف ظهر من الطرفين معًا.
#وهذا قد يكون أخطر ما في الذكاء الاصطناعي الأمني اليوم
القلق الأكبر ليس أن الذكاء الاصطناعي أصبح هاكرًا مستقلًا بالكامل، على الأقل ليس حتى الآن. الخطر الحقيقي أن باحثًا أو مهاجمًا خبيرًا يمكنه استخدامه لتوسيع قدراته بشكل ضخم.
الإنسان يملك الخبرة والسياق والحكم على النتائج، والذكاء الاصطناعي يملك السرعة والقدرة على تحليل مساحات كبيرة من الاحتمالات.
وعندما يجتمع الطرفان، تظهر أفكار ربما لم يكن أي منهما سيصل إليها وحده. وهذا بالضبط ما يجعل المرحلة الحالية من أمن الذكاء الاصطناعي مثيرة ومقلقة في الوقت نفسه.
