فيسبوك
واتساب
أكد المهندس بلال الحفناوي، خبير أمن وتكنولوجيا المعلومات من عمّان، أن الذكاء الاصطناعي شهد تطورًا كبيرًا خلال الفترة الأخيرة، وأصبح يستخدم كأداة للهجوم على أنظمة الذكاء الاصطناعي والأنظمة والبرمجيات الأخرى، بعدما كان ينظر إليه في البداية باعتباره أداة للمساعدة.
الذكاء الاصطناعي يسرع اكتشاف الثغرات
وأوضح خبير أمن وتكنولوجيا المعلومات، خلال مداخلة هاتفية عبر قناة القاهرة الإخبارية، أن أهم ما يميز استخدام الذكاء الاصطناعي في الهجمات هو السرعة والأتمتة والحركة السريعة، مشيرًا إلى أن الأنظمة أصبحت قادرة على اكتشاف الثغرات في الأنظمة الأخرى وفحص كميات كبيرة من الشيفرات والبرمجيات، ورصد الاختراقات المحتملة بسرعة تفوق سرعة البشر.
وأشار إلى أن العمل في السابق كان يعتمد بدرجة كبيرة على سرعة المبرمج أو الفاحص أو الشخص الذي يعمل في مجال الهجوم، بينما أصبح الذكاء الاصطناعي يتيح تنفيذ عمليات الفحص واكتشاف الثغرات بصورة أسرع.
وأضاف أن هناك ما يعرف بالهجمات التكيفية، حيث يجرب النموذج مدخلات مختلفة على الأنظمة الأخرى، ويراقب رد فعل النظام المستهدف، ثم يعدل استراتيجيته تلقائيًا وفقًا للنتائج التي يحصل عليها.
وأوضح أن استراتيجية الهجوم تتغير بحسب السيناريو الذي يواجهه النظام، وأن المهاجم يستطيع الاستفادة من الثغرات الموجودة وتكييف أسلوبه معها.
ولفت إلى تطور آخر يتمثل في الانتقال من الهندسة الاجتماعية التي تستهدف البشر إلى الهندسة الاجتماعية الآلية، من خلال توليد رسائل تصيد أو محتوى مقنع ومخصص لضحايا محددين، سواء كانوا أنظمة أو أشخاصًا يستخدمون هذه الأنظمة.
وأكد أن هذا التطور أدى إلى تغيير أساليب الهندسة الاجتماعية وزيادة قدرتها على استهداف أشخاص أو أنظمة بعينها.
الهجمات العدائية تستهدف خداع النماذج
وأوضح الحفناوي أن من بين التطورات المهمة أيضًا ما يسمى بالهجمات العدائية المخصصة، والتي تعتمد على تصميم مدخلات بهدف خداع نموذج ذكاء اصطناعي آخر.
وأشار إلى إمكانية تقديم صورة تحتوي على شعار معين أو تشويش غير مرئي للعين البشرية، بينما يتعامل النظام معها بصورة مختلفة، ما قد يؤدي إلى خداع نظام تصنيف الصور وجعله يرى الصورة بطريقة تختلف عن رؤية البشر لها، موضحًا أن الآلة تتعامل مع وحدات الصورة الرقمية.
وأكد أن الهدف أصبح يتمثل في تضليل النموذج المستهدف بدلًا من تضليل البشر، لأن التعامل أصبح مع الآلة نفسها.
وأشار إلى أن من التطورات الخطيرة التي ظهرت خلال الفترة الأخيرة استرجاع بيانات التدريب، حيث يمكن إعطاء أوامر للنظام لتحفيز النموذج المستهدف على إخراج بيانات حساسة أو سرية كان قد اعتمد عليها أثناء عملية التدريب.
وأوضح أن هذا النوع من الهجمات ظهر بالفعل في أحد الأنظمة خلال الفترة الماضية.
ولفت إلى أن النقطة الأخيرة المهمة تتمثل في استغلال منطق وكلاء الذكاء الاصطناعي، من خلال استغلال ثغرات التفكير والتحليل لدى الوكلاء الأذكياء وتوجيههم نحو تنفيذ أوامر أو إجراءات ضارة، اعتمادًا على خداعهم بهذا الأمر.
أي نظام يعتمد على الذكاء الاصطناعي والبيانات والاتصالات معرض للاختراق
وأكد الحفناوي أن أي نظام يستخدم الذكاء الاصطناعي أو البيانات أو الاتصالات يمكن اختراقه، لكن ذلك يختلف وفق مستويات وطرق مختلفة.
وأوضح أن اختراق أي نظام أو برمجية أو إطار حماية لنظام سيبراني يتطلب معرفة ثغرات النظام ومعرفة كيفية الدخول إليه، مشيرًا إلى أن الأمر ينطبق كذلك على الأنظمة التي تعتمد عليها المسيّرات وغيرها من الأنظمة.
وأوضح أن الفكرة ليست أن مصمم النظام يضع فيه ثغرات عمدًا، وإنما تظهر الثغرات بعد التصميم نتيجة وجود نقاط ضعف في المراجعة أو التدقيق أو فحص النظام.
وأشار إلى أن الأشخاص القادرين على اختراق أنظمة الذكاء الاصطناعي يمتلكون القدرة على فحص هذه الأنظمة والبحث عن الثغرات المحتملة باستخدام الآلة، موضحًا أن استخدام الآلة زاد من سرعة اكتشاف الثغرات، وأتاح التكيف مع هذه الثغرات وتخصيص الهجوم لكل هدف وفق آلية محددة.
وأضاف أن الذكاء الاصطناعي أدى كذلك إلى ظهور أنماط اكتشاف غير متوقعة، بعدما كان الفحص في السابق يعتمد على أنماط تقليدية ومعروفة لدى المبرمجين، بينما أصبح الفحص باستخدام الذكاء الاصطناعي يتم بطرق وسلوكيات مختلفة وغير متوقعة.
وأكد الحفناوي أن الذكاء الاصطناعي الوكيلي أصبح يمتلك صلاحيات تنفيذية، موضحًا أن المستخدم يستطيع إعطاء النموذج أمرًا لتنفيذ مهام كاملة، مثل إرسال بريد إلكتروني، أو تعديل ملف، أو حجز رحلة، أو تنفيذ معاملة من بدايتها إلى نهايتها، فضلًا عن استدعاء أدوات وأنظمة أخرى ونقل البيانات من نظام إلى آخر.
وأوضح أن احتمالية الخطأ تظل موجودة، لكن الخطأ في حالة الذكاء الاصطناعي الوكيلي أصبح له أثر حقيقي، لأن النظام يمتلك صلاحيات تنفيذية يمكن أن تنعكس نتائجها على الواقع.
زيادة صلاحيات الذكاء الاصطناعي قد تؤدي إلى أضرار حقيقية
وأشار الحفناوي إلى أنه لا يتبنى فكرة خروج الآلات عن سيطرة البشر بصورة مطلقة، مؤكدًا أن المشكلة الأساسية تتمثل في منح الآلة صلاحيات أكبر من قدراتها، بما يجعل آثار الأخطاء التي ترتكبها تنعكس على البشر.
وأوضح أنه إذا تم إعطاء الذكاء الاصطناعي الوكيلي أمرًا بتحديث قاعدة بيانات وحذف البيانات القديمة وتخزين بيانات جديدة في موقع آخر، ثم قام بحذف البيانات القديمة دون وجود نسخة احتياطية، فقد يؤدي ذلك إلى فقدان البيانات.
وأضاف أن تخزين المعلومات في خادم غير محمي يمكن أن يؤدي إلى تسريب المعلومات، مشيرًا إلى أن الأمر قد يتعلق كذلك بمعاملات مالية ومعاملات تخص القطاعات الطبية والصناعية والصحية وقطاعات أخرى.
