محمد الجندي يحذر: الذكاء الاصطناعي يدخلنا في عصر أخطر أنواع التزييف والتضليل

قال الدكتور محمد الجندي، الخبير الدولي في الأمن السيبراني، إن العالم دخل مرحلة أكثر خطورة من التضليل المعلوماتي مع توظيف تقنيات الذكاء الاصطناعي في تزييف الأصوات ومقاطع الفيديو والمحتوى، بما يفتح الباب أمام التأثير في وعي الجمهور واستخدام هذه التقنيات في عمليات الاحتيال والجرائم الإلكترونية.
وأوضح الجندي أن التطور الكبير في تقنيات الذكاء الاصطناعي جعل من الممكن إنتاج أصوات وصور ومقاطع فيديو يصعب على المستخدم العادي اكتشاف عدم حقيقتها، ما يزيد من مخاطر استغلالها في التضليل أو انتحال الشخصيات.

استنساخ صوت مدير شركة لتنفيذ عملية احتيال

واستعرض الخبير الدولي في الأمن السيبراني نموذجًا لعملية احتيال تعرضت لها إحدى الشركات، موضحًا أن المهاجمين تمكنوا من تقليد صوت رئيس مجلس إدارة الشركة، والتواصل مع المسؤول عن الحسابات وإقناعه بأنه المدير الحقيقي.
وأضاف أن المسؤول تلقى تعليمات بتحويل 35 مليون دولار إلى 17 حسابًا بدعوى تنفيذ عمليات استحواذ على شركات، مشيرًا إلى أن المكالمة بدت مقنعة نتيجة استخدام صوت المدير ورقم هاتفه.

وتابع أن الواقعة اكتُشفت في اليوم التالي بعدما تحدث الموظف مع رئيس مجلس الإدارة بشأن المكالمة، ليؤكد الأخير أنه لم يتواصل معه من الأساس، لتبدأ الشركة التحقيق في الواقعة.

اختراق الهاتف وجمع تسجيلات الصوت

وأشار الجندي إلى أن التحقيقات كشفت، بحسب الواقعة التي استعرضها، تعرض هاتف رئيس مجلس الإدارة للاختراق، وجمع تسجيلات من مكالماته لاستخدامها في تكوين بصمة صوتية تساعد على استنساخ صوته وتنفيذ عمليات احتيال.

ولفت إلى مقاطع الفيديو المصنوعة بتقنيات الذكاء الاصطناعي، مستشهدًا بنموذج يحاكي الممثل مورجان فريمان، موضحًا أن التطور في تقنيات التزييف أصبح يجعل التفرقة بين المحتوى الحقيقي والمصطنع أكثر صعوبة.

وأكد أن القضية لم تعد مقتصرة على تزييف صورة أو صوت، وإنما أصبحت مرتبطة بإمكانية التأثير في إدراك الإنسان وثقته فيما يشاهده ويسمعه، ما يفرض تحديات جديدة في مجال الأمن السيبراني والتحقق من المحتوى.