صلاحيات واسعة ومخاطر أكبر.. هل يهدد وكيل الذكاء الاصطناعي Muse خصوصيتك؟

لم يعد وكيل الذكاء الاصطناعي مجرد أداة تجيب عن الأسئلة أو تنفذ أوامر بسيطة، بل أصبح قادرًا على الدخول إلى البريد الإلكتروني والتقويمات وتطبيقات المراسلة والحسابات المختلفة وإنجاز المهام نيابة عن المستخدم، لكن كلما اتسعت صلاحيات هذه الأدوات، أصبحت حمايتها من الاختراق أكثر تعقيدًا، وهو ما ظهر بوضوح مع وكيل الذكاء الاصطناعي Muse من ميتا.

وقبل إطلاق Muse، اكتشفت ميتا عددًا من الثغرات الأمنية الخطيرة التي كان يمكن أن تسمح، في حال استغلالها، لمستخدم عادي بتجاوز البيئة المعزولة التي يعمل فيها الوكيل والوصول إلى أنظمة وبيانات حساسة داخل الشركة، وفق تقرير نشرته 404 Media استنادًا إلى مصدر في ميتا ووثائق أمنية داخلية.
وتعمل Muse داخل جهاز افتراضي منفصل عن الأنظمة الرئيسية لميتا، بهدف توفير طبقة حماية تمنع الوكيل من الوصول المباشر إلى البنية التحتية الأوسع للشركة، والفكرة وراء هذا العزل هي إبقاء أي مشكلة تحدث داخل بيئة الوكيل محصورة فيها، دون انتقالها إلى الأنظمة الأخرى.

كيف تحول نظام Linux إلى نقطة ضعف؟

لكن إحدى الثغرات المكتشفة كشفت أن هذا الحاجز نفسه يمكن أن يصبح نقطة ضعف، وارتبطت المشكلة باستغلال أمني ظهر في شيفرة الأجهزة الافتراضية في نظام Linux خلال يوليو، وكان من الممكن أن يسمح بالخروج من البيئة المعزولة والوصول إلى النظام الأكبر الذي يستضيفها.

وبحسب التقرير، دفعت خطورة الثغرات ميتا إلى جمع عدة فرق للعمل على تأمين Muse، بعدما تزايدت التقارير المتعلقة بالمشكلات الأمنية، وبدأت الشركة العمل على معالجة المشكلة في 27 أغسطس، واستمرت جهود المهندسين لأسابيع، بما في ذلك خلال عطلات نهاية الأسبوع، مع العمل على تقليص نطاق الصلاحيات والاتصالات المتاحة للوكيل.

وتناول منشور داخلي كتبه مسؤولون تنفيذيون في ميتا في 18 سبتمبر هذه الجهود، مشيرًا إلى إجراءات استهدفت الحد من قدرة Muse على الوصول إلى أجزاء من الإنترنت وأنظمة الشركة، إلى جانب اختبارات وفحوص أمنية مكثفة قبل الإطلاق.

وتكتسب هذه الثغرات أهمية خاصة لأن Muse ليس روبوت محادثة تقليديًا يكتفي بتقديم إجابات للمستخدم، وإنما وكيل يمكنه الوصول إلى خدمات وحسابات وتنفيذ إجراءات نيابة عنه، وبالتالي فإن اختراق طبقة الحماية الخاصة به قد يمنح المهاجم نطاقًا أوسع بكثير من الوصول مقارنة باختراق محادثة عادية مع نموذج للذكاء الاصطناعي.

مخاطر وصول الوكيل الذكى إلى الحسابات والتطبيقات

وتقول ميتا إنها عززت أمن Muse من خلال اختبارات موسعة ومراجعات أمنية داخلية وبرنامج مكافآت اكتشاف الثغرات، لكن التحديات الأمنية لم تتوقف عند المشكلات التي ظهرت قبل الإطلاق.
فقد اكتشف الباحث الأمني باتريك واردل ثغرة أخرى يمكن أن تسمح لتطبيقات وأوامر طرفية بالتحكم في Muse على جهاز المستخدم، كما تمكن مستخدم آخر، وفق التقرير، من جعل الوكيل يصدر قائمة بمتابعي حساب على إنستجرام، وهي وظيفة لم يكن من المفترض أن تكون متاحة له.
وتكشف هذه الوقائع جانبًا أكثر تعقيدًا من سباق تطوير وكلاء الذكاء الاصطناعي؛ فكلما أصبحت هذه الأدوات أكثر قدرة على التصرف باستقلالية والوصول إلى خدمات المستخدم وتنفيذ المهام بدلًا منه، لم تعد القضية تتعلق فقط بدقة إجابات النموذج، وإنما بحدود الصلاحيات التي يحصل عليها، وكيفية عزله، وما إذا كان بالإمكان منعه من الانتقال من البيئة التي صمم للعمل داخلها إلى أنظمة وبيانات يفترض ألا يصل إليها.