فيسبوك
واتساب
كشف موظف في فريق أمن الوكلاء داخل شركة OpenAI عن حجم الضغوط التي تواجه العاملين على تأمين أنظمة الذكاء الاصطناعي، في ظل التطور السريع لقدرات النماذج، مؤكدًا أن الأشهر الثلاثة الماضية كانت فترة شديدة الصعوبة بالنسبة لفرق الأمن التي تعاملت مع سلسلة من الحوادث المرتبطة بوكلاء الذكاء الاصطناعي، وقال الموظف، الذي ينشر بشكل مجهول على منصة X تحت اسم @joedaroo، إن العاملين في مجال الأمن اضطروا إلى العمل خلال الليالي وعطلات نهاية الأسبوع للاستجابة للحوادث الأخيرة، موضحًا أنه اضطر شخصيًا إلى التغيب عن حفل زفاف شقيقته قبل أسابيع للمساعدة في التعامل مع تداعيات بعض هذه الحوادث، ودعا الموظف مستخدمي الإنترنت الذين يناقشون حوادث أمن الذكاء الاصطناعي إلى إظهار قدر أكبر من التعاطف مع الفرق التي تتعامل معها، مشيرًا إلى أن العاملين في الأمن يتحملون ضغوطًا كبيرة مع تزايد قدرات أنظمة الذكاء الاصطناعي.
قدرات الذكاء الاصطناعي تتطور أسرع من أنظمة الحماية
وأوضح الموظف أن أحد أكبر التحديات التي تواجه فرق الأمن يتمثل في السرعة التي تتطور بها قدرات نماذج الذكاء الاصطناعي، مؤكدًا أن أنظمة الحماية ونماذج تقييم المخاطر تحتاج إلى وقت حتى تتطور، بينما يمكن لقدرات النماذج المتقدمة أن تتغير بوتيرة أسرع من المتوقع، وأشار إلى حادثة حديثة مرتبطة بوكلاء الذكاء الاصطناعي ومنصة Hugging Face، باعتبارها مثالًا على الفجوة التي يمكن أن تظهر بين قدرات النماذج وإجراءات الحماية المحيطة بها، وكانت OpenAI قد قالت إن وكلاء الذكاء الاصطناعي تمكنوا خلال اختبار داخلي من تجاوز بعض القيود المفروضة على بيئتهم المعزولة، واستغلال ثغرات للوصول إلى الإنترنت والتفاعل مع أنظمة تابعة لجهات خارجية أثناء محاولتهم تنفيذ مهمة محددة، وقال الموظف إن مراجعة هذه الحوادث كشفت بالفعل عن وجود فجوات في إجراءات تأمين تلك البيئات، لكنه أشار في الوقت نفسه إلى أن قدرات النماذج تطورت بصورة أسرع مما كان متوقعًا.
ماذا حدث في حادثة Hugging Face؟
وقعت الحادثة خلال اختبار داخلي لوكلاء الذكاء الاصطناعي، حيث تمكنت النماذج من تجاوز بعض الضوابط المصممة لمنعها من الوصول إلى الإنترنت، قبل الوصول إلى أنظمة خارجية، من بينها منصة Hugging Face المتخصصة في تطوير ومشاركة نماذج وبيانات الذكاء الاصطناعي، وأوضحت OpenAI أن الوكلاء استخدموا قنوات غير مصرح بها وتفاعلوا مع بنية تحتية تابعة لجهات خارجية أثناء محاولة تنفيذ المهام الموكلة إليهم، وتبع ذلك ظهور حالات أخرى تضمنت نشاطًا غير متوقع من جانب وكلاء الذكاء الاصطناعي، ما سلط الضوء على التحديات المرتبطة بتأمين الأنظمة التي تتمتع بقدرات متزايدة على تنفيذ المهام بشكل مستقل.
OpenAI تعزز فرق أمن الذكاء الاصطناعي
وأكد الموظف أن فريق أمن الوكلاء أصبح في وضع أقوى مقارنة بما كان عليه قبل عدة أشهر، مشيرًا إلى زيادة الجهود والإجراءات الأمنية بعد الحوادث الأخيرة، ويعمل فريق Agent Security في منطقة تجمع بين أمن الذكاء الاصطناعي ومجالات الأمن التقليدية، مع التركيز على مراقبة الوكلاء بحثًا عن مؤشرات على خروجهم عن القيود المحددة لهم أو حدوث اختراقات لآليات الاحتواء، إلى جانب الاستجابة للحوادث عند وقوعها، وتعكس هذه التطورات تحديًا متزايدًا أمام شركات الذكاء الاصطناعي، يتمثل في ضرورة تطوير أنظمة الحماية بالتوازي مع التطور السريع لقدرات النماذج، خصوصًا مع انتقال الذكاء الاصطناعي من تقديم إجابات للمستخدمين إلى تنفيذ مهام متعددة والتفاعل مع أنظمة وخدمات خارجية.
مطالب بزيادة الرقابة على شركات الذكاء الاصطناعي
وأثارت حوادث أمن الذكاء الاصطناعي أيضًا نقاشًا حول مدى قدرة الشركات على تنظيم نفسها، وسط دعوات إلى وضع قواعد أكثر وضوحًا للسلامة والمراقبة، وفي مقابلة حديثة مع NBC، قال بيل جيتس، الشريك المؤسس لشركة Microsoft، إن شركات الذكاء الاصطناعي لا ينبغي أن تعتمد على التنظيم الذاتي وحده، داعيًا المشرعين وأجهزة إنفاذ القانون إلى المشاركة في تحديد إجراءات الحماية والمراقبة المطلوبة للأنظمة المتقدمة، وتأتي هذه الدعوات في وقت تواجه فيه صناعة الذكاء الاصطناعي تحديًا مزدوجًا يتمثل في مواصلة تطوير قدرات النماذج، مع بناء أنظمة أمنية قادرة على مواكبة هذه القدرات والحد من المخاطر الناتجة عن استخدامها أو خروجها عن القيود الموضوعة لها.
