فيسبوك
واتساب
دعا كليمان ديلانغ الرئيس التنفيذي لشركة Hugging Face إلى فرض قواعد تلزم شركات الذكاء الاصطناعي بالكشف عن الحوادث الأمنية التي تتسبب فيها نماذجها أو وكلاؤها، وتأتي الدعوة بعد سلسلة من الوقائع التي أثارت مخاوف واسعةً بشأن قدرة وكلاء الذكاء الاصطناعي على تجاوز البيئات المعزولة والوصول إلى أنظمة خارجية أثناء الاختبارات، ويعكس الموقف تحولًا مهمًا في نقاش سلامة الذكاء الاصطناعي لأن التركيز لم يعد فقط على منع إطلاق النماذج القوية بل أصبح يشمل توفير معلومات واضحةً للسوق والباحثين والجهات التنظيمية عندما تقع أخطاء يمكن أن تكشف نقاط ضعف خطيرة في أنظمة الحماية.
Hugging Face تطالب بالإفصاح الإجباري
وفقًا لتقرير منشور بموقع بيزنس إنسايدر قال كليمان ديلانغ إن منع إطلاق النماذج القوية ليس الطريق الأفضل لمنع حوادث مشابهةً للاختراق الذي تعرضت له Hugging Face بل يرى أن شركات الذكاء الاصطناعي يجب أن تخضع لقواعد تجبرها على الكشف عن الهجمات والحوادث السيبرانية المرتبطة بأنظمتها، ويهدف هذا النهج إلى ضمان معرفة الباحثين والجهات التنظيمية بطبيعة الأخطاء التي تقع بدلًا من بقاء التفاصيل داخل الشركات وعدم ظهورها إلا عندما يصبح تأثيرها كبيرًا.
الشفافية تتحول إلى عنصر من عناصر السلامة
يمكن أن يؤدي فرض الإفصاح الإجباري إلى تغيير طريقة تعامل شركات الذكاء الاصطناعي مع الحوادث لأنها ستصبح مطالبةً بتوثيق ما حدث وكيف تجاوز النموذج القيود وما الأنظمة التي تأثرت وما الإجراءات التي اتخذت لمنع تكرار المشكلة، كما قد تساعد مشاركة هذه المعلومات الشركات الأخرى على اكتشاف نقاط ضعف مماثلةً قبل استغلالها، ويشبه هذا التوجه إلى حد كبير الممارسات التي تطورت في صناعة الأمن السيبراني حول الإفصاح عن الثغرات والحوادث، وإذا تحول إلى قاعدة تنظيمية فقد يصبح تاريخ الشركة في الإبلاغ عن أخطاء نماذجها عنصرًا مهمًا في تقييم مستوى السلامة والثقة في منتجاتها.
