نظام التعرف على الوجه التابع لأمازون يصنف 28 عضوا بالكونجرس كمجرمين

السبت، 28 يوليو 2018 04:00 م
نظام التعرف على الوجه التابع لأمازون يصنف 28 عضوا بالكونجرس كمجرمين نظام التعرف على الوجه
كتب مؤنس حواس

مشاركة

اضف تعليقاً واقرأ تعليقات القراء

كشف الاتحاد الأمريكى للحريات المدنية ACLU أنه أجرى اختبارا لنظام التعرف على الوجه التابع لشركة أمازون المعروف باسم Amazon Rekognition، والذى صنف بشكل خاطئ 28 عضوا فى الكونجرس الأمريكى، كأنهم أشخاص مشتبه بهم من قبل الشرطة بسبب بعض الجرائم، الأمر الذى أثار مخاوف كبيرة لدى المشرعين حول هذه التقنية، خاصة أن شركة أمازون تعمل على تسويق هذا النظام إلى وكالات إنفاذ القانون فى جميع أنحاء الولايات المتحدة.

ووفقا لما نشره موقع digitartlends الأمريكى، قام الاتحاد الأمريكى للحريات المدنية بتحميل نظام أمازون بقاعدة بيانات تحتوى على 25 ألف سجل جنائى للمجرمين ومرتكبى مخالفات قانونية تم تنزيلها من مصدر عام، ثم قام بتمرير الصور الرسمية لكل أعضاء الكونجرس البالغ عددهم 535 عضوًا خلال برنامج Rekognition، فى محاولة لمعرفة أى من هذه الصور قد يتطابق مع قاعدة البيانات وانتهى الأمر بمطابقة صور 28 عضوا، من بين هؤلاء الـ28 فشل النظام فى التعرف على 6 أعضاء لأنهم من ذوى البشرة السمراء بما فى ذلك النائب جون لويس ديمقراطى من جورجيا.

ويضغط الاتحاد الأمريكى للحريات المدنية على شركة أمازون منذ شهر مايو 2018 لوقف بيع نظام التعرف على الوجوه Rekognition لوكالات إنفاذ القانون، محذرة من أن هذه الأداة يمكن استخدامها لاستهداف المهاجرين والأشخاص حسب لونهم بشكل غير عادل، كما أظهرت دراسة للاتحاد الأمريكى مشكلة التحيز العنصرى التى يعانى منها نظام أمازون الآن، حيث أن نظام أمازون فشل فى التعرف على الأعضاء بنسبة 39% لأنهم هم ذوى البشرة السمراء، وقد طالب الكونجرس شركة أمازون بتقديم إجابات بخصوص الأخطاء التى ارتكبها برنامج التعرف على الوجه.







مشاركة




لا توجد تعليقات على الخبر
اضف تعليق

تم أضافة تعليقك سوف يظهر بعد المراجعة





الرجوع الى أعلى الصفحة