دراسة: تكنولوجيا أمازون للتعرف على الوجه متحيزة عنصريًا
26/01/2019 | 9:50 م 0 comments
أمازون - تواجه تقنية التعرف على الوجه من أمازون المسماة Amazon Rekognition انتقادات جديدة، إذ وجدت دراسة جديدة من مختبر الإعلام في معهد ماساتشوستس للتكنولوجيا MIT
تواجه تقنية التعرف على الوجه من أمازون المسماة Amazon Rekognition انتقادات جديدة، إذ وجدت دراسة جديدة من مختبر الإعلام في معهد ماساتشوستس للتكنولوجيا MIT Media Lab أن Rekognition قد تكون متحيزة عنصريًا.
وكان أداء التقنية سيء بشكل خاص عند تحديد النساء والنساء ذوات البشرة الداكنة، إذ حددت التقنية بشكل غير صحيح 19 في المئة من الوجوه الأنثوية المعروضة عليه على أنهم رجال.
كما أن النتيجة كانت أسوأ بكثير بالنسبة للنساء ذوات البشرة الداكنة، إذ حددت تقنية Rekognition بشكل غير صحيح ما يصل إلى 31 في المئة منهن على أنهم رجال.
بينما، على سبيل المقارنة، لم ترتكب التقنية أية أخطاء في محاولاتها لتحديد الرجال ذوي البشرة الفاتحة.
ووجد معهد ماساتشوستس للتكنولوجيا أن تقنيات مماثلة طورتها آي بي إم IBM ومايكروسوفت كان أداؤها أفضل من تقنية أمازون Rekognition، إذ حددت تقنية مايكروسوفت بشكل غير صحيح 1.5 في المئة من النساء ذوات البشرة الداكنة على أنهن رجال.
وكانت الباحثة في معهد ماساتشوستس للتكنولوجيا، جوي بولامويني Joy Buolamwini، قد أجرت دراسة مماثلة في شهر فبراير/شباط الماضي، ووجدت أن تقنية التعرف على الوجه من IBM ومايكروسوفت تعاني من التحيز العنصري.
وولدت تلك الدراسة ردة فعل كبيرة للشركات، حيث تعهدت كل من مايكروسوفت و IBM بإعادة تجهيز التقنية لتكون أكثر دقة وتقليل معدلات الخطأ، بينما لم تقم شركة أمازون بإجراء أي تغييرات بعد الدراسة.
موضوعات ذات صلة بما تقرأ الآن:مجموعة من التطبيقات المميزة لجهاز Apple TV تساعدك على توسيع…
يناير 26, 2019شركات التكنولوجيا تنفق الملايين على الضغط السياسي
يناير 24, 2019وكتب أحد الباحثين في الدراسة: “في ضوء هذا البحث، فمن غير المسؤول أن تستمر الشركة في بيع هذه التقنية لأجهزة تطبيق القانون أو الوكالات الحكومية”، فيما رفضت شركة أمازون نتائج الدراسة قائلة إن الباحثين لم يستخدموا أحدث إصدار من Rekognition.
وأوضح مات وود Matt Wood، المدير العام للتعلم العميق والذكاء الاصطناعي في أمازون لخدمات الإنترنت: “ليس من الممكن استخلاص استنتاج بشأن دقه التعرف علي الوجه لأي حاله استخدام، بما في ذلك وكالات تطبيق القانون، استنادًا إلى النتائج التي تم الحصول عليها باستخدام تحليل الوجه”.
ويحاول نظام الحاسب تحديد سمات عامة للصورة، مثل ما إذا كان الشخص الظاهر يرتدي نظارات، أو لديه شارب عبر تقنية تحليل الوجه، بينما تركز تقنية التعرف على الوجه على محاولة العثور على صور مطابقة لوجه معين.
ويحذر الخبراء، وكذلك مؤلفو التقرير، من أنه في حالة استمرار تقنيات التعرف على الوجوه من المعاناة بشأن التحيز العنصري، فإن ذلك يمكن أن يؤدي إلى تنميط المجتمع عرقيًا وغيره من المظالم.
وتدعو بولامويني شركة أمازون إلى معالجة التحيز في تقنيتها، وقالت إن هناك حاجة للقيام بأكثر من مجرد إصلاح للتحيز في التقنية لضمان استخدامها بشكل عادل.
وكتب الباحثون “لا يمكن تجاهل إمكانية إساءة استخدام تقنيات تحليل الوجه، ولا تتقلص التهديدات للخصوصية أو انتهاكات الحريات المدنية حتى مع انخفاض الفوارق الدقيقة”.
وأضافوا “هناك حاجة إلى مزيد من الاستكشافات بشأن الممارسات التجارية والمبادئ الأخلاقية لضمان حماية الفئات الضعيفة والمهمشة من السكان وعدم إلحاق الضرر بها مع تطور هذه التكنولوجيا”.
وكانت أمازون قد واجهت دعوات متكررة لوقف بيع تقنية Rekognition للشرطة، ويعتقد أن مكتب التحقيقات الفيدرالي FBI يختبر التقنية المثيرة للجدل، في حين أكدت بيانات بيع أمازون للتقنية إلى وكالات تطبيق القانون في مدينة أورلاندو بولاية فلوريدا ومقاطعة واشنطن بولاية أوريغون.
زيارة الموضوع الاصليدراسة: تكنولوجيا أمازون للتعرف على الوجه متحيزة عنصريًا
موقع قولي غير مسئول عن المحتوي المعروض، فهو مقدم من موقع اخر (سياسة الخصوصية)
تكنولوجيا ومصنع بطاريات.. تفاصيل مباحثات وزير الكهرباء و إنكوم بشأن الطاقة والتخزين مصراوى
تكنولوجيا ومصنع بطاريات تفاصيل مباحثات وزير الكهرباء و إنكوم بشأن الطاقة والتخزين | مصراوى
التكنولوجيا تغيّر المستقبل من خلال العمل الحر عبر الإنترنت تكنولوجيا الجزيرة نت
أصبح العمل الحر عبر الإنترنت من أبرز الظواهر التي تعيد تشكيل سوق العمل العالمي في عصر الرقمنة والتكنولوجيا المتسارعة.
كونتكت المالية القابضة ضمن أقوى 50 شركة تكنولوجيا مالية في الشرق الأوسط لعام 2025 - Economy Plus
اختارت مجلة فوربس الشرق الأوسط شركة "كونتكت المالية القابضة "، العاملة في مجال الخدمات المالية غير المصرفية في مصر، ضمن أقوى 50 شركة تكن
اليوم السابع
بوابة اليوم السابع الاخبارية تقدم احدث واهم اخبار مصر على مدار اليوم كما نقدم اهم اخبار الرياضة والفن والاقتصاد والحوادث
سمارت بيز أول شركة تكنولوجيا مالية تتحول إلى بنك في عهد ترمب اقتصاد الشرق مع بلومبرغ
حصلت شركة "سمارت بيز" على الموافقة التنظيمية لتصبح بنكاً، لتكون بذلك أول شركة تكنولوجيا مالية تحقق هذا الإنجاز منذ تولي الرئيس دونالد ترمب منصبه. اقتصاد الشرق مع بلومبرغ
معهد تكنولوجيا المعلومات يواصل جهوده التدريبية بعد اعتماده مصراوى
معهد تكنولوجيا المعلومات يواصل جهوده التدريبية بعد اعتماده من آبل العالمية | مصراوى
طوق النجاة.. شركات الاتصالات تتحول إلى عمالقة تكنولوجيا
في سباق محموم لمواكبة العصر الرقمي، تتسابق شركات الاتصالات العالمية للتحول من مجرد أنابيب صامتة تنقل البيانات، إلى كيانات تكنولوجية مبتكرة تستثمر في الذكاء
دراسة: تكنولوجيا أمازون للتعرف على الوجه متحيزة عنصريًا اخبار التكنولوجيا أمازون - تواجه تقنية التعرف على الوجه من أمازون المسماة Amazon Rekognition انتقادات جديدة، إذ وجدت دراسة جديدة من مختبر الإعلام في معهد ماساتشوستس للتكنولوجيا MIT
التعليقات علي دراسة: تكنولوجيا أمازون للتعرف على الوجه متحيزة عنصريًا