تبعیض نژادی سامانه تشخیص چهره آمازون

به گزارش کارگروه فناوری اطلاعات سایبربان، به نقل از «techxplore»؛ به گفته‌ی محققان دانشگاه‌های MIT و تورنتو، سامانه تشخیص چهره‌ی آمازون که با هدف بازاریابی و اجرای قانون، توسعه پیدا کرده بود، بیشتر زنان و به خصوص تیره پوستان را به اشتباه تشخیص داده، تبعیض قائل می‌شود.

مدافعان حقوق مدنی و حریم خصوصی به تازگی از آمازون درخواست کرده‌اند که خدمات تشخیص چهره خود را متوقف کند؛ زیرا این فناوری، در زمینه شناسایی اقلیت‌ها تبعیض قائل می‌شود. تعدادی از سرمایه‌گذاران آمازون نیز درخواستی مشابه دارند؛ زیرا نگران هستند این دستاورد در بررسی پرونده‌های قضایی آسیب‌پذیری ایجاد مي‌کند.

محققان شرح دادند:

هوش مصنوعی آمازون در 31 درصد مواقع زنان تیره پوست را به اشتباه مرد در نظر می‌گیرد. این مسئله درباره زنانی با پوست روشن 7 درصد است. خطای رخ‌داده در مورد مردان سیاه‌پوست، یا دارنده پوست روشن نیز به ترتیب یک درصد و بدون خطا است.

با وجود این که گفته می‌شود هوش‌های مصنوعی، از تعصبات انسانی بی‌بهره‌اند؛ اما در هر صورت توسط دانشمندانی ساخته می‌شوند که هر یک عقاید خاص خود را دارند و آن‌ها را وارد برنامه نیز می‌کنند. مشكل پديدآمده نشان‌دهنده تهدیدی برای حریم خصوصی و آزادی‌های مدنی است که توسط فناوری تشخیص چهره به وجود می‌آید.

جوی بولاموینی (Joy Buolamwini)، یکی از پژوهشگران MIT به دنبال اتفاق رخ‌داده اظهار کرد:

شرکت‌ها باید همه‌ی سیستم‌های خود را که برای تشخیص چهره به کار می‌گيرند، به منظور وجود، یا عدم وجود تعصب و تبعیض بررسی کنند.

وی ادامه داد:

اگر شما سیستم تشخیص چهره‌ای را به فروش می‌رسانید که تعصب دارد، ممكن است که دیگر محصولاتتان هم، در این رده به طور کامل تبعیض قائل شوند.