به گزارش کارگروه فناوری اطلاعات سایبربان، نهاد زنان سازمان ملل متحد هشدار داده است که سیستم‌های هوش مصنوعی همچنان کلیشه‌های جنسیتی دیرینه را تقویت می‌کنند، حتی با اینکه به طور فزاینده‌ای در زندگی روزمره ریشه دوانده اند.
این سازمان می‌گوید بسیاری از مدل‌های هوش مصنوعی هنوز زنان را با نقش‌های خانگی مرتبط می‌کنند در حالی که مردان را به رهبری، تجارت و موفقیت شغلی مرتبط می‌دانند.
مطالعات اخیر، ابعاد این موضوع را برجسته کرده‌اند. تحقیقاتی که ۱۳۳ سیستم هوش مصنوعی را بررسی کردند، نشان داد که ۴۴٪ آنها تعصب جنسیتی نشان می‌دهند، در حالی که بیش از یک چهارم آنها هم تعصب جنسیتی و هم تعصب نژادی را نشان می‌دهند. به گفته نهاد زنان سازمان ملل متحد، این نتایج منعکس کننده تعصبات نهفته در داده‌های آموزشی و الگوهای اجتماعی گسترده‌تر است تا نقص‌های فنی مجزا.
نگرانی‌ها فراتر از کلیشه‌سازی و بازنمایی است. محتوای تولید شده توسط هوش مصنوعی به گسترش سوءاستفاده آنلاین کمک می‌کند، به طوری که مدافعان حقوق بشر، فعالان و روزنامه‌نگاران زن تجربیاتی از تصاویر دستکاری شده گرفته تا محتوای دیپ فیک را گزارش می‌دهند. در عین حال، زنان همچنان در بخش هوش مصنوعی کمتر نماینده دارند و تنها حدود ۳۰٪ از نیروی کار جهانی را تشکیل می‌دهند.
پیش از بحث‌های بین‌المللی در مورد حاکمیت هوش مصنوعی در ژنو، نهاد زنان سازمان ملل متحد از دولت‌ها، شرکت‌های فناوری و توسعه‌دهندگان می‌خواهد که برابری جنسیتی را در مرکز سیاست‌گذاری هوش مصنوعی قرار دهند.
این سازمان تاکید می‌کند که توسعه فراگیر هوش مصنوعی می‌تواند به تضمین گسترش فرصت‌ها و مشارکت توسط این فناوری به جای بازتولید نابرابری‌های موجود کمک کند.
