به گزارش شهرآرانیوز، این تغییرات پس از این انجام گرفت که کاربران توئیتر مکرر نشان دادند ابزار عکس که از یادگیری ماشینی برای کراپ یک بخش از عکس استفاده می کند، افراد سیاه پوست را در عکس‌ها حذف کرده و روی چهره‌های سفید پوست متمرکز می‌شود.
توئیتر سیستم کراپ تصویر را در سال ۲۰۱۸ پیاده‌سازی کرد. به گفته دانتلی دیویس، مدیر طراحی توئیتر، و پاراک اگراوال، مدیر فناوری توئیتر، این سیستم با پیش‌بینی اینکه مردم ابتدا به چه چیزی نگاه می کنند، عمل می‌‌کرد.
آن‌ها در یک پست وبلاگ اعلام کردند توئیتر از این پس اتکا به یادگیری ماشینی را محدود خواهد کرد و در عوض قابلیت دیگر به نام «آنچه می‌بینید همان است که دریافت می‌کنید» را عرضه می‌کند.
سخنگوی توئیتر در این باره توضیح بیشتری نداد و اعلام کرد جزئیات بیشتر در هفته‌های آینده اعلام خواهد شد.
کارشناسان در سال‌های گذشته به اینکه چطور الگوریتم‌ها تبعیض نژادی را تقویت کرده‌اند، زنگ خطر را به صدا در آورده بودند. اما سیستم توئیتر نخستین سیستم یادگیری ماشینی نیست که چنین مشکلی داشته است. طبق گزارش وایرد، الگوریتم تشخیص چهره گوگل افراد سیاه‌پوست را به عنوان گوریل تگ می کرد و گوگل این مسئله را با حذف بخش گوریل از کتابخانه تصویرش حل کرد. این اواخر برنامه‌ای که هدفش افزایش وضوح پیکسل‌های عکس‌ها بود، باراک اوباما، رئیس جمهور سابق آمریکا، را به یک مرد سفید‌پوست تبدیل کرده بود.
بر اساس گزارش بیزنس اینسایدر، مسائل نژادی در هوش مصنوعی تبعات جدی دارد. در ژانویه یک مرد سیاه‌پوست در دیترویت پس از اینکه از سوی فناوری تشخیص چهره مورد استفاده ایستگاه پلیس میشیگان به اشتباه شناسایی شد، دستگیر شد. جیمز کریگ، رییس پلیس دیترویت مدت کوتاهی پس از آن اظهار کرد: نرم افزار تشخیص چهره در ۹۶ درصد موارد نتوانسته است افراد را به درستی شناسایی کند.
منبع: ایسنا