به گزارش مشرق، این تغییرات پس از این انجام گرفت که کاربران توییتر مکرر نشان دادند ابزار عکس که از یادگیری ماشینی برای کراپ یک بخش از عکس استفاده می کند، افراد سیاه پوست را در عکسها حذف کرده و روی چهره های سفید پوست متمرکز می شود.
توییتر سیستم کراپ تصویر را در سال ۲۰۱۸ پیاده سازی کرد. به گفته دانتلی دیویس، مدیر طراحی توییتر و پاراک اگراوال، مدیر فناوری توییتر، این سیستم با پیش بینی این که مردم ابتدا به چه چیزی نگاه می کنند، عمل می کرد.
آنها در یک پست وبلاگ اعلام کردند توییتر از این پس اتکا به یادگیری ماشینی را محدود خواهد کرد و در عوض قابلیت دیگر به نام "آنچه می بینید همان است که دریافت می کنید" را عرضه می کند.
سخنگوی توییتر در این باره توضیح بیشتری نداد و اعلام کرد جزییات بیشتر در هفته های آینده اعلام خواهد شد.
کارشناسان در سالهای اخیر نسبت به این که چطور الگوریتمها تبعیض نژادی را تقویت کرده اند، زنگ خطر را به صدا درآورده بودند. اما سیستم توییتر نخستین سیستم یادگیری ماشینی نیست که چنین مشکلی داشته است. طبق گزارش وایرد، الگوریتم تشخیص چهره گوگل افراد سیاه پوست را به عنوان گوریل تگ می کرد و گوگل این مسئله را با حذف بخش گوریل از کتابخانه تصویرش حل کرد. این اواخر برنامه ای که هدفش افزایش وضوح پیکسلهای عکسها بود، باراک اوباما رییس جمهور سابق آمریکا را به یک مرد سفید پوست تبدیل کرده بود.
بر اساس گزارش بیزنس اینسایدر، مسائل نژادی در هوش مصنوعی تبعات جدی دارد. در ژانویه یک مرد سیاه پوست در دیترویت پس از این که از سوی فناوری تشخیص چهره مورد استفاده ایستگاه پلیس میشیگان به اشتباه شناسایی شد، دستگیر شد. جیمز کریگ، رییس پلیس دیترویت مدت کوتاهی پس از آن اظهار کرد: نرم افزار تشخیص چهره در ۹۶ درصد موارد نتوانسته است افراد را بدرستی شناسایی کند.