این اپ جنجالی تصاویر را با الفاظ زشت و نژادپرستانه برچسب گذاری می کند


محققان دانشگاه پرینستون آمریکا اپلیکیشنی جنجالی توسعه داده اند که تصاویر افراد را به شکلی توهین آمیز و زشت برچسب گذاری می کند. هدف از ساخت این اپ جلب توجه کاربران به نقص های یادگیری ماشینی در تصمیم گیری اعلام شده است.

توسعه دهندگان اپلیکیشن ImageNet ادعا می کنند اپ آنها که به کمک هوش مصنوعی عکس های سلفی را به طور «صادقانه» دسته بندی می کند. همین مسئله نیز کار دست آن داده چون با برچسب گذاری های نژادپرستانه و زشت، طوفانی از انتقادات و جنجال را در پی داشته است.

اپ جنجالی ImageNet به کمک یادگیری ماشینی تصمیم گیریهایی عجیب و غریب میگیرد

https://digiato.com/ https://digiato.com/

اپ ImageNet این فرد را به عنوان قربانی تجاوز تشخیص داده

اپ مذکور کاربران رنگین پوست را با الفاظ نژادپرستانه و افرادی که از مشکلات جسمی رنج می برند را با کلمات زشت برچسب گذاری کرده است.

جالب اینکه توسعه دهندگان می گویند هدف از ساخت اپلیکیشن مورد بحث توهین به کاربران و ایجاد جنجال بوده تا با این کار توجهات را به سمت تبعیض و خطاهایی که یادگیری ماشینی مرتکب می شود، جلب کنند. این نیت خیرخواهانه چیزی از عصبانیت کاربران کم نکرده چون آنها معتقدند سازندگان از عکس های آنان بدون اجازه استفاده کرده اند.

یکی از روزنامه نگاران انگلیسی برای امتحان این اپلیکیشن عکس خود را در آن آپلود کرد و عکس خود را با برچسب «قربانی تجاوز» تحویل گرفت. کاربران دیگر نیز با آپلود کردن تصویر خود با برچسب هایی توهین آمیز، نژادپرستانه و زننده مواجه شدند.

https://digiato.com/

فرد سمت چپ یتیم و فرد سمت راست عجیب و غریب شناسایی شده اند

سازندگان اپلیکیشن جنجالی می گویند دسته بندی هایی که هوش مصنوعی انجام می دهد به ندرت توسط کاربران عادی قابل مشاهده بوده و محرمانه تلقی می شوند. هوش مصنوعی در بعضی اوقات از الفاظ زشت و نژادپرستانه برای دسته بندی افراد استفاده می کند. سازندگان قصد دارند به وسیله اپلیکیشن خود کاربران را نقص های هوش مصنوعی در دسته بندی ها آگاه کنند.

فارغ از جنبه توهین آمیز و نژادپرستانه، اپ ImageNet قضاوت های جالبی هم انجام داده؛ مثلاً «دونالد ترامپ»، رییس جمهور آمریکا را به عنوان «رییس جمهور پیشین» برچسب گذاری کرده که به انتخاب نشدن او در دور دوم ریاست جمهوری اشاره می کند. «ایلان ماسک»، مدیرعامل تسلا را نیز به عنوان یک فرد «عوام فریب» تشخیص داده است.

پاسخی بگذارید

نشانی ایمیل شما منتشر نخواهد شد. بخش‌های موردنیاز علامت‌گذاری شده‌اند *