تصور کنید یک رزومه عالی برای یک موقعیت شغلی ارسال می کنید، اما هرگز هیچ پاسخی از شرکت مربوطه دریافت نمی کنید. احتمال زیادی وجود دارد که هیچ انسانی فرم درخواست شما را بررسی نکرده است.
با توسعه ی هوش مصنوعی، شرکت های بیشتری فرآیند بررسی درخواست های شغلی را به ربات ها می سپارند، تا این روند ساده تر شود. اما ما شاهد هستیم که این ربات ها در فرآیند سنجش انسان‌ها، سوگیری‌های نژادپرستانه یا جنسیتی دارند.
شرکت‌های بزرگ، از ابزارهای قدرتمند هوش مصنوعی برای پردازش سریع سیل درخواست‌های شغلی و رزومه‌های دریافتی خود استفاده می‌کنند، زیرا در زمان کمبود نیروی کار، بررسی این درخواست ها توسط انسان ها باعث هدر رفت سرمایه و منابع شرکت‌ها می‌شود.
ربات‌ها غربالگری اولیه نامزدها برای شناسایی بهترین گزینه را انجام می دهند. این سیستم‌های مرتب‌سازی به تدریج و در حین کار پیشرفت کرده و روز به روز هوشمندتر می‌شوند.
شرکت‌های هوش مصنوعی ادعا می‌کنند، پلتفرم‌های آنها نه تنها می‌توانند واجد شرایط‌ترین نامزد را از میان انبوهی از رزومه‌ها شناسایی کنند. بلکه می توانند پیش‌بینی کنند که کدام یک در موقعیت شغلی به خصوص، می‌تواند بهتر عمل کند.
اما این ابزارها بر اساس الگوریتم های از پیش تعیین شده، انواع خاصی از متقاضیان را به ضرر برخی دیگر انتخاب می‌کنند. در این فرآیند ممکن است افراد بالقوه متفاوت و جالبی که می‌توانند واجد شرایط پر کردن موقعیت‌هایی مد نظر شوند، کنار گذاشته شوند.
کارشناسان می گویند، نرم‌افزارهای استخدام نه تنها برخی از نامزدهای واجد شرایط را نادیده می گیرد، بلکه خودشان نیز می توانند سوگیری‌های جدیدی را در فرآیند استخدام اعمال کنند.
با بررسی بیش از ۲۲۵۰ مدیر اجرایی در ایالات متحده، بریتانیا و آلمان مشخص شد، بیش از ۹۰ درصد از شرکت‌ها از ابزارهایی مانند ATS برای غربالگری و رتبه بندی اولیه نامزدها استفاده می‌کنند.
اما اگر از این ماشین‌ها به درستی استفاده نشود، نامزدها بر اساس معیارهای غیرضروری و سفت و سخت ارزیابی می‌شوند که باعث می‌شود برخی از داوطلبان واجد شرایط حذف شوند. بسته به پیکربندی هوش مصنوعی، این ابزارها می‌توانند داوطلبان را به دلیل عواملی مانند شکاف در مسیر شغلی یا نداشتن مدرک دانشگاهی تنزل داده یا نامشان را به کلی از لیست حذف کنند، حتی اگر موقعیت شغلی مورد نظر به تحصیلات پس از متوسطه نیاز نداشته باشد.
محققان از کارفرمایان می‌خواهند، شرح ویژگی‌های لازم برای یک موقعیت شغلی را با دقت بنویسند و هوش مصنوعی خود را طوری پیکربندی کنند که شامل نامزدهایی شود که مهارت‌ها و تجربه‌شان الزامات اساسی یک موقعیت شغلی را برآورده می‌کند، نه اینکه آنها را بر اساس معیارهای دیگر شخصی حذف کنند.
این موضوع باعث نگرانی مسئولان شده است به طوری که دولت ایالات متحده دستورالعمل‌هایی را برای کارفرمایان در خصوص پتانسیل نرم‌افزارهای استخدام خودکار برای تبعیض علیه متقاضیان دارای معلولیت، صادر کرده است.
در کانادا، سیاست‌گذاری‌هایی در مورد استفاده از هوش مصنوعی در زمینه خدمات عمومی فدرال وجود دارد، اما هیچ قانون یا دستورالعمل روشنی برای سایر کارفرمایان وجود ندارد و این به کارفرمایان کانادایی و تیم‌های استخدام کننده آنها بستگی دارد که متوجه شوند نرم افزار هوش مصنوعی آنها دقیقا بر چه اساسی و چگونه کار می‌کند و آیا سوگیری‌های بالقوه‌ای را اتخاذ می‌کند یا خیر.
