سیستم های استخدام خودکار ناعادلانه همه جا هستند

اوایل این ماه، لینا خان، رئیس کمیسیون تجارت فدرال ایالات متحده (FTC)، نوشت مقاله که در مجله نیویورک تایمز تایید تعهد آژانس به تنظیم AI. اما یک برنامه کاربردی هوش مصنوعی وجود داشت که خان اشاره نکرد که FTC نیاز فوری به تنظیم دارد: سیستم‌های استخدام خودکار. این پیچیدگی‌ها از ابزارهایی که صرفاً رزومه‌ها را تجزیه و رتبه‌بندی می‌کنند تا سیستم‌هایی که کاندیداهای چراغ سبز و متقاضیان سطل ، آن را نامن، می‌دانند، متفاوت است. به طور فزاینده ای، آمریکایی های شاغل موظف به استفاده از آنها در صورت تمایل به استخدام هستند.

در کتاب اخیرم، کارگر کمیت شدهمن استدلال می‌کنم که تعداد کارگران آمریکایی توسط فناوری‌های هوش مصنوعی در محل کار به تعداد کم می‌شود، که در میان آنها رئیس سیستم‌های استخدام خودکار است. این سیستم ها متقاضیان را به یک امتیاز یا رتبه تقلیل می دهند و غالباً گشتالت تجربه انس، آنها را نادیده می گیرند. گاهی اوقات حتی افراد را بر اساس نژاد، سن و جنسشان دسته بندی می کنند، عملی که قانوناً بخشی از فرآیند تصمیم گیری استخدامی ممنوع است.

از قضا، بسیاری از این سیستم ها هستند به ،وان بدون تعصب به بازار عرضه می شود یا تضمین شده است که احتمال استخدام تبعیض آمیز را کاهش دهد. اما از آنجایی که آنها بسیار ضعیف تنظیم شده اند، نشان داده شده است که چنین سیستم هایی وجود دارند فرصت شغلی برابر را رد کنید بر اساس دسته بندی های محافظت شده مانند نژاد، سن، جنس و ناتو،. برای مثال، در دسامبر 2022، یک اتحادیه کامیون داران زن از متا شکایت کردبا این ادعا که فیس بوک “به طور انتخابی آگهی های شغلی را بر اساس ،ت و سن کاربران نشان می دهد، به طوری که کارگران مسن تر احتمال کمتری دارند که آگهی ها را ببینند و ،ن با احتمال بسیار کمتری آگهی های پست های یقه آبی را مشاهده می کنند، به ویژه در صنایعی که از نظر تاریخی ،ن را کنار گذاشته اند.” این فریبنده است. حتی بیشتر از آن، برای متقاضیان کار و کارفرمایان به طور ی،ان ناعادلانه است. کارفرمایان برای کاهش مسئولیت خود در قبال تبعیض شغلی، سیستم‌های استخدام خودکار را ،یداری می‌کنند و فروشندگان این سیستم‌ها از نظر قانونی موظفند ادعای کارآمدی و انصاف خود را ثابت کنند.

این قانون سیستم‌های استخدام خودکار را در اختیار FTC قرار می‌دهد، اما این آژانس هنوز دستورالعمل‌های خاصی را در مورد اینکه چگونه تامین‌کنندگان این سیستم‌ها باید کالاهای خود را تبلیغ کنند، منتشر نکرده است. باید با نیاز شروع شود حسابرسی اطمینان حاصل شود که پلتفرم‌های استخدام خودکار به وعده‌هایی که به کارفرمایان می‌دهند عمل می‌کنند. فروشندگان این پلتفرم‌ها باید موظف به ارائه سوابق شفاف از ممیزی‌ها باشند که نشان می‌دهد سیستم‌های آن‌ها تعصب در تصمیم‌گیری استخدامی را همانطور که تبلیغ می‌شود کاهش می‌دهد. این ممیزی‌ها باید بتوانند نشان دهند که طراحان هنگام ایجاد پلتفرم‌ها از دستورالعمل‌های کمیسیون فرصت‌های شغلی برابر (EEOC) پیروی می‌کنند.

همچنین، با همکاری EEOC، FTC می‌تواند نشان استخدام خودکار منصفانه را ایجاد کند، که برای تأیید اینکه سیستم‌های استخدام خودکار فرآیند حسابرسی دقیق را پشت سر گذاشته‌اند، استفاده می‌شود. به‌،وان بی‌نظیر، علامت می‌تواند سیگنال مفیدی از کیفیت برای مصرف‌کنندگان – هم متقاضیان و هم کارفرمایان – باشد.

FTC همچنین باید به متقاضیان کار، که مصرف کنندگان سیستم های درخواست آنلاین مجهز به هوش مصنوعی هستند، اجازه دهد تا بر اساس قانون گزارش اعتبار فدرال (FCRA) شکایت کنند. قبلاً تصور می شد FCRA فقط برای سه آژانس اعتباری بزرگ اعمال می شود، اما مطالعه دقیق نشان می دهد که این قانون می تواند هر زمان که گزارشی برای هر “تصمیم اقتصادی” ایجاد شده باشد اعمال شود. با این تعریف، پروفایل های متقاضی ایجاد شده توسط پلتفرم های استخدام خودکار آنلاین «گزارش های مصرف کننده» هستند، به این م،ی که نهادهایی که آنها را ایجاد کرده اند (مانند پلت فرم های استخدام آنلاین) آژانس های گزارش اعتباری در نظر گرفته می شوند. بر اساس FCRA، هر ،ی که موضوع یکی از این گزارش‌ها باشد، می‌تواند از آژانسی که آن را ساخته است درخواست کند تا نتایج را ببیند و درخواست اصلاح یا اصلاح کند. ا،ر مصرف کنندگان نمی دانند که از این حقوق برخوردارند. FTC باید یک کمپین آموزشی راه اندازی کند تا متقاضیان را در مورد این حقوق آگاه کند تا بتوانند از آنها استفاده کنند.