روزنامه گاردین بررسی کرد
روشهای فریب دادن هوش مصنوعی
آیا هوش مصنوعی به تمامی قابل اعتماد است؟ چگونه هوش مصنوعی انسانها را مورد قضاوت قرار میدهد؟ آیا میتوان به قضاوت هوش مصنوعی در امور استخدامی و شغلی و یا حتی برآورد بهرهوری کارکنان اعتماد کرد؟ این پرسشها در وضعیتی مطرح میشوند که بخش مهمی از شرکتهای آمریکایی و اروپایی به عنوان پیشگامان استفاده از هوش مصنوعی، در حال بهره بردن از این ابزارها جهت استخدام و پایش نیروی کار خود هستند. مصاحبههای ویدئویی یکطرفه، غربالگری رزومه، بازیهای ویدئویی، بررسی شبکههای اجتماعی و نظارت دیجیتال ازجمله راههایی هستند که کارفرمایان از فناوری برای صرفهجویی در زمان و هزینه جهت استخدام نیروی کار خود استفاده میکنند. اما آیا آنها واقعا بهدرد میخورند؟ حساسیتهای زیادی در مورد الگوهای مورد استفاده و روشن بودن مسیر برآوردهای هوش مصنوعی درباره نیروی کار بهوجود آمده است. گزارش پیشرو بررسی یکی از روزنامهنگاران معروف آمریکایی متخصص در هوش مصنوعی در اینباره است که در نشریه گاردین به چاپ رسیده است.
حمیدرضا علینیا روزنامه نگار
«هیلکه شلمن» روزنامهنگار منتخب و مدرس دانشگاه نیویورک با بررسی استفاده از هوش مصنوعی (AI) در دنیای کار، به آزمایش این ابزارها در زمینه استخدام نیروی کار پرداخته است. در میان سیستمهای هوش مصنوعی برای استخدام، یک سیستم مصاحبه ویدئویی یکطرفه با نام (myInterview) وجود دارد که برای کمک به استخدام استفاده میشود. «شلمن» در آزمایش خود ابتدا سؤالاتی را که بهعنوان مدیر استخدام میپرسید، انتخاب کرد و سپس پاسخهای خود را بهعنوان نامزد استخدام ضبط کرد، سپس نرمافزار هوش مصنوعی کلماتی را که او استفاده کرده بود و لحن صدای او را تجزیه و تحلیل کرد تا نمره استخدام خانم «شلمن» را محاسبه کند.
در نهایت امتیاز این روزنامهنگار ۸۳درصد با شغل مورد نظر مطابقت داشت. اما وقتی مصاحبه خود را نه به زبان انگلیسی بلکه به زبان آلمانی، یعنی زبان مادری خود دوباره انجام داد، بهرغم اینکه اینبار حتی سعی نکرده بود به سؤالات پاسخ دهد و فقط یکی از مدخلهای «ویکیپدیا» را خوانده بود، با تعجب متوجه شد که به جای دریافت مردودی و پیام خطا، امتیاز خوب ۷۳درصد مطابقت با شغل را کسب کرده است. همچنین رونوشتی که ابزار از زبان آلمانی خواندن او ساخته بود، کاملاً بیمعنا بود. هنگامی که «شلمن» با شرکت تولید برنامه تماس گرفت آنها مدعی شدند که ابزار استخدام هوش مصنوعی میداند که زبان انگلیسی نیست و در درجه اول براساس لحن پاسخگو به او نمره داده؛ به همین دلیل اینبار خانم «شلمن» از یک ربات تولیدکننده صدا برای پاسخ دادن استفاده کرد، اما مجدداً امتیاز خوب ۷۹درصد مطابقت شغلی را بهدست آورد.
شلمن در اینباره میگوید: «اگر طبق آزمایشهای ساده این ابزارها کارساز نیستند، ما واقعاً باید در مورد اینکه باید از آنها برای استخدام استفاده کنیم یا خیر، شک داشته باشیم.»
این آزمایش که در سال 2021 انجام شد، در کتاب «الگوریتم» این نویسنده به تفصیل آمده است. کتابی که بررسی میکند «چگونه هوشمصنوعی و الگوریتمهای پیچیده آن بهطور فزایندهای برای کمک به استخدام کارمندان و سپس نظارت و ارزیابی آنها ازجمله برای ارتقا و اخراجشان» استفاده میشوند. علاوه بر آزمایشات مختلف هوش مصنوعی، در این کتاب موارد متعددی از نظرات کارشناسان آمده است.
یک ابزار مفید یا مضر
این ابزارها که با هدف کاهش زمان و هزینه در پی پالایش درخواستهای شغلی و افزایش کارایی محل کار هستند، برای کارفرمایان فریبندگی دارند. اما «شلمن» در پایان کتاب به این نتیجه میرسد که آنها بیشتر ضرر رساناند تا مفید. او میگوید: «نهتنها بسیاری از ابزارهای استخدام براساس شبهعلم قرار دارند و مشکلآفرین هستند بلکه میتوانند تبعیض (این ایده که آهنگ صدای ما میتواند پیشبینی کند که در یک شغل چقدر موفق خواهیم بود، شبه علمی است) هم قائل شوند.
در مورد پایش و مانیتورینگ دیجیتال مرتبط با بهرهوری، شلمن روش هوش مصنوعی را که از معیارهایی معیوب مانند میزان فشردن کلیدهای کیبورد کامپیوتر و حرکت ماوس بهدست میآید و همچنین عوارضی که چنین کنترلی میتواند بر کارگران داشته باشد مورد مطالعه قرار داده است. او در این بررسیها به این نتیجه رسیده که تکنیکهای نظارتی پیچیدهتر مبتنی بر هوش مصنوعی مانند تجزیه و تحلیل «ریسک استعفا»، که سیگنالهای مختلفی مانند فراوانی بهروزرسانیهای «لینکدین» را در نظر میگیرد تا احتمال استعفای کارمند را تعیین کند، یا تجزیه و تحلیل احساسات فرد که ارتباطات یک کارمند در محیط کار را رصد میکند تا بتواند از آنها در جهت پیشبینی نارضایتی استفاده و احتمال خروج از کار کارمندان را پیشبینی کند و حتی تجزیه و تحلیل رزومه کارمندان توسط الگوریتمها برای تعیین پتانسیل یک فرد جهت کسب مهارتهای جدید از نظر این پژوهشگر همگی میتوانند ارزش پیشبینی پایینی داشته باشند.
شلمن میگوید مخالف استفاده از رویکردهای جدید نیست، حتی روشی که در آن انسانها این کار را انجام میدهند نیز میتواند به تعصب آغشته باشد، اما ما نباید قضاوت فناوریای را بپذیریم که خود کار نمیکند. محیطهای کاری، محیطهایی با ریسک بالا هستند که همگی نمیتوانند مورد ارزیابی هوش مصنوعی قرار گیرند.»
به اعتقاد این پژوهشگر دستیابی به نحوه استفاده کارفرمایان از این ابزارها دشوار است. اگرچه دادههای نظرسنجیهای موجود نشاندهنده استفاده گسترده از این ابزارهاست، اما شرکتها معمولاً در مورد آنها سکوت میکنند و نامزدها و کارمندان اغلب در این مورد در هالهای از ابهام قرار دارند. کاندیداها معمولاً تصور میکنند یک انسان ویدئوی یکطرفه آنها را تماشا میکند، اما در واقع، ممکن است ارزیابی آنها فقط توسط هوش مصنوعی صورت گیرد. استفاده از این ابزارها تنها به اشتغال در مشاغلی با حقوق ساعتی محدود نمیشود، بلکه همچنین از ابزار هوش مصنوعی برای استخدام در مشاغل دانشمحور مانند امور مالی و پرستاری استفاده میشود.
چهار نوع ابزار
شلمن بر چهار طبقه از ابزارهای مبتنی بر هوش مصنوعی که در استخدام استفاده میشوند تمرکز دارد. طبقه اول این ابزارها «مصاحبههای یکطرفه» است که نهتنها از لحن صدا، بلکه از تجزیه و تحلیل حالت چهره که به همان اندازه غیرعلمی است برای نمرهدهی به داوطلبان استفاده میکند. در طبقه بعدی ابزارها این پژوهشگر به «غربالگریهای رزومه» داوطلبان آنلاین اشاره میکند که ممکن است براساس استفاده از کلمات کلیدی خاصی که در رزومههای کارمندان فعلی یافت میشوند، توصیههایی برای استخدام کارمندان جدید ارائه دهند. دسته سوم ابزارهای هوش مصنوعی استخدامی «ارزیابیهای مبتنی بر بازی» است که به دنبال تطابق ویژگیها و مهارتها بین یک نامزد و کارمندان فعلی شرکت بر مبنای انجام یک بازی ویدئویی قرار دارند. در نهایت دسته چهارم، ابزارهایی هستند که «خروجیهای رسانههای اجتماعی» نامزدها و داوطلبان شغلی را برای پیشبینی شخصیت آنها مورد بررسی قرار میدهند.
شلمن میگوید هیچکدام این ابزارها کامل یا حتی روشن نیستند. اینکه ارزیابیهای مبتنی بر بازی چگونه مهارتهای مرتبط با شغل را بررسی میکند، در هالهای از ابهام قرار دارد. در مورد بررسی سابقه رسانههای اجتماعی یک نامزد، این پژوهشگر نشان میدهد که بسته به اینکه کدام رسانه اجتماعی تحلیلهای نرمافزار را تغذیه میکند، مجموعههای متفاوتی از ویژگیها قابل تشخیص است. یک فرد میتواند نمره متفاوتی را با توجه به پلتفرم خاص خود دریافت کند. همچنین غربالگرهای رزومه میتوانند سوگیری داشته باشد. شلمن در این مورد مثالی را ذکر میکند که در آن امتیاز بیشتری به نامزدهایی داده شده که بیسبال را بهعنوان سرگرمی در رزومه خود درج کرده بودند و در مقابل نامزدهایی که سافت بال را سرگرمی خود معرفی کرده بودند امتیاز کمتری دریافت کردند.
او میگوید بسیاری از ابزارها اساساً جعبههای سیاه و پر رمزوراز هستند. هوش مصنوعی دادههای آموزشی را کنار میگذارد و به الگوها اولویت میدهد. سپس از آنها برای پیشبینیهای خود استفاده میکند. اما لزوماً مشخص نیست که این الگوها چیست و به همین دلیل میتواند ناخواسته باعث تبعیض شود. حتی خود فروشندگان این ابزارها ممکن است دقیقاً ندانند ابزارهایشان چگونه کار میکنند، چه رسد به شرکتهایی که آنها را میخرند یا نامزدها و کارمندانی که در معرض قضاوت آنها هستند.
این محقق از یک زن سیاهپوست متخصص در توسعه نرمافزار با سابقه نظامی یاد میکند که قبل از موفقیت و استخدام در یک شرکت، برای 146 شغل در صنعت فناوری درخواست داده بود. این زن نمیداند چرا در این ۱۴۶درخواست ناموفق بوده، اما او در معرض مصاحبههای یکطرفه و بازیهای ویدئویی هوش مصنوعی قرار داشت و همچنین سوژه «غربالگری رزومه» شده بود. او تعجب میکند که آیا فناوری برای او استثنا قائل شده یا خیر؟ زیرا او یک متقاضی معمولی نبود. در نهایت این زن تنها با توسل به یک استخدامکننده انسانی و نه با استفاده از هوش مصنوعی توانست برای خود شغلی پیدا کند.
شلمن از دپارتمانهای منابع انسانی شرکتها میخواهد که نسبت به استخدام و نرمافزار نظارت بر محل کار که در بیشتر شرکتها استفاده میشوند، تردید بیشتری داشته باشند. او همچنین خواهان بهکارگیری مقرراتی در این زمینه است و پیشنهاد میدهد در حالت ایدهآل یک نهاد دولتی ابزارهای استخدام و نظارت هوش مصنوعی را قبل از اینکه اجازه ورود به بازار پیدا کنند مورد بررسی قرار دهد تا مطمئن شود که این ابزارها کار میکنند و افراد را در معرض تبعیض قرار نمیدهند. پیشنهاد دیگر او در این زمینه الزام فروشندگان این ابزارها به انتشار گزارشهای فنی درباره نحوه ساخت و اعتبارسنجی ابزارهای خود است تا دیگران بتوانند آنها را بررسی و صحتسنجی کنند. او میگوید: «اگر چنین نظارتهایی نباشد این ابزارها از بین نمیروند، بنابراین ما باید عقبنشینی کنیم.»
در نهایت او به نکته جالبی اشاره کرده و میگوید: «جویندگان کار یک سلاح از نوع هوش مصنوعی در اختیار دارند؛ (ChatGPT) به آنها کمک میکند تا نامههای پوششی بنویسند، رزومههای خود را صیقل دهند و پاسخهایی برای سؤالات احتمالی مصاحبه فرموله کنند تا هوش مصنوعی را به جنگ هوش مصنوعی بفرستند. این هوش مصنوعی در برابر هوش مصنوعی است، چنین وضعیتی قدرت را از کارفرمایان میگیرد و فضایی آشوبزده را در استخدام و نظارتهای شغلی ایجاد میکند.»
در نهایت امتیاز این روزنامهنگار ۸۳درصد با شغل مورد نظر مطابقت داشت. اما وقتی مصاحبه خود را نه به زبان انگلیسی بلکه به زبان آلمانی، یعنی زبان مادری خود دوباره انجام داد، بهرغم اینکه اینبار حتی سعی نکرده بود به سؤالات پاسخ دهد و فقط یکی از مدخلهای «ویکیپدیا» را خوانده بود، با تعجب متوجه شد که به جای دریافت مردودی و پیام خطا، امتیاز خوب ۷۳درصد مطابقت با شغل را کسب کرده است. همچنین رونوشتی که ابزار از زبان آلمانی خواندن او ساخته بود، کاملاً بیمعنا بود. هنگامی که «شلمن» با شرکت تولید برنامه تماس گرفت آنها مدعی شدند که ابزار استخدام هوش مصنوعی میداند که زبان انگلیسی نیست و در درجه اول براساس لحن پاسخگو به او نمره داده؛ به همین دلیل اینبار خانم «شلمن» از یک ربات تولیدکننده صدا برای پاسخ دادن استفاده کرد، اما مجدداً امتیاز خوب ۷۹درصد مطابقت شغلی را بهدست آورد.
شلمن در اینباره میگوید: «اگر طبق آزمایشهای ساده این ابزارها کارساز نیستند، ما واقعاً باید در مورد اینکه باید از آنها برای استخدام استفاده کنیم یا خیر، شک داشته باشیم.»
این آزمایش که در سال 2021 انجام شد، در کتاب «الگوریتم» این نویسنده به تفصیل آمده است. کتابی که بررسی میکند «چگونه هوشمصنوعی و الگوریتمهای پیچیده آن بهطور فزایندهای برای کمک به استخدام کارمندان و سپس نظارت و ارزیابی آنها ازجمله برای ارتقا و اخراجشان» استفاده میشوند. علاوه بر آزمایشات مختلف هوش مصنوعی، در این کتاب موارد متعددی از نظرات کارشناسان آمده است.
یک ابزار مفید یا مضر
این ابزارها که با هدف کاهش زمان و هزینه در پی پالایش درخواستهای شغلی و افزایش کارایی محل کار هستند، برای کارفرمایان فریبندگی دارند. اما «شلمن» در پایان کتاب به این نتیجه میرسد که آنها بیشتر ضرر رساناند تا مفید. او میگوید: «نهتنها بسیاری از ابزارهای استخدام براساس شبهعلم قرار دارند و مشکلآفرین هستند بلکه میتوانند تبعیض (این ایده که آهنگ صدای ما میتواند پیشبینی کند که در یک شغل چقدر موفق خواهیم بود، شبه علمی است) هم قائل شوند.
در مورد پایش و مانیتورینگ دیجیتال مرتبط با بهرهوری، شلمن روش هوش مصنوعی را که از معیارهایی معیوب مانند میزان فشردن کلیدهای کیبورد کامپیوتر و حرکت ماوس بهدست میآید و همچنین عوارضی که چنین کنترلی میتواند بر کارگران داشته باشد مورد مطالعه قرار داده است. او در این بررسیها به این نتیجه رسیده که تکنیکهای نظارتی پیچیدهتر مبتنی بر هوش مصنوعی مانند تجزیه و تحلیل «ریسک استعفا»، که سیگنالهای مختلفی مانند فراوانی بهروزرسانیهای «لینکدین» را در نظر میگیرد تا احتمال استعفای کارمند را تعیین کند، یا تجزیه و تحلیل احساسات فرد که ارتباطات یک کارمند در محیط کار را رصد میکند تا بتواند از آنها در جهت پیشبینی نارضایتی استفاده و احتمال خروج از کار کارمندان را پیشبینی کند و حتی تجزیه و تحلیل رزومه کارمندان توسط الگوریتمها برای تعیین پتانسیل یک فرد جهت کسب مهارتهای جدید از نظر این پژوهشگر همگی میتوانند ارزش پیشبینی پایینی داشته باشند.
شلمن میگوید مخالف استفاده از رویکردهای جدید نیست، حتی روشی که در آن انسانها این کار را انجام میدهند نیز میتواند به تعصب آغشته باشد، اما ما نباید قضاوت فناوریای را بپذیریم که خود کار نمیکند. محیطهای کاری، محیطهایی با ریسک بالا هستند که همگی نمیتوانند مورد ارزیابی هوش مصنوعی قرار گیرند.»
به اعتقاد این پژوهشگر دستیابی به نحوه استفاده کارفرمایان از این ابزارها دشوار است. اگرچه دادههای نظرسنجیهای موجود نشاندهنده استفاده گسترده از این ابزارهاست، اما شرکتها معمولاً در مورد آنها سکوت میکنند و نامزدها و کارمندان اغلب در این مورد در هالهای از ابهام قرار دارند. کاندیداها معمولاً تصور میکنند یک انسان ویدئوی یکطرفه آنها را تماشا میکند، اما در واقع، ممکن است ارزیابی آنها فقط توسط هوش مصنوعی صورت گیرد. استفاده از این ابزارها تنها به اشتغال در مشاغلی با حقوق ساعتی محدود نمیشود، بلکه همچنین از ابزار هوش مصنوعی برای استخدام در مشاغل دانشمحور مانند امور مالی و پرستاری استفاده میشود.
چهار نوع ابزار
شلمن بر چهار طبقه از ابزارهای مبتنی بر هوش مصنوعی که در استخدام استفاده میشوند تمرکز دارد. طبقه اول این ابزارها «مصاحبههای یکطرفه» است که نهتنها از لحن صدا، بلکه از تجزیه و تحلیل حالت چهره که به همان اندازه غیرعلمی است برای نمرهدهی به داوطلبان استفاده میکند. در طبقه بعدی ابزارها این پژوهشگر به «غربالگریهای رزومه» داوطلبان آنلاین اشاره میکند که ممکن است براساس استفاده از کلمات کلیدی خاصی که در رزومههای کارمندان فعلی یافت میشوند، توصیههایی برای استخدام کارمندان جدید ارائه دهند. دسته سوم ابزارهای هوش مصنوعی استخدامی «ارزیابیهای مبتنی بر بازی» است که به دنبال تطابق ویژگیها و مهارتها بین یک نامزد و کارمندان فعلی شرکت بر مبنای انجام یک بازی ویدئویی قرار دارند. در نهایت دسته چهارم، ابزارهایی هستند که «خروجیهای رسانههای اجتماعی» نامزدها و داوطلبان شغلی را برای پیشبینی شخصیت آنها مورد بررسی قرار میدهند.
شلمن میگوید هیچکدام این ابزارها کامل یا حتی روشن نیستند. اینکه ارزیابیهای مبتنی بر بازی چگونه مهارتهای مرتبط با شغل را بررسی میکند، در هالهای از ابهام قرار دارد. در مورد بررسی سابقه رسانههای اجتماعی یک نامزد، این پژوهشگر نشان میدهد که بسته به اینکه کدام رسانه اجتماعی تحلیلهای نرمافزار را تغذیه میکند، مجموعههای متفاوتی از ویژگیها قابل تشخیص است. یک فرد میتواند نمره متفاوتی را با توجه به پلتفرم خاص خود دریافت کند. همچنین غربالگرهای رزومه میتوانند سوگیری داشته باشد. شلمن در این مورد مثالی را ذکر میکند که در آن امتیاز بیشتری به نامزدهایی داده شده که بیسبال را بهعنوان سرگرمی در رزومه خود درج کرده بودند و در مقابل نامزدهایی که سافت بال را سرگرمی خود معرفی کرده بودند امتیاز کمتری دریافت کردند.
او میگوید بسیاری از ابزارها اساساً جعبههای سیاه و پر رمزوراز هستند. هوش مصنوعی دادههای آموزشی را کنار میگذارد و به الگوها اولویت میدهد. سپس از آنها برای پیشبینیهای خود استفاده میکند. اما لزوماً مشخص نیست که این الگوها چیست و به همین دلیل میتواند ناخواسته باعث تبعیض شود. حتی خود فروشندگان این ابزارها ممکن است دقیقاً ندانند ابزارهایشان چگونه کار میکنند، چه رسد به شرکتهایی که آنها را میخرند یا نامزدها و کارمندانی که در معرض قضاوت آنها هستند.
این محقق از یک زن سیاهپوست متخصص در توسعه نرمافزار با سابقه نظامی یاد میکند که قبل از موفقیت و استخدام در یک شرکت، برای 146 شغل در صنعت فناوری درخواست داده بود. این زن نمیداند چرا در این ۱۴۶درخواست ناموفق بوده، اما او در معرض مصاحبههای یکطرفه و بازیهای ویدئویی هوش مصنوعی قرار داشت و همچنین سوژه «غربالگری رزومه» شده بود. او تعجب میکند که آیا فناوری برای او استثنا قائل شده یا خیر؟ زیرا او یک متقاضی معمولی نبود. در نهایت این زن تنها با توسل به یک استخدامکننده انسانی و نه با استفاده از هوش مصنوعی توانست برای خود شغلی پیدا کند.
شلمن از دپارتمانهای منابع انسانی شرکتها میخواهد که نسبت به استخدام و نرمافزار نظارت بر محل کار که در بیشتر شرکتها استفاده میشوند، تردید بیشتری داشته باشند. او همچنین خواهان بهکارگیری مقرراتی در این زمینه است و پیشنهاد میدهد در حالت ایدهآل یک نهاد دولتی ابزارهای استخدام و نظارت هوش مصنوعی را قبل از اینکه اجازه ورود به بازار پیدا کنند مورد بررسی قرار دهد تا مطمئن شود که این ابزارها کار میکنند و افراد را در معرض تبعیض قرار نمیدهند. پیشنهاد دیگر او در این زمینه الزام فروشندگان این ابزارها به انتشار گزارشهای فنی درباره نحوه ساخت و اعتبارسنجی ابزارهای خود است تا دیگران بتوانند آنها را بررسی و صحتسنجی کنند. او میگوید: «اگر چنین نظارتهایی نباشد این ابزارها از بین نمیروند، بنابراین ما باید عقبنشینی کنیم.»
در نهایت او به نکته جالبی اشاره کرده و میگوید: «جویندگان کار یک سلاح از نوع هوش مصنوعی در اختیار دارند؛ (ChatGPT) به آنها کمک میکند تا نامههای پوششی بنویسند، رزومههای خود را صیقل دهند و پاسخهایی برای سؤالات احتمالی مصاحبه فرموله کنند تا هوش مصنوعی را به جنگ هوش مصنوعی بفرستند. این هوش مصنوعی در برابر هوش مصنوعی است، چنین وضعیتی قدرت را از کارفرمایان میگیرد و فضایی آشوبزده را در استخدام و نظارتهای شغلی ایجاد میکند.»