چالش‌های استفاده از هوش مصنوعی در ارزیابی مشاغل
پیشرفت‌های سریع در حوزه هوش مصنوعی، فرصت‌های جدیدی برای ارزیابی مشاغل و درک ارزش اجتماعی آن‌ها ایجاد کرده است. سازمان جهانی کار، در تازه‌ترین پژوهش خود، به بررسی کاربرد هوش مصنوعی در ارزیابی مشاغل پرداخته است. این تحقیق به‌ویژه به مقایسه نتایج ارزیابی‌های انجام‌شده توسط مدل هوش مصنوعی GPT-4
و پاسخ‌های نظرسنجی‌های انسانی در بریتانیا و تحلیل دقت، کارایی و چالش‌های این فناوری پرداخته است.
ارزیابی نتایج تحقیق اخیر سازمان جهانی کار نشان می‌دهد که علی‌رغم مزایای متعددی که هوش مصنوعی از جمله صرفه‌جویی در هزینه و زمان ارائه می‌دهد، خطراتی هم دارد. مهم‌ترین این خطرات شامل سوگیری‌های الگوریتمی و عدم توانایی در درک دقیق جنبه‌های اجتماعی مشاغل است که می‌تواند منجر به ارزیابی‌های نادرست یا غیرمنصفانه شود.
این تحقیق در پی آن است که توضیح دهد چرا در حالی‌که هوش مصنوعی قادر به پردازش داده‌ها به‌طور کارآمد و دقیق است، نمی‌تواند پیچیدگی‌های اجتماعی و فرهنگی که بر ارزش اجتماعی مشاغل تأثیر می‌گذارد را کاملاً درک کند. این نکته به‌ویژه هنگام ارزیابی مشاغل با نقش‌های متفاوت در جوامع مختلف، اهمیت می‌یابد.
دقت و کارایی ارزیابی‌های هوش مصنوعی
در این پژوهش، محققان از مدل هوش مصنوعی GPT-4 خواستند تا رتبه‌بندی مشاغل را مشابه با نظرسنجی‌هایی که از شهروندان بریتانیایی انجام شد، ایجاد کند. این مدل با استفاده از پروفایل افراد معمولی بریتانیا، به پیش‌بینی دیدگاه عمومی مردم در مورد ارزش اجتماعی مشاغل پرداخت. طبق نتایج به‌دست‌آمده GPT-4 توانایی بالایی در پیش‌بینی نظر عمومی مردم بریتانیا در رابطه با مشاغل مختلف دارد. این یافته‌ها، در مقایسه با داده‌های انسانی، بیانگر دقت بالای مدل در پیش‌بینی و رتبه‌بندی مشاغل است.
هوش مصنوعی توانست ارزیابی‌هایی را که به‌طور سنتی توسط انسان‌ها انجام می‌شد، با سرعتی بسیار بیشتر و با هزینه‌های کمتری انجام دهد. این امر، نه‌تنها به تسریع روند ارزیابی مشاغل کمک می‌کند، بلکه توانایی این فناوری را در پردازش حجم‌های بزرگ داده به نمایش می‌گذارد. از آنجا که این ابزار می‌تواند الگوها را شبیه‌سازی و الگوهای پنهان را شناسایی کند، به نظر می‌رسد که به یک ابزار پژوهشی قدرتمند تبدیل شود.
با وجود این موفقیت‌ها، معلوم شد که مدل هوش مصنوعی GPT-4 در شبیه‌سازی نظر اقشار مختلف جامعه بریتانیا به‌ویژه گروه‌های اقلیتی، دچار چالش‌هایی است. در برخی موارد، این مدل هنگام ارزیابی مشاغل مرتبط با اقتصاد دیجیتال یا حوزه‌های بازاریابی و فروش، ارزش اجتماعی این مشاغل را بیشتر از میزان واقعی، برآورد کرد.
چالش‌ها و محدودیت‌های الگوریتم‌ها
نتایج به‌دست‌آمده از این تحقیق همچنین به محدودیت‌های مهمی اشاره دارد. یکی از این محدودیت‌ها مربوط به توانایی محدود هوش مصنوعی در درک پیچیدگی ارزش‌های اجتماعی و جایگاه‌های شغلی از دیدگاه‌های مختلف جمعیت‌هاست. به‌‌خصوص زمانی که دستورالعمل‌های الگوریتمی تغییر کرد، هوش مصنوعی قادر به درک سلسله‌مراتب ارزش‌های شغلی از منظر اقلیت‌ها نبود. این نکته وقتی که مدل‌های زبانی براساس داده‌های جمعیت‌های خاص مانند غربی‌ها و تحصیل‌کرده‌ها آموزش می‌بینند، به‌طور بارزی آشکار می‌شود.
از طرفی، این پژوهش خطر جدی نادیده‌گرفتن دیدگاه‌های گروه‌های آسیب‌پذیر را در پی استفاده از این مدل‌ها گوشزد می‌کند. با توجه به اینکه این مدل‌ها عمدتاً بر پایه داده‌هایی که از جمعیت‌های غربی و صنعتی به‌دست آمده، آموزش دیده‌اند، می‌توانند به نادیده گرفتن دیدگاه‌های اقلیت‌ها در سطح جهانی منجر شوند.
این مشکلات در استفاده از هوش مصنوعی در دنیای کار اهمیت دارد. از آنجا که این فناوری‌ها ممکن است در ارزیابی شغلی یا مشاوره شغلی به کار گرفته شوند، محققان تأکید دارند که نیاز به تنظیم و دقت بالاتری در استفاده از آن‌ها برای جلوگیری از تصمیم‌گیری‌های ناعادلانه وجود دارد.
پیشنهادات و راهکارها
محققان در انتهای این پژوهش بر لزوم اصلاح و بهبود الگوریتم‌های هوش مصنوعی تأکید کردند. آن‌ها بر این باورند که برای استفاده از هوش مصنوعی در ارزیابی مشاغل و سایر کاربردهای مشابه، باید مدل‌ها به‌طور مستمر و دقیق‌تر برای درک دیدگاه‌های مختلف اجتماعی تنظیم شوند. به‌ویژه، توجه به دیدگاه‌های اقلیت‌های جمعیتی می‌تواند به جلوگیری از تبعیض‌های غیرمستقیم کمک کند و دقت بیشتری به ارزیابی‌ها ببخشد.
این تحقیق نشان می‌دهد که هوش مصنوعی می‌تواند به‌عنوان ابزاری مکمل در ارزیابی‌های شغلی به کار رود، اما همچنان به‌طور کامل نمی‌تواند جایگزین درک انسانی از پیچیدگی‌های اجتماعی و فرهنگی باشد. بنابراین، لازم است که از این فناوری به‌طور مؤثر و مسئولانه در کنار روش‌های سنتی ارزیابی استفاده شود تا از هرگونه تبعیض ناعادلانه جلوگیری شود. چالش‌های اصلی، شامل سوگیری‌های الگوریتمی و عدم توانایی این مدل‌ها در درک دیدگاه‌های اقلیتی است که می‌تواند بر دقت و انصاف ارزیابی‌ها تأثیر بگذارد.
این پژوهش، به‌ویژه برای کشورهای در حال توسعه که ممکن است با چالش‌های مشابه روبه‌رو باشند، نشان می‌دهد که استفاده از مدل‌های هوش مصنوعی باید با دقت بیشتری صورت گیرد تا از تأثیرات منفی آن بر ارزیابی اجتماعی مشاغل جلوگیری شود.
منبع: ILO
و پاسخ‌های نظرسنجی‌های انسانی در بریتانیا و تحلیل دقت، کارایی و چالش‌های این فناوری پرداخته است.
ارزیابی نتایج تحقیق اخیر سازمان جهانی کار نشان می‌دهد که علی‌رغم مزایای متعددی که هوش مصنوعی از جمله صرفه‌جویی در هزینه و زمان ارائه می‌دهد، خطراتی هم دارد. مهم‌ترین این خطرات شامل سوگیری‌های الگوریتمی و عدم توانایی در درک دقیق جنبه‌های اجتماعی مشاغل است که می‌تواند منجر به ارزیابی‌های نادرست یا غیرمنصفانه شود.
این تحقیق در پی آن است که توضیح دهد چرا در حالی‌که هوش مصنوعی قادر به پردازش داده‌ها به‌طور کارآمد و دقیق است، نمی‌تواند پیچیدگی‌های اجتماعی و فرهنگی که بر ارزش اجتماعی مشاغل تأثیر می‌گذارد را کاملاً درک کند. این نکته به‌ویژه هنگام ارزیابی مشاغل با نقش‌های متفاوت در جوامع مختلف، اهمیت می‌یابد.
دقت و کارایی ارزیابی‌های هوش مصنوعی
در این پژوهش، محققان از مدل هوش مصنوعی GPT-4 خواستند تا رتبه‌بندی مشاغل را مشابه با نظرسنجی‌هایی که از شهروندان بریتانیایی انجام شد، ایجاد کند. این مدل با استفاده از پروفایل افراد معمولی بریتانیا، به پیش‌بینی دیدگاه عمومی مردم در مورد ارزش اجتماعی مشاغل پرداخت. طبق نتایج به‌دست‌آمده GPT-4 توانایی بالایی در پیش‌بینی نظر عمومی مردم بریتانیا در رابطه با مشاغل مختلف دارد. این یافته‌ها، در مقایسه با داده‌های انسانی، بیانگر دقت بالای مدل در پیش‌بینی و رتبه‌بندی مشاغل است.
هوش مصنوعی توانست ارزیابی‌هایی را که به‌طور سنتی توسط انسان‌ها انجام می‌شد، با سرعتی بسیار بیشتر و با هزینه‌های کمتری انجام دهد. این امر، نه‌تنها به تسریع روند ارزیابی مشاغل کمک می‌کند، بلکه توانایی این فناوری را در پردازش حجم‌های بزرگ داده به نمایش می‌گذارد. از آنجا که این ابزار می‌تواند الگوها را شبیه‌سازی و الگوهای پنهان را شناسایی کند، به نظر می‌رسد که به یک ابزار پژوهشی قدرتمند تبدیل شود.
با وجود این موفقیت‌ها، معلوم شد که مدل هوش مصنوعی GPT-4 در شبیه‌سازی نظر اقشار مختلف جامعه بریتانیا به‌ویژه گروه‌های اقلیتی، دچار چالش‌هایی است. در برخی موارد، این مدل هنگام ارزیابی مشاغل مرتبط با اقتصاد دیجیتال یا حوزه‌های بازاریابی و فروش، ارزش اجتماعی این مشاغل را بیشتر از میزان واقعی، برآورد کرد.
چالش‌ها و محدودیت‌های الگوریتم‌ها
نتایج به‌دست‌آمده از این تحقیق همچنین به محدودیت‌های مهمی اشاره دارد. یکی از این محدودیت‌ها مربوط به توانایی محدود هوش مصنوعی در درک پیچیدگی ارزش‌های اجتماعی و جایگاه‌های شغلی از دیدگاه‌های مختلف جمعیت‌هاست. به‌‌خصوص زمانی که دستورالعمل‌های الگوریتمی تغییر کرد، هوش مصنوعی قادر به درک سلسله‌مراتب ارزش‌های شغلی از منظر اقلیت‌ها نبود. این نکته وقتی که مدل‌های زبانی براساس داده‌های جمعیت‌های خاص مانند غربی‌ها و تحصیل‌کرده‌ها آموزش می‌بینند، به‌طور بارزی آشکار می‌شود.
از طرفی، این پژوهش خطر جدی نادیده‌گرفتن دیدگاه‌های گروه‌های آسیب‌پذیر را در پی استفاده از این مدل‌ها گوشزد می‌کند. با توجه به اینکه این مدل‌ها عمدتاً بر پایه داده‌هایی که از جمعیت‌های غربی و صنعتی به‌دست آمده، آموزش دیده‌اند، می‌توانند به نادیده گرفتن دیدگاه‌های اقلیت‌ها در سطح جهانی منجر شوند.
این مشکلات در استفاده از هوش مصنوعی در دنیای کار اهمیت دارد. از آنجا که این فناوری‌ها ممکن است در ارزیابی شغلی یا مشاوره شغلی به کار گرفته شوند، محققان تأکید دارند که نیاز به تنظیم و دقت بالاتری در استفاده از آن‌ها برای جلوگیری از تصمیم‌گیری‌های ناعادلانه وجود دارد.
پیشنهادات و راهکارها
محققان در انتهای این پژوهش بر لزوم اصلاح و بهبود الگوریتم‌های هوش مصنوعی تأکید کردند. آن‌ها بر این باورند که برای استفاده از هوش مصنوعی در ارزیابی مشاغل و سایر کاربردهای مشابه، باید مدل‌ها به‌طور مستمر و دقیق‌تر برای درک دیدگاه‌های مختلف اجتماعی تنظیم شوند. به‌ویژه، توجه به دیدگاه‌های اقلیت‌های جمعیتی می‌تواند به جلوگیری از تبعیض‌های غیرمستقیم کمک کند و دقت بیشتری به ارزیابی‌ها ببخشد.
این تحقیق نشان می‌دهد که هوش مصنوعی می‌تواند به‌عنوان ابزاری مکمل در ارزیابی‌های شغلی به کار رود، اما همچنان به‌طور کامل نمی‌تواند جایگزین درک انسانی از پیچیدگی‌های اجتماعی و فرهنگی باشد. بنابراین، لازم است که از این فناوری به‌طور مؤثر و مسئولانه در کنار روش‌های سنتی ارزیابی استفاده شود تا از هرگونه تبعیض ناعادلانه جلوگیری شود. چالش‌های اصلی، شامل سوگیری‌های الگوریتمی و عدم توانایی این مدل‌ها در درک دیدگاه‌های اقلیتی است که می‌تواند بر دقت و انصاف ارزیابی‌ها تأثیر بگذارد.
این پژوهش، به‌ویژه برای کشورهای در حال توسعه که ممکن است با چالش‌های مشابه روبه‌رو باشند، نشان می‌دهد که استفاده از مدل‌های هوش مصنوعی باید با دقت بیشتری صورت گیرد تا از تأثیرات منفی آن بر ارزیابی اجتماعی مشاغل جلوگیری شود.
منبع: ILO
ارسال دیدگاه
