مقررات استخدام هوش مصنوعی اینجاست. آیا شرکت شما آماده است؟

در سال 2023، قانون جدیدی که استخدام های مبتنی بر هوش مصنوعی را تنظیم می کند، در شهر نیویورک اجرا می شود و قانونگذاران بیشتری به ناچار از آن پیروی می کنند. این نزدیک به یک دهه پس از استقرار آمازون است ابزار بدنام جذب هوش مصنوعی آن که باعث سوگیری مضر علیه نامزدهای زن شد.

دیدن: سیاست اخلاقی هوش مصنوعی (TechRepublic Premium)

فناوری های نوظهور اغلب با شکل گیری صنایع در اطراف آنها کنترل نمی شوند. به دلیل نوآوری سریع و مقررات کند، شرکت‌های اول به بازار تمایل دارند در مقابل درخواست مجوز سازمانی، از عموم مردم ببخشند. تقریباً 20 سال پس از تأسیس، فیس بوک (اکنون متا) هنوز تا حد زیادی خود تنظیم است. کریپتوکارنسی اولین بار در سال 2009 و در حال حاضر با آن وارد بازار شد ارزش بازار 2.6 تریلیون دلار است، بحث در مورد مقررات تازه شروع شده است. شبکه جهانی وب به مدت پنج سال کاملاً بدون محدودیت وجود داشت تا اینکه کنگره قانون ارتباطات از راه دور را در سال 1996 تصویب کرد.

کسانی که وظیفه تدوین قوانین را بر عهده دارند، اغلب فناوری‌هایی را که تنظیم می‌کنند، درک نمی‌کنند، در نتیجه قوانین مبهم یا غیرقابل لمسی ایجاد می‌شود که در محافظت کافی از کاربران یا ارتقای پیشرفت شکست می‌خورد. جای تعجب نیست که تجاری سازی هوش مصنوعی مسیر مشابهی را دنبال می کند. اما – با توجه به ظرفیت ذاتی آن برای تکامل و یادگیری به طور تصاعدی – چگونه تنظیم‌کننده‌ها یا متخصصان هوش مصنوعی می‌توانند به این روند ادامه دهند؟

آماده باشید یا نه، حکمرانی استخدام هوش مصنوعی اینجاست. در اینجا چهار نکته مهم وجود دارد که باید بدانید زیرا قوانین مربوط به این فناوری تحول آفرین همچنان در حال گسترش است.

1. داده ها هرگز خنثی نیستند.

در دنیای استخدام، خطر عدم کنترل هوش مصنوعی زیاد است. هنگامی که هوش مصنوعی برای غربالگری، ارزیابی و انتخاب نامزدهای شغلی مستقر می شود، خطر ایجاد یا تداوم تعصبات علیه نژاد، قومیت، جنسیت و ناتوانی بسیار واقعی است.

تلاش برای جمع‌آوری داده‌های بی‌طرفانه در طول فرآیند استخدام مانند قدم زدن در یک میدان مین است. تصمیمات آگاهانه و ناخودآگاه بر اساس معدل، شهرت مدرسه یا انتخاب کلمه در رزومه انجام می شود که منجر به نتایج ناعادلانه تاریخی می شود.

به همین دلیل است که قانون نیویورک تمامی ابزارهای خودکار تصمیم گیری استخدامی را ملزم می کند که تحت یک حسابرسی سوگیری قرار گیرند که در آن یک حسابرس مستقل تأثیر ابزار را بر افراد بر اساس تعدادی از عوامل جمعیت شناختی تعیین می کند. در حالی که جزئیات الزامات حسابرسی مبهم است، این احتمال وجود دارد که شرکت های استخدام کننده دارای هوش مصنوعی موظف شوند “تحلیل های تاثیر متفاوت” را برای تعیین اینکه آیا هر گروهی تحت تأثیر نامطلوب قرار گرفته است انجام دهند.

متخصصان هوش مصنوعی اخلاقی برای اصلاح داده های مغرضانه و همچنان الگوریتم های بسیار موثر و پیش بینی کننده تولید می کنند. آنها باید داده ها را تجسم، مطالعه و پاکسازی کنند تا زمانی که هیچ اثر نامطلوب معنی داری پیدا نشود. با این حال، دانشمندان غیر داده در یافتن راه‌هایی برای انجام این کار به تنهایی مشکل خواهند داشت، زیرا ابزارهای قوی کمی وجود دارد و عمدتاً منبع باز هستند. به همین دلیل ضروری است که کارشناسان در تکنیک‌های یادگیری ماشین به‌دقت ورودی‌های داده را قبل از استقرار هر الگوریتمی تمیز کنند.

2. مجموعه داده های متنوع و فراوان ضروری هستند.

برای جلوگیری از مشکلات نظارتی، داده های مورد استفاده برای آموزش هوش مصنوعی باید به اندازه کافی نماینده همه گروه ها باشد تا از نتایج مغرضانه جلوگیری شود. این امر به ویژه در استخدام مهم است، زیرا بسیاری از محیط های کاری حرفه ای اکثراً سفیدپوست و/یا مرد هستند، به ویژه در صنایعی مانند فناوری، مالی و رسانه.

اگر دسترسی به داده‌های متنوع، غنی و فراوان گزینه‌ای نباشد، دانشمندان داده با تجربه می‌توانند به صورت مصنوعی نمونه‌های نماینده بیشتری تولید کنند تا اطمینان حاصل شود که کل مجموعه داده‌ها دارای نسبت یک به یک بین همه جنسیت‌ها، نژادها، سنین و غیره، صرف نظر از درصد جمعیتی که در صنعت یا نیروی کار نمایندگی می کنند.

3. هوش مصنوعی هرگز نباید نامزدها را حذف کند.

رویکردهای سنتی استخدام اغلب به داده‌های ساختاریافته، مانند اطلاعات رزومه و داده‌های ساختار نیافته، مانند «احساس درونی»، برای فیلتر کردن یا حذف نامزدها از بررسی، متکی هستند. این نقاط داده به ویژه عملکرد آینده را پیش‌بینی نمی‌کنند و اغلب حاوی چسبنده‌ترین و سیستمیک‌ترین سوگیری‌ها هستند.

با این حال، برخی از ابزارهای استخدامی مجهز به هوش مصنوعی توصیه‌هایی را ارائه می‌کنند که به تصمیم گیرندگان استخدام دستور می‌دهد تا بر اساس تصمیم هوش مصنوعی، نامزدها را حذف کند. وقتی هوش مصنوعی چنین نامزدهایی را حذف می کند، احتمالاً مشکلاتی ایجاد می شود.

در عوض، این ابزارها باید نقاط داده اضافی را برای استفاده در ارتباط با سایر اطلاعات جمع‌آوری‌شده و ارزیابی در فرآیند استخدام فراهم کنند. در بهترین روز هوش مصنوعی، باید اطلاعات عملی، قابل توضیح و تکمیلی را در مورد همه نامزدها ارائه دهد که به کارفرمایان اجازه می دهد بهترین تصمیمات ممکن را به رهبری انسان انجام دهند.

4. تست کنید، تست کنید و دوباره تست کنید تا سوگیری های سرسخت یا مدفون را حذف کنید.

مقررات آینده مستلزم آزمایش کامل، فهرست‌بندی شده و شاید حتی مداوم برای هر هوش مصنوعی است که برای کمک به تصمیم‌گیری استخدام در طبیعت طراحی شده است. این احتمالاً منعکس کننده قانون چهار پنجم (4/5) است که توسط کمیسیون فرصت های شغلی برابر (EEOC) وضع شده است.

قانون 4/5 می گوید که نرخ انتخاب برای هر نژاد، جنس یا گروه قومی نباید کمتر از چهار پنجم یا 80 درصد نرخ انتخاب برای گروهی باشد که بالاترین میزان انتخاب را دارد. دستیابی به هیچ اثر نامطلوبی مطابق با قانون 4/5 باید یک روش استاندارد برای ابزار استخدامی با هوش مصنوعی باشد.

با این حال، ممکن است و توصیه می شود که یک قدم فراتر رفت. به عنوان مثال، فرض کنید ابزاری که استفاده می‌کنید، پیش‌بینی عملکرد را برای نامزدها ارائه می‌کند. ممکن است بخواهید اطمینان حاصل کنید که در میان نامزدهای شما با بالاترین پیش بینی، نمایندگی کافی و هیچ نشانه ای از تأثیر نامطلوب وجود ندارد. این به تعیین اینکه آیا سوگیری‌ها به طور بالقوه در نقاط مختلف مقیاس پیش‌بینی متمرکز شده‌اند، کمک می‌کند و به شما کمک می‌کند تا اکوسیستم عادلانه‌تری برای نامزدها ایجاد کنید.

افزایش نظارت بر استخدام های مبتنی بر هوش مصنوعی، به مرور زمان، احتمال محرومیت نامزدها را بر اساس عوامل ذهنی یا کاملاً تبعیض آمیز کاهش می دهد. با این حال، به دلیل جدید بودن و ابهام بودن این قوانین، شرکت‌های هوش مصنوعی باید از محافظت از نامزدها اطمینان حاصل کنند.

حتی با وجود تمام خطرات، مزایای استفاده از هوش مصنوعی در استخدام درست بی نظیر است. مواردی مانند کارایی، دقت و انصاف همگی می‌توانند تأثیر مثبتی با استفاده از هوش مصنوعی بگذارند، و نظارت قریب‌الوقوع نباید پذیرش آن را کاهش دهد.

دکتر مایرز مدیر ارشد فناوری اطلاعات است مناسب، یک شبکه استخدام مبتنی بر ارزیابی مبتنی بر هوش مصنوعی که توسط شرکت های خدمات حرفه ای استفاده می شود تا به طور دقیق، محرمانه و عادلانه نامزدهای شغلی اولیه را از همه پیشینه ها در فرصت های شغلی رقابتی در مراحل اولیه کشف و قرار دهد. قبل از Suited، او یکی دیگر از بنیانگذاران استارت آپ استخدام مبتنی بر هوش مصنوعی بود که به حذف سوگیری از فرآیند استخدام اختصاص داشت. او دکترای خود را دریافت کرد. در علوم محاسباتی، مهندسی و ریاضیات از دانشگاه تگزاس با تمرکز بر ساخت مدل های یادگیری ماشین.