Кандидати използват изкуствен интелект, за да подобряват автобиографиите си, а работодатели — за да обработват заявленията за работа. Тази ситуация изпълнителният директор на лондонската неправителствена организация People Like Us Шираз Гълшър нарича „война на изкуствения интелект“ в репортаж на Би Би Си. Кампанията на организацията Reject the Rejections настоява за повече прозрачност и отчетност при автоматизирания подбор, одити на системите, публикуване на резултатите и независима оценка.

Проучване на Censuswide сред 2000 работещи във Великобритания, кандидатствали за поне една работа през предходните 24 месеца, установява, че 75% не знаят за правото да оспорят автоматизиран отказ. Гълшър се позовава на указания на британския регулатор за защита на данните ICO, според които хората, засегнати от определени автоматизирани решения, имат право да поискат човешки преглед. Това не означава безусловно право на преразглеждане на всеки отказ, при който е използван изкуствен интелект.

Разказите на кандидатите показват защо човешкият преглед има значение за тях. Бизнес консултантката Виви от лондонския квартал Люишам разказва пред Би Би Си, че получила отказ в събота сутрин след приключване на кандидатстването в петък, със съвет да подобри уменията си и да опита отново след шест месеца. Тя смята, че уменията ѝ не са били оценени, и казва, че би поискала човешки преглед, ако е знаела за тази възможност, защото има нужда от обратна връзка. Хема, 49-годишна специалистка по човешки ресурси от Съри, е проследила над 100 свои кандидатури и възможности за работа след съкращението си през юни. По думите ѝ много кандидатури са били автоматично отхвърлени в рамките на 24–36 часа. Тя обаче се колебае да поиска човешки преглед от страх да не навреди на кандидатурата си.

Според същото проучване 70% от търсещите работа от различни етнически групи са променяли или прикривали сведения в автобиографиите си — например държава на произход, религия или име — от страх да не бъдат отхвърлени от софтуер за подбор. При белите кандидати делът е 57%. Тези отговори описват опасенията и поведението на кандидатите, а не установени случаи на дискриминация от конкретна система.

Използването на такива инструменти може да е по-ограничено, отколкото кандидатите предполагат. От 425 специалисти по подбор, с които CV Library е разговаряла, около 90 са заявили, че използват изкуствен интелект при отсяването на автобиографии. Маркетинговият директор на компанията Алек Стануел смята, че очакването за оценка от алгоритъм подтиква кандидатите да оформят документите си за него. Според него обработените с изкуствен интелект заявления започват да си приличат, а големият им обем насърчава автоматизирането на подбора.

Би Би Си представя и анализ на изследователи от Станфорд върху четири милиона кандидатури, обработени от един инструмент за подбор през четирите години до декември 2022 г. Някои кандидати са получавали откази за различни позиции по-често, отколкото би се очаквало при независима оценка от всеки работодател, а чернокожи и азиатски кандидати са били препоръчвани по-рядко. Изследването обаче обхваща само един инструмент; образование и имиграционен статут също може да са повлияли на резултатите.

Отделно, срещу Workday в САЩ се води дело по твърдения за дискриминация на кандидати чрез нейните инструменти, съобщава Би Би Си. Делото продължава, а компанията отрича обвиненията и заявява, че продуктите ѝ не вземат решения за назначаване, а подпомагат човешката преценка.

Инструментите не работят еднакво: някои съпоставят кандидати с позиции или оценяват автобиографии, а други оценяват текстови интервюта в чат. Основателката на Sapia AI Барб Хайман заявява пред Би Би Си, че системата на компанията ѝ за оценяване на такива интервюта не разполага с демографски сведения за кандидатите или с информация дали са били назначавани на предишни позиции. Тя настоява работодателите да обясняват какво измерват и как оценяват кандидатите, както и да дават обратна връзка.

Опитът на лондонската Splendid Communications показва и трудностите при разпознаването на текст, създаден с изкуствен интелект. По думите на изпълнителния директор Алек Самуейс годишната стажантска програма обичайно привлича между 300 и 400 кандидатури за три места, а през предходната година броят им е бил тройно по-голям. Сходството между заявленията породило подозрения за използване на изкуствен интелект, но два инструмента за разпознаването му дали толкова разнопосочни резултати, че компанията в крайна сметка прегледала кандидатурите ръчно.

Според говорител на ICO работодателите трябва ясно да съобщават кога използват автоматизирано вземане на решения, как работи то и как може да повлияе на кандидатурата. Регулаторът очаква организациите да откриват и ограничават пристрастията при разработването и използването на системите. Британското правителство посочва пред Би Би Си, че съществуващите защити срещу дискриминация и правилата за защита на личните данни вече се прилагат и към изкуствения интелект.