Контроль и дискриминация: как компании используют искусственный интеллект для найма и увольнения сотрудников

На про­шлой неде­ле круп­ный рос­сий­ский вен­чур­ный ин­ве­стор Ру­бен Вар­да­нян вло­жил­ся в HR-tech стар­тап VCV. Если вы недав­но от­кли­ка­лись на ва­кан­сии в Unilever, «Ян­декс» или PwС, то, воз­мож­но, стал­ки­ва­лись с этим сер­ви­сом. С его по­мо­щью со­ис­ка­те­ли за­пи­сы­ва­ют ви­део­ре­зю­ме и от­прав­ля­ют ра­бо­то­да­те­лю, а ком­па­нии — оце­ни­ва­ют их, ис­поль­зуя ис­кус­ствен­ный ин­тел­лект (ИИ). Все это — пер­вые шаги рос­сий­ских ком­па­ний к ав­то­ма­ти­за­ции най­ма. Они боль­ше не хо­тят пла­тить лю­дям за то, что­бы они при­ду­мы­ва­ли за­да­ния для со­ис­ка­те­лей и про­во­ди­ли со­бе­се­до­ва­ния — этим зай­мет­ся ИИ. «Цех» по­смот­рел за­пад­ный ры­нок HR-tech, что­бы по­нять, чего ожи­дать и сто­ит ли это­го бо­ять­ся.

Как ИИ по­мо­га­ет биз­не­су на­ни­мать и уволь­нять со­труд­ни­ков

Пред­ставь­те, что вы про­хо­ди­те ви­део-ин­тер­вью, где за 30-40 се­кунд от­ве­ча­е­те на во­про­сы о сво­их сла­бых и силь­ных сто­ро­нах и пы­та­е­тесь убе­дить ка­ме­ру сво­е­го смарт­фо­на или но­ут­бу­ка в том, что вы бу­де­те от­лич­ным кан­ди­да­том. В это вре­мя ис­кус­ствен­ный ин­тел­лект ана­ли­зи­ру­ет вы­ра­же­ние ва­ше­го лица, из­ме­не­ния го­ло­са, сло­ва и грам­ма­ти­че­ские кон­струк­ции. Ком­па­ния, в ко­то­рую вы хо­ти­те устро­ить­ся, по­лу­ча­ет ре­зуль­та­ты о том, на­сколь­ко вы эм­па­тич­ны, ком­му­ни­ка­бель­ны, экс­тра­верт­ны и под­хо­ди­те на долж­ность. Если вы не удо­вле­тво­ри­те их по од­но­му из па­ра­мет­ров, то вряд ли по­па­де­те на сле­ду­ю­щий этап. По­хо­же на пе­ре­сказ се­рии «Чер­но­го зер­ка­ла»? На са­мом деле та­кие услу­ги предо­став­ля­ют аме­ри­кан­ский стар­тап Yobs и ком­па­ния Hire­Vue.

Биз­нес не оста­нав­ли­ва­ет­ся на ре­кру­тин­ге в ис­поль­зо­ва­нии ИИ. Даже по­лу­чив ра­бо­ту, со­труд­ник мо­жет ока­зать­ся под по­сто­ян­ным на­блю­де­ни­ем. ИИ-ре­ше­ние от Work­day под­ска­жет ва­ше­му бос­су, го­то­вы ли вы к по­вы­ше­нию. А если ИИ-ал­го­рит­мы на скла­де Ama­zon за­ме­тят, что вы ра­бо­та­е­те недо­ста­точ­но про­дук­тив­но, то ре­ко­мен­ду­ют ру­ко­во­ди­те­лю вас уво­лить. До­хо­дит даже до того, что ра­бот­ни­ки кор­по­ра­ции вы­нуж­де­ны тер­петь и не хо­дить в туа­лет из-за очень вы­со­ких KPI. Если вы вдруг ра­бо­та­е­те в IBM и пла­ни­ру­е­те ухо­дить, то ИИ преду­га­да­ет ваше же­ла­ние и пе­ре­даст ин­фор­ма­цию ме­не­дже­ру, ко­то­рый, воз­мож­но, по­про­бу­ет пе­ре­убе­дить вас и сде­ла­ет вы­год­ное пред­ло­же­ние.

По опро­су ауди­тор­ской ком­па­нии De­loitte из «боль­шой чет­вер­ки» в 2018 году, 32% ру­ко­во­ди­те­лей из сфе­ры биз­не­са и тех­но­ло­гий ис­поль­зу­ют ИИ в управ­ле­нии пер­со­на­лом. При этом, та­кое ис­поль­зо­ва­ние тех­но­ло­гий вле­чет эти­че­ские рис­ки — мы вы­де­ли­ли че­ты­ре ос­нов­ных:

1. Тех­но­ло­гия еще недо­ста­точ­но про­ве­ре­на

Неяс­но, на­сколь­ко ИИ дей­стви­тель­но мо­жет адек­ват­но оце­нить, хо­ро­шо вы спра­ви­тесь с обя­зан­но­стя­ми или нет. Лю­бое ав­то­ма­ти­зи­ро­ван­ное ре­ше­ние долж­но объ­яс­нять­ся. По сути, если при­чи­на от­ка­за вам — это вы­во­ды ИИ, ком­па­ния долж­на разо­брать­ся, на ка­ких кон­крет­ных дан­ных и фак­тах он ос­но­ван. В про­тив­ном слу­чае, мы ока­зы­ва­ем­ся в си­ту­а­ции чер­но­го ящи­ка, где под­опыт­ны­ми жи­вот­ны­ми непро­ве­рен­ной тех­но­ло­гии ста­но­вят­ся люди, пре­тен­ду­ю­щие на рас­про­стра­нен­ные ва­кан­сии — сту­ден­ты, ко­то­рые ищут ста­жи­ров­ку или первую ра­бо­ту.

2. ИИ учит­ся на че­ло­ве­че­ских предубеж­де­ни­ях

Что, если бы со­бе­се­до­ва­ние с вами про­во­дил ра­сист и сек­сист? В неко­то­рых слу­ча­ях имен­но так про­ис­хо­дит при от­бо­ре с по­мо­щью ИИ. До­ста­точ­но вспом­нить ис­то­рию 2018 года, ко­гда Ama­zon от­ка­зал­ся от сво­е­го ре­кру­тин­го­во­го ал­го­рит­ма, над ко­то­рым ра­бо­тал несколь­ко лет, по­то­му что он дис­кри­ми­ни­ро­вал жен­щин. Ос­но­ва­тель­ни­ца ком­па­нии Py­met­rics Фри­да Пол­ли за­ме­ти­ла: «Ал­го­ритм ма­шин­но­го обу­че­ния по­хож на трех­лет­не­го ре­бен­ка — он бу­дет учить­ся у того, что его окру­жа­ет. Но у нас не было раз­но­об­раз­ной сре­ды для его обу­че­ния». Для того, что­бы про­те­сти­ро­вать это, зай­ди­те в сер­вис «Google Кар­тин­ки» и вве­ди­те в по­ис­ко­вое окно: «IT spe­cial­ist». Сколь­ко фото жен­щин и лю­дей не с бе­лым цве­том кожи вы уви­де­те? Ис­кус­ствен­ный ин­тел­лект обу­ча­ет­ся в сре­де, со­здан­ной людь­ми, а об­ще­ство толь­ко недав­но по­вер­ну­ло в сто­ро­ну ра­вен­ства.

3. ИИ не смо­жет функ­ци­о­ни­ро­вать без че­ло­ве­ка

«Встро­ен­ные» предубеж­де­ния ИИ озна­ча­ют, что пол­но­стью от­ка­зать­ся от уча­стия лю­дей в HR в бли­жай­шем бу­ду­щем точ­но не по­лу­чит­ся. Предубеж­де­ния на­чи­на­ют­ся с дан­ных, а их объ­ек­тив­ность за­ви­сит от че­ло­ве­ка. Но есть и дру­гой во­прос — по­спе­ва­ет ли че­ло­век за тем, как обу­ча­ет­ся ИИ и смо­жем ли мы до­стичь си­ту­а­ции, ко­гда лю­бые предубеж­де­ния в ал­го­рит­ме ис­чез­нут?

4. Нет ре­гу­ли­ру­ю­щих пра­вил и за­ко­нов

С 1 ян­ва­ря 2020 года в шта­те Ил­ли­нойс всту­пил в силу за­кон — те­перь ра­бо­то­да­тель обя­зан за­ра­нее пре­ду­пре­ждать, если во вре­мя ви­део-со­бе­се­до­ва­ния он ис­поль­зу­ет ИИ. Это пер­вый по­доб­ный шаг на пути к уре­гу­ли­ро­ва­нию ис­поль­зо­ва­ния тех­но­ло­гии в тру­до­вом пра­ве. Про­бле­мы все еще оста­ют­ся — ком­па­ния мо­жет ис­поль­зо­вать рас­плыв­ча­тые и слож­ные тер­ми­ны, а со­ис­ка­тель или со­труд­ник не пой­мет, как при­спо­со­бить­ся к но­вым усло­ви­ям. В пуб­лич­ном поле все ак­тив­но об­суж­да­ют, что нуж­но для внед­ре­ния ИИ, как важ­ны вы­со­кие тех­но­ло­гии для раз­ви­тия биз­не­са и ми­ро­вой эко­но­ми­ки, но за­бы­ва­ют по­ду­мать о том, что нуж­но, что­бы люди при­спо­со­би­лись и име­ли рав­ные воз­мож­но­сти в но­вых усло­ви­ях.

Как этич­но ис­поль­зо­вать ИИ

Сей­час есть две воз­мож­ные про­ак­тив­ные по­зи­ции: бо­роть­ся про­тив ис­поль­зо­ва­ния ИИ в управ­ле­нии пер­со­на­лом или на­ста­и­вать на том, что­бы оно было про­зрач­ным. На­при­мер, мож­но про­сить пе­ред со­бе­се­до­ва­ни­ем гай­длайн или ин­струк­цию о том, на что нуж­но об­ра­тить вни­ма­ние. Пусть вам рас­ска­жут, нуж­но ли смот­реть пря­мо в ка­ме­ру или нет, а в от­кры­том до­сту­пе по­явит­ся ин­струк­ция для «оча­ро­вы­ва­ния» ИИ — то­гда к со­бе­се­до­ва­ни­ям мож­но бу­дет го­то­вить­ся и тре­ни­ро­вать в себе те на­вы­ки, ко­то­рые ис­кус­ствен­ный ин­тел­лект счи­та­ет важ­ны­ми.

На са­мом деле неко­то­рые уни­вер­си­те­ты США уже внед­ри­ли си­сте­му Big In­ter­view на ос­но­ве ИИ. Так у сту­ден­тов по­яви­лась воз­мож­ность под­го­то­вить­ся к ре­аль­но­му со­бе­се­до­ва­нию. Big In­ter­view ана­ли­зи­ру­ет то, на­сколь­ко быст­ро и уве­рен­но че­ло­век го­во­рит, есть ли в его го­ло­се нега­тив, и вы­да­ет сту­ден­там ре­ко­мен­да­ции. Воз­мож­но, очень ско­ро под­го­тов­ка к по­доб­ным со­бе­се­до­ва­ни­ем ста­нет та­ким же обыч­ным де­лом, как и к стан­дар­ти­зи­ро­ван­ным те­стам. Но те­перь вам при­дет­ся учить­ся во­вре­мя улы­бать­ся, ис­поль­зо­вать пра­виль­ные сло­ва в нуж­ное вре­мя и тре­ни­ро­вать го­лос, что­бы зву­чать в при­ят­ной для ИИ то­наль­но­сти. Хо­ро­шо это или пло­хо — од­но­знач­но ска­зать слож­но. Но внед­ре­ние ИИ в управ­ле­ние пер­со­на­лом — это не все­гда ра­ду­ги и еди­но­ро­ги с сай­тов HR-tech стар­та­пов Крем­ни­е­вой до­ли­ны.