V Amazone používali robota, ktorý triedil životopisy: Ups, v tomto zlyhal, títo uchádzači si pri ňom ani neškrtli

Zdroj: Getty Images

Spoločnosť Amazon začala používať robota, ktorého úlohou bola prechádzať životopisy a vyraďovať nevhodných uchádzačov. Ukázalo sa však, že v softvéri bol problém. Robot totiž z uchádzačov vyraďoval ženy. Spoločnosť tak projekt ukončila.

Tím vývojárov vytváral program na robotické hľadanie talentov od roku 2014. Práve vďaka automatizácii spoločnosť Amazon uspela v oblasti on-line nakupovania, či už sa to týkalo skladov alebo cenových rozhodovaní. Softvér na výber zamestnancov mal životopisom uchádzačov prideľovať hodnotenia od jednej do päť hviezdičiek, tak ako nakupujúci dávajú hviezdičky produktom na stránkach Amazonu. „Takýto nástroj chcel každý. Mal to byť stroj, do ktorého vložíte profily 100 ľudí a on vypľuje päť najlepších, ktorých prijmeme,“ prezradil agentúre Reuters zdroj, ktorý si prial zostať v anonymite.

V roku 2015 si ale v spoločnosti všimli, že nový systém nie je pri hodnotení kandidátov neutrálny pokiaľ ide o ich pohlavie. Počítačové modely totiž boli testované na životopisoch, ktoré firma dostala v priebehu desiatich rokov. A keďže v technologických odboroch prevládajú muži, väčšina životopisov pochádzala priamo od nich. Systémy sa tak naučili, že majú preferovať mužských kandidátov. „Trestné body“ prideľovali životopisom, ktorých slová naznačovali, že ide o ženu, napríklad „kapitánka ženského šachového klubu“. Ako negatívne hodnotili tiež absolvovanie školy, na ktorú chodia iba ženy. Amazon preto programy upravili tak, aby na tieto konkrétne výrazy nereagovali. Nedalo sa ale zaručiť, že si stroje nevymyslia iné spôsoby, triedenia kandidátov, ktoré by mohli byť diskriminačné. Firma preto špeciálny vývojársky tím rozpustila, keďže manažéri tomuto projektu prestali dôverovať.

Limity umelej inteligencie?

Spoločnosť odmietla agentúre Reuters komentovať technológie, ktoré využíva. Ako dôvod uviedla, že personalisti robota pri hodnotení uchádzačov nikdy nepoužívali. Zdroj agentúry však tvrdí iné, údajne sa naň nikdy úplne nespoliehali, ale prihliadali k jeho odporúčaniam.

Tento experiment ukazuje na limity, ktoré umelá inteligencia má. Môže sa tak stať príkladom pre iné firmy, ktoré uvažujú o automatizácii v oblasti náboru zamestnancov.

Podľa prieskumu CareerBuilder z roku 2017 si až 55% amerických šéfov oddelení ľudských zdrojov myslí, že umelá inteligencia bude do piatich rokov vykonávať časť ich práce. Zamestnávatelia už dlho snívajú o technológii, ktorá by im umožnila menej sa spoliehať na subjektívne hodnotenia personalistov. Počítačoví vedci však vedia, že je pred nimi ešte dlhá cesta: „Zatiaľ nevieme zaistiť, aby bol algoritmus férový, dal sa dobre vysvetliť a interpretovať,“ hovorí Nihar Shah, vedec, ktorý prednáša o strojovom učení na Carnegie Mellon univerzite.

Chyby v programe Amazonu

Tím, ktorý sa podieľa na programe na prechádzanie životopisov, v ňom vytvoril 500 počítačových modelov, ktoré sa zameriavali na špecifické profesijné schopnosti a lokalitu. Každý z nich rozoznával 50-tisíc slov, ktoré sa objavovali v životopisoch bývalých kandidátov. To, že preferovali iba mužských kandidátov, však nebola ich jediná chyba. Systém tiež odporúčal kandidátov bez kvalifikácie na všetky typy pozície. Aj preto sa Amazon rozhodol nespoľahlivý projekt ukončiť.

Firmy však skúšajú aj iné metódy automatického náboru. Napríklad Unilever alebo Hilton využívajú služby start-upu HireVue, ktorá cez videopohovory analyzuje reč a prejav uchádzača a takisto sleduje aj výraz ich tváre. Banka Goldman Sachs si zas vytvorila vlastný analytický nástroj, ktorý sa pokúša zistiť, do akého oddelenia by sa uchádzač podľa životopisu najviac hodil.

Profesionálna sieť LinkedIn išla ešte ďalej. Zamestnávateľom ponúka algoritmické hodnotenie kandidátov, ktorí by sa hodili na ich pozície, ktoré inzerujú na LinkedIne. Viceprezident siete John Jersin však zdôrazňuje, že služba nemá nahradiť tradičných personalistov. „Určite by som neveril žiadnemu robotovi, ktorý sám vyberie kandidáta. Technológia ešte nie je tak ďaleko,“ hovorí.