Päätöksenteon on säilyttävä työnantajalla
Tekoäly voi auttaa rekrytoinnissa esimerkiksi hakemusten tiivistämisessä, työpaikkailmoituksen luonnostelussa, haastattelurungon ideoinnissa tai hakijaviestinnän selkeyttämisessä. Tekoälyn antaman tuotoksen oikeellisuus ja asianmukaisuus on kuitenkin aina käyttäjän vastuulla.
EU:n tekoälyasetuksen näkökulmasta monet rekrytointiin liittyvät tekoälyjärjestelmät voivat olla korkean riskin järjestelmiä, jos niitä käytetään esimerkiksi työhakemusten analysointiin, suodattamiseen tai hakijoiden arviointiin. Tällöin hakijoille on kerrottava tekoälyn käytöstä ja sen roolista päätöksenteossa. Yhteistoimintalain mukainen vuoropuhelu on käytävä, jos suuririskinen AI-järjestelmä otetaan käyttöön työpaikalla. Lisäksi on huomioitava työelämän tietosuojalain vuoropuheluvelvoitteet muun muassa teknisen valvonnan osalta.
Järjestämme aiheesta maksuttoman webinaarin keskiviikkona 17.6. klo 9.00-10.00, johon pääset ilmoittautumaan täältä!
Kysy ja käsittele vain tarpeellisia tietoja
Työnantaja saa käsitellä työnhakijasta vain sellaisia henkilötietoja, jotka ovat välittömästi tarpeellisia haettavan tehtävän kannalta. Tarpeellisuutta arvioidaan sen työtehtävän näkökulmasta, johon työntekijä hakee.
Sama periaate koskee tekoälyä. Samalla tavalla kuin työnantaja ei saa kysyä haastattelussa tehtävän kannalta tarpeettomia tietoja, työnantaja ei saa myöskään tekoälyn avulla kerätä, analysoida tai etsiä hakijasta sellaisia tietoja, joilla ei ole merkitystä haettavan tehtävän kannalta. Toisin sanoen tekoälylle annettavat promptit on mietittävä yhtä tarkasti kuin haastattelukysymykset: jos HR-ammattilainen ei saisi kysyä asiaa haastattelussa, hän ei saa pyytää tekoälyä etsimään sitä hakemuksesta.
Näin ollen esimerkiksi hakemustekstissä olevien arkaluonteisten tai tehtävän kannalta tarpeettomien tietojen, kuten perhesuhteiden, terveydentilan tai poliittisen toiminnan, automaattinen analysointi tai etsiminen ei ole sallittua ilman selkeää ja hyväksyttävää perustetta. Tekoälyn käyttö ei siis oikeuta käsittelemään sellaista tietoa, jota työnantaja ei saisi muutenkaan käsitellä rekrytoinnissa.
Haastattelukysymykset ja tekoälylle annettavat ohjeet kannattaa peilata työnhakuilmoitukseen ja tehtävän todellisiin vaatimuksiin. Jos kysymys, hakukriteeri tai tekoälylle annettu arviointiperuste ei liity hakijan osaamiseen, kokemukseen tai työssä suoriutumiseen, sitä ei lähtökohtaisesti tule käyttää.
Amazon case varoittavana esimerkkinä
Tekoäly voi aiheuttaa syrjintää myös huomaamatta ja tahattomasti esimerkiksi vinoutuneen koulutusdatan tai epäsuorien syrjivien muuttujien, kuten kielen, asuinpaikan tai taustatietojen, kautta. Työnantaja ei voi välttää vastuutaan vetoamalla siihen, että virheellinen tai syrjivä lopputulos johtui tekoälyjärjestelmästä. Vastuu rekrytointiprosessin lainmukaisuudesta säilyy työnantajalla myös silloin, kun algoritmi toimii näennäisesti itsenäisesti.
Amazon kehitti noin vuodesta 2014 alkaen sisäistä tekoälypohjaista rekrytointityökalua, jonka tarkoituksena oli automatisoida CV:den seulonta ja pisteyttää hakijat tähtiasteikolla. Järjestelmä koulutettiin Amazonille kymmenen vuoden ajalta kertyneellä hakijadatalla, joka oli teknologia-alan miesvaltaisuuden vuoksi painottunut vahvasti mieshakijoihin. Tämän seurauksena malli oppi yhdistämään "hyvän hakijan" miessukupuoleen: se rankaisi automaattisesti CV:tä, joissa esiintyi sana "women's" ja suosi verbejä, joita esiintyy tilastollisesti useammin miesten CV:ssä, ja rankaisi naisvaltaisista yliopistoista valmistuneita hakijoita. Syrjintä ei perustunut eksplisiittisesti sukupuoleen vaan epäsuoriin muuttujiin: juuri tällainen tahaton välillinen syrjintä on oikeudellisesti yhtä kiellettyä kuin avoin syrjintä. Amazon havaitsi ongelmat sisäisesti jo vuonna 2015 ja yritti korjata järjestelmää, mutta koska syrjivien mallien täydellistä poistumista ei voitu varmistaa, työkalu hylättiin kokonaan ja tapaus tuli julki Reutersin uutisoinnin myötä vuonna 2018. Tapauksen ydinopetus on, että tekoäly oppii datan sisältämät vinoumat, eikä työnantaja voi vapautua vastuusta sillä perusteella, että syrjintä johtui algoritmista.
Älä kirjaa tai tallenna merkityksettömiä tietoja
Haastattelumuistiinpanoihin kannattaa kirjata vain tehtävän kannalta merkityksellisiä tietoja. Kaikki ylös kirjatut tiedot voivat myöhemmin näyttää siltä, että niillä on ollut vaikutusta rekrytointipäätökseen. Hyvä käytännön testi on kysyä: miltä tämä muistiinpano tai tekoälyn tuottama arvio näyttäisi tuomarin silmissä, jos sitä esiteltäisiin todisteena oikeudessa?
Työhaastattelun ilmapiiriä pyritään usein rentouttamaan kevyellä jutustelulla. Juuri tällaisessa vapaamuotoisessa keskustelussa syntyvät kuitenkin usein rekrytoinnin juridiset sudenkuopat. Syrjintäolettama voi syntyä helposti, jos hakija ei tule valituksi tehtävään ja haastattelussa on keskusteltu esimerkiksi hänen perhetilanteestaan, terveydestään tai iästään. Työnantajan kannattaa siksi ohjata keskustelu ystävällisesti mutta ripeästi takaisin osaamiseen, kokemukseen ja tehtävän vaatimuksiin.
Sama koskee tekoälyn käyttöä. Tekoälyä ei tule ohjeistaa etsimään hakemuksista yleisiä riskitekijöitä, henkilökohtaisia piirteitä tai muita tehtävän kannalta epäolennaisia seikkoja. Jos tekoälyä käytetään esimerkiksi hakemusten jäsentämiseen tai tiivistämiseen, työnantajan on huolehdittava siitä, että työkalu kohdistuu vain tehtävän kannalta olennaisiin tietoihin.
Lopuksi
Rekrytoinnissa on aina kyse ihmisistä. Juridiikan näkökulmasta onnistunut rekrytointi perustuu tarpeellisiin tietoihin, syrjimättömiin kriteereihin, huolelliseen dokumentointiin ja läpinäkyvään päätöksentekoon.
Tekoäly ei muuta näitä perusperiaatteita. Se tekee niistä entistä tärkeämpiä. Kun rekrytoinnissa käytetään tekoälyä, työnantajan on huolehdittava siitä, että teknologia tukee ihmistä eikä korvaa harkintaa.
VALO Partnersin neuvontapalvelut
VALO Partners Asianajotoimisto tarjoaa kokonaisvaltaista, ennakollista riskienhallintaa ja toimii kumppanina haastavissa tilanteissa, kuten muutosneuvotteluissa, työsuhteen päättämistilanteissa, työehtosopimuksiin liittyvissä kysymyksissä, työoikeudellisissa riita-asioissa sekä työelämän tietosuojakysymyksissä. Ota yhteyttä asiantuntijoihimme varaamalla maksuton alkukartoitus, joka ei sido teitä mihinkään. Lisätietoja palveluistamme löydät täältä.
Alexa Kavasto, työoikeusjuristi, osakas






