Í dag var fræðslufundur á vegum BSRB fyrir starfsfólk og stjórnendur aðildafélaga. Guðbjörg Linda Rafnsdóttir prófessor í félagsfræði við Háskóla Ísland fjallaði um gervigreind og notkun hennar á meðal stjórnenda.
Gervigreind er í auknum mæli farin að hafa áhrif á stjórnun starfsfólks, allt frá nýráðningum til daglegrar frammistöðumælingar. Hún er notuð til að fara yfir umsóknir, velja umsækjendur, greina viðtöl og spá fyrir um afköst, starfsanda og líkur á uppsögnum eða veikindum. Markmiðið er að auka skilvirkni og spara tíma, en með þessu fylgja verulegar áskoranir, segir Guðbjörg Linda.
Kerfin byggja á þjálfunargögnum sem eru oft hlutdræg og geta því endurtekið og jafnvel ýkt fordóma, til dæmis eftir kyni eða uppruna. Þau nýta einnig víðtæk gögn um einstaklinga, oft án þess að það sé sýnilegt, sem gerir ákvarðanir ógagnsæjar og getur aukið upplifun starfsfólks af eftirliti og firringu. Þá eru kerfin yfirleitt byggð á alþjóðlegum gögnum sem taka ekki mið af íslenskum aðstæðum.
Þótt persónuverndarlög veiti rétt til að andmæla slíkri vinnslu er erfitt í reynd að standa gegn henni, þar sem það getur haft áhrif á stöðu fólks. Samkvæmt gervigreindarlöggjöf Evrópusambandsins telst notkun gervigreindar í ráðningum og stjórnun há-áhættu notkun.
Gervigreind getur verið gagnlegt tæki, en hún endurspeglar og getur aukið ójöfnuð sem þegar er til staðar. Því er lykilatriði að setja skýr mörk, tryggja gegnsæi og halda mannlegri ábyrgð í ákvörðunum.