Vastuu kun tekoäly osallistuu päätökseen

Vastuu on johtamisen vaikein kysymys tekoälyaikana. Yleinen virhe on ajatella, että jos päätös perustui tekoälyn ehdotukseen, vastuu jakautuu jollain tavalla tekoälypalvelun ja ihmisen välillä. Tämä on virhe, ja sen seuraukset voivat olla merkittäviä. Käytännön sääntö, joka pätee kaikilla tunnetuilla oikeudellisilla järjestelmillä: ihminen, joka teki päätöksen, on vastuussa siitä. Vaikka tekoäly luonnosteli ehdotuksen, lopullinen vastuu on sillä, joka hyväksyi ehdotuksen ja toimi sen mukaan. Tämä koskee niin yksittäisiä työntekijöitä kuin johtoa. Käydään läpi muutama konkreettinen tapaus. Tapaus yksi: tekoäly ehdottaa hintaa tarjoukseen, ihminen hyväksyy ja lähettää tarjouksen. Hinta osoittautuu virheelliseksi — esimerkiksi tekoäly oli laskenut väärillä yksiköillä. Asiakas hyväksyy tarjouksen, sopimus tehdään, ja virhe paljastuu vasta tuotteen toimituksessa. Vastuu sopimuksesta on yrityksellä, joka teki tarjouksen. Tekoälypalvelu ei vastaa. Tapaus kaksi: tekoäly luokittelee asiakkaan luottokelpoisuudeltaan riittäväksi, mutta luokitukseen kuului virheellisiä tietoja. Asiakas saa luottoa, mutta ei pysty maksamaan. Tappio jää yritykselle. Vastuu luottopäätöksestä on sillä, joka hyväksyi luokituksen ja antoi luoton. Tapaus kolme: tekoäly tunnistaa työntekijän hakemuksen poikkeavaksi ja merkitsee sen lisätutkittavaksi. Hakemus hylätään tämän perusteella. Myöhemmin selviää, että merkintä perustui kaavaan, jolla on yhteys hakijan etniseen taustaan. Vastuu syrjivästä päätöksestä on yrityksellä, joka käytti tekoälypalvelua. Mitä nämä tapaukset opettavat? Vastuu ei poistu, kun käytetään tekoälyä — se vaan voi tulla vaikeammaksi jäljittää. Tämä tekee dokumentoinnista, koulutuksesta ja prosesseista tärkeämpiä, ei vähemmän tärkeitä. Käytännön suositukset johdolle. Ensimmäinen: kun työntekijä tekee päätöksen tekoälyn ehdotuksen pohjalta, hänen on syytä tietää, että hän on vastuussa. Tämä ei ole tarkoitettu pelotteluksi vaan selkeydeksi. Työntekijä, joka luulee siirtäneensä vastuun tekoälylle, voi tehdä huolimattomia päätöksiä, koska hän ei tunne vastuuta lopputuloksesta. Toinen: jokaiselle tekoäly-avusteiselle päätökselle olkoon dokumentoitu jälki. Mitä tekoäly ehdotti, mitä ihminen päätti, ja miksi. Tämä jälki on välttämätön, kun jälkikäteen joku tutkii, miten päätös tehtiin. Kolmas: kouluta tekoälyä käyttävät työntekijät tunnistamaan, milloin tekoälyn ehdotuksessa on jotain pielessä. Jos työntekijä hyväksyy ehdotuksen huomaamatta, että se rikkoo jotain oikeudellista tai eettistä rajaa, vastuu jää yritykselle. Koulutus on välttämätön suoja tätä vastaan. Neljäs: johto on viime kädessä vastuussa siitä, että tekoäly-käytäntö on yrityksessä riittävän selkeä ja koulutettu. Jos työntekijä tekee virheen koulutuksen puutteen vuoksi, vastuu siirtyy yritystasolle. Tämä on johdon vastuukysymys, ei vain yksittäisen työntekijän. Yhden lauseen periaate: tekoäly nopeuttaa työtä, ei siirrä vastuuta. Vastuu on aina ihmisellä, joka teki päätöksen, ja johdolla, joka loi olosuhteet, joissa päätös tehtiin.

Kokeile nyt

Tekoäly luonnostelee asiakkaalle vastauksen, työntekijä hyväksyy sen lukematta huolellisesti ja lähettää. Vastauksessa on virheellinen tieto, joka aiheuttaa asiakkaalle taloudellista vahinkoa. Kenen vastuulla virhe on?

Tallenna edistymisesi ja oma oppimisyhteenvetosi