Agentin tarkastusketju ja EU:n tekoälysäädös

Kun agentti käsittelee koko erän, syntyy uusi kysymys: mistä jälkeenpäin tietää, mitä tapahtui? Chat-avustajan kanssa muistat itse, mitä kirjasit, koska teit sen käsin. Agentin kanssa suuri osa työstä tapahtuu automaattisesti, joten sen jäljen on synnyttävä itsestään. Tätä jälkeä kutsutaan tarkastusketjuksi. Hyvin rakennettu tiliöintiagentti kirjaa jokaisesta tositteesta neljä asiaa. Ensin: mitä agentti teki — minkä tiliöinnin se ehdotti ja millä varmuudella. Toiseksi: miksi — mihin sääntöön tai aiempaan kirjaukseen ehdotus perustui. Kolmanneksi: menikö tosite auto-hyväksyntään vai tarkistusjonoon, ja mikä kynnys oli voimassa. Ja neljänneksi: jos ihminen katsoi tositteen, kuka katsoi, milloin, ja hyväksyikö vai muuttiko hän ehdotusta. Tämä loki syntyy automaattisesti jokaisen tositteen kohdalla. Sen ansiosta voit jälkeenpäin osoittaa tilintarkastajalle tai verottajalle: tämä kirjaus tehtiin näin, se meni läpi automaattisesti tällä varmuudella, tai tämän tarkisti nimetty ihminen tänä päivänä. Ilman tällaista lokia agentti olisi musta laatikko, ja musta laatikko ei kelpaa kirjanpitoon, jossa jokaisen kirjauksen on oltava jäljitettävissä. Tässä kohtaa astuu kuvaan EU:n tekoälysäädös, englanniksi AI Act. Se on Euroopan unionin asetus, joka sääntelee tekoälyn käyttöä ja luokittelee tekoälyjärjestelmät niiden riskin mukaan. Taloushallinnon tiliöintiagentti ei tyypillisesti ole asetuksen tarkoittama korkean riskin järjestelmä — se ei päätä ihmisten oikeuksista tai turvallisuudesta samalla tavalla kuin vaikka luottopäätös- tai rekrytointijärjestelmät. Mutta asetuksen yleiset periaatteet ohjaavat silti, miten agenttia kannattaa käyttää. Kaksi periaatetta on tässä keskeistä. Ensimmäinen on läpinäkyvyys. Käyttäjän on tiedettävä, milloin päätökseen on osallistunut tekoäly, ja järjestelmän toiminnan on oltava ymmärrettävissä. Käytännössä: sinun on tiedettävä, että kirjaus on agentin tekemä eikä ihmisen, ja sinun on voitava nähdä, mihin se perustui. Se tarkastusketju, josta juuri puhuimme, on tämän läpinäkyvyyden konkreettinen toteutus. Toinen periaate on ihmisen valvonta, asetuksen kielellä human oversight. Merkittäviä päätöksiä ei jätetä pelkän koneen varaan, vaan ihmisellä on oltava tosiasiallinen mahdollisuus seurata, puuttua ja tarvittaessa perua. Confidence-kynnys ja tarkistusjono ovat juuri tämän valvonnan työkaluja: ne varmistavat, että epävarmat tapaukset päätyvät ihmiselle ja että ihminen voi milloin tahansa säätää, mitä agentti saa tehdä itsenäisesti. Huomaa, miten hyvin nämä velvoitteet sopivat yhteen aiempien oppituntien kanssa. Emme rakentaneet tarkastusketjua ja ihmisen portteja siksi, että laki pakottaa — rakensimme ne, koska ne ovat hyvää kirjanpitoa ja turvallista agenttikäyttöä. Tekoälysäädös vain kirjaa lakiin sen, mikä on muutenkin järkevää: ihmisen on tiedettävä, mitä kone tekee, ja ihmisen on voitava puuttua. Käytännön ohje: kun otat tiliöintiagentin käyttöön, varmista alusta asti, että se tuottaa jäljitettävän lokin jokaisesta päätöksestä ja hyväksynnästä, ja että loki säilyy yhtä kauan kuin muukin kirjanpitoaineisto. Jos työkalu ei tuota tällaista jälkeä, se ei ole valmis kirjanpitokäyttöön — riippumatta siitä, kuinka hyviä sen tiliöintiehdotukset ovat. Läpinäkyvyys ja jäljitettävyys eivät ole lisäominaisuuksia vaan edellytys.

Kokeile nyt

Mitä EU:n tekoälysäädöksen (AI Act) ihmisen valvonnan periaate tarkoittaa tiliöintiagentin kohdalla?

Tallenna edistymisesi ja oma oppimisyhteenvetosi