Turvaraamit autonomialle

Olemme nähneet, että agentti voi tehdä monta vaihetta itse ja kytkeytyä sinun tietoihisi. Se on voimakas yhdistelmä — ja juuri siksi tarvitaan turvaraamit. Autonomia tarkoittaa, että agentti toimii itsenäisesti. Mitä itsenäisemmin se toimii, sitä tärkeämpää on, että ihminen pysyy ohjaksissa. Tässä oppitunnissa käymme läpi kolme yksinkertaista turvaraamia, jotka pitävät sinut ohjaksissa. Ensimmäinen ja tärkein on ihmisen hyväksyntä. Muistat sähköpostiesimerkin: agentti valmisteli vastaukset, mutta ei lähettänyt niitä itse, vaan pyysi sinua hyväksymään. Tätä kutsutaan ihmisen hyväksynnäksi, ja se on agenttien tärkein turvamekanismi. Ideana on, että ennen kuin agentti tekee jotain, jolla on todellisia seurauksia — lähettää viestin, maksaa laskun, poistaa tiedoston — se pysähtyy ja kysyy sinulta luvan. Sinä katsot, mitä se aikoo tehdä, ja päätät. Näin virhe jää luonnosvaiheeseen eikä pääse maailmaan. On hyvä huomata, että kaikki vaiheet eivät tarvitse hyväksyntää. Jos agentti vain lukee kalenteria tai etsii tietoa, siitä ei ole vahinkoa, vaikka se tekisi sen itse. Hyväksyntä kannattaa vaatia niissä kohdissa, joilla on peruuttamattomia tai näkyviä seurauksia. Nyrkkisääntö: mitä vaikeampi teko on perua, sitä varmemmin ihmisen pitää hyväksyä se etukäteen. Toinen turvaraami on oikeuksien rajaus. Puhuimme jo edellisessä oppitunnissa siitä, että agentille kannattaa antaa pääsy vain siihen, mitä se tarvitsee. Sama pätee tekoihin. Voit rajata, mitä agentti ylipäätään saa tehdä. Esimerkiksi kokousagentti saa lukea kalenteria ja luonnostella viestejä, mutta se ei saa poistaa tapahtumia eikä koskea muihin sähköposteihin. Tätä kutsutaan pienimmän oikeuden periaatteeksi: annetaan mahdollisimman vähän valtaa, juuri sen verran että tehtävä onnistuu. Jos agentin oikeudet on rajattu tiukasti, sen mahdollinen virhe pysyy pienenä. Kolmas turvaraami on audit-loki. Sana loki tarkoittaa tässä muistiinpanoa siitä, mitä tapahtui. Audit-loki on luettelo agentin tekemistä toimista: mitä se luki, mitä se ehdotti, mitä se teki ja milloin. Kun tällainen loki on olemassa, voit jälkikäteen tarkistaa, mitä agentti oikeasti teki. Jos jokin meni pieleen, näet mistä se johtui. Ja jos kaikki meni hyvin, sinulla on silti jälki tapahtuneesta. Loki tuo läpinäkyvyyttä: agentti ei toimi pimennossa, vaan sen jokainen askel on jäljitettävissä. Miksi kaikki tämä on tärkeää? Koska agentti on edelleen tekoäly, joka voi erehtyä — ja nyt se voi erehtyä useassa vaiheessa peräkkäin ja tehdä oikeita tekoja. Yksi väärä oletus voi johtaa väärään viestiin väärälle henkilölle. Turvaraamit eivät ole este agentin hyödyille, vaan päinvastoin: ne tekevät agentin käytöstä turvallista, jolloin uskallat antaa sille oikeasti hyödyllisiä tehtäviä. Ilman raameja et voisi luottaa siihen. Raamien kanssa voit. On myös hyvä muistaa vastuu. Vaikka agentti tekee työn, päätöksistä vastaat sinä. Siksi et koskaan hyväksy sokkona, vaan luet, mitä agentti aikoo tehdä, ennen kuin painat hyväksy. Ihmisen hyväksyntä on aito tarkistus vain silloin, kun ihminen oikeasti katsoo, mitä hyväksyy. Tiivistetään kolme turvaraamia: ihmisen hyväksyntä ennen merkittäviä tekoja, oikeuksien rajaus niin että agentti saa tehdä vain tarpeellisen, ja audit-loki joka tekee toiminnasta jäljitettävää. Yhdessä nämä pitävät ihmisen ohjaksissa. Muista ydinajatus: agentti tekee työn, mutta ihminen päättää. Viimeisessä oppitunnissa katsomme, milloin agenttia ei kannata käyttää lainkaan — ja vedämme koko kurssin yhteen.

Kokeile nyt

Mikä seuraavista on paras esimerkki ihmisen hyväksynnästä turvaraamina?

Tallenna edistymisesi ja oma oppimisyhteenvetosi