Oikeudet, rajaus ja audit-loki

Kuvittele kaksi harjoittelijaa. Ensimmäiselle annat pääavaimen koko rakennukseen, kassakaappiin ja kaikkiin tileihin. Toiselle annat avaimen vain siihen huoneeseen, jossa hän työskentelee. Kumman kohdalla nukut yösi rauhassa? Sama pätee agentteihin. Vähimpien oikeuksien periaate tarkoittaa, että annat agentille täsmälleen ne oikeudet, jotka tehtävän hoitaminen vaatii — ei enempää." "Miksi tämä on niin tärkeää juuri agenttien kohdalla? Koska agentti toimii itsenäisesti ja nopeasti. Jos se erehtyy — tai jos se kaapataan prompt injectionilla, kuten edellisessä tunnissa näimme — vahinko rajoittuu siihen, mihin sillä oli pääsy. Jos agentti, jonka tehtävä on lukea laskuja, ei ylipäätään kykene poistamaan tietoja tai siirtämään rahaa, se ei voi tehdä sitä edes kaapattuna. Oikeuksien rajaus on siis suoraan turvallisuutta: se pienentää sen, mitä pahimmillaan voi mennä pieleen." "Käytännössä tämä tarkoittaa, että mietit jokaiselle agentille erikseen: mihin dataan sen pitää päästä käsiksi, ja mitä toimia sen pitää voida tehdä? Lukuoikeus ei ole sama kuin kirjoitusoikeus. Yhteen kansioon pääsy ei ole sama kuin pääsy kaikkeen. Kannattaa aloittaa mahdollisimman kapeasta ja laajentaa vain, kun huomaat aidon tarpeen — ei toisin päin. On paljon turvallisempaa antaa lisää oikeuksia myöhemmin kuin yrittää perua liian laajoja." "Toinen puoli tätä kokonaisuutta on audit-loki eli tapahtumaloki. Se on kirjaus siitä, mitä agentti teki: mihin toimeen se ryhtyi, milloin, mihin dataan se kohdistui ja minkä lopputuloksen se sai. Ajattele sitä valvontakameran tallenteena — et katso sitä joka päivä, mutta kun jotain menee pieleen, se on korvaamaton." "Miksi loki on välttämätön? Kolmesta syystä. Ensiksi jäljitettävyys: kun jokin ei mennyt niin kuin piti, sinun täytyy pystyä katsomaan, mitä oikeasti tapahtui, etkä arvaamaan. Toiseksi vastuu: lokin avulla näet, teki toimen agentti automaattisesti vai hyväksyikö ihminen sen portilla — tämä on tärkeää, kun selvitetään kuka vastaa mistäkin. Kolmanneksi oppiminen ja valvonta: lokia lukemalla huomaat, jos agentti toistuvasti tekee jotain odottamatonta, ja voit korjata suunnittelun ennen kuin siitä tulee ongelma." "Hyvä audit-loki on muuttumaton — sitä ei voi jälkikäteen siistiä tai poistaa, jotta se pysyy luotettavana todisteena. Se on myös riittävän yksityiskohtainen, että pystyt rekonstruoimaan tapahtumaketjun, mutta samalla sen pitää kunnioittaa tietosuojaa: älä kirjaa lokiin arkaluontoista dataa tarpeettomasti. Tässäkin pätee tasapaino." "Yhdistä nämä kaksi: rajatut oikeudet estävät vahingon etukäteen, audit-loki paljastaa sen jälkikäteen. Yhdessä hyväksyntäporttien ja epäluotettavan datan käsittelyn kanssa nämä muodostavat turvallisuuden peruskerrokset. Mikään yksittäinen suoja ei riitä, mutta yhdessä ne tekevät agentista luotettavan työkalun. Seuraavaksi nostamme katseen isompaan kuvaan: mitä EU:n tekoälysääntely sanoo agenttien autonomiasta ja vastuusta.

Kokeile nyt

Miksi vähimpien oikeuksien periaate on erityisen tärkeä juuri agenteille?

Tallenna edistymisesi ja oma oppimisyhteenvetosi