Peruuttamattomat toimet: mitä agentti ei saa tehdä yksin

Edellisessä tunnissa mainitsin kaksi kysymystä: kuinka suuri panos, kuinka helppo perua. Nyt teemme näistä työkalun. Kuvittele nelikenttä, jonka toisella akselilla on panos — pienestä suureen — ja toisella peruutettavuus — helposta mahdottomaan. Jokainen toimi, jonka agentti voi tehdä, osuu johonkin kohtaan tätä ruudukkoa." "Vasen alakulma on turvallinen: pieni panos, helppo perua. Agentti lukee tiedostoja, hakee tietoa, luonnostelee tekstiä. Jos jokin menee pieleen, korjaat sen hetkessä. Tässä agentti voi toimia täysin itsenäisesti." "Oikea yläkulma on vaarallinen: suuri panos, mahdoton perua. Näitä toimia on neljä tyypillistä. Ensimmäinen on maksu — rahan siirtäminen tililtä. Kun raha on lähtenyt, sen takaisin saaminen vaatii toisen osapuolen suostumuksen etkä voi luottaa siihen. Toinen on lähetys ulos organisaatiosta — sähköposti asiakkaalle, viesti julkiseen kanavaan, tarjous kolmannelle osapuolelle. Kun viesti on lähtenyt, sitä ei voi vetää takaisin; vastaanottaja on jo nähnyt sen." "Kolmas on sopimukseen sitoutuminen — tilauksen vahvistaminen, sopimuksen hyväksyminen, allekirjoitus. Näillä on oikeudellisia seurauksia, jotka sitovat sinua tai organisaatiotasi. Neljäs on pysyvä poisto — tietokannan rivien, tiedostojen tai tilien poistaminen ilman varmuuskopiota. Kun data on poissa, se voi olla lopullisesti poissa." "Näiden neljän — maksu, uloslähetys, sopimus, poisto — kohdalla sääntö on yksinkertainen: agentti ei tee niitä yksin, koskaan. Se saa valmistella ne täysin — kirjoittaa laskun, laatia sähköpostin, koota poistolistan — mutta viimeinen laukaisu vaatii ihmisen. Tämä ei riipu siitä, kuinka hyvä agentti on. Kyse ei ole taidosta vaan siitä, että virheen hinta on liian korkea otettavaksi ilman ihmistä." "Entä ruudukon muut kulmat? Suuri panos mutta helppo perua — esimerkiksi ison mutta versioidun tiedoston muokkaus — voi usein olla agentin hoidettavissa, kunhan peruutus on aidosti olemassa. Pieni panos mutta vaikea perua — kuten yksittäisen julkisen kommentin lähetys — kannattaa silti portittaa, koska julkisuus tekee virheestä näkyvän. Peruutettavuus painaa usein enemmän kuin panoksen koko." "Tärkein suunnitteluperiaate on tämä: rakenna peruutettavuutta sisään aina kun voit. Jos agentti siirtää tiedoston roskakoriin sen sijaan että poistaa lopullisesti, olet muuttanut peruuttamattoman toimen peruttavaksi. Jos maksu menee ensin jonoon, josta ihminen vapauttaa sen, olet lisännyt portin luonnostaan. Mitä enemmän toimia saat siirrettyä ruudukon vasempaan reunaan, sitä turvallisemmin agentti voi toimia itsenäisesti." "Käytä tätä nelikenttää suunnitellessasi automaatiota. Listaa jokainen toimi, jonka agentti voi tehdä, ja sijoita se ruudukkoon. Oikean yläkulman toimet saavat portin — muut voivat useimmiten mennä läpi. Näin et joudu arvaamaan, vaan sinulla on selkeä sääntö. Seuraavaksi tarkastelemme uhkaa, joka voi saada agentin tekemään näitä vaarallisia toimia ilman että edes huomaat: prompt injectionia.

Kokeile nyt

Mikä seuraavista parhaiten kuvaa, miksi maksu, uloslähetys, sopimus ja poisto vaativat aina ihmisen?

Tallenna edistymisesi ja oma oppimisyhteenvetosi