Tarkistuspiste ja moduulin yhteenveto

Olet päässyt moduulin loppuun. Kootaan nyt yhteen se, mitä opit, koska nämä palaset toimivat parhaiten yhdessä — ei erikseen. Turvallinen agentti ei synny yhdestä tempusta vaan useasta kerroksesta, jotka tukevat toisiaan." "Aloitimme hyväksyntäporteista. Ne ovat kohtia, joissa agentti pysähtyy ja pyytää ihmisen vahvistuksen. Opit, että portin paikka ratkaistaan kahdella kysymyksellä: kuinka suuri panos ja kuinka helppo perua. Opit myös, ettei portteja saa olla liikaa, ettei synny hyväksyntäväsymystä, jossa alat hyväksyä kaiken katsomatta." "Toisessa tunnissa terävöitimme tämän nelikentäksi: panos kertaa peruutettavuus. Neljä toimea nousi esiin, joita agentti ei saa tehdä yksin koskaan — maksu, lähetys ulos, sopimus ja pysyvä poisto. Agentti saa valmistella ne, mutta ihminen laukaisee. Ja opit rakentamaan peruutettavuutta sisään: roskakori poiston sijaan, jono maksun sijaan." "Kolmannessa tunnissa kohtasimme prompt injectionin. Kun agentti lukee ulkoista tekstiä, se voi sisältää piilotettuja ohjeita, jotka kaappaavat agentin, koska agentti ei erota luonnostaan ohjetta ja dataa. Suoja on kerroksinen: kohtele ulkoista sisältöä epäluotettavana datana, rajaa oikeudet, ja pidä hyväksyntäportit viimeisenä turvaverkkona." "Neljännessä tunnissa käsittelimme oikeuksia ja audit-lokia. Anna agentille vain ne oikeudet, jotka tehtävä vaatii — näin rajaat vahingon myös silloin, kun jokin menee pieleen tai agentti kaapataan. Ja kirjaa, mitä agentti teki, jotta voit jäljittää tapahtumat, jakaa vastuun ja oppia. Rajatut oikeudet estävät etukäteen, loki paljastaa jälkikäteen." "Viidennessä tunnissa nostimme katseen sääntelyyn. EU:n AI Act jakaa tekoälyn riskitasoihin, tulee voimaan vaiheittain, ja vaatii läpinäkyvyyttä sekä ihmisen valvontaa korkean riskin tilanteissa. Kaiken päällä on yksi periaate, joka ei jousta: vastuu agentin toimista säilyy aina ihmisellä. Tämä sitoo kaiken yhteen — turvallisuuskäytännöt ovat samalla vastuunhallintaa." "Näe kokonaisuus näin: hyväksyntäportit päättävät, milloin ihminen puuttuu. Nelikenttä kertoo, mitkä toimet vaativat portin. Prompt injection -tietoisuus varmistaa, ettei agentti tee vaarallista toimea sinun tietämättäsi. Oikeuksien rajaus pienentää pahimman mahdollisen vahingon. Audit-loki tekee kaiken jäljitettäväksi. Ja sääntely muistuttaa, että sinä kannat vastuun. Jokainen kerros paikkaa toisen aukkoja." "Käytännön ohje viemisiksi: kun seuraavan kerran suunnittelet automaatiota, älä kysy ensin 'mitä kaikkea agentti voisi tehdä'. Kysy 'mikä voi mennä pieleen ja kuinka pahasti'. Listaa toimet, sijoita ne nelikenttään, laita portit oikeille paikoille, rajaa oikeudet kapeiksi ja varmista, että jää jälki. Näin rakennat automaatiota, johon voit luottaa — ja johon myös muut voivat luottaa." "Kiitos, että kuljit tämän moduulin läpi. Turvallisuus ei ole innovaation vastakohta. Se on se perusta, jonka päälle luotettava automaatio rakennetaan. Tee nyt lopun tarkistuskysymys ja käytännön harjoitus, niin pääset soveltamaan oppimaasi omaan työhösi.

Kokeile nyt

Mikä kuvaa parhaiten moduulin keskeistä viestiä agenttien turvallisuudesta?

Tallenna edistymisesi ja oma oppimisyhteenvetosi