EU AI Act ja vastuu agentin toimista

Tähän asti olemme puhuneet teknisistä suojista. Nyt katsomme sääntöjä. Euroopan unioni on säätänyt tekoälyasetuksen, jota kutsutaan nimellä AI Act. Se on maailman ensimmäinen laaja tekoälylaki, ja se koskee myös sinua, jos rakennat tai käytät agentteja EU:ssa. Käydään sen ydin läpi selkokielellä — sinun ei tarvitse olla juristi ymmärtääksesi periaatteet." "AI Act jakaa tekoälyn riskitasoihin. Osa käytännöistä on kokonaan kiellettyjä, koska niitä pidetään perusoikeuksien vastaisina — esimerkiksi ihmisten manipuloiva pisteyttäminen viranomaisten toimesta. Sitten on korkean riskin järjestelmät, jotka koskevat esimerkiksi terveyttä, rekrytointia tai kriittistä infrastruktuuria; näille tulee tiukkoja vaatimuksia. Suurin osa tavallisista agenteista, kuten sähköpostia järjestävä tai laskuja käsittelevä avustaja, kuuluu matalamman riskin kategorioihin, joita koskevat lähinnä läpinäkyvyysvelvoitteet." "Sääntely tulee voimaan vaiheittain, ei kerralla. Kielletyt käytännöt astuivat voimaan jo helmikuussa 2025. Yleiskäyttöisiä tekoälymalleja koskevat velvoitteet tulivat elokuussa 2025. Korkean riskin järjestelmien tiukimmat vaatimukset porrastuvat vuosille 2026 ja 2027. Sinun ei tarvitse muistaa jokaista päivämäärää — riittää, että tiedät sääntelyn kiristyvän asteittain ja että kannattaa seurata, mihin kategoriaan oma agenttisi kuuluu." "Yksi läpileikkaava periaate on läpinäkyvyys. Ihmisen pitää tietää, kun hän on tekemisissä tekoälyn kanssa. Jos asiakkaasi keskustelee agentin kanssa, hänelle pitää olla selvää, että kyseessä on tekoäly, ei ihminen. Samoin tekoälyn tuottama sisältö pitää tarvittaessa merkitä. Tämä ei ole vain lain kirjain — se on myös luottamuksen perusta. Ihmiset sietävät automaatiota paremmin, kun heitä ei huijata." "Toinen keskeinen periaate on ihmisen valvonta korkean riskin tilanteissa. Mitä autonomisempi ja vaikutusvaltaisempi agentti on, sitä vahvempi ihmisen valvonnan pitää olla. Tässä kohtaa kaikki, mitä opit aiemmissa tunneissa, kytkeytyy sääntelyyn: hyväksyntäportit, oikeuksien rajaus ja audit-loki eivät ole vain hyviä käytäntöjä, vaan ne ovat myös se tapa, jolla osoitat noudattavasi ihmisen valvonnan vaatimusta." "Nyt tärkein asia koko tästä tunnista: vastuu agentin toimista säilyy aina ihmisellä. Agentti ei ole oikeushenkilö. Se ei voi olla vastuussa mistään. Jos agentti lähettää virheellisen laskun, poistaa väärää dataa tai tekee sopimuksen väärin ehdoin, vastuu on sillä ihmisellä tai organisaatiolla, joka otti agentin käyttöön ja määritti sen toiminnan. Et voi sanoa: 'agentti teki sen, en minä.' Sinä valitsit antaa agentin toimia, ja sinä kannat seuraukset." "Tämä ei ole rasite vaan selkeyttävä periaate. Se tarkoittaa, että kaikki tähänastinen — missä pysäytät agentin, mihin annat sille oikeuksia, mitä kirjaat lokiin — ovat tapoja hallita omaa vastuutasi. Mitä paremmin suunnittelet nämä, sitä vähemmän riskiä kannat. Sääntely ei siis ole irrallaan turvallisuudesta, vaan se on sen jatke: laki edellyttää juuri niitä käytäntöjä, jotka ovat muutenkin järkeviä. Seuraavassa tunnissa kokoamme koko moduulin yhteen ja teet käytännön harjoituksen.

Kokeile nyt

Agentti tekee automaattisesti virheellisen sopimuksen väärin ehdoin. Kuka on EU AI Actin periaatteiden mukaan vastuussa?

Tallenna edistymisesi ja oma oppimisyhteenvetosi