Haku ja generointi yhdessä

Tällä oppitunnilla tutustumme ajatteluun, joka ratkaisee edellisen oppitunnin ongelman: miten malli voi vastata luotettavasti suuren tietomäärän pohjalta, jota ei voi liittää kerralla mukaan. Tekniikan nimi on englanniksi RAG, joka tulee sanoista retrieval-augmented generation. Suomeksi se on haun ja generoinnin yhdistäminen. Avataan se selkokielellä, sillä idea on yksinkertainen ja hyödyllinen ymmärtää. Ajatellaan ongelmaa. Sinulla on iso tietopankki, esimerkiksi yrityksesi kaikki ohjeet, sopimukset ja dokumentit. Haluat kysyä siitä kysymyksiä. Kaikkea ei voi liittää kerralla mukaan, koska se ei mahdu konteksti-ikkunaan, eikä se olisi tehokastakaan. Ja jos malli yrittäisi vastata pelkän muistinsa varassa, se ei tuntisi sinun dokumenttejasi lainkaan ja keksisi vastauksen. Haun ja generoinnin yhdistäminen ratkaisee tämän kaksivaiheisesti. Ensimmäinen vaihe on haku. Kun esität kysymyksen, järjestelmä hakee ensin koko tietopankista ne muutamat kohdat, jotka liittyvät kysymykseesi. Se ei tuo koko pankkia, vaan vain osuvimmat palaset, esimerkiksi ne kolme kappaletta, jotka käsittelevät juuri kysymääsi asiaa. Toinen vaihe on generointi. Nuo löydetyt palaset annetaan mallille taustaksi, ja malli muodostaa vastauksen niiden pohjalta. Lopputulos on vastaus, joka nojaa sinun aineistoosi, ei mallin yleismuistiin. Vertaus auttaa. Kuvittele taitava avustaja, joka ei muista kirjaston jokaista kirjaa ulkoa, mutta osaa hakea hyllystä juuri oikeat kirjat kysymystäsi varten, lukea niistä olennaiset kohdat ja vastata niiden perusteella. Haku on kirjojen löytäminen hyllystä, generointi on vastauksen muotoilu niiden pohjalta. Yhdistelmä antaa sekä laajan tietopohjan että täsmällisen, aineistoon nojaavan vastauksen. Miksi tämä on niin hyödyllistä? Kolmesta syystä. Ensinnäkin vastaukset perustuvat sinun ajantasaiseen aineistoosi, eivät mallin koulutushetken yleistietoon. Toiseksi hallusinaation riski pienenee, koska malli vastaa annettujen otteiden pohjalta eikä keksi tyhjästä. Kolmanneksi voit usein nähdä, mistä dokumentista vastaus on peräisin, mikä tekee siitä tarkistettavan. Missä kohtaat tämän käytännössä? Yhä useammassa työkalussa. Kun tekoälypalveluun voi liittää omia tiedostoja tai koko tietopankin ja kysyä niistä, taustalla toimii usein juuri tämä periaate. Yritysten omat tekoälyavustajat, jotka osaavat vastata sisäisten ohjeiden pohjalta, rakentuvat tämän ajatuksen varaan. Sinun ei tarvitse rakentaa tällaista itse ymmärtääksesi sitä, mutta kun tiedät miten se toimii, osaat käyttää sitä paremmin ja arvioida sen vastauksia. Käyttäjän kannalta tästä seuraa pari ohjetta. Kun käytät tällaista aineistoon pohjaavaa työkalua, esitä täsmällisiä kysymyksiä, jotta haku löytää oikeat kohdat. Ja pyydä lähde, jotta voit tarkistaa mistä vastaus tulee. Jos vastaus tuntuu oudolta, tarkista alkuperäinen kohta. Seuraavalla oppitunnilla avaamme, miten haku oikeastaan löytää merkitykseltään osuvat kohdat, vaikka kysymyksesi sanat eivät täsmälleen täsmäisi dokumentin sanoihin. Siihen liittyy kaksi käsitettä, embedding ja vektorikanta, jotka selitämme yhtä lailla selkokielellä.

Kokeile nyt

Mitä haun ja generoinnin yhdistäminen (RAG) tarkoittaa?

Tallenna edistymisesi ja oma oppimisyhteenvetosi