Hallusinaatiot, eli keksityt faktat

Aloitetaan tärkeimmästä. Hallusinaatio tarkoittaa, että tekoäly antaa sinulle väärän vastauksen, joka kuulostaa täysin oikealta. Tämä on ylivoimaisesti suurin riski tekoälyn käytössä, ja siksi se on ensimmäinen aihe tässä moduulissa. Miksi tekoäly hallusinoi? Muistat moduulista 1, että tekoälykielimalli on tilastollinen tekstin täydentäjä. Sen tehtävä on tuottaa todennäköistä tekstiä, ei totta tekstiä. Sen takia, kun se ei tiedä vastausta, se ei sano 'en tiedä' — se täydentää aukon mukamas-uskottavalla vastauksella. Käytännön esimerkki. Kysyt tekoälyltä: 'mikä oli Aleksis Kiven syntymäpaikka'. Tekoäly tuottaa vastauksen, joka kuulostaa täsmälleen oikealta — paikkakunta, vuosi, asema. Mutta yksi näistä tiedoista voi olla väärin. Tekoäly ei kerro sinulle 'en ole varma tästä' — se kertoo täydellä luottamuksella. Tämä on vaarallista kahdesta syystä. Ensinnäkin, lopputulos kuulostaa niin uskottavalta, että et helposti epäile. Toiseksi, mitä syvemmälle aiheeseen menet, sitä todennäköisemmin tekoäly hallusinoi — koska sen koulutusaineisto on todennäköisesti pinnallisempi syväteknisissä aiheissa. Konkreettiset esimerkit hallusinaatiosta, jotka ovat tapahtuneet oikeasti: Vuonna 2023 yhdysvaltalainen lakimies käytti ChatGPT:tä oikeustapauksen valmisteluun. Tekoäly antoi hänelle kuusi ennakkotapausta, jotka tukivat hänen näkemystään. Lakimies jätti ne tuomarille. Tuomari etsi tapauksia — kaikki kuusi olivat keksittyjä. Lakimies sai julkisen rangaistuksen. Vuonna 2024 yritys käytti tekoälyä tuottamaan tuoteoppaita asiakkaille. Tuoteopas sisälsi väärän hätänumeron — tekoäly oli keksinyt sen, koska oikeaa ei tuoteoppaan kontekstista löytynyt. Asiakkaat soittivat väärälle puhelinnumerolle, ja yritys joutui korvaamaan. Useita kertoja kuukausittain media raportoi, että tekoäly on antanut vääriä tietoja yhtiöistä, henkilöistä, lääkkeistä, lainsäädännöstä. Joka kerta lähteet kuulostavat oikealta. Miten estät hallusinaatioiden vaikutuksen omassa työssäsi? Sääntö 1: tarkista aina lähteet. Älä koskaan luota tekoälyn antamaan faktaan, jolla on todellisia seurauksia, ilman että tarkistat sen alkuperäisestä lähteestä. Tämä koskee numeroita, päivämääriä, lakipykäliä, henkilöiden tietoja, yhtiöiden taloustietoja, lääketieteellisiä neuvoja, oikeudellisia neuvoja. Sääntö 2: pyydä tekoälyä mainitsemaan lähteet. Tämä ei estä hallusinaatioita kokonaan — tekoäly voi keksiä lähteenkin — mutta se tekee tarkistuksesta helpompaa. Voit etsiä lähdeviittauksen ja todeta, onko se oikea. Sääntö 3: kysy 'oletko varma' ennen tärkeitä toimia. Joskus tekoäly tarkistaa itseään, kun siltä kysyy uudelleen. Mutta tämäkään ei ole täysin luotettavaa — se voi yhtä lailla 'vahvistaa' keksimänsä tiedot. Sääntö 4: käytä RAG-pohjaisia ratkaisuja, kun mahdollista. Muistat moduulista 1: RAG tarkoittaa, että tekoäly hakee vastaukset oikeasta dokumenttipankistasi. Tämä vähentää hallusinaatioita merkittävästi, koska tekoäly ei vain 'arvaa' — se viittaa olemassa olevaan dokumenttiin. Sääntö 5: ole erityisen varovainen tuoreissa tai erityisissä aiheissa. Tekoälyn tieto on yleensä parhaimmillaan yleisistä, paljon kirjoitetuista aiheista. Mitä uudempi tai erityisempi aihe, sitä todennäköisemmin tekoäly hallusinoi. Hallusinaatio ei mene koskaan kokonaan pois. Se on tekoälyn perustavaa laatua oleva ominaisuus, ei korjattava bugi. Tekoälypalvelut paranevat ajan myötä — uudet mallit hallusinoivat vähemmän kuin vanhat — mutta nollaan ei päästä. Tärkein muistutus: hallusinaatioiden olemassaolo ei tarkoita, että tekoälyä ei pidä käyttää. Se tarkoittaa, että käytetään sitä tietoisesti — alku-luonnoksena, ei lopullisena totuutena.

Kokeile nyt

Mikä on paras keino estää hallusinaatioiden vaikutus omassa työssäsi?

Tallenna edistymisesi ja oma oppimisyhteenvetosi