Hallusinaatio: miksi malli keksii

Kertasimme perusteet-kurssilla hallusinaation eli sen, että tekoäly tuottaa joskus uskottavalta kuulostavaa mutta virheellistä tietoa. Nyt katsomme samaa ilmiötä ohjeiden näkökulmasta, koska se liittyy suoraan tämän kurssin aiheeseen: hyvä ohje vähentää hallusinaatiota, huono lisää sitä. Palautetaan mieleen, miksi hallusinaatio syntyy. Malli tuottaa todennäköisintä tekstiä, ei tarkistettua tietoa. Sille tärkeintä on, että vastaus kuulostaa sopivalta jatkolta, ei se onko vastaus tosi. Useimmiten todennäköinen ja tosi osuvat yksiin, koska malli on lukenut valtavasti oikeaa tietoa. Mutta kun malli ei tiedä jotain tarkasti, se ei sano en tiedä yhtä helposti kuin ihminen. Se täyttää aukon todennäköiseltä kuulostavalla arvauksella. Lopputulos on sujuva, itsevarma ja joskus täysin väärä. Tässä on tärkeä havainto ohjeiden kannalta. Mitä epämääräisempi ohjeesi on, sitä enemmän aukkoja malli joutuu täyttämään, ja sitä useammin se täyttää ne arvauksilla. Jos pyydät kirjoita yhteenveto yrityksen tuloksesta antamatta itse lukuja, malli ei voi tietää oikeita lukuja. Se saattaa keksiä uskottavia numeroita, jotka näyttävät täysin oikeilta. Jos sen sijaan annat luvut mukaan ja pyydät kirjoita yhteenveto näiden lukujen pohjalta, malli ei joudu arvaamaan, ja hallusinaation riski pienenee jyrkästi. Tästä seuraa yksi tämän kurssin tärkeimmistä käytännön ohjeista. Anna mallille tarvittava tieto mukaan, älä oleta että se tietää sen. Jos haluat tiivistelmän tekstistä, liitä teksti mukaan. Jos haluat vastauksen yrityksesi käytännöistä, kerro käytännöt. Malli on hyvä käsittelemään antamaasi tietoa, mutta huono muistamaan tarkkoja yksityiskohtia maailmasta, joita sille ei ole annettu. Toinen keino on antaa mallille lupa myöntää tietämättömyytensä. Voit kirjoittaa ohjeeseen, että jos et ole varma tai tieto puuttuu, sano se suoraan äläkä arvaa. Tämä yksinkertainen lisäys ohjaa mallia kohti rehellisempää vastausta. Se ei poista hallusinaatiota kokonaan, mutta vähentää sitä huomattavasti, koska annat mallille hyväksytyn vaihtoehdon arvaamiselle. Kolmas keino on tarkistaa. Mitä tärkeämpi asia, sitä huolellisemmin tarkista numerot, nimet, päivämäärät ja lähteet itse. Tämä koskee erityisesti tilanteita, joissa virhe maksaa: sopimukset, lääketieteelliset tai juridiset tiedot, julkaistavat tekstit. Tekoäly on erinomainen apuri luonnosteluun, mutta vastuu lopullisesta oikeellisuudesta on aina sinulla. Pieni varoitus liittyy edellisen oppitunnin aiheeseen. Korkea Temperature lisää myös hallusinaation riskiä, koska malli päästetään valitsemaan epätodennäköisempiä sanoja. Jos vastauksen pitää olla tarkka ja faktapohjainen, pidä asetus matalana ja anna tarvittava tieto mukaan. Yhteenvetona: hallusinaatio ei ole satunnainen vika, vaan seuraus siitä miten malli toimii. Sinä voit vaikuttaa siihen kolmella tavalla. Anna tarvittava tieto mukaan, jotta malli ei joudu arvaamaan. Anna lupa sanoa en tiedä. Ja tarkista tärkeät yksityiskohdat itse. Nämä eivät ole erikoistemppuja, vaan hyvän ohjeistuksen perusta, johon palaamme koko kurssin ajan.

Kokeile nyt

Mikä vähentää tehokkaimmin hallusinaation riskiä, kun pyydät yhteenvedon yrityksen luvuista?

Tallenna edistymisesi ja oma oppimisyhteenvetosi