Konteksti-ikkuna: kuinka paljon malli näkee

Aloitetaan kertaamalla käsite, johon törmäsit jo perusteet-kurssilla: konteksti-ikkuna. Se tarkoittaa sitä tekstimäärää, jonka malli pystyy pitämään mielessään kerralla. Voit ajatella sitä mallin työpöytänä. Pöydälle mahtuu tietty määrä papereita yhtä aikaa, ja kaikki mitä haluat mallin huomioivan, pitää olla pöydällä samaan aikaan. Konteksti-ikkunaan lasketaan kaikki: antamasi ohje, liittämäsi taustatieto, aiempi keskustelu ja mallin oma vastaus. Ne kaikki jakavat saman tilan. Nykyiset mallit pystyvät käsittelemään hyvin pitkiä tekstejä, jopa satojatuhansia sanoja eli kokonaisia kirjoja kerralla, mutta raja on silti olemassa. Kun raja ylittyy, jotain jää pöydän ulkopuolelle. Mitä tapahtuu, kun aineisto ei mahdu? Tässä on tärkeä asia ymmärtää. Malli ei ilmoita selvästi pärähtäen, että nyt loppui tila. Pahimmillaan se yksinkertaisesti unohtaa keskustelun alkupään tai jättää huomioimatta osan liittämästäsi aineistosta, ja vastaa sen perusteella mitä sille mahtui. Lopputulos voi näyttää luotettavalta, vaikka malli ei tosiasiassa nähnyt koko aineistoa. Tämä on petollista, koska et välttämättä huomaa puutetta. Toinen ilmiö liittyy pitkän keskustelun kulkuun. Kun keskustelu venyy hyvin pitkäksi, sen alkupää alkaa lopulta pudota pöydältä. Malli ei enää muista, mitä sovittiin aivan alussa. Jos huomaat, että malli alkaa unohtaa aiemmin annettuja ohjeita pitkässä keskustelussa, syy on usein juuri tämä. Ratkaisu on toistaa olennainen ohje uudelleen tai aloittaa uusi keskustelu ja antaa tärkein tieto tiiviisti alkuun. Konteksti-ikkunalla on myös toinen, hienovaraisempi puoli. Vaikka pitkä aineisto teknisesti mahtuisi, malli on perinteisesti käsitellyt sitä epätasaisesti: alun ja lopun se on huomioinut paremmin kuin keskellä olevan tiedon. Uusimmissa malleissa tämä ilmiö on lieventynyt, mutta se ei ole kokonaan kadonnut. Jos siis liität pitkän dokumentin ja jokin yksityiskohta on tärkeä, älä hautaa sitä keskelle, vaan nosta se esiin tai mainitse erikseen ohjeessa. Tämä on käytännön vinkki, joka säästää pettymyksiltä. Mitä tästä seuraa? Kaksi asiaa. Ensinnäkin, kun työskentelet pitkän aineiston kanssa, älä oleta että malli muistaa kaiken täydellisesti. Toiseksi, on olemassa tekniikoita, joilla suuretkin tietomäärät saadaan käyttöön ilman että kaikki pitää ahtaa kerralla pöydälle. Niihin tutustumme seuraavilla oppitunneilla. Aloitamme yksinkertaisimmasta keinosta, joka on tiivistäminen ja pilkkominen: miten käsittelet dokumentin, joka on liian pitkä yhdellä kertaa. Sen jälkeen tutustumme fiksumpaan tapaan, jossa malli hakee suuresta tietomäärästä juuri ne kohdat, joita kysymys koskee, ja vastaa niiden pohjalta. Mutta perusta on tämä: konteksti-ikkuna on mallin työpöytä, ja hyvä käyttäjä tietää, mitä pöydälle kannattaa laittaa.

Kokeile nyt

Mitä konteksti-ikkuna tarkoittaa?

Tallenna edistymisesi ja oma oppimisyhteenvetosi