Przejdź do treści
promptowy.com / Tekoälysanasto / RAG (Retrieval-Augmented Generation)
Teknologia

RAG (Retrieval-Augmented Generation)

RAG on arkkitehtuuri, jossa tekoälymalli hakee tietoa ulkoisista dokumenteista ennen vastauksen luomista, mikä tekee vastauksista tarkkoja ja perusteltuja.

RAG eli Retrieval-Augmented Generation (suomeksi usein hakuavusteinen tuottaminen tai hakuun perustuva tekstintuotto) on tekoälyarkkitehtuuri, joka yhdistää suuren kielimallin ja ulkoisen tietopankin. Tavallinen kielimalli vastaa vain sen tiedon pohjalta, jonka se on omaksunut aiemmassa koulutusvaiheessa. RAG-mallissa järjestelmä sen sijaan etsii ensin käyttäjän kysymykseen liittyvät osuvimmat tekstikappaleet ulkoisista dokumenteista ja liittää ne suoraan mallille annettavaan kehotteeseen.

Tämän toimintatavan ansiosta tekoäly pystyy vastaamaan ajantasaiseen, luottamukselliseen tai erittäin yksityiskohtaiseen tietoon perustuen. Se tekee tekoälystä käytännöllisen työkalun yrityksille, kunnille ja virastoille, joiden omat toimintaohjeet ja sopimukset eivät ole koskaan olleet julkisesti internetissä kielimallien koulutusmateriaalina.

Miten RAG-arkkitehtuuri toimii vaiheittain?

RAG toimii teknisesti kahden päävaiheen kautta: haun ja luomisen. Koko ketju tapahtuu usein sekunnin murto-osissa ilman, että loppukäyttäjä huomaa taustalla tapahtuvaa tiedonhakua.

  • Tiedon pilkkominen ja indeksointi: Yrityksen materiaalit, kuten PDF-oppaat, intranet-artikkelit tai sopimukset, pilkotaan pienemmiksi tekstilohkoiksi ja tallennetaan hakukelpoiseen muotoon, usein vektoritietokantaan.
  • Tiedonhaku (Retrieval): Kun käyttäjä esittää kysymyksen, järjestelmä vertaa kysymystä tietokannassa oleviin lohkoihin ja poimii niistä kaikkein olennaisimmat katkelmat.
  • Kehotteen rikastaminen (Augmentation): Löydetyt tekstikatkelmat liitetään tekoälylle menevään pyyntöön taustamateriaaliksi yhdessä käyttäjän alkuperäisen kysymyksen kanssa.
  • Vastauksen tuottaminen (Generation): Kielimalli lukee annetut lähteet ja muodostaa sujuvan, tarkan vastauksen nojautuen nimenomaan sille annettuun lähdeaineistoon.

Käytännön esimerkki: Tamperelainen LVI-alan tukkuliike

Kuvitellaan keskisuuri LVI-alan tukkukauppa Tampereella. Yrityksen valikoimassa on kymmeniä tuhansia tuotteita, asennusoppaita, takuuehtoja ja LVI-alan jatkuvasti muuttuvia määräyksiä. Jos myyntineuvoja kysyy tavalliselta tekoälyltä tietyn poistopuhaltimen kytkentäohjetta suomalaisessa puutalossa, yleinen malli voi vastata yleisellä tasolla tai sekoittaa eri maiden standardeja.

RAG-ratkaisussa tekoälyassistentille kytketään tukkuliikkeen omat tuotekuvastot ja maahantuojien PDF-ohjeet. Kun myyjä kirjoittaa kysymyksen, järjestelmä etsii juuri kyseisen laitteen suomenkielisen asennusohjeen sivulta 12 ja ojentaa sen mallille. Malli tiivistää vastauksen ja ilmoittaa suoraan: tieto perustuu kyseisen laitteen vuoden 2024 tekniseen liitteeseen, kappaleeseen 4. Myyjä säästää aikaa ja voi luottaa siihen, että vastaus perustuu firman omiin virallisiin dokumentteihin.

Miksi RAG on suositumpi kuin mallin uudelleenkoulutus?

Moni luulee edelleen, että yrityksen oma tekoäly pitäisi opettaa syöttämällä omat tiedostot mallin koulutusprosessiin. Tämä niin sanottu hienosäätö tai mallin kouluttaminen alusta asti on kuitenkin erittäin hidasta, kallista ja vaatii teknistä asiantuntemusta. Lisäksi koulutettu tieto vanhenee heti, kun hinnasto tai laki muuttuu.

RAG ratkaisee tämän ongelman helposti. Kun ohjeistus tai hinnasto muuttuu, yrityksen tarvitsee vain päivittää uusi tiedosto tietokantaan. Uusi tieto on heti tekoälyn käytössä ilman minkäänlaista mallin uudelleenlaskentaa. Toinen valtava etu on läpinäkyvyys: RAG osaa kertoa, mistä dokumentista ja miltä sivulta vastaus on peräisin, mikä mahdollistaa faktantarkistuksen.

Yleisin sudenkuoppa: huono hakuvaihe pilaa vastauksen

RAG ei kuitenkaan ole taikatemppu, joka korjaa huonosti jäsennellyn datan. Yleisin ongelma RAG-toteutuksissa liittyy hakuvaiheen epäonnistumiseen. Jos hakujärjestelmä löytää väärän ohjeen tai katkaisee tärkeän taulukon puolivälistä, kielimalli ei pysty korjaamaan virhettä. Se joko hallusinoi puuttuvan tiedon tai antaa virheellisen vastauksen sille annetun huonon katkelman pohjalta.

Onnistunut RAG-kokonaisuus vaatiikin aina huomiota tiedon laatuun, dokumenttien siisteyteen ja järkevään hakulogiikkaan. Tekoäly on tässä arkkitehtuurissa vain taitava lukija ja tiivistäjä: vastauksen laatu riippuu täysin siitä, millaiset paperit sille eteen annetaan.

Usein kysytyt kysymykset

Mitä eroa on RAG-järjestelmällä ja tavallisella kielimallilla?

Tavallinen kielimalli vastaa pelkästään oman sisäisen muistinsa varassa. RAG-järjestelmä tekee ensin tiedonhaun ulkoisesta arkistosta ja vastaa vasta löytämiensä dokumenttien perusteella.

Poistaako RAG tekoälyn hallusinaatiot kokonaan?

Ei täysin, mutta se vähentää niitä merkittävästi. Kun mallille annetaan selkeä lähdeteksti ja käsky pysyä vain sen faktoissa, väärien väitteiden todennäköisyys pienenee huomattavasti.

Tarvitaanko RAG-arkkitehtuuriin aina vektoritietokanta?

Vektoritietokanta on yleisin ja joustavin ratkaisu merkityspohjaiseen hakuun, mutta haun voi toteuttaa myös perinteisellä avainsanahaulla tai näiden kahden yhdistelmällä.

← Kaikki tekoälysanaston termit

🛒 Sklep Kinetyka CapCut Pro 460 zł/rok Lovable Pro 450 zł/rok Replit Core 119 zł/rok Zobacz wszystko →
× ‹ powiększenie ›