En AI-chatbot kan formulere gode svar, men den kender ikke automatisk virksomhedens priser, procedurer, manualer eller nyeste produktdata. RAG er en metode, der gør det muligt at finde relevante oplysninger i virksomhedens egne kilder og bruge dem som grundlag for svaret.
Forkortelsen står for Retrieval-Augmented Generation. På dansk kan det forklares som generering med informationssøgning. Systemet søger først efter relevant viden og beder derefter sprogmodellen formulere et svar ud fra det fundne materiale.
Hvorfor er RAG nyttigt?
En generel AI-model er trænet på brede datamængder og har en fast vidensgrænse. Den bør ikke gætte på interne regler eller aktuelle tal. Med RAG kan virksomheden udpege de kilder, som løsningen må bruge, og opdatere dem uden at træne en ny model.
Metoden er relevant til kundeservice, intern videnssøgning, support, salg og dokumentarbejde. Den kan for eksempel hjælpe en medarbejder med at finde den rigtige procedure eller hjælpe en kunde med at forstå en produktmanual.
Sådan fungerer RAG i fem trin
- Dokumenter og data samles fra godkendte kilder.
- Indholdet opdeles i mindre tekststykker med nyttig kontekst.
- Tekststykkerne gemmes i et søgbart indeks.
- Når brugeren stiller et spørgsmål, finder systemet de mest relevante stykker.
- Sprogmodellen formulerer et svar med kilderne som grundlag.
Det vigtigste er ikke den tekniske forkortelse. Det er kvaliteten af kilderne og søgningen. Hvis systemet finder det forkerte afsnit, kan et velformuleret svar stadig være misvisende.
Hvilke kilder kan bruges?
Typiske kilder er hjælpecenterartikler, produktbeskrivelser, manualer, prislister, politikker, intranet, sagsnoter og strukturerede databaser. Start med et afgrænset område, hvor indholdet er opdateret og har en tydelig ejer.
Undgå at hælde alle filer ind i systemet på én gang. Gamle versioner, kopier og modstridende dokumenter gør det svært at finde et sikkert svar. Markér version, gyldighed, afdeling og adgangsniveau som metadata.
RAG er ikke det samme som træning
Ved finjustering lærer modellen mønstre fra eksempler. Det kan være nyttigt til tone, format eller en specialiseret opgave. RAG henter derimod oplysninger ved hvert spørgsmål. Til fakta, der ændrer sig, er RAG ofte mere praktisk, fordi kilden kan opdateres direkte.
De to metoder kan kombineres. En model kan være tilpasset til virksomhedens svarformat og samtidig hente de aktuelle fakta gennem RAG.
Hvordan undgår I forkerte svar?
Kræv, at systemet kun svarer, når det har en relevant kilde. Vis gerne kilde og dato sammen med svaret. Hvis materialet ikke er tilstrækkeligt, skal løsningen sige det og sende spørgsmålet videre.
Lav et evalueringssæt med virkelige spørgsmål og forventede kilder. Test både almindelige spørgsmål, tvetydige formuleringer og spørgsmål, som systemet ikke må besvare. Gentag testen, når data, søgelogik eller model ændres.
Adgangsstyring og GDPR
Ikke alle brugere må se alle dokumenter. Søgelaget skal respektere de samme rettigheder som de oprindelige systemer. En medarbejder må ikke få adgang til løn- eller kundedata, blot fordi materialet er indekseret.
Ved personoplysninger skal formål, dataminimering, opbevaring og sletning være afklaret. Log hvem der søger, hvilke kilder der bruges, og hvilke handlinger der følger. Begræns samtidig loggen, så den ikke skaber en ny samling af unødige persondata.
Et eksempel fra kundeservice
En kunde spørger, om et produkt kan bruges udendørs. Systemet finder den aktuelle manual og et godkendt datablad. Chatbotten svarer med betingelserne og linker til kilden. Hvis spørgsmålet handler om en særlig installation, overdrages sagen til en tekniker med samtalen og de fundne dokumenter.
Det er mere sikkert end at lade modellen svare ud fra generel viden. Det er også lettere at kontrollere, hvorfor svaret blev givet.
Et eksempel fra intern support
En medarbejder spørger, hvordan en bestemt sagstype skal registreres. RAG-løsningen finder den gældende procedure og viser de relevante trin. Hvis to dokumenter modsiger hinanden, markerer systemet konflikten i stedet for at vælge vilkårligt.
Sådan kan teknologien reducere søgetid og samtidig afsløre steder, hvor virksomhedens egen dokumentation bør forbedres.
Sådan starter I en pilot
- Vælg én brugergruppe og ét emne.
- Udpeg 20 til 50 godkendte dokumenter.
- Fjern kopier og forældede versioner.
- Definér adgang og spørgsmål, der skal afvises.
- Byg et testsæt med mindst 50 virkelige spørgsmål.
- Mål korrekt kilde, korrekt svar og nyttig overdragelse.
Hvornår er RAG ikke nok?
RAG finder og forklarer information, men det udfører ikke nødvendigvis en proces. Hvis løsningen skal oprette en ordre, ændre en aftale eller arbejde i flere systemer, kræves integrationer og klare tilladelser. Her kan en AI-agent bygge videre på videnslaget.
Næste skridt
Læs også om AI-chatbot til kundeservice, måling af AI-kundesupport og API-integrationer. En lille RAG-demo kan afprøves med afgrænsede testdata gennem EesyPlus AI Problem Lab.
