RAG verslo žinių bazei: kaip priversti AI atsakyti iš TAVO dokumentų, o ne prasimanyti
RAG (retrieval-augmented generation, „paieška papildyta generacija“) — tai būdas priversti dirbtinį intelektą atsakinėti remiantis tavo įmonės dokumentais, o ne tik tuo, ką modelis „atsimena“ iš mokymo. Veikia dviem žingsniais: pirma sistema tavo klausime suranda tinkamiausias vietas žinių bazėje (instrukcijose, sutartyse, DUK, produktų aprašuose), tada tas ištraukas paduoda kalbos modeliui ir liepia atsakyti tik jomis remiantis. Rezultatas — asistentas, kuris atsako tavo tono ir tavo faktų kalba, gali nurodyti, iš kurio dokumento paėmė atsakymą, ir daug rečiau prasimano. RAG sprendžia tris tikras problemas: modelis nežino tavo vidinės informacijos; jis linkęs užtikrintai fantazuoti, kai nežino; ir visų dokumentų vienu metu į jį „sukišti“ neįmanoma. Vietoj to, kad mokytum atskirą modelį (brangu ir lėta atnaujinti), tu tiesiog laikai tvarkingą žinių bazę, o RAG kiekvienam klausimui pasiima iš jos tik tai, ko reikia. Svarbiausia sąlyga viena: atsakymas geras tiek, kiek gera žinių bazė — šiukšlės viduje reiškia šiukšles atsakyme.
RAG (retrieval-augmented generation, lietuviškai — „paieška papildyta generacija“) yra būdas priversti dirbtinį intelektą atsakinėti remiantis tavo įmonės dokumentais, o ne tik tuo, ką modelis išmoko treniruodamasis. Veikia paprastu principu iš dviejų žingsnių: pirma sistema tavo klausime suranda tinkamiausias vietas žinių bazėje — instrukcijose, DUK, sutartyse, produktų aprašuose — tada tas ištraukas paduoda kalbos modeliui ir liepia atsakyti tik jomis remiantis. Gaunasi asistentas, kuris kalba tavo faktais, gali nurodyti, iš kurio dokumento paėmė atsakymą, ir daug rečiau prasimano.
Kodėl to apskritai reikia? Todėl, kad įprastas kalbos modelis nežino nieko apie tavo verslą. Jis nemato tavo grąžinimo politikos, tavo garantijos sąlygų, tavo vidinių procedūrų. Kai paklausi apie tai, jis arba prisipažįsta nežinantis, arba — kas pavojingiau — užtikrintai prasimano tikėtiną skambantį atsakymą. RAG užpildo būtent šią spragą: prijungia modelį prie tavo žinių, nemokant jo iš naujo.
Kaip RAG veikia žingsnis po žingsnio
Įsivaizduok darbuotoją, kuris prieš atsakydamas klientui nueina į lentyną, susiranda tinkamą segtuvą, perskaito reikiamą pastraipą ir tik tada atsako. RAG daro tą patį, tik per sekundės dalį.
Pirma, tavo dokumentai sudedami į paieškai patogią žinių bazę — suskaidomi į nedideles prasmingas dalis, kad sistema galėtų rasti ne visą dokumentą, o būtent tą pastraipą, kuri atsako. Antra, kai ateina klausimas, sistema iš bazės ištraukia kelias labiausiai susijusias dalis. Trečia, tos ištraukos kartu su klausimu paduodamos kalbos modeliui su aiškia instrukcija: atsakyk remdamasis tik šitais fragmentais, o jei atsakymo juose nėra — pasakyk, kad nežinai.
Būtent trečias žingsnis ir yra visa esmė. Modelis nustoja būti „viską žinančiu orakulu“ ir tampa įrankiu, kuris tvarkingai perpasakoja tavo pačių informaciją. Todėl toks asistentas gali atsakyti apie konkretų tavo produktą ar procesą taip, kaip parašyta pas tave, o ne pagal bendrą internetą.
Kodėl ne tiesiog „viską sukišti į ChatGPT“
Natūralus klausimas: kodėl neatidavus modeliui iš karto visų dokumentų? Dėl trijų priežasčių. Pirma, modelis vienu metu gali „perskaityti“ ribotą teksto kiekį — visos įmonės žinių bazės ten netilptų, o net jei tilptų, atsakymas taptų lėtesnis ir brangesnis. Antra, kai tekstų per daug, modelis pradeda pamesti svarbias detales tarp nesvarbių. Trečia, dauguma tavo dokumentų konkrečiam klausimui nereikalingi — kam paduoti visą sutarčių archyvą, jei klausiama apie pristatymo terminą.
RAG šitą išsprendžia elegantiškai: nepaduoda visko, o kiekvienam klausimui pasiima tik kelias tinkamiausias vietas. Tai ir pigiau, ir tiksliau, ir greičiau.
Kur RAG realiai naudingas versle
RAG nėra abstrakti technologija — jis tinka visur, kur žmogus dabar ieško atsakymo rankomis po dokumentus. Žemiau — dažniausi scenarijai ir ką kiekvienu atveju duoda.
| Scenarijus | Ką atstoja žmogaus darbą | Kas svarbiausia |
|---|---|---|
| Klientų aptarnavimo asistentas | Kartojami klausimai apie politiką, garantiją, pristatymą | Šaltinio nuoroda ir „nežinau“, kai bazėje nėra |
| Vidinė darbuotojų žinių bazė | Naujokų klausimai „kur rasti / kaip daroma“ | Prieigos teisės, atnaujinta informacija |
| Pardavimų parama | Produktų palyginimai, specifikacijos, kainynai | Bazės aktualumas (kainos, likučiai) |
| Dokumentų paieška | „Kurioje sutartyje buvo ta sąlyga“ | Tikslus fragmentų susiejimas su šaltiniu |
| Procedūrų asistentas | Vidinės instrukcijos, checklist’ai | Nedubliuotas, vienareikšmis turinys |
Bendras vardiklis visose eilutėse — atsakymas turi remtis tikru dokumentu ir mokėti pasakyti „šito neturiu“. Asistentas, kuris gražiai prasimano, versle blogesnis už jokį asistentą, nes juo pradedama pasitikėti.
RAG ar fine-tuning: kas ką sprendžia
Dažniausiai painiojami du dalykai. Fine-tuning (modelio pritaikymas) keičia, kaip modelis kalba ir elgiasi — jo toną, stilių, formatą. RAG keičia, ką modelis žino atsakymo metu. Tai ne konkurentai, o skirtingi įrankiai.
Daugumai verslo užduočių pradėti verta nuo RAG dėl vienos praktinės priežasties: žinių bazę atnaujini akimirksniu. Pakeitei kainyną ar instrukciją dokumente — asistentas jau atsako naujai, nieko iš naujo mokyti nereikia. Fine-tuning tam netinka, nes kiekvienam faktų pokyčiui reikėtų vėl treniruoti modelį. Fine-tuning įsijungia vėliau, kai reikia labai specifinio balso arba siauros, pasikartojančios užduoties. Praktiškai dažnai naudojama kombinacija: RAG faktams, fine-tuning stiliui — bet tai jau optimizacija, ne pradžia.
Kur baigiasi automatika ir prasideda žmogus
RAG asistentas puikiai tinka rutinai: kartojamiems klausimams, paieškai, pirmam atsakymo juodraščiui. Bet keli dalykai lieka žmogui, ir tai yra pranašumas, ne trūkumas.
Pirma — žinių bazės kokybė. RAG atsakymas geras lygiai tiek, kiek gera bazė. Jei viduje pasenusi, prieštaringa ar dubliuota informacija, asistentas ją ir pakartos, tik greičiau ir įtaigiau. Todėl pirmas darbo etapas dažnai yra ne technika, o turinio sutvarkymas — ir tą sutvarkymą prižiūri žmogus.
Antra — jautrūs ir negrįžtami atsakymai. Kai klausimas liečia pinigus, teisinius įsipareigojimus ar išimtis, protinga, kad asistentas ne pats „nuspręstų“, o pateiktų atsakymą su šaltiniu ir, jei reikia, perduotų žmogui patvirtinti. Tai ta pati žmogaus-cikle (human-in-the-loop) linija, kurios laikomės visur, kur veiksmas gali kainuoti pinigų ar prekės ženklo — apie ją plačiau rašome Žinių bazėje.
Trečia — duomenų saugumas. Prieš keliant realius klientų ar darbuotojų duomenis į bet kokį AI asistentą, reikia nuspręsti, kur laikoma bazė, kas turi prieigą ir kaip naudojami duomenys. Šiuos klausimus sprendžia žmogus projektuojant, ne po incidento.
Nuo ko pradėti
Prieš galvodamas apie technologiją, atsakyk į vieną klausimą: kokie klausimai tavo versle kartojasi dažniausiai ir kur žmonės dabar ieško atsakymo rankomis? Tai ir yra pirmoji RAG bazė. Dažniausiai pradedama nuo klientų aptarnavimo DUK arba vidinės darbuotojų žinių bazės, nes ten grąža greičiausiai matoma.
Antras žingsnis — susitvarkyti turinį: surinkti tikruosius, aktualius dokumentus, pašalinti dublikatus ir prieštaravimus. Trečias — pastatyti asistentą su dviem privalomais saugikliais: šaltinio nuoroda kiekviename atsakyme ir leidimu pasakyti „neturiu šitos informacijos“.
Jei nori pastatyti tokį asistentą savo verslui, apie tai ir yra mūsų AI asistentų paslauga — vidiniai asistentai komandai iš tavo pačių duomenų. Jei reikia kliento pusėje veikiančio pokalbių roboto, žiūrėk AI agentų ir chatbotų paslaugą, o jei RAG dalis didesnės automatizacijos — automatizacijos diegimą. Nori aptarti, nuo kurios žinių bazės pradėti tavo atveju? Susiskaičiuokim per nemokamą konsultaciją.