Kas yra sistemos promptas ir kuo jis skiriasi nuo įprasto klausimo?

Sistemos promptas — tai pastovus nurodymas, kuris galioja kiekvienam agento veiksmui ir apibrėžia, kas jis yra, ką daro ir ko nedaro. Įprastas klausimas (vartotojo žinutė) keičiasi kiekvieną kartą, o sistemos promptas lieka toks pat. Būtent jame surašai vaidmenį, užduotį, ribas, duomenų šaltinį, atsakymo formatą ir elgesį abejonės atveju. Todėl sistemos promptas yra svarbiausias agento failas: jis lemia elgesį net tada, kai klausimas netikėtas.

Iš kokių dalių turi susidėti geras sistemos promptas?

Iš šešių. Pirma — vaidmuo: kas agentas ir kieno vardu veikia. Antra — užduotis: vienas aiškus darbas, ne dešimt. Trečia — ribos: ką daryti draudžiama ir kur jis privalo sustoti. Ketvirta — duomenų šaltinis: iš kur imti faktus ir kad nespėlioti, jei duomenų nėra. Penkta — atsakymo formatas: kokios formos rezultatas turi būti. Šešta — elgesys abejonės atveju: ką daryti, kai jis nežino arba nepasitiki savimi. Trūkstant bent vienos dalies, agentas pradeda elgtis nenuspėjamai.

Kodėl mano agentas elgiasi keistai, nors promptas ilgas?

Ilgis nėra kokybė. Dažniausios priežastys: vaidmuo per miglotas, todėl agentas pats prisigalvoja kontekstą; nurodymai prieštarauja vienas kitam, ir jis pasirenka atsitiktinį; nenurodyta, ką daryti, kai duomenų nėra, todėl jis spėja; nėra aiškaus perdavimo žmogui taško, todėl jis priima sprendimus, kurių neturėtų. Ilgas, bet miglotas promptas dažnai blogesnis už trumpą ir tikslų. Sprendimas — ne pridėti teksto, o pašalinti prieštaravimus ir įrašyti aiškias ribas.

Ar reikia į promptą dėti pavyzdžių?

Taip, keli geri pavyzdžiai dažnai naudingesni už ilgą taisyklių sąrašą. Vienas pavyzdys, kaip atrodo teisingas atsakymas, ir vienas, kaip atrodo neteisingas, agentui parodo ribą tiksliau nei abstraktus aprašymas. Ypač pravartu parodyti sudėtingą ar ribinį atvejį — būtent ten agentai dažniausiai klysta. Bet pavyzdžių neturi būti dešimtys: keli tikslūs, padengiantys tipinį ir ribinį atvejį, veikia geriau nei daug panašių.

Ar sistemos promptą galima parašyti vieną kartą ir palikti?

Ne. Geras promptas rašomas iteratyviai: paleidi agentą su realiais atvejais, žiūri, kur jis klysta, ir tik ten pridedi arba tikslini taisyklę. Jei taisai promptą spėliodamas, jis auga be reikalo ir tampa prieštaringas. Todėl promptą verta laikyti gyvu dokumentu su versijomis: matai, kada ir kodėl kiekviena taisyklė atsirado, ir gali ją pašalinti, jei ji nebereikalinga. Stabilų promptą pasieki ne rašydamas daugiau, o taisydamas tikslingai.

Kaip parašyti gerą sistemos promptą verslo agentui

Geras sistemos promptas verslo agentui — tai aiškus, pastovus nurodymas, apibrėžiantis agento vaidmenį, konkrečią užduotį, ribas (ką daryti draudžiama), duomenų šaltinį, atsakymo formatą ir ką daryti, kai agentas nežino arba abejoja. Gerą promptą lemia ne ilgis, o tikslumas: vienas aiškus darbas, aiškios ribos ir aiškus perdavimo žmogui taškas. Dažniausios klaidos — per miglotas vaidmuo, prieštaringi nurodymai ir nenurodyta, ką daryti klaidos atveju. Promptas rašomas ne vienu prisėdimu: jį tobulini pagal realias agento klaidas, pridėdamas taisyklę tik ten, kur jos tikrai trūko.

Kai agentas elgiasi keistai — pasako per daug, priima sprendimą, kurio neturėtų, arba prisigalvoja faktų — pirmas refleksas dažnai būna kaltinti modelį. Beveik visada priežastis kita: prastai parašytas sistemos promptas. Tai vienintelis failas, kuris galioja kiekvienam agento veiksmui, todėl jį verta rašyti atidžiau nei bet ką kitą sistemoje.

Kas yra sistemos promptas ir kodėl jis svarbiausias failas

Sistemos promptas — tai pastovus nurodymas, kuris nesikeičia iš žinutės į žinutę ir apibrėžia, kaip agentas elgiasi visada. Vartotojo klausimas keičiasi kiekvieną kartą; sistemos promptas lieka toks pat ir tyliai valdo kiekvieną atsakymą.

Būtent todėl jis svarbesnis už bet kurį atskirą klausimą. Jei klausimas netikėtas, dviprasmiškas ar sąmoningai painus, agento elgesį nulemia ne tas klausimas, o tai, kas surašyta sistemos prompte. Gerai parašytas promptas leidžia agentui saugiai elgtis net su situacija, apie kurią niekas negalvojo; blogai parašytas — palieka jį spėlioti. Todėl į sistemos promptą verta žiūrėti kaip į agento konstituciją, ne kaip į paprastą instrukciją.

Iš kokių dalių susideda geras sistemos promptas

Gerą promptą lengviau parašyti, kai žinai, ko jame negali trūkti. Praktiškai jis susideda iš šešių dalių, ir kiekviena atsako į vieną klausimą apie agento elgesį.

Dalis	Ką apibrėžia	Kodėl svarbu
Vaidmuo	Kas agentas ir kieno vardu veikia	Be jo agentas pats prisigalvoja kontekstą ir toną
Užduotis	Vienas aiškus darbas, ne dešimt	Siauras uždavinys — patikimesnis ir pigesnis
Ribos	Ką daryti draudžiama, kur sustoti	Neleidžia priimti sprendimų, kurių jis neturėtų
Duomenų šaltinis	Iš kur imti faktus, ką daryti be jų	Sumažina prasimanymus ir spėliojimą
Atsakymo formatas	Kokios formos rezultatas turi būti	Leidžia rezultatą naudoti automatiškai, be taisymo
Elgesys abejonės atveju	Ką daryti, kai nežino ar nepasitiki	Nukreipia į žmogų, o ne į spėjimą

Šią lentelę verta laikyti prieš akis rašant. Jei bent viena eilutė lieka neužpildyta, agentas tą spragą užpildo pats — ir dažniausiai ne taip, kaip norėtum. Daugiausiai bėdų kyla dėl paskutinių trijų eilučių: kai neaprašyta, iš kur imti duomenis, kokio formato reikia ir ką daryti abejonės atveju, agentas pradeda improvizuoti.

Dažniausios klaidos, dėl kurių agentas elgiasi keistai

Pirma klaida — miglotas vaidmuo. „Tu esi naudingas asistentas” nieko neapibrėžia. Agentas nežino, kieno vardu kalba, kokiu tonu ir kokiose ribose, todėl kiekvieną kartą prisigalvoja iš naujo. Vaidmuo turi būti konkretus: ką agentas atstovauja, kam skirtas ir ko tikrai nedaro.

Antra — prieštaringi nurodymai. Kai viename sakinyje parašyta „visada atsakyk trumpai”, o kitame „paaiškink išsamiai”, agentas pasirenka atsitiktinai, ir elgesys atrodo nenuspėjamas. Ilgame prompte prieštaravimai kaupiasi nepastebimai, ypač kai taisyklės pridedamos po vieną, neperskaitant viso teksto.

Trečia — nenurodyta, ką daryti be duomenų. Jei prompte nepasakyta „jei tikslių duomenų neturi, pasakyk tai ir neatsakyk spėdamas”, agentas užpildo spragą prasimanymu, nes toks yra jo numatytasis elgesys. Ši viena eilutė dažnai skiria patikimą agentą nuo pavojingo.

Ketvirta — nėra aiškaus perdavimo žmogui taško. Verslo agentas neišvengiamai susidurs su situacija, kurios neturi spręsti pats: netipiniu grąžinimu, jautriu klientu, dideliu pinigų sprendimu. Jei prompte neparašyta, kada sustoti ir perduoti žmogui, agentas priims sprendimą, kurio neturėtų. Kodėl žmogaus patvirtinimas yra saugiklis, o ne silpnybė, plačiau nagrinėjame Žinių bazėje.

Kaip tobulinti promptą pagal realias klaidas

Sistemos promptas beveik niekada nebūna geras iš pirmo karto — ir tai normalu. Svarbu jį tobulinti tikslingai, o ne spėliojant.

Praktinis ciklas paprastas. Paleidi agentą su realiais atvejais ir stebi, kur jis klysta. Kiekvieną klaidą pažiūri: ko prompte trūko, kad jos nebūtų? Ir tik ten pridedi arba patikslini vieną taisyklę. Nekurk taisyklės atvejui, kurio dar nematei — tokia taisyklė tik ilgina promptą ir dažnai prieštarauja kitoms.

Labai padeda pavyzdžiai. Vienas pavyzdys, kaip atrodo teisingas atsakymas, ir vienas, kaip atrodo neteisingas, ribą parodo tiksliau nei abstraktus aprašymas. Ypač vertingi ribiniai atvejai — būtent juose agentai klysta dažniausiai. Bet pavyzdžių neturi būti dešimtys: keli tikslūs veikia geriau nei daug panašių.

Galiausiai promptą verta laikyti su versijomis, kaip bet kurį svarbų dokumentą. Kai matai, kada ir kodėl kiekviena taisyklė atsirado, gali ją ir pašalinti, jei ji nebereikalinga. Be to matai, ar naujas pakeitimas pagerino elgesį, ar pablogino. Kaip apskritai pamatuoti agento kokybę objektyviai, o ne iš įspūdžio, rašome atskirai.

Nuo ko pradėti

Nepradėk nuo ilgo teksto. Pradėk nuo šešių dalių: vieną sakinį vaidmeniui, vieną aiškiai užduočiai, kelias ribas, duomenų šaltinį, formatą ir vieną eilutę apie tai, ką daryti abejojant. Toks trumpas, bet pilnas promptas beveik visada elgiasi geriau nei ilgas ir miglotas.

Tada paleisk agentą su realiais atvejais ir taisyk tik ten, kur jis suklysta. Po kelių iteracijų turėsi promptą, kuris elgiasi nuspėjamai — ne todėl, kad jis ilgas, o todėl, kad tikslus.

Jei nori, kad padėtume parašyti sistemos promptą tavo agentui ir pastatytume jį taip, kad elgtųsi patikimai su realiais klientais, pažiūrėk, ką apima AI agentų ir chatbotų paslauga bei automatizacijos diegimas. Platesnę apžvalgą rasi paslaugų puslapyje, o įvertinti tavo konkretų atvejį galim kartu per nemokamą konsultaciją.