AI-rakenduste ehitamine
Prompt, RAG või peenhäälestus?
Vali juhise, otsingu ja peenhäälestuse vahel selle järgi, kas vajad paremat käitumist, ajakohaseid teadmisi või kindlat stiili.
Sisukord4 peatükki · näita
Oskad otsustada, kas probleemi lahendab prompt, RAG, peenhäälestus või nende piiratud kombinatsioon.
Kolm eri probleemi, kolm eri tööriista
Prompt annab käitushetke juhised ja lühikese konteksti. RAG leiab muutuvad faktid välisest allikast ning lisab viited. Peenhäälestus kohandab mudeli vastusemustrit korduvate kvaliteetsete näidete põhjal, kuid ei ole hea viis kiiresti vahetuvate faktide talletamiseks.
Küsimus: mida tahad parandada?
Juhiste järgimine või väljundi vorm → proovi prompti.
Uued, viidatavad või kasutajaõigustega seotud faktid → hinda RAG-i.
Korduv stiil või kitsas mustritöö → kaalu peenhäälestust.
Kõigi puhul: mõõda tulemust sama testkogumiga.Arvesta hoolduskuluga
Prompti tuleb versioonida ja testida. RAG vajab allikate puhastamist, õigusi, ajakohast indeksit ja otsingu mõõtmist. Peenhäälestus vajab kvaliteetseid näiteid, treeningu ning hindamise töövoogu ja uuendamise reeglit. Vali väikseim lahendus, mis vastab nõudele.
Tee võrdlus kontrollitud katsena
Ära võrdle üht lahendust pärisandmetel ja teist valmis demos. Kasuta sama anonüümitud testkomplekti, samu nõudeid ning pimesi hinnatud väljundeid. Lisa vastuseta ja õiguste piiri testid.
- Kirjuta praegune ebaõnnestumine konkreetse näitena.
- Pane paika edu- ja ohukriteerium.
- Katseta kõige odavamat varianti esimesena.
- Võrdle kvaliteeti, latentsust, kulu ja hooldust.
- Dokumenteeri, millal valik tuleb uuesti üle vaadata.
Kombineeri ainult põhjendatud juhul
Prompt, RAG ja peenhäälestus võivad koos töötada, kuid iga kiht lisab keerukust. Hoia õiguste kontroll ning tegevusloogika rakenduses; ära looda, et mudeli treening või juhis asendab autoriseerimist.
Praktilised märkused
- RAG-i sisu päritolu ja juurdepääsuõigused peavad säilima kuni päringu hetkeni.
- Peenhäälestus ei taga, et mudel mäletab iga treeningnäidet täpselt.
Levinud vead
- Peenhäälestuse kasutamine dokumentide sagedaseks uuendamiseks.
- RAG-i lisamine enne seda, kui olemasoleva otsingu viga on mõõdetud.
Hea tava
- Alusta promptist ja lihtsast baasjoonest; lisa keerukust ainult tõendatud vajadusel.
- Kasuta ühist hindamiskomplekti iga variandi regressioonitestiks.
Praktiline harjutus
Võta üks AI vastuse probleem. Kirjuta kolm eri lahendushüpoteesi: prompt, RAG ja peenhäälestus. Hinda igaüht kvaliteedi, andmete, kulu, latentsuse ja hoolduse järgi.
AiKood.online on selle õppeprogrammi praktiline arenduslabor. Kirjuta koodi ja salvesta projekt oma ühisele AiKoodi kontole. Labor näitab, kas koodi käivitamine ja kontrolltestid on parasjagu saadaval.
Jätka selle teemaga arenduslaboris ↗Kas see osa on tehtud?
Märge salvestatakse ainult sellesse brauserisse. Kontot ega jälgimist ei lisata.
Mis jäi lahtiseks?
Jaga harjutuse tulemust või küsi teema kohta avalikus AI-vestluses. Ära postita saladusi ega isikuandmeid.