RAG: vastused oma allikatest

RAG ühendab otsingu ja koostamise

Retrieval-augmented generation ei õpeta mudelit sinu dokumentidega ümber. Rakendus leiab küsimuse ajal sobivad lõigud ja lisab need vastuse konteksti.

1. Kogu ja puhasta lubatud dokumendid.
2. Jaga sisu tähenduslikeks lõikudeks.
3. Salvesta lõik koos päritolu ja õigustega.
4. Otsi küsimusele sobivad lõigud.
5. Koosta vastus ainult leitud materjali põhjal.
6. Näita allikaid ja ebapiisava info olekut.

Lõik vajab sisu kõrval metaandmeid

Ilma dokumendi nime, URL-i, peatüki, kuupäeva ja juurdepääsureeglita ei saa kasutaja vastust kontrollida ega rakendus õigusi jõustada.

type Chunk = {
  id: string;
  text: string;
  documentId: string;
  title: string;
  sourceUrl?: string;
  section?: string;
  updatedAt: string;
  allowedRoles: string[];
};

Otsing peab juhtuma enne prompti

Filtreeri kõigepealt kasutaja õiguste, keele, dokumendiliigi või kehtivuse järgi. Seejärel reasta sisuliselt sobivad lõigud. Ära looda, et mudel eemaldab promptis materjali, mida kasutaja ei tohi näha.

Testi toru etappide kaupa

Vale vastus võib tulla puuduvast dokumendist, halvast lõigustamisest, nõrgast otsingust või vastuse koostamisest. Üks üldine „kas vastus tundub hea“ hinne ei näita parandamise kohta.

1. Kas õige dokument on indeksis?
2. Kas õige lõik jõuab kandidaatide hulka?
3. Kas see reastub piisavalt kõrgele?
4. Kas vastus kasutab lõiku õigesti?
5. Kas viide toetab väidet päriselt?