AI-agendid kontrollitud tsüklis

Agent valib järgmise sammu

Agent on rakenduse juhtimistsükkel: mudel hindab hetkeseisu, valib lubatud tegevuse, saab tulemuse ja otsustab, kas eesmärk on täidetud. Autonoomsus tuleb tsüklist ja tööriistadest, mitte eraldi „agendimudelist“.

while (state.steps < limits.maxSteps) {
  const decision = await decide(state, allowedTools);
  if (decision.type === "finish") return decision.result;
  if (decision.type === "needs_approval") return pause(decision);
  const observation = await runValidatedTool(decision.toolCall);
  state = append(state, decision, observation);
}
throw new Error("STEP_LIMIT_REACHED");

Piira eesmärk ja eelarve

Agent peab teadma, millal töö on valmis ja millal katkestada. Sea sammude, aja, kulu, tööriistakutsete ning töödeldava mahu piir.

1. Kirjuta üks mõõdetav eesmärk.
2. Määra lubatud tööriistad ja andmeulatus.
3. Lisa maksimaalne sammude arv ning tähtaeg.
4. Kirjelda edu, ebaedu ja kinnitust vajav olek.
5. Paku turvaline käsitsi jätkamine.

Eralda plaan, tegevus ja tõend

Mudeli selgitus ei tõesta, et tegevus õnnestus. Salvesta iga tööriistakutse sisend, valideerimisotsus ja tulemus struktureeritud sündmusena. Ära salvesta saladusi ega kogu privaatset sisu vaikimisi.

Inimene juhib mõju

Raha, õigusi, avaldamist, kustutamist või välissuhtlust mõjutav samm peaks peatuma konkreetse eelvaate juures. Kinnitus peab seostuma täpselt selle tegevuse ja andmetega, mida käivitatakse.