Stemmegaffel Logg inn

Aliaser

fast_tools · Rask med verktøy

Agentisk chat der brukeren venter på et strømmet svar, og modellen må kalle verktøy (hovedchatten, Ekko).

Kvaliteten for P1 er ikke målt ennå: verktøylista må ut av +server.ts i Resonans først. Til da rangeres bare fart og kost, og laben anbefaler bare et bytte når dagens modell slutter å virke.

Definisjonen

Krav: verktøy, parallelle, strøm
Bruk: med verktøy, resonnering lav, tak 1000 tokens
Kvalitet: ikke målt ennå
Vekter: kvalitet 0.4, fart 0.4, kost 0.2. Fart er første token i «chat»; kost er et typisk kall på 34 000 tokens inn og 400 ut.

Rangering

ModellPoengKvalitetTTFT p50Total p50Per kallMangler
0,90–672 ms774 ms$0.0048
0,74–801 ms873 ms$0.0030
0,72–638 ms722 ms$0.081
0,31–931 ms1,06 s$0.060
0,25–918 ms1,02 s$0.151
0,06–1,14 s1,25 s$0.076
––––$0.022verktoy, ingen parametere virker for bruken
––––$0.022strom
––––$0.059verktoy, verktoyParallelt, ingen parametere virker for bruken

Poeng 0–1: vektet sum av kvalitet, fart og kost, der fart og kost er på logaritmisk skala mellom beste og dårligste kandidat. Bare kandidater uten mangler rangeres. Et bytte foreslås når beste kandidat slår dagens modell med minst 0,05, uten å være mer enn 0,02 dårligere på kvalitet.

Det appene får

GET /api/v1/aliaser/fast_tools – modellen, ruten og de parameterne som er målt å virke for denne bruken.

{
  "model": "gpt-5.4",
  "baseURL": "https://api.openai.com/v1",
  "params": {
    "reasoning_effort": "none",
    "max_completion_tokens": 1000,
    "verbosity": "low"
  }
}

Historikk

Aliaset har pekt på openai/gpt-5.4 siden 8. okt. 2026.