Kostnaðarvegin leiðsögn

Þegar fleiri en eitt líkan er í boði — Opus, Sonnet, Haiku eða staðbundin líkön að baki sjálfhýstri odysseus gátt — beinir PRECC hverju verkefni til þess sem lágmarkar væntanlegan dollarakostnað, ekki fjölda tókena. Tóki frá ódýru líkani og tóki frá dýru kosta ekki það sama; leiðarstýringin fínstillir dollarann, með fyrirvara um mælt árangursgólf og getugólf fyrir hvern flokk.

Dollari, ekki tóki, er eining kostnaðar

Fyrir verkefni af flokki c, yfir þau líkön m sem teljast hæf eftir getu, lágmarkar leiðarstýringin væntanlegan verðveginn kostnað. E[$ | task, m] er mældur meðaltókakostnaður líkansins fyrir þann flokk margfaldaður með verði þess á hvern tóka. Haiku-keyrsla sem notar fleiri tóka en Opus getur samt unnið, því Haiku er margfalt ódýrara á hvern tóka. Sérhver tala í markfallinu er annaðhvort mæld (tókameðaltöl véfréttar, skráður árangur, birt verð líkana) eða skýrt merkt forgáta — aldrei tilbúin.

choose argmin_m   E[$ | task, m]
       subject to  P(success | task, m) >= min_success
                   capability(m) >= capability_floor(category)

Að beina verkefni

precc route "<task>" flokkar verkefnið, beitir getugólfinu, raðar hæfu líkönunum eftir væntanlegum dollurum og prentar ákvörðunina. Með --execute sendir hún verkefnið til valda líkansins gegnum odysseus session API. Hver ákvörðun er einnig sáð í spávéfréttina svo skrá megi raunverulegan kostnað hennar og niðurstöðu eftir að verkefnið keyrir.

$ precc route "fix the broken parser"
  category   : fix (capability floor 0)
  → model    : anthropic/claude-haiku-4-5  [Measured, confidence 0.60]
  est. cost  : $0.0096 (12000 tok)
  reason     : measured cheapest-capable for `fix` (by cost): claude-haiku-4-5
  prediction : #42 (seeded; learner will auto-close after the task runs)

Dollarasparnaður

precc savings bætir við dollarahluta þegar leiðbeind verkefni hafa lokist. Fyrir hvert leiðbeint verkefni verðleggur hún tókana sem raunverulega voru notaðir á taxta valda líkansins og ber þá saman við grunnlínu með alltaf-sjálfgefnu-líkani — tókum haldið föstum, aðeins verðið breytist. Þetta er sýnin „skerum kostnað, ekki bara tóka“; hlutinn helst falinn þar til raunveruleg leiðsögugögn eru til, svo hann sýnir aldrei tilbúnar línur.

$ precc savings
Routing cost (USD) — baseline: always claude-opus-4-5
  claude-haiku-4-5   :    1 task(s)  $   0.0096 chosen  vs $   0.0600 baseline
  claude-sonnet-4-6  :    1 task(s)  $   0.1200 chosen  vs $   0.2000 baseline
  total              :    2 task(s)  $   0.1296 chosen  vs $   0.2600 baseline
  → saved $0.1304 (50.2% of baseline spend)

Endurgjafarlykkjan

Leiðsögnin bætir sig sjálf: route → execute → record → retrain. Hverri leiðsöguákvörðun er sáð í véfréttina; bakgrunnsdaemoninn precc-learner sækir lokin skilaboð, skráir raunverulega tóka, líkan og árangur og lokar línunni. Eftir því sem taflan fyrir hvert (model, category) fyllist færist leiðarstýringin frá forgátum um ódýrasta-hæfa yfir í mældar valkostir, og tókaspáin öðlast vídd fyrir hvert líkan.

Könnun

Til að forðast að nýta eitt ódýrt líkan að eilífu á úreltum gögnum getur leiðarstýringin vísvitandi tekið sýni úr lítt könnuðum (model, category) reit á undan græðgisvalinu. Könnun er valkvæð, deterministísk (engin slembni — króka verður að vera endurgeranlegur) og afmörkuð: hún fer aldrei yfir getu- eða mælt-árangursgólfin, og þak á verðeftirsjá heldur henni frá því að reika yfir á miklu dýrara líkan.

# ~/.config/precc/odysseus.toml
explore_n_min = 3     # sample each (model, category) cell ~3× before trusting it
explore_eps   = 1.0   # allow up to 2× the cheapest price while exploring

Mælt, aldrei gefið sér

Líkan er aðeins útilokað fyrir að falla á árangursgólfinu þegar mæld sönnun er fyrir því — ómælt líkan er aldrei útilokað á getgátutölu. Þegar engin gögn eru til fyrir reit fellur leiðarstýringin aftur á varfærna forgátu um ódýrasta-hæfa og merkir ákvörðunina sem kaldræsingu, svo kallandinn veit alltaf hvort valið hvílir á sönnun eða á forgátu.

Keyboard shortcuts