Keyboard shortcuts

Press or to navigate between chapters

Press S or / to search in the book

Press ? to show this help

Press Esc to hide this help

التوجيه المُرجَّح بالتكلفة

عند توفُّر عدة نماذج — Opus أو Sonnet أو Haiku أو نماذج محلية خلف بوابة odysseus ذاتية الاستضافة — يوجِّه PRECC كل مهمة إلى النموذج الذي يقلِّل التكلفة المالية المتوقعة، لا عدد الرموز. فالرمز الواحد من نموذج رخيص لا يساوي في التكلفة الرمز الواحد من نموذج باهظ؛ ويُحسِّن المُوجِّه قيمة الدولار، خاضعاً لحدٍّ أدنى مقيس من النجاح وحدٍّ أدنى من القدرة لكل فئة.

الدولار، لا الرمز، هو وحدة التكلفة

بالنسبة لمهمة من الفئة c، وعبر النماذج المرشَّحة المؤهَّلة من حيث القدرة m، يقلِّل المُوجِّه التكلفة المتوقعة المُرجَّحة بالسعر. وE[$ | task, m] هو متوسط تكلفة الرموز المقيس للنموذج في تلك الفئة مضروباً في سعره لكل رمز. فقد يفوز تشغيل Haiku الذي يستهلك عدداً أكبر من الرموز مقارنةً بـ Opus، لأن Haiku أرخص بعدة أضعاف لكل رمز. وكل رقم في دالة الهدف إمّا أن يكون مقيساً (متوسطات الرموز من قاعدة الأوراكل، والنجاح المُسجَّل، وأسعار النماذج المنشورة) أو احتمالاً قبلياً مُوسَماً صراحةً — ولا يُختلق أبداً.

choose argmin_m   E[$ | task, m]
       subject to  P(success | task, m) >= min_success
                   capability(m) >= capability_floor(category)

توجيه مهمة

يصنِّف precc route "<task>" المهمة، ويطبِّق حدّ القدرة الأدنى، ويرتِّب النماذج المؤهَّلة حسب الدولارات المتوقعة، ويطبع القرار. ومع --execute يُرسِل المهمة إلى النموذج المختار عبر واجهة جلسات odysseus. كما يُزرَع كل قرار في أوراكل التنبؤ بحيث يمكن تسجيل تكلفته الفعلية ونتيجته بعد تشغيل المهمة.

$ precc route "fix the broken parser"
  category   : fix (capability floor 0)
  → model    : anthropic/claude-haiku-4-5  [Measured, confidence 0.60]
  est. cost  : $0.0096 (12000 tok)
  reason     : measured cheapest-capable for `fix` (by cost): claude-haiku-4-5
  prediction : #42 (seeded; learner will auto-close after the task runs)

الوفورات المالية

يضيف precc savings قسماً مالياً كلما اكتملت مهام مُوجَّهة. فلكل مهمة مُوجَّهة يسعِّر الرموز المُنفَقة فعلاً وفق معدّل النموذج المختار ويقارنها بخطٍّ مرجعي يستخدم النموذج الافتراضي دائماً — مع تثبيت الرموز وتغيُّر السعر فقط. هذه هي رؤية “خفِّض التكلفة، لا الرموز فحسب”؛ ويظل القسم مخفياً حتى تتوفَّر بيانات توجيه حقيقية، فلا يعرض أبداً صفوفاً مُختلقة.

$ precc savings
Routing cost (USD) — baseline: always claude-opus-4-5
  claude-haiku-4-5   :    1 task(s)  $   0.0096 chosen  vs $   0.0600 baseline
  claude-sonnet-4-6  :    1 task(s)  $   0.1200 chosen  vs $   0.2000 baseline
  total              :    2 task(s)  $   0.1296 chosen  vs $   0.2600 baseline
  → saved $0.1304 (50.2% of baseline spend)

حلقة التغذية الراجعة

يحسِّن التوجيه نفسه بنفسه: التوجيه → التنفيذ → التسجيل → إعادة التدريب. فكل قرار توجيه يُزرَع في الأوراكل؛ وتجلب خدمة precc-learner العاملة في الخلفية الرسالة المكتملة، وتسجِّل الرموز الفعلية والنموذج والنجاح، وتُغلق الصف. ومع امتلاء جدول (model, category)، ينتقل المُوجِّه من احتمالات “الأرخص القادر” القبلية إلى خيارات مقيسة، ويكتسب مُتنبِّئ الرموز بُعداً خاصاً بكل نموذج.

الاستكشاف

تجنُّباً لاستغلال نموذج رخيص واحد إلى الأبد بناءً على بيانات قديمة، يمكن للمُوجِّه أن يأخذ عمداً عينة من خلية (model, category) غير مُستكشَفة بما يكفي قبل الاختيار الطمَّاع. والاستكشاف اختياري، وحتمي (لا عشوائية — إذ يجب أن يكون الخطّاف قابلاً لإعادة الإنتاج)، ومحدود: فهو لا يتجاوز أبداً حدّ القدرة أو حدّ النجاح المقيس، ويمنعه سقفُ ندم السعر من الانحراف إلى نموذج أغلى بكثير.

# ~/.config/precc/odysseus.toml
explore_n_min = 3     # sample each (model, category) cell ~3× before trusting it
explore_eps   = 1.0   # allow up to 2× the cheapest price while exploring

مقيس، لا مفترَض أبداً

لا يُستبعَد نموذج لإخفاقه في تجاوز حدّ النجاح إلا عند وجود دليل مقيس على ذلك — فالنموذج غير المقيس لا يُستبعَد أبداً بناءً على رقم مُخمَّن. وفي غياب بيانات لخلية ما، يلجأ المُوجِّه إلى احتمال قبلي محافظ لـ “الأرخص القادر” ويَسِم القرار بأنه بداية باردة، فيعرف المُستدعي دائماً ما إذا كان الخيار يستند إلى دليل أم إلى احتمال قبلي.