2.8 KiB
TL;DR
Jev (TypeSafeAI) e un model "System 1": nu generează text, primești o probabilitate/scor pe opțiuni predefinite (bool / score 0-10 / choice din până la 255 opțiuni), în 100-300ms, foarte ieftin. Ideea centrală a video-ului: combină Jev (rapid, reflex) cu un model "System 2" (Claude/GPT, lent, deliberativ) — Jev face triaj masiv și ieftin, System 2 intervine doar pe cazurile cu scor mare. Exemple concrete: rutare automată către skill-ul corect din 182 skills instalate (eroare de alegere scade de la 17% la 7.3% cu Haiku 4.5), pre-filtrare code review/code smells pe cod diff (150 comentarii analizate în 9.3s pentru ~1 cent), adversarial browser testing masiv paralel, detecție fraudă pe facturi, scoring lead-uri de vânzări, linteri "calitativi" (întrebări în limbaj natural în loc de regex). Un exemplu extrem: Jev joacă Minecraft în timp real (decizii instant) sub coordonarea unui model System 2 care planifică pe termen lung.
Idei cheie
- Trei primitive: bool (da/nu), score (spectru 0-10 cu rubrică proprie), choice (multiple choice, până la 255 opțiuni) — fiecare vine cu probabilități, nu text generat.
- Pattern System 1 + System 2: Jev ia mii de decizii rapide/ieftine cu praguri if-else; un model deliberativ periodic revizuiește criteriile/promptul lui Jev pe baza rezultatelor — "System 2 trains System 1".
- Cazuri de folos relevante pentru coding agents: rutare skill/tool (reduce tokeni din context + erori), pre-triaj code review (reduce ce citește System 2 de ~10x), qualitative linters (întrebări gen "ce se loghează aici, e secret/PII?"), code smell scanning pe codebase întreg (28M tokeni analizați pentru ~1.19$), verificare rapidă post-implementare (browser agent ieftin care confirmă feature-ul înainte să treacă înapoi la System 2 pentru fix).
- Costuri citate: cod review triaj — fracțiuni de cent per PR; scanare codebase completă pentru code smells — sub 2$; testare adversarială paralelă continuă — 5-10$/zi pentru mii de sesiuni browser.
- Limitare clară: Jev nu generează text, doar clasifică/scorează din opțiuni date de tine — utilitatea stă complet în cât de bine definești criteriile/rubrica.
Relevanță pentru Echo/Marius
Pattern potențial interesant pentru Ralph (tools/ralph/prompt.md — smart gates pe tags) și pentru gate-urile de review: în loc de reguli fixe pe tag, un clasificator ieftin ar putea tria ce merge la ce skill/model. Dar e serviciu extern nou (API key, waitlist) — nu se integrează automat în fluxul curent, ar necesita cont + cost separat de abonamentul Claude. Nu recomand acțiune acum: e o idee de arhitectură de reținut, nu un fix 80/20 imediat pe ce ai deja.
Linkuri: https://youtu.be/ScvXFi4MUSc