chore: auto-commit from dashboard
This commit is contained in:
@@ -0,0 +1,25 @@
|
||||
---
|
||||
title: "Getting the Same Results with Smaller \"Cheaper\" Dual Sparks AI as the More Expensive Clusters"
|
||||
url: https://youtu.be/tmcn1-jFLWY
|
||||
date: 2026-09-18
|
||||
tags: [@work, insights]
|
||||
---
|
||||
|
||||
## TL;DR
|
||||
|
||||
Testere pe forumul Level1Techs a comparat DeepSeek 0731 rulat pe două NVIDIA DGX Spark (Dell, ~4-5.000$ bucata, 256GB LPDDR5 total, NVFP4 quant) vs. același model pe un sistem cu patru RTX Pro 6000 (~10.000$/GPU, de 7x mai scump și 7x mai rapid). Rezultatul-surpriză: la task-uri reale (code review, breakout-clone, audit securitate router, agentic tool-use), calitatea output-ului a fost aproape identică — singura categorie unde dual-Spark a picat clar a fost numărarea (ex. "câte R-uri are strawberry"). Concluzia autorului: NVFP4 e motivul principal — quantizarea la 4-bit pe DeepSeek păstrează coerența mult mai bine decât se aștepta, iar diferența de preț/performanță nu mai justifică sistemele mari decât pentru uz comercial cu utilizare la capacitate.
|
||||
|
||||
## Idei cheie
|
||||
|
||||
- Setup dual DGX Spark: 256GB memorie unificată, peste 1M tokeni context per stream (multipli stream în paralel, ~1.5M context agregat), 60-80 tok/s decode cu VLM patch-uit (out-of-box doar 10-15 tok/s — optimizările software au făcut diferența, nu hardware-ul).
|
||||
- Diferența reală RTX Pro 6000 vs. dual Spark: doar viteză (7x), nu calitate — pentru workflow agentic (harness + task descompus în sub-task-uri), diferența de viteză contează mai puțin decât la chat interactiv.
|
||||
- Recomandare cost: pentru cineva care vrea doar să învețe/experimenteze, un cont OpenRouter la 20$/lună dă acces la modele comparabile — hardware-ul propriu (50-120k$) se justifică doar cu utilizare comercială susținută (se amortizează în săptămâni la $25/1M tokeni, nu ani).
|
||||
- "Agentic" ≠ chatbot: diferența e un harness (ex. Turnstone, succesorul mai organizat al OpenClaw) care descompune un task mare în sub-task-uri supervizate — asta a rulat breakout-clone-ul de test, nu conversație directă.
|
||||
- Bit-flip / non-determinism hardware: chiar la parametri identici, kernel-urile matematice diferă între arhitecturi (SM120 Blackwell vs. Hopper/GH200) — ordinea operațiilor floating-point diferă, deci același model+prompt poate diverge după câteva mii de tokeni în funcție de hardware. Relevant pentru oricine rulează modele cuantizate (Q4 pe 3090/4090) și se întreabă de ce coerența variază.
|
||||
- Predicție autor: prețul per token va continua să scadă rapid (modele noi, mai mici, ating performanța celor mari de acum 6 luni) — "race to the bottom" pe cost, benefic pentru rulare locală/offline.
|
||||
|
||||
## Relevanță pentru Echo/Marius
|
||||
|
||||
Zero acțiune directă — Echo rulează deja local doar embeddings (Ollama all-minilm pe LXC 104), nu modele de conversație grele, deci nu e un caz de folosit hardware dedicat AI. Notă informativă: confirmă că fallback-ul local (Qwen 2B) e pe drumul corect — modele mici, bine optimizate, pot ajunge surprinzător de aproape de cele mari pe task-uri concrete (nu pe benchmark-uri sintetice), exact ce s-a observat empiric la scorul 36/36 al fallback-ului RO.
|
||||
|
||||
Linkuri: https://youtu.be/tmcn1-jFLWY
|
||||
@@ -0,0 +1,24 @@
|
||||
---
|
||||
title: "Jev Gives Your Coding Agents GUT INSTINCT"
|
||||
url: https://youtu.be/ScvXFi4MUSc
|
||||
date: 2026-09-18
|
||||
tags: [@work, insights]
|
||||
---
|
||||
|
||||
## TL;DR
|
||||
|
||||
Jev (TypeSafeAI) e un model "System 1": nu generează text, primești o probabilitate/scor pe opțiuni predefinite (bool / score 0-10 / choice din până la 255 opțiuni), în 100-300ms, foarte ieftin. Ideea centrală a video-ului: combină Jev (rapid, reflex) cu un model "System 2" (Claude/GPT, lent, deliberativ) — Jev face triaj masiv și ieftin, System 2 intervine doar pe cazurile cu scor mare. Exemple concrete: rutare automată către skill-ul corect din 182 skills instalate (eroare de alegere scade de la 17% la 7.3% cu Haiku 4.5), pre-filtrare code review/code smells pe cod diff (150 comentarii analizate în 9.3s pentru ~1 cent), adversarial browser testing masiv paralel, detecție fraudă pe facturi, scoring lead-uri de vânzări, linteri "calitativi" (întrebări în limbaj natural în loc de regex). Un exemplu extrem: Jev joacă Minecraft în timp real (decizii instant) sub coordonarea unui model System 2 care planifică pe termen lung.
|
||||
|
||||
## Idei cheie
|
||||
|
||||
- Trei primitive: bool (da/nu), score (spectru 0-10 cu rubrică proprie), choice (multiple choice, până la 255 opțiuni) — fiecare vine cu probabilități, nu text generat.
|
||||
- Pattern System 1 + System 2: Jev ia mii de decizii rapide/ieftine cu praguri if-else; un model deliberativ periodic revizuiește criteriile/promptul lui Jev pe baza rezultatelor — "System 2 trains System 1".
|
||||
- Cazuri de folos relevante pentru coding agents: rutare skill/tool (reduce tokeni din context + erori), pre-triaj code review (reduce ce citește System 2 de ~10x), qualitative linters (întrebări gen "ce se loghează aici, e secret/PII?"), code smell scanning pe codebase întreg (28M tokeni analizați pentru ~1.19$), verificare rapidă post-implementare (browser agent ieftin care confirmă feature-ul înainte să treacă înapoi la System 2 pentru fix).
|
||||
- Costuri citate: cod review triaj — fracțiuni de cent per PR; scanare codebase completă pentru code smells — sub 2$; testare adversarială paralelă continuă — 5-10$/zi pentru mii de sesiuni browser.
|
||||
- Limitare clară: Jev nu generează text, doar clasifică/scorează din opțiuni date de tine — utilitatea stă complet în cât de bine definești criteriile/rubrica.
|
||||
|
||||
## Relevanță pentru Echo/Marius
|
||||
|
||||
Pattern potențial interesant pentru Ralph (`tools/ralph/prompt.md` — smart gates pe tags) și pentru gate-urile de review: în loc de reguli fixe pe tag, un clasificator ieftin ar putea tria ce merge la ce skill/model. Dar e serviciu extern nou (API key, waitlist) — nu se integrează automat în fluxul curent, ar necesita cont + cost separat de abonamentul Claude. Nu recomand acțiune acum: e o idee de arhitectură de reținut, nu un fix 80/20 imediat pe ce ai deja.
|
||||
|
||||
Linkuri: https://youtu.be/ScvXFi4MUSc
|
||||
@@ -0,0 +1,31 @@
|
||||
---
|
||||
title: "FREE 32GB VRAM Server for Running AI Models Locally"
|
||||
url: https://youtu.be/sAJkIBURfBo
|
||||
duration: "7:36"
|
||||
tags: [@growth, @project]
|
||||
date: 2026-09-20
|
||||
---
|
||||
|
||||
## TL;DR
|
||||
|
||||
Tutorial arată cum să folosești gratuit un notebook Kaggle cu 2x GPU T4 (32GB VRAM combinat) ca server pentru a rula modele Ollama, expus prin tunel Cloudflare și accesat local prin Hermes (client desktop). Practic: Kaggle rulează inferența, tu te conectezi de acasă prin URL-ul de tunel + API key "ollama".
|
||||
|
||||
## Pași cheie
|
||||
|
||||
1. Cont Kaggle + verificare telefon (necesară pentru GPU gratuit)
|
||||
2. Notebook nou → Settings → Accelerator → GPU T4 x2
|
||||
3. În celule cod: instalează `jstd`, apoi Ollama (`curl` install script), pornește serviciul Ollama
|
||||
4. Alege model de pe Hugging Face (filtru "text generation" + tag Ollama), copiază comanda `ollama run <model>` de pe pagina modelului
|
||||
5. Rulează tunel Cloudflare → generează URL public temporar către instanța Ollama din Kaggle
|
||||
6. Local: aplicația "Hermes" (client desktop, alt video al aceluiași canal) → custom endpoint = URL Cloudflare + `/api/v1`, API key = `ollama`
|
||||
7. Selectezi modelul detectat automat, setezi reasoning effort, gata
|
||||
|
||||
## Observații
|
||||
|
||||
- Nu e cod/tool propriu, e workaround pentru GPU gratuit temporar (sesiune Kaggle, tunel expiră).
|
||||
- Relevanță pentru Marius: alternativă la Ollama local (LXC 104) când ai nevoie de un model mai mare temporar, fără cost — dar sesiunea Kaggle e efemeră și necesită re-pornire manuală.
|
||||
- Nu recomand adopție: infra proprie (LXC 104) e deja stabilă și fără dependență de tunel extern/sesiune expirabilă.
|
||||
|
||||
## Insights
|
||||
|
||||
- [ ] @growth — de reținut ca opțiune "burst compute" gratuit dacă apare vreodată nevoie de un model mare one-off, nu pentru uz continuu
|
||||
File diff suppressed because one or more lines are too long
@@ -0,0 +1,29 @@
|
||||
# How I'd Replace My 9–5 Income With Claude AI (Realistic 90-Day Plan)
|
||||
|
||||
**Sursa:** https://youtu.be/f2YdbWKXdMs?si=SP1wgtqgNt3KRoy1
|
||||
**Data:** 2026-09-25
|
||||
**Creator:** Shane (Video Ranking Academy / creator content YouTube)
|
||||
**Format:** Video (~19:31 min)
|
||||
**Limbă:** en
|
||||
**Tags:** @growth @project
|
||||
|
||||
---
|
||||
|
||||
## TL;DR
|
||||
|
||||
Plan de 90 de zile pentru a construi un canal YouTube personal ca sursă de venit, folosind Claude ca "leverage" (scriere scenarii, cercetare, pregătire titluri/thumbnail-uri), nu ca înlocuitor de conținut ("AI slop" nu funcționează). Structură: Luna 1 — alege o nișă și publică primul video fără să te simți pregătit; Luna 2 — volum și "packaging" (1-2 video-uri/săptămână, ~4h, batching); Luna 3 — stivă de monetizare (AdSense → afiliere → sponsorizări → produse proprii → oferte high-ticket). Video puternic promoțional (pitch spre training live gratuit + apel de vânzare pentru mentorat).
|
||||
|
||||
**Linkuri:** https://youtu.be/f2YdbWKXdMs
|
||||
|
||||
## Puncte cheie
|
||||
|
||||
- Motivul principal pentru care oamenii nu reușesc: analysis paralysis, nu lipsa de skill — pornesc de la "publică înainte să te simți pregătit".
|
||||
- Distribuția contează mai mult decât produsul: un canal cu audiență e ca un "magazin" propriu — poți vinde aproape orice odată ce ai atenția oamenilor (exemplu Sears: nu a inventat ceasurile, a deținut canalul către clienți).
|
||||
- Claude recomandat pentru scriere/creativitate (interviu cu tine însuți pentru scenariu în vocea ta, nu generic), ChatGPT recomandat separat doar pentru thumbnail-uri.
|
||||
- Batching: o sesiune de planificare cu Claude pentru 4-8 video-uri, o zi de filmare, editare simplă (recomandă Descript pentru tăiat pauze).
|
||||
- Stivă de monetizare pe straturi: AdSense (55% din venit publicitar) → afiliere → sponsorizări → produse/servicii proprii → oferte high-ticket (vânzare telefonică).
|
||||
- Exemple/testimoniale multiple (folosite ca dovadă socială pentru pitch-ul de mentorat de la final).
|
||||
|
||||
## Insights
|
||||
|
||||
- [ ] Nu e direct aplicabil pe ERP/consultanță Romfast, dar principiul "distribuție înainte de produs" + "publică înainte să fii gata" e relevant pentru provocarea curentă a lui Marius cu antreprenoriatul (inacțiune, credința "clienți noi = mai multă muncă"). De discutat opțional în coaching, nu de acționat automat. @coaching
|
||||
@@ -1,6 +1,6 @@
|
||||
# Index — youtube/
|
||||
|
||||
> 179 note. Citește acest index întâi; deschide doar fișierele relevante.
|
||||
> 184 note. Citește acest index întâi; deschide doar fișierele relevante.
|
||||
|
||||
- **[Talk to Claude on 3CX Phone System Tutorial (Full Setup)](2025-02-13_talk-to-claude-3cx-phone.md)** `@work`
|
||||
Tutorial complet pentru a vorbi cu Claude Code prin telefon, folosind 3CX (sistem telefonic cloud gratuit) + un proiect GitHub custom. Setup
|
||||
@@ -358,5 +358,15 @@
|
||||
Armin Ronacher (creatorul Flask, acum la Arendelle — compania din spatele Pi agent) vorbește despre de ce harness-urile minimale (bash + puț
|
||||
- **[2026-09-13_strategii-datorii-inteligente-business](2026-09-13_strategii-datorii-inteligente-business.md)** `@work`
|
||||
5 categorii de "datorie inteligentă" folosite de bogați: împrumut garantat cu active (borrow, don't sell), datorie de business (SBA loan / s
|
||||
- **[2026-09-18_dual-dgx-spark-vs-rtx-pro-6000-local-ai](2026-09-18_dual-dgx-spark-vs-rtx-pro-6000-local-ai.md)** `@work`
|
||||
Testere pe forumul Level1Techs a comparat DeepSeek 0731 rulat pe două NVIDIA DGX Spark (Dell, ~4-5.000$ bucata, 256GB LPDDR5 total, NVFP4 qu
|
||||
- **[2026-09-18_jev-gut-instinct-coding-agents](2026-09-18_jev-gut-instinct-coding-agents.md)** `@work`
|
||||
Jev (TypeSafeAI) e un model "System 1": nu generează text, primești o probabilitate/scor pe opțiuni predefinite (bool / score 0-10 / choice
|
||||
- **[2026-09-20_kaggle-32gb-vram-ollama-local-ai](2026-09-20_kaggle-32gb-vram-ollama-local-ai.md)** `@growth`
|
||||
Tutorial arată cum să folosești gratuit un notebook Kaggle cu 2x GPU T4 (32GB VRAM combinat) ca server pentru a rula modele Ollama, expus pr
|
||||
- **[AI Coding Rate Limits are RIDICULOUS Now - Here's How You Keep Scaling Anyway](2026-09-24_ai-coding-rate-limits-are-ridiculous-now-here-s-ho.md)**
|
||||
Rate limit-urile pe Claude Code/Codex s-au înăsprit tot anul; Cole Medin (canal AI coding) a testat zeci de combinații de modele pe workflow
|
||||
- **[How I'd Replace My 9–5 Income With Claude AI (Realistic 90-Day Plan)](2026-09-25_how-id-replace-my-9-5-income-with-claude-ai.md)** `@growth`
|
||||
Plan de 90 de zile pentru a construi un canal YouTube personal ca sursă de venit, folosind Claude ca "leverage" (scriere scenarii, cercetare
|
||||
- **[thinking-on-paper](thinking-on-paper.md)** `@growth`
|
||||
Metoda "Thinking on Paper" — 3 principii: **Make it Wrong** (scrie repede, fără perfecționism), **Make it Shorter** (doar keywords), **Make
|
||||
|
||||
Reference in New Issue
Block a user