feat(maria): rank hibrid, escaladare la suport si dictionar de erori Oracle
Trei probleme legate, gasite testand cu capturi reale. 1. RASPUNSURI GENERICE. Cand raspunsul nu era in documente, modelul primea oricum top-3 chunk-uri si compunea ceva plauzibil — utilizatorul pleca cu impresia ca a primit ajutor. Acum, daca nu avem acoperire, modelul nu mai e intrebat deloc: intrebarea pleaca la suport, cu referinta (M-260831-A1B2) si confirmare onesta — "am trimis" doar daca notificarea chiar a plecat, altfel "am inregistrat, dar nu am putut trimite". Jurnalul se scrie intotdeauna, in ~/.maria-bridge/escalations/, si se vede in dashboard. Daca a fost o captura, imaginea insasi se retrimite la suport (endpoint nou /send-image, limitat la MEDIA_DIR). 2. ORDONARE (rank.py). Un prag pe cosinus nu putea decide "avem raspunsul?": masurat pe indexul viu, intrebarile bune dau 0,600-0,816 si cele straine 0,534-0,685 — intervale care SE SUPRAPUN. Lipseau codurile: ORA-01722, D406, CIF sunt tokeni exacti pe care cautarea semantica ii topeste. Acum se ordoneaza de doua ori — embeddings si BM25 — si se fuzioneaza clasamentele (RRF), iar decizia de acoperire se ia pe dovezi: cosinus mare, sau cosinus de mijloc cu o fractiune din termenii distinctivi gasita chiar in chunk-uri. Fractiunea conteaza: cu un singur termen, "cum imi resetez parola de la Windows" trecea drept acoperita fiindca "parola" apare in documente. Pragurile sunt masurate, nu alese: ops/calibrate-rank.py ruleaza un set de cazuri pe indexul real si matura grila. 15/15 la strong=0.70 weak=0.58 ratio=0.5. 3. DICTIONAR DE ERORI ORACLE. 29 de erori uzuale, scrise pentru utilizatorul din fata aplicatiei: ce inseamna, ce poate incerca singur, cand sa sune. Fara nume de servere, IP-uri sau pasi de administrare — Maria e chatbot pentru clienti. Fisierul din git e SAMANTA: depozitul e oglinda Drive-ului, deci trebuie pus in document_store ca sa nu dispara la sincronizare. Pe drum, doua lucruri gasite in log: - fiecare mesaj din self-chat sosea de DOUA ori, pe @s.whatsapp.net si pe @lid, deci Maria raspundea de doua ori. Dedup pe key.id in punte. - reindexarea reface toate embeddings-urile (~7 s fiecare pe CPU): adaugarea unui document la 170 de chunk-uri insemna 20 de minute. Acum refoloseste vectorii chunk-urilor nemodificate din indexul precedent, fara vreun fisier nou de stare. Textul OCR se logheaza acum INTEGRAL, cu interogarea de cautare si sursele alese cu scorurile lor — fara asta un raspuns gresit nu se poate explica: nu stiai daca a citit prost captura sau a cautat prost in documente. 6 fisiere de test noi/extinse, 68 pass (de la 42). Co-Authored-By: Claude Opus 5 (1M context) <noreply@anthropic.com> Claude-Session: https://claude.ai/code/session_01Q4uzvgm7AyJch5WH8QHRhY
This commit is contained in:
@@ -131,16 +131,40 @@ def embed(text: str) -> list[float]:
|
||||
return resp.json()["embedding"]
|
||||
|
||||
|
||||
def _vectori_existenti() -> dict[str, list[float]]:
|
||||
"""Embeddings-urile din indexul curent, dupa textul chunk-ului.
|
||||
|
||||
Un embedding pe CPU costa ~7 secunde. Fara asta, adaugarea unui singur
|
||||
document reface toate embeddings-urile — la 170 de chunk-uri inseamna 20 de
|
||||
minute ca sa se schimbe unul. Textul chunk-ului e cheia potrivita: daca nu s-a
|
||||
schimbat niciun caracter, vectorul e acelasi.
|
||||
|
||||
Sursa e chiar indexul precedent, nu un al doilea fisier de cache: nu are ce sa
|
||||
se desincronizeze, si daca indexul lipseste se recalculeaza tot, ca inainte.
|
||||
"""
|
||||
try:
|
||||
vechi = json.loads(config.INDEX_FILE.read_text(encoding="utf-8"))
|
||||
except (OSError, ValueError):
|
||||
return {}
|
||||
return {e["text"]: e["embedding"] for e in vechi if e.get("text") and e.get("embedding")}
|
||||
|
||||
|
||||
def build() -> dict:
|
||||
entries = []
|
||||
warnings: list[str] = []
|
||||
docs = store.documents_for_index()
|
||||
refolosite = _vectori_existenti()
|
||||
reutilizari = 0
|
||||
for doc in docs:
|
||||
text = store.read_document(doc["name"])
|
||||
if doc["name"].endswith(".xml") and chunk_xml(text) is None:
|
||||
warnings.append(f"{doc['name']}: XML invalid, indexat ca text simplu")
|
||||
for i, chunk in enumerate(chunk_document(doc["name"], text)):
|
||||
vec = embed(chunk)
|
||||
vec = refolosite.get(chunk)
|
||||
if vec is None:
|
||||
vec = embed(chunk)
|
||||
else:
|
||||
reutilizari += 1
|
||||
entries.append({"source": doc["name"], "chunk": i, "text": chunk, "embedding": vec})
|
||||
config.STATE_DIR.mkdir(parents=True, exist_ok=True)
|
||||
# Scriere atomica: consumer-ul reciteste fisierul la 30s si ar putea prinde
|
||||
@@ -148,7 +172,9 @@ def build() -> dict:
|
||||
tmp = config.INDEX_FILE.with_suffix(".json.tmp")
|
||||
tmp.write_text(json.dumps(entries, ensure_ascii=False), encoding="utf-8")
|
||||
os.replace(tmp, config.INDEX_FILE)
|
||||
out = {"documents": len(docs), "chunks": len(entries)}
|
||||
out = {"documents": len(docs), "chunks": len(entries),
|
||||
"embeddings_refolosite": reutilizari,
|
||||
"embeddings_noi": len(entries) - reutilizari}
|
||||
if warnings:
|
||||
out["warnings"] = warnings
|
||||
return out
|
||||
@@ -164,6 +190,8 @@ if __name__ == "__main__":
|
||||
for w in result.get("warnings", []):
|
||||
print(f"[indexer] ATENTIE {w}", file=sys.stderr)
|
||||
print(
|
||||
f"[indexer] {result['documents']} documente, {result['chunks']} chunk-uri -> {config.INDEX_FILE}",
|
||||
f"[indexer] {result['documents']} documente, {result['chunks']} chunk-uri "
|
||||
f"({result['embeddings_noi']} embeddings noi, {result['embeddings_refolosite']} refolosite)"
|
||||
f" -> {config.INDEX_FILE}",
|
||||
file=sys.stderr,
|
||||
)
|
||||
|
||||
Reference in New Issue
Block a user