{"schemaVersion":1,"language":"ro","categories":["Fundamente","Regăsire & Context","Agenți & Interfețe","Antrenare & Adaptare","Inferență & Operațiuni","Calitate & Guvernanță","Modalitate & Producție"],"topics":[{"id":"llm-fundamentals","number":1,"title":"LLM Fundamentals","category":"Fundamente","summary":"Ce învață, ce generează și ce nu garantează un model de limbaj mare.","definition":"Un model de limbaj mare estimează probabilități pentru continuări lingvistice pe baza unor parametri învățați. Produce secvențe plauzibile, dar nu deține, prin el însuși, nici autoritatea unei surse actuale și nici o dovadă a adevărului pentru afirmații individuale.","importance":"Fără această imagine de bază, fluența, cunoștințele, raționamentul și verificarea sunt ușor confundate între ele.","boundary":"O ieșire care sună probabil nu este automat adevărată și nici trasabilă la o sursă concretă.","keywords":["model de limbaj","probabilitate","parametri","next token","generativ","large language model"],"related":["transformers","tokenization","llm-inference","hallucination-detection"]},{"id":"transformers","number":2,"title":"Transformers","category":"Fundamente","summary":"O arhitectură care procesează secvențe prin mecanisme de atenție în loc de lanțuri recurente de stări.","definition":"Arhitectura Transformer este compusă din blocuri repetate de atenție și feed-forward. Modelează relațiile dintre pozițiile unei secvențe de intrare și poate fi antrenată cu un grad ridicat de paralelizare.","importance":"Constituie fundamentul tehnic al majorității modelelor de limbaj moderne și al multor modele multimodale.","boundary":"Arhitectura nu spune nimic despre corectitudinea, actualitatea sau caracterul autorizat al unui rezultat.","keywords":["encoder","decoder","self attention","feed forward","secvență","arhitectură"],"related":["attention","multi-head-attention","transformer-block","residual-stream","positional-encoding","llm-fundamentals"]},{"id":"attention","number":3,"title":"Attention Mechanism","category":"Fundamente","summary":"Fiecare poziție combină pozițiile pe care le poate citi, cu ponderi care însumează 100 %.","plain":"Fiecare cuvânt se uită la cuvintele anterioare și decide cât de important este fiecare.","definition":"Pentru o poziție Query, atenția evaluează fiecare Key pe care îl poate citi, transformă scorurile în ponderi prin softmax și adună valorile cu aceste ponderi. Fiecare Head Query își calculează propriile ponderi; în modelele de tip GPT-2 fiecare Head are și propriile proiecții Key și Value, iar la Grouped-Query Attention (Llama, Qwen2) mai multe Head-uri Query împart un Head Key/Value.","importance":"Permite modelelor să surprindă referințe la distanță mare și relații dependente de context.","boundary":"Ponderile de atenție nu constituie o explicație de încredere și nici o dovadă a utilizării cauzale.","keywords":["query","key","value","ponderi","self attention","mecanism de atenție"],"related":["transformers","multi-head-attention","attention-head","causal-mask","softmax","embeddings","observability"]},{"id":"multi-head-attention","number":4,"title":"Multi-Head Attention","category":"Fundamente","summary":"Mai multe proiecții de atenție examinează aceeași secvență în paralel.","definition":"Multi-Head Attention împarte reprezentarea în mai multe capete (heads) de atenție învățate. Fiecare cap poate surprinde relații sau proiecții diferite; rezultatele sunt apoi combinate.","importance":"Perspectivele paralele sporesc capacitatea de expresie a unui bloc Transformer.","boundary":"Un cap de atenție nu are un rol semantic garantat fix, cu excepția cazului în care acel rol a fost măsurat separat.","keywords":["attention heads","proiecție","paralel","capete de atenție","head anatomy"],"related":["attention","attention-head","transformer-block","transformers","llm-evaluation"]},{"id":"tokenization","number":5,"title":"Tokenization","category":"Fundamente","summary":"Descompunerea textului în unități discrete pentru model.","plain":"Textul este tăiat în bucăți mici (tokenuri): cuvinte întregi, părți de cuvinte sau caractere.","definition":"Tokenizarea transformă textul în ID-uri pe care un model le poate procesa. În funcție de metodă, tokenii corespund unor cuvinte, părți de cuvinte, caractere sau octeți.","importance":"Influențează lungimea secvenței, multilingvismul, reprezentarea numerelor și modul în care modelul percepe variantele ortografice.","boundary":"Limitele tokenilor sunt limite tehnice și nu automat limite lingvistice sau ontologice.","keywords":["bpe","sentencepiece","octet","subword","vocabular","tokenizare"],"matchTerms":["tokenizare","tokenizări","tokenizator","tokenizatori","tokenizatoare","tokenizer","tokenizers"],"related":["embeddings","context-windows","llm-fundamentals"]},{"id":"embeddings","number":6,"title":"Embeddings","category":"Fundamente","summary":"Vectori învățați pentru obiecte discrete sau structurate.","definition":"Embedding-urile mapează tokeni, propoziții, documente sau alte obiecte în vectori numerici denși. Vectorii apropiați pot indica o utilizare statistic similară.","importance":"Fac intrările discrete procesabile pentru modelele neurale și stau la baza metodelor de căutare semantică.","boundary":"Proximitatea vectorială nu înseamnă identitate, nici adevăr și nici o relație de autoritate.","keywords":["vector","reprezentare","similaritate","dens","embedding"],"related":["token-embedding","semantic-search","vector-databases","attention"]},{"id":"positional-encoding","number":7,"title":"Positional Encoding","category":"Fundamente","summary":"Informații despre poziția ocupată de un element într-o secvență.","plain":"Informație în plus care îi spune modelului pe ce loc din text se află fiecare bucată.","definition":"Deoarece atenția în sine nu cunoaște ordinea, modelele adaugă informație de poziție: modelele de tip GPT-2 adună la fiecare embedding de token un vector de poziție învățat, rotary encoding (RoPE, în Llama și Qwen2) rotește Query-urile și Key-urile în funcție de poziție în interiorul atenției, iar schemele relative ajustează scorurile de atenție. Astfel, modelul poate distinge ordinea și distanța.","importance":"Alegerea metodei influențează generalizarea lungimii și capacitatea de a învăța ordinea relațională.","boundary":"Un semnal de poziție poate genera scurtături nedorite atunci când poziția și ținta corelează în timpul antrenării.","keywords":["rope","poziție absolută","poziție relativă","ordinea secvenței","codare pozițională"],"related":["transformers","attention","context-windows"]},{"id":"prompt-engineering","number":8,"title":"Prompt Engineering","category":"Fundamente","summary":"Conceperea sistematică a instrucțiunilor și a contextului furnizat.","definition":"Prompt engineering structurează sarcina, exemplele, formatul de ieșire, constrângerile și contextul, astfel încât un model să răspundă mai fiabil într-un rol dorit.","importance":"Reprezintă o pârghie rapidă pentru adaptarea comportamentului, în special fără antrenare.","boundary":"Un prompt bun nu este un mecanism de securitate și nici o garanție a acurateței factuale sau a fidelității față de instrumente.","keywords":["system prompt","instrucțiune","șablon","prompt design","inginerie de prompt"],"related":["few-shot-learning","structured-outputs","prompt-evaluation","guardrails"]},{"id":"few-shot-learning","number":9,"title":"Few-Shot Learning","category":"Fundamente","summary":"Ghidarea sarcinii prin intermediul câtorva exemple plasate în context.","definition":"În few-shot learning, modelul primește câteva exemple de intrare-ieșire în interiorul promptului și deduce din acestea tiparul dorit pentru cazuri noi.","importance":"Poate transmite formatul și schema sarcinii fără actualizarea ponderilor.","boundary":"Exemplele consumă context și pot ancora tipare nedorite sau erori drept șablon.","keywords":["in-context learning","exemple","demonstrații","zero shot","few-shot"],"related":["prompt-engineering","context-windows","fine-tuning"]},{"id":"chain-of-thought","number":10,"title":"Chain-of-Thought","category":"Fundamente","summary":"Pași intermediari pe care un model îi generează înainte de sau odată cu răspunsul său.","definition":"Chain-of-thought desemnează raționamente textuale intermediare care pot descompune sarcini complexe în pași mai simpli. Justificările vizibile pot fi utile, dar reprezintă tot text generat de model.","importance":"Tehnica poate îmbunătăți rezolvarea sarcinilor în mai multe etape și face vizibile punctele de eșec.","boundary":"Un lanț de gândire plauzibil nu este o dovadă că exact acei pași au fost cauzali la nivel intern sau că sunt corecți faptic.","keywords":["raționament","scratchpad","pași intermediari","reasoning trace","lanț de gândire"],"related":["structured-outputs","llm-evaluation","observability"]},{"id":"rag","number":11,"title":"RAG","category":"Regăsire & Context","summary":"Generarea augmentată prin regăsire combină căutarea cu generarea de text.","definition":"RAG regăsește conținut relevant la momentul rulării și îl furnizează unui generator drept context. Astfel, faptele actuale sau private nu trebuie să rezide în întregime în ponderile modelului.","importance":"Îmbunătățește capacitatea de actualizare și poate permite atribuirea surselor.","boundary":"Găsit nu înseamnă validat; contextul nu constituie o dovadă; citarea nu înseamnă că afirmația decurge în mod logic din sursă.","keywords":["retrieval augmented generation","grounding","documente","context","regăsire"],"related":["semantic-search","reranking","chunking","vector-databases"]},{"id":"vector-databases","number":12,"title":"Vector Databases","category":"Regăsire & Context","summary":"Stocare și indexare pentru căutarea pe bază de similaritate peste vectori.","definition":"O bază de date vectorială stochează embedding-uri împreună cu identificatori și metadate, găsind intrări printr-o măsură de distanță sau similaritate.","importance":"Face practică și eficientă căutarea semantică peste colecții mari de date.","boundary":"Indexul determină doar proximitatea, nu validitatea, actualitatea, drepturile sau absența contradicțiilor.","keywords":["ann","index","cosine similarity","baze de date vectoriale","embedding store"],"related":["embeddings","semantic-search","rag","hybrid-search"]},{"id":"semantic-search","number":13,"title":"Semantic Search","category":"Regăsire & Context","summary":"Căutare după proximitatea sensului, nu doar după șiruri de caractere identice.","definition":"Căutarea semantică codifică interogarea și conținutul în reprezentări vectoriale și ordonează candidații pe baza apropierii modelate a semnificației.","importance":"Găsește conținut parafrazat sau înrudit conceptual pe care o căutare pură după cuvinte-cheie îl omite.","boundary":"Proximitatea semantică poate livra cu încredere candidați greșiți și necesită delimitări clare de domeniu și autoritate.","keywords":["căutare semantică","dense retrieval","similaritate","semnificație","nearest neighbor"],"related":["embeddings","vector-databases","hybrid-search","reranking"]},{"id":"hybrid-search","number":14,"title":"Hybrid Search","category":"Regăsire & Context","summary":"O combinație între căutarea lexicală și cea semantică.","definition":"Căutarea hibridă combină potrivirile exacte sau bazate pe termeni cu similaritatea bazată pe embedding-uri, fuzionând listele de rezultate prin reguli sau reordonare.","importance":"Acoperă atât denumiri și coduri precise, cât și variații lingvistice.","boundary":"Fuziunea necesită o calibrare bine definită; două scoruri provenite din spații diferite nu sunt comparabile automat.","keywords":["bm25","dense sparse","fuziune","căutare lexicală","căutare hibridă"],"related":["semantic-search","reranking","vector-databases"]},{"id":"reranking","number":15,"title":"Reranking","category":"Regăsire & Context","summary":"O a doua etapă de sortare, mai precisă, pentru candidații deja găsiți.","definition":"Un modul de reranking recalculează scorurile unui set restrâns de candidați folosind mai mult context sau un model mai puternic. Optimizează ordinea, nu acoperirea inițială.","importance":"Poate aduce dovezile relevante mai devreme în listă și reduce volumul de date activ transferat.","boundary":"Un modul de reranking nu poate recupera un candidat omis și nu trebuie să confunde poziția în clasament cu acceptarea conținutului.","keywords":["cross encoder","clasament","set de candidați","relevanță","reordonare"],"related":["semantic-search","hybrid-search","rag","model-routing"]},{"id":"chunking","number":16,"title":"Chunking Strategies","category":"Regăsire & Context","summary":"Modul în care sursele sunt împărțite în secțiuni ce pot fi regăsite.","definition":"Segmentarea (chunking) împarte documentele în unități de regăsire după lungime, propoziții, paragrafe, structură sau limite semantice.","importance":"Împărțirea stabilește dacă este inclus suficient context fără a dilua căutarea cu blocuri prea mari.","boundary":"Un fragment (chunk) nu trebuie să-și piardă intervalele sursă, versiunea și vecinătatea textuală; altfel, proveniența ulterioară devine doar aproximativă.","keywords":["segmentare documente","span","suprapunere","chunking","segmentare"],"related":["rag","context-windows","semantic-search"]},{"id":"context-windows","number":17,"title":"Context Windows","category":"Regăsire & Context","summary":"Secvența maximă de intrare activă pentru un apel al modelului.","definition":"Fereastra de context include instrucțiunea de sistem, intrarea utilizatorului, exemplele, conținutul regăsit și ieșirile anterioare pe care un model le poate lua în considerare într-un singur apel.","importance":"Limitează cantitatea de informație activă, costul și timpul de execuție, influențând ce conținut poate fi procesat simultan.","boundary":"Un context mai mare nu garantează o utilizare mai bună; conținutul irelevant sau contradictoriu poate degrada performanța.","keywords":["lungime secvență","tokeni","context lung","dimensiune prompt","fereastră de context"],"related":["context","chunking","rag","kv-cache","cost-optimization"]},{"id":"function-calling","number":18,"title":"Function Calling","category":"Agenți & Interfețe","summary":"Un model propune argumente structurate de apel pentru o funcție declarată.","definition":"Function calling permite unui model să înțeleagă descrierea unei interfețe și să formuleze un bloc de argumente conform cu o schemă.","importance":"Creează o punte lizibilă automat între limbajul natural și codul de program.","boundary":"Argumentele conforme cu schema nu sunt automat logice, sigure sau autorizate.","keywords":["json schema","argumente","apel api","apel structurat","function calling"],"related":["tool-calling","structured-outputs","mcp"]},{"id":"tool-calling","number":19,"title":"Tool Calling","category":"Agenți & Interfețe","summary":"Un model propune utilizarea unei capabilități externe.","definition":"Tool calling extinde apelarea de funcții cu acțiuni externe concrete, cum ar fi căutarea, accesul la baze de date, execuția de cod sau operațiuni de business.","importance":"Permite unui model de limbaj să obțină informații sau să producă efecte în sisteme reale.","boundary":"Propunerea modelului nu trebuie să constituie niciodată singură autorizarea de execuție; erorile, rezultatele parțiale și efectele secundare necesită contracte proprii.","keywords":["instrumente","acțiuni","execuție","tranzacție","tool calling"],"related":["function-calling","ai-agents","mcp","guardrails"]},{"id":"ai-agents","number":20,"title":"AI Agents","category":"Agenți & Interfețe","summary":"Sisteme care urmăresc obiective de-a lungul mai multor pași de model și instrumente.","definition":"Un agent AI combină deciziile modelului, starea, instrumentele și o logică de control pentru a lucra la o sarcină de-a lungul mai multor etape.","importance":"Agenții pot rezolva sarcini dinamice în care pasul următor reiese abia din rezultatul anterior.","boundary":"O autonomie mai mare amplifică lanțurile de erori și efectele secundare; o buclă de execuție nu ține loc de guvernanță.","keywords":["agent","autonomie","planificare","buclă","agenți ai"],"related":["agentic-workflows","tool-calling","memory-systems","guardrails"]},{"id":"agentic-workflows","number":21,"title":"Agentic Workflows","category":"Agenți & Interfețe","summary":"Structură de flux explicită pentru pași și decizii agentice.","definition":"Fluxurile de lucru agentice organizează apelurile de modele, instrumentele, verificările, reîncercările și transferurile într-un proces controlat.","importance":"Un flux de lucru permite delimitarea autonomiei și favorizează componente specializate în locul unei bucle infinite neclare.","boundary":"Un flux grafic nu demonstrează o autoritate corectă sau o gestionare validă a erorilor; fiecare tranziție are nevoie de semantică precisă.","keywords":["flux de lucru","orchestrare","automat de stări","buclă","agentic workflows"],"related":["ai-agents","multi-agent-systems","observability","production-genai"]},{"id":"memory-systems","number":22,"title":"Memory Systems","category":"Agenți & Interfețe","summary":"Stare persistentă sau adiacentă execuției, situată în afara contextului modelului.","definition":"Sistemele de memorie stochează conversații, observații, fapte, stări de lucru sau rezumate dincolo de apelurile individuale ale modelului.","importance":"Asigură continuitate și reduc nevoia de a reintroduce întreaga istorie în prompt.","boundary":"Stocat nu înseamnă adevărat; amintirile au nevoie de proveniență, versiune, validitate și reguli de ștergere sau revocare.","keywords":["memorie pe termen lung","stare","stocare","memoria conversației","sisteme de memorie"],"related":["rag","ai-agents","vector-databases","observability"]},{"id":"multi-agent-systems","number":23,"title":"Multi-Agent Systems","category":"Agenți & Interfețe","summary":"Mai multe roluri distincte de agenți colaborează la aceeași sarcină.","definition":"Sistemele multi-agent distribuie planificarea, cercetarea, analiza critică sau execuția între mai mulți actori bazați pe modele sau reguli, cu căi de comunicare definite.","importance":"Specializarea și verificarea încrucișată pot structura sarcini complexe de lucru.","boundary":"Acordul dintre mai multe modele nu reprezintă un adevăr independent; o amprentă comună din antrenare poate multiplica aceeași eroare.","keywords":["agenți","dezbatere","orchestrare","roluri","sisteme multi-agent"],"related":["ai-agents","agentic-workflows","llm-evaluation"]},{"id":"mcp","number":24,"title":"MCP","category":"Agenți & Interfețe","summary":"Un protocol deschis pentru instrumente, resurse și prompturi între gazde și servere AI.","definition":"Model Context Protocol standardizează comunicarea dintre gazdă, clienți și servere specializate. Serverele pot oferi resurse, instrumente și prompturi clar declarate; capabilitățile sunt negociate explicit.","importance":"Reduce integrările proprietare punct-la-punct și face serviciile specializate ușor combinabile.","boundary":"MCP standardizează transportul și suprafața de capabilități, nu adevărul, autorizarea instrumentelor sau calitatea dovezilor.","keywords":["model context protocol","host client server","resurse","instrumente","prompturi"],"related":["tool-calling","function-calling","ai-agents"],"reference":"https://modelcontextprotocol.io/docs/learn/architecture"},{"id":"structured-outputs","number":25,"title":"Structured Outputs","category":"Agenți & Interfețe","summary":"Ieșiri ale modelului care respectă o schemă fixă, lizibilă automat.","definition":"Ieșirile structurate constrâng răspunsul la câmpuri, tipuri și valori permise, de obicei prin JSON Schema, gramatici formale sau decodare constrânsă.","importance":"Fac ieșirile validabile și reduc ambiguitățile la parsare.","boundary":"Valid structural nu înseamnă corect semantic; un obiect perfect valid poate conține valori complet eronate.","keywords":["json","schemă","gramatică constrânsă","ieșire tipizată","ieșiri structurate"],"related":["function-calling","guardrails","llm-evaluation"]},{"id":"optimizer","number":26,"title":"Optimizator","category":"Antrenare & Adaptare","summary":"Un algoritm care actualizează parametrii modelului în timpul antrenării.","definition":"Un optimizator folosește gradienții și o rată de învățare pentru a actualiza parametrii modelului. Metodele diferă prin modul în care combină gradienții anteriori, scalează actualizările individuale și aplică weight decay.","importance":"Alegerea optimizatorului influențează direct stabilitatea antrenării, viteza de convergență și overhead-ul de memorie.","boundary":"Un optimizator nu stabilește obiectivul de antrenare și nici nu garantează generalizarea. Această aplicație folosește în prezent AdamW și nu oferă o selecție a optimizatorului.","keywords":["coborâre pe gradient","rată de învățare","actualizare parametri","starea optimizatorului","optimizator"],"related":["sgd","rmsprop","adam","adamw","fine-tuning"]},{"id":"sgd","number":27,"title":"SGD","category":"Antrenare & Adaptare","summary":"Coborârea stochastică pe gradient actualizează ponderile pe baza gradienților unor batch-uri eșantionate.","definition":"SGD simplu scade din fiecare parametru gradientul scalat cu rata de învățare. Momentum este o variantă opțională care duce mai departe o parte din actualizările anterioare.","importance":"Regula simplă de actualizare face ușor de urmărit comportamentul optimizatorului și efectul ratei de învățare.","boundary":"SGD simplu are puțină stare persistentă, dar poate necesita o alegere atentă a ratei de învățare. Este un concept de comparație, nu un optimizator selectabil în această aplicație.","keywords":["coborâre stochastică pe gradient","momentum","rată de învățare","minibatch","optimizator"],"related":["optimizer","rmsprop","adam","adamw"],"reference":"https://docs.pytorch.org/docs/stable/generated/torch.optim.SGD.html"},{"id":"rmsprop","number":28,"title":"RMSprop","category":"Antrenare & Adaptare","summary":"O actualizare adaptivă scalată printr-o medie mobilă a gradienților pătrați.","definition":"RMSprop urmărește pentru fiecare parametru gradienții pătrați recenți și împarte gradientul la estimarea rădăcinii lor, cu un mic termen de stabilizare.","importance":"Ilustrează de ce parametri diferiți pot primi dimensiuni efective diferite ale pasului.","boundary":"Pașii adaptivi nu garantează un loss de validare mai bun și nu previn overfitting-ul. RMSprop nu poate fi selectat în această aplicație.","keywords":["rată de învățare adaptivă","gradient pătrat","medie mobilă","optimizator"],"related":["optimizer","sgd","adam","adamw"],"reference":"https://docs.pytorch.org/docs/stable/generated/torch.optim.RMSprop.html"},{"id":"adam","number":29,"title":"Adam","category":"Antrenare & Adaptare","summary":"Adaptive Moment Estimation combină medii mobile ale gradienților și ale pătratelor lor.","definition":"Adam păstrează pentru fiecare parametru o estimare a primului moment al gradienților și una a celui de-al doilea moment al gradienților pătrați, apoi le folosește pentru a scala actualizările.","importance":"Explică memoria suplimentară pentru starea optimizatorului afișată la planificarea unei rulări.","boundary":"Adam folosește stare suplimentară și nu asigură prin el însuși generalizarea. Aplicația folosește AdamW, nu o opțiune Adam selectabilă.","keywords":["estimare adaptivă a momentelor","primul moment","al doilea moment","starea optimizatorului"],"related":["optimizer","rmsprop","adamw"],"reference":"https://docs.pytorch.org/docs/stable/generated/torch.optim.Adam.html"},{"id":"adamw","number":30,"title":"AdamW","category":"Antrenare & Adaptare","summary":"Decuplează weight decay de actualizarea pe bază de gradient pentru a păstra puterea reală de regularizare.","definition":"AdamW păstrează estimările primului și celui de-al doilea moment din Adam, dar aplică weight decay separat de actualizarea adaptivă pe bază de gradient. Această aplicație folosește AdamW pentru preantrenare și fine-tuning.","importance":"Este optimizatorul standard pentru antrenarea modelelor de limbaj mari moderne.","boundary":"Aplicația nu oferă o selecție a optimizatorului; de asemenea, AdamW și weight decay necesită validare și nu garantează rezultate mai bune.","keywords":["decoupled weight decay","adam","starea optimizatorului","preantrenare","sft"],"related":["optimizer","adam","fine-tuning","sft"],"reference":"https://docs.pytorch.org/docs/stable/generated/torch.optim.AdamW.html"},{"id":"fine-tuning","number":31,"title":"Fine-Tuning","category":"Antrenare & Adaptare","summary":"Antrenarea suplimentară a unui model preantrenat pentru o sarcină sau un domeniu.","definition":"La fine-tuning, parametrii modelului sunt actualizați cu un set de date mai mic și țintit. Acest lucru poate specializa comportamentul, formatul sau performanța într-un domeniu.","importance":"Mută tiparele recurente din prompt în ponderi.","boundary":"Fine-tuning-ul nu garantează nici generalizarea, nici fapte actuale și poate deplasa capabilitățile existente.","keywords":["supervised fine tuning","sft","antrenare","ponderi","fine-tuning"],"related":["sft","lora-qlora","peft","dpo","rlhf"]},{"id":"sft","number":32,"title":"SFT","category":"Antrenare & Adaptare","summary":"Supervised Fine-Tuning deprinde comportamentul conversațional prin perechi demonstrative.","definition":"SFT continuă antrenarea unui model preantrenat pe exemple de conversații. În această aplicație, întreaga conversație oferă context, dar numai tokenii de răspuns ai asistentului contribuie la loss-ul de antrenare.","importance":"Transformă un model de bază de continuare a textului într-un asistent conversațional utilizabil.","boundary":"SFT învață din exemplele pe care le primește; nu dovedește acuratețea factuală, alinierea la preferințe sau siguranța. Această aplicație actualizează direct ponderile modelului și nu antrenează adaptori LoRA.","keywords":["supervised fine tuning","instruction tuning","assistant loss mask","exemple de conversație"],"related":["fine-tuning","dpo","peft","adamw"]},{"id":"lora-qlora","number":33,"title":"LoRA & QLoRA","category":"Antrenare & Adaptare","summary":"Adaptare cu puțini parametri prin matrici suplimentare de rang redus.","definition":"LoRA îngheață matricea de bază și antrenează adaptori mici low-rank. QLoRA combină acest principiu cu un model de bază cuantizat pentru a reduce și mai mult consumul de memorie.","importance":"Face posibilă adaptarea modelelor mari cu semnificativ mai puțini parametri antrenabili.","boundary":"Mai puțini parametri antrenabili nu înseamnă automat un necesar mai mic de date, o calitate mai bună sau o evaluare mai simplă. LoRA și QLoRA nu sunt oferite în această aplicație, care antrenează toate ponderile propriilor checkpoint-uri GPT.","keywords":["low rank","adaptor","antrenare cuantizată","qlora","lora"],"related":["peft","fine-tuning","quantization"]},{"id":"peft","number":34,"title":"PEFT","category":"Antrenare & Adaptare","summary":"O familie de metode eficiente din punctul de vedere al parametrilor pentru fine-tuning.","definition":"Parameter-Efficient Fine-Tuning modifică doar o mică parte din parametri suplimentari sau selectați, cum ar fi adaptori, prefixe sau matrici low-rank.","importance":"Reduce costurile de memorie și calcul pentru numeroase variante specializate.","boundary":"PEFT este o metodă de antrenare, nu o garanție de izolare între roluri sau de combinare sigură a adaptorilor. Această aplicație nu oferă nicio metodă PEFT; pretraining, SFT, DPO și ORPO actualizează toate ponderile checkpoint-urilor GPT antrenate în aplicație.","keywords":["parameter efficient","adaptori","prefix tuning","lora","peft"],"related":["lora-qlora","fine-tuning","model-compression"]},{"id":"rlhf","number":35,"title":"RLHF","category":"Antrenare & Adaptare","summary":"Optimizarea unui model cu feedback învățat din preferințele umane.","definition":"Reinforcement Learning from Human Feedback folosește comparații umane, un model de preferințe sau de recompensă și optimizare ulterioară pentru a alinia răspunsurile la comportamentul dorit.","importance":"Poate îmbunătăți utilitatea, stilul și comportamentul de siguranță.","boundary":"Preferința nu reprezintă adevăr; reward hacking-ul și standardele neclare ale evaluatorilor rămân posibile. RLHF cu un model de recompensă nu este implementat în această aplicație; modurile DPO și ORPO învață în schimb din perechi de preferințe offline.","keywords":["reward model","feedback uman","preferință","reinforcement learning","rlhf"],"related":["dpo","fine-tuning","ai-safety","llm-evaluation"]},{"id":"dpo","number":36,"title":"DPO","category":"Antrenare & Adaptare","summary":"Optimizare directă către răspunsurile preferate în defavoarea celor respinse.","definition":"Direct Preference Optimization antrenează un model direct din perechi de răspunsuri, fără a rula o buclă clasică separată de RL cu un model propriu de recompensă.","importance":"Simplifică alinierea la preferințe în comparație cu multe fluxuri RLHF.","boundary":"Metoda moștenește calitatea, bias-ul și ontologia datelor de preferință și nu dovedește fidelitate factuală.","keywords":["direct preference optimization","ales respins","date de preferință","dpo"],"related":["sft","rlhf","fine-tuning","prompt-evaluation"]},{"id":"knowledge-distillation","number":37,"title":"Knowledge Distillation","category":"Antrenare & Adaptare","summary":"Un model mai mic învață din ieșirile sau reprezentările unui profesor mai mare.","definition":"Distilarea transferă comportamentul unui model profesor către un elev mai mic, de exemplu prin soft targets, logits, stări intermediare sau exemple de antrenare generate.","importance":"Poate produce specialiști compacți care rulează local și cu costuri reduse.","boundary":"Elevul preia și erorile sau unghiurile moarte ale profesorului; acordul cu profesorul nu constituie o referință absolută independentă. Distilarea nu este un mod de antrenare în această aplicație.","keywords":["teacher student","soft targets","logits","model student","distilare"],"related":["model-compression","fine-tuning","llm-evaluation"]},{"id":"quantization","number":38,"title":"Quantization","category":"Antrenare & Adaptare","summary":"Reprezentarea ponderilor sau activărilor folosind mai puțini biți.","definition":"Cuantizarea reduce precizia numerică, de exemplu de la FP32 la FP16, INT8 sau formate inferioare. Poate avea loc după antrenare sau în timpul antrenării conștiente de cuantizare.","importance":"Reduce utilizarea memoriei și poate accelera inferența.","boundary":"Erorile de rotunjire și scalare pot genera eșecuri funcționale rare pe care o valoare agregată le maschează.","keywords":["int8","int4","fp16","precizie","rotunjire","cuantizare"],"related":["model-compression","llm-inference","lora-qlora"]},{"id":"model-compression","number":39,"title":"Model Compression","category":"Antrenare & Adaptare","summary":"Metode pentru reducerea dimensiunii modelului sau a costului de calcul.","definition":"Compresia modelelor cuprinde cuantizarea, pruning-ul, distilarea, factorizarea și alte metode care fac un model mai mic sau mai rapid.","importance":"Permite execuția locală și un consum redus de resurse operaționale.","boundary":"Compresia este un succes numai dacă axele relevante de calitate și siguranță sunt conservate.","keywords":["pruning","distilare","cuantizare","reducere dimensiune","compresie"],"related":["quantization","knowledge-distillation","cost-optimization"]},{"id":"llm-inference","number":40,"title":"LLM Inference","category":"Inferență & Operațiuni","summary":"Rularea unui model antrenat pe intrări noi.","definition":"Inferența cuprinde preprocesarea, trecerile directe (forward passes), decodarea, gestionarea cache-ului și pregătirea ieșirii pentru un model deja antrenat.","importance":"Aici se manifestă latența reală, consumul de memorie, paralelizarea și comportamentul la execuție.","boundary":"Un checkpoint încărcat corect și o decodare deterministă nu dovedesc corectitudinea factuală.","keywords":["forward pass","decodare","runtime","generare","inferență"],"related":["forward-pass","sampling","kv-cache","speculative-decoding","llm-serving","quantization"]},{"id":"kv-cache","number":41,"title":"KV Cache","category":"Inferență & Operațiuni","summary":"Un cache pentru cheile și valorile de atenție ale tokenilor deja procesați.","definition":"În decodarea autoregresivă, cache-ul KV stochează stările calculate de cheie și valoare, astfel încât tokenii anteriori să nu fie reprocesați complet pentru fiecare token nou.","importance":"Accelerează considerabil generarea, dar poate ocupa un volum mare de memorie.","boundary":"Cache-ul stochează Key-uri și Value-uri, nu ponderi de atenție sau ieșiri: fiecare Query nou calculează ponderi noi peste toate Key-urile din cache. La Grouped-Query Attention păstrează o intrare pentru fiecare Head Key/Value, nu pentru fiecare Head Query. Decodarea cu cache și recalcularea completă a contextului sunt pe hârtie același calcul, dar nu identice la bit; în bfloat16 logits-urile pot diferi vizibil.","keywords":["key value cache","decodare","memorie","autoregresiv","kv cache"],"related":["llm-inference","context-windows","vllm"]},{"id":"speculative-decoding","number":42,"title":"Speculative Decoding","category":"Inferență & Operațiuni","summary":"O schiță rapidă este verificată în bloc de către un model țintă.","definition":"În decodarea speculativă, o metodă mai mică sau mai ieftină generează mai multe propuneri de tokeni pe care modelul țintă le acceptă sau le respinge în mai puțini pași.","importance":"Poate reduce latența fără a modifica intenționat distribuția modelului țintă.","boundary":"Metoda accelerează decodarea, dar nu rezolvă problemele de evidență, halucinație sau autoritate.","keywords":["model schiță","verificare","accelerare decodare","tokeni","speculative decoding"],"related":["llm-inference","llm-serving","vllm"]},{"id":"llm-serving","number":43,"title":"LLM Serving","category":"Inferență & Operațiuni","summary":"Furnizarea modelelor ca servicii de execuție robuste și planificabile.","definition":"LLM serving acoperă încărcarea modelelor, coada de cereri, batching-ul, paralelizarea, timeout-urile, streaming-ul, scalarea și izolarea erorilor.","importance":"Determină dacă un model este reproductibil și operabil sub sarcină reală.","boundary":"Un debit ridicat nu constituie o dovadă de calitate sau guvernanță; servirea nu trebuie să ocolească filtrele de domeniu.","keywords":["deployment","batching","debit","latență","runtime","servire"],"related":["vllm","llm-inference","observability","production-genai"]},{"id":"vllm","number":44,"title":"vLLM","category":"Inferență & Operațiuni","summary":"Un stack specializat open-source de servire pentru sarcini ridicate de LLM.","definition":"vLLM este un engine de inferență și servire cu gestionare a memoriei pentru cache-ul KV, continuous batching și căi de execuție optimizate suplimentar.","importance":"Poate oferi un debit ridicat pentru modele și componente hardware compatibile.","boundary":"vLLM reprezintă infrastructură: nu definește nici proveniența dovezilor, nici rolul modelului, autoritatea instrumentelor sau validarea afirmațiilor.","keywords":["pagedattention","continuous batching","serving engine","kv cache","vllm"],"related":["llm-serving","kv-cache","speculative-decoding"],"reference":"https://docs.vllm.ai/en/latest/"},{"id":"model-routing","number":45,"title":"Model Routing","category":"Inferență & Operațiuni","summary":"O cerere este direcționată către un model sau o cale adecvată.","definition":"Rutarea modelelor selectează între mai multe modele și căi de procesare pe baza sarcinii, domeniului, riscului, costului sau disponibilității.","importance":"Permite specializarea și împiedică fiecare cerere să consume resursele celui mai scump monolit.","boundary":"Un ruter greșit poate genera rezultate plauzibile intern într-un domeniu greșit; starea necunoscută trebuie să fie o ieșire distinctă.","keywords":["ruter","selector domeniu","mixture of experts","fallback","rutare"],"related":["ai-agents","reranking","production-genai"]},{"id":"guardrails","number":46,"title":"Guardrails","category":"Calitate & Guvernanță","summary":"Delimitări tehnice pentru intrări, ieșiri și acțiuni.","definition":"Mecanismele de guardrails verifică sau limitează formatele, conținutul, valorile, permisiunile și acțiunile înainte, în timpul sau după apelul unui model.","importance":"Reduc clase de erori clar identificate și pot impune comportamente de tip fail-closed.","boundary":"Un filtru plasat în aval nu poate inventa retroactiv dovezi lipsă și nu trebuie să devină decidentul ascuns al sistemului.","keywords":["validare","politică","filtru","fail closed","guardrails"],"related":["ai-safety","structured-outputs","hallucination-detection","tool-calling"]},{"id":"ai-safety","number":47,"title":"AI Safety","category":"Calitate & Guvernanță","summary":"Identificarea, limitarea și demonstrarea riscurilor sistemelor de inteligență artificială.","definition":"Siguranța AI cuprinde metode tehnice și organizaționale împotriva comportamentelor eronate, utilizării abuzive, pierderii controlului, efectelor secundare nedorite și deciziilor nesustenabile.","importance":"Capabilitatea fără delimitarea consecințelor nu este un obiectiv suficient în sisteme reale.","boundary":"Siguranța nu este o metrică unică și nici un prompt; depinde de contextul sistemului, drepturi și costurile erorilor.","keywords":["risc","aliniere","control","utilizare abuzivă","robustețe","siguranță ai"],"related":["guardrails","observability","llm-evaluation","production-genai"]},{"id":"hallucination-detection","number":48,"title":"Hallucination Detection","category":"Calitate & Guvernanță","summary":"Verificarea dacă o afirmație generată este lipsită de suport sau contradictorie.","definition":"Detectarea halucinațiilor compară ieșirile cu surse, reguli, alte modele sau semnale de consistență pentru a semnala afirmațiile nefondate.","importance":"Poate face vizibile erorile înainte de livrarea răspunsului.","boundary":"Un detector este el însuși predispus la erori; detectarea a posteriori nu înlocuiește o arhitectură care leagă afirmațiile de dovezi.","keywords":["factualitate","afirmație nesusținută","verificare","grounding","detecție halucinații"],"related":["rag","guardrails","llm-evaluation","structured-outputs"]},{"id":"llm-evaluation","number":49,"title":"LLM Evaluation","category":"Calitate & Guvernanță","summary":"Măsurarea sistematică a comportamentului modelului pe suprafețe definite.","definition":"Evaluarea LLM combină seturi de date, metrici, baseline-uri, judecăți umane, contrafactuale și teste de robustețe pentru întrebări clar delimitate.","importance":"Doar o evaluare delimitată separă progresul de impresie, noroc de prompt sau adaptare la teste.","boundary":"O metrică agregată poate ascunde eșecuri funcționale, cozile rezultatelor pe seed-uri, acoperirea și abținerile.","keywords":["benchmark","metrici","gold standard","baseline","evaluare llm"],"related":["prompt-evaluation","observability","ai-safety"]},{"id":"prompt-evaluation","number":50,"title":"Prompt Evaluation","category":"Calitate & Guvernanță","summary":"Compararea variantelor de prompt pe o sarcină și un eșantion fixe.","definition":"Evaluarea prompturilor măsoară modul în care instrucțiunile, exemplele și cerințele de format afectează ieșirile definite.","importance":"Previne considerarea unor exemple atractive izolate drept îmbunătățire generală.","boundary":"Calitatea promptului este doar o componentă; schimbările de furnizor, model, date și decodor trebuie analizate separat.","keywords":["testare prompt","test ab","șablon","furnizor","evaluare prompt"],"related":["prompt-engineering","llm-evaluation","few-shot-learning"]},{"id":"observability","number":51,"title":"Observability","category":"Calitate & Guvernanță","summary":"Înțelegerea din datele de rulare a ceea ce a făcut un sistem și unde a eșuat.","definition":"Observabilitatea conectează jurnale structurate, trace-uri, metrici și versiuni de artefacte între componente și cereri.","importance":"Permite investigarea erorilor, costurilor, latenței și a deviațiilor fără a încerca ghicirea execuției după fapt.","boundary":"Un jurnal arată un eveniment, dar nu automat justificarea sa funcțională sau semnificația cauzală.","keywords":["jurnale","trace-uri","metrici","telemetrie","lineage","observabilitate"],"related":["production-genai","llm-evaluation","ai-safety"]},{"id":"cost-optimization","number":52,"title":"AI Cost Optimization","category":"Calitate & Guvernanță","summary":"Reducerea corelată cu calitatea a costurilor de calcul, memorie și operare.","definition":"Optimizarea costurilor folosește rutare, modele mai mici, batching, caching, cuantizare, sarcini utile limitate și o utilizare mai eficientă a resurselor.","importance":"Decide dacă un sistem este scalabil din punct de vedere economic.","boundary":"O ieșire mai mică sau mai ieftină nu este un succes dacă scade acoperirea dovezilor, siguranța pe cazurile limită sau calitatea sarcinii.","keywords":["latență","tokeni","utilizare gpu","sarcină utilă","economie","optimizare costuri"],"related":["model-routing","quantization","model-compression","llm-serving"]},{"id":"multimodal-ai","number":53,"title":"Multimodal AI","category":"Modalitate & Producție","summary":"Procesarea comună a mai multor modalități precum text, imagine și audio.","definition":"Sistemele multimodale conectează reprezentări și sarcini peste date de tip text, imagine, audio, video sau date de la senzori.","importance":"Multe decizii din lumea reală nu se bazează exclusiv pe text.","boundary":"Fiecare modalitate are propriile erori de măsurare, axe temporale și proveniență; codificarea comună nu elimină aceste limite.","keywords":["imagine","audio","video","senzor","modalități","ai multimodal"],"related":["vision-language-models","production-genai","embeddings"]},{"id":"vision-language-models","number":54,"title":"Vision-Language Models","category":"Modalitate & Producție","summary":"Modele pentru sarcini comune de imagine și limbaj.","definition":"Modelele vizual-lingvistice codifică intrările vizuale și limbajul într-un spațiu comun sau cuplat, de exemplu pentru descrieri de imagini, întrebări vizuale sau analiza documentelor.","importance":"Deschid capturile de ecran, diagramele, scanările și scenele reale pentru fluxurile de lucru lingvistice.","boundary":"O descriere a unei imagini este o propunere de percepție; nu reprezintă automat o înregistrare sursă dovedită.","keywords":["vlm","vision encoder","înțelegere imagini","ocr","modele vizual-lingvistice"],"related":["multimodal-ai","structured-outputs","hallucination-detection","visual-encoder","encoder-free-multimodal"]},{"id":"ai-coding-agents","number":55,"title":"AI Coding Agents","category":"Modalitate & Producție","summary":"Agenți care citesc, modifică și testează cod și operează instrumente de dezvoltare.","definition":"Agenții de programare conectează modelele de limbaj cu căutarea în repository, editoare, shell, build, teste și controlul versiunilor.","importance":"Pot lucra la sarcini software în mai mulți pași peste artefacte reale.","boundary":"Generarea de cod nu este corectitudine de cod; drepturile, domeniul de aplicare, testele, revizuirea și modificările reversibile rămân necesare.","keywords":["asistent de programare","repository","teste","instrumente de dezvoltare","coding agents"],"related":["ai-agents","tool-calling","mcp","production-genai"]},{"id":"production-genai","number":56,"title":"Production GenAI Systems","category":"Modalitate & Producție","summary":"Întregul serviciu operabil construit în jurul modelelor, datelor, instrumentelor și guvernanței.","definition":"Un sistem GenAI de producție include nu doar un model, ci și versiuni de date și modele, API-uri, identități, cozi de așteptare, monitorizare, teste, rollback, costuri, limite de securitate și procese umane.","importance":"Majoritatea erorilor reale apar la nivelul interfețelor și al stărilor operaționale, nu doar în faza de forward pass.","boundary":"O demonstrație cu răspunsuri bune nu este încă un sistem pregătit pentru producție.","keywords":["producție","deployment","fiabilitate","operațiuni","guvernanță","genai"],"related":["observability","llm-serving","ai-safety","agentic-workflows"]},{"id":"json","number":57,"title":"JSON","category":"Fundamente","summary":"Un format text pentru valori structurate, precum obiecte și tablouri.","definition":"JSON reprezintă obiecte, tablouri, șiruri de caractere, numere, valori booleene și null printr-o sintaxă compactă, independentă de limbajul de programare.","importance":"Exemplele pentru model, configurațiile și răspunsurile instrumentelor folosesc des JSON deoarece software-ul îi poate interpreta structura.","boundary":"Un JSON valid sintactic nu garantează că o înregistrare conține câmpurile sau sensul cerut de o sarcină de antrenare.","keywords":["obiect","tablou","date structurate","serializare"],"matchTerms":["json"],"related":["jsonl","structured-outputs","dataset"],"reference":"https://www.rfc-editor.org/rfc/rfc8259"},{"id":"jsonl","number":58,"title":"JSONL","category":"Fundamente","summary":"Câte o valoare JSON completă pe fiecare linie, adesea câte un exemplu.","definition":"Un fișier JSON Lines este text UTF-8 în care fiecare linie nevidă este, separat, o valoare JSON validă. Extensia .jsonl este uzuală.","importance":"Exemplele pot fi citite și verificate pe rând, fără încărcarea unui tablou JSON mare.","boundary":"O linie validă sintactic poate avea totuși o schemă sau un conținut nepotrivit pentru antrenare.","keywords":["JSON Lines","JSON pe linii","exemple de antrenare"],"matchTerms":["JSON Lines","jsonl"],"related":["json","dataset","sft","dpo"],"reference":"https://jsonlines.org/"},{"id":"checkpoint","number":59,"title":"Checkpoint","category":"Antrenare & Adaptare","summary":"O stare a modelului salvată la un anumit pas al antrenării.","plain":"O copie salvată a modelului dintr-un moment al antrenării, ca o salvare într-un joc.","definition":"Un checkpoint păstrează parametrii modelului și metadatele care identifică pasul. În această aplicație, un checkpoint din care se poate relua conține și momentele optimizatorului, pasul, poziția în date și starea generatorului aleator (rata de învățare se recalculează din pas); checkpoint-urile 'best' care conțin doar ponderi pot fi folosite, dar nu reluate.","importance":"Poți inspecta și compara stări anterioare, nu doar rezultatul ultimului pas.","boundary":"Un checkpoint nu dovedește calitatea modelului și nu este neapărat un pachet portabil pentru inferență.","keywords":["ponderi","pas de antrenare","reluare antrenare","starea modelului"],"matchTerms":["checkpoint-uri","checkpoint-urile","punct de control","puncte de control"],"related":["training","dataset","validation-loss","llm-inference"],"reference":"https://docs.pytorch.org/tutorials/beginner/saving_loading_models"},{"id":"dataset","number":60,"title":"Set de date","category":"Antrenare & Adaptare","summary":"O colecție de exemple pregătite pentru antrenare sau evaluare.","definition":"Un set de date selectează și organizează exemple și țintele așteptate; de multe ori separă porțiunile de antrenare și validare.","importance":"Sursa, acoperirea și împărțirea datelor influențează ce poate învăța modelul și ce măsoară un loss raportat.","boundary":"Un set mare sau bine formatat nu este automat reprezentativ, curat sau lipsit de suprapuneri între porțiuni.","keywords":["date de antrenare","porțiune de validare","exemple","corpus"],"matchTerms":["seturi de date","setul de date","seturile de date","dataset","datasets"],"related":["jsonl","tokenization","training","validation-loss"]},{"id":"gpt-2","number":61,"title":"GPT-2","category":"Fundamente","summary":"Un model de limbaj OpenAI și un tokenizer BPE la nivel de octet folosit pe scară largă.","definition":"GPT-2 este un model de limbaj Transformer prezentat în 2019. Tokenizerul său publicat mapează octeții UTF-8 la simboluri și aplică îmbinări byte-pair învățate.","importance":"Vocabularul său publicat oferă în această aplicație un punct fix de comparație cu tokenizerele antrenate pe textul tău.","boundary":"Alegerea tokenizerului GPT-2 nu transformă alt model în GPT-2 și nu îi transferă ponderile învățate.","keywords":["gpt2","openai","vocabular publicat","byte-level bpe"],"matchTerms":["GPT2"],"related":["byte-level","tokenization","transformers"],"reference":"https://openai.com/index/better-language-models/"},{"id":"training","number":62,"title":"Antrenare","category":"Antrenare & Adaptare","summary":"Actualizarea repetată a parametrilor modelului din exemple și un semnal de loss.","definition":"La fiecare pas, modelul face o predicție, loss-ul măsoară eroarea, se calculează gradienții, iar optimizatorul actualizează parametrii.","importance":"Urmărirea pașilor și a loss-ului leagă comportamentul modelului de datele și obiectivul care l-au format.","boundary":"Scăderea loss-ului de antrenare nu garantează rezultate mai bune pe exemple noi sau răspunsuri utile.","keywords":["gradient","optimizator","rulare de antrenare","actualizare parametri"],"matchTerms":["antrenări","antrenarea","antrenările","antrenamentul","training","training runs"],"related":["dataset","loss","validation-loss","optimizer","checkpoint"],"reference":"https://docs.pytorch.org/tutorials/beginner/basics/optimization_tutorial"},{"id":"byte-level","number":63,"title":"Byte-Level","category":"Fundamente","summary":"O reprezentare pentru tokenizare care pornește de la octeți, nu de la o listă fixă de caractere.","definition":"Tokenizarea byte-level pornește de la octeții textului codificat; byte-level BPE poate apoi îmbina secvențe frecvente de octeți în tokeni mai mari.","importance":"Baza de octeți poate reprezenta text dincolo de un vocabular mic de caractere fără un token pentru caracter necunoscut.","boundary":"Byte-level BPE nu înseamnă că fiecare token final are exact un octet sau un caracter vizibil.","keywords":["utf-8","octeți","byte-pair encoding","bpe"],"matchTerms":["la nivel de octet","nivel de octet","niveluri de octet","byte level"],"related":["gpt-2","tokenization"],"reference":"https://cdn.openai.com/better-language-models/language-models.pdf"},{"id":"loss","number":64,"title":"Loss","category":"Antrenare & Adaptare","summary":"O valoare numerică a erorii sub un anumit obiectiv de învățare.","definition":"O funcție de loss compară predicțiile cu țintele. În antrenare, gradienții ei ghidează actualizarea parametrilor; modelele next-token folosesc adesea cross-entropy loss.","importance":"Curba de loss arată dacă modelul se adaptează la sarcina primită.","boundary":"Un loss de antrenare mai mic nu măsoară direct adevărul, utilitatea sau performanța pe date noi.","keywords":["cross-entropy","obiectiv","eroare","curba de antrenare"],"matchTerms":["loss-uri","loss-ul","pierdere","pierderi","loss de antrenare"],"related":["training","validation-loss","optimizer"],"reference":"https://docs.pytorch.org/tutorials/beginner/basics/optimization_tutorial"},{"id":"validation-loss","number":65,"title":"Loss de validare","category":"Antrenare & Adaptare","summary":"Loss calculat pe exemple separate, fără actualizarea ponderilor modelului.","definition":"Loss-ul de validare aplică obiectivul pe o porțiune separată și lasă parametrii neschimbați. Ajută la compararea checkpoint-urilor și la observarea diferenței față de loss-ul de antrenare.","importance":"Oferă o verificare limitată a generalizării dincolo de exemplele folosite la actualizări.","boundary":"Alegerile repetate pe aceeași porțiune pot supraînvăța și datele de validare; o valoare mică nu garantează răspunsuri bune. Valorile sunt comparabile doar între rulări care folosesc același tokenizer și aceeași porțiune de validare.","keywords":["val loss","date separate","generalizare","supraînvățare"],"matchTerms":["loss-uri de validare","pierdere de validare","pierderi de validare","validation loss","validation-loss","val-loss"],"related":["loss","training","dataset","checkpoint"],"reference":"https://docs.pytorch.org/tutorials/beginner/introyt/trainingyt"},{"id":"forward-pass","number":66,"title":"Trecere directă (forward pass)","category":"Fundamente","summary":"O rulare a modelului de la tokenii de intrare până la scorurile pentru următorul token.","plain":"O rulare completă prin model: intră text, iese o presupunere pentru următorul cuvânt.","definition":"Într-o trecere directă, ID-urile tokenilor din context trec prin embedding și apoi, pe rând, prin toate blocurile Transformer. La generare, capul de ieșire citește ultima poziție și atribuie un scor fiecărui token din vocabular; fiecare token nou necesită o nouă trecere. Cu un cache KV, trecerile ulterioare procesează doar cel mai nou token și citesc Key-urile și Value-urile anterioare din cache.","importance":"Este unitatea de lucru din spatele fiecărui token prezis. Brain Explorer desenează o trecere ca trasee de tokeni prin blocuri.","boundary":"O trecere calculează scoruri, dar nu alege niciun token; alegerea o face apoi sampling-ul. În timpul inferenței, ponderile nu se modifică.","keywords":["inferență","forward","următorul token","trasee de tokeni"],"matchTerms":["trecere directă","trecerea directă","treceri directe","trecerile directe","forward pass"],"related":["llm-inference","transformer-block","output-head","sampling"]},{"id":"transformer-block","number":67,"title":"Bloc Transformer","category":"Fundamente","summary":"Un strat repetat al unui Transformer: Attention, apoi un MLP, ambele adunate la fluxul rezidual.","plain":"Un etaj al modelului. Textul trece pe rând prin multe astfel de etaje.","definition":"Un bloc își normalizează intrarea, lasă capetele de atenție să citească din alte poziții și adună rezultatul lor la fluxul rezidual. Apoi normalizează din nou, aplică MLP-ul la fiecare poziție și adună și acest rezultat. Un model suprapune multe blocuri cu aceeași structură, dar cu ponderi proprii, și le execută unul după altul.","importance":"Blocurile dau adâncimea modelului: fiecare poate rafina starea pe care o citesc toate blocurile următoare.","boundary":"Un bloc nu este un Head: capetele de atenție din Multi-Head Attention lucrează în paralel în interiorul unui bloc, în timp ce blocurile se succed. Numărul de blocuri, singur, nu spune nimic despre calitate.","keywords":["strat","layer","bloc decoder","n_layer","adâncime"],"matchTerms":["blocuri Transformer","blocul Transformer","blocurile Transformer","transformer block"],"related":["transformers","attention-head","multi-head-attention","mlp","residual-stream","layer-norm"],"reference":"https://arxiv.org/abs/1706.03762"},{"id":"attention-head","number":68,"title":"Attention Head (cap de atenție)","category":"Fundamente","summary":"Unul dintre mai multe calcule de atenție care rulează în paralel în interiorul unui bloc Transformer.","plain":"Unul dintre mai mulți cititori dintr-un bloc; fiecare poate căuta alt fel de legătură.","definition":"Fiecare Head are propria proiecție Query pe o parte din lățimea vectorului (head_dim dimensiuni). În Multi-Head Attention clasică (GPT-2, propriile Checkpoint-uri) fiecare Head are și propriile proiecții Key și Value. La Grouped-Query Attention (Llama, Qwen2) există mai puține Head-uri Key/Value decât Head-uri Query: mai multe Head-uri Query împart un Key și un Value. Fiecare Head Query își calculează totuși propriile ponderi de atenție, astfel încât Head-uri diferite pot pondera diferit aceleași poziții; ieșirile lor sunt unite și proiectate înapoi în fluxul rezidual.","importance":"Head-urile permit unui bloc să urmărească mai multe relații deodată. Brain Explorer arată ponderile unui Head înregistrat; pentru o înregistrare externă, Head Finder compară toate Head-urile unei runde înregistrate.","boundary":"Head-urile nu sunt blocuri: toate Head-urile unui bloc lucrează în paralel, blocurile lucrează succesiv. Ponderile unui singur Head arată doar o parte din ceea ce adaugă întregul strat Attention.","keywords":["head","n_head","multi-head","query key value","capete de atenție"],"matchTerms":["attention head","cap de atenție","capul de atenție","capete de atenție","capetele de atenție"],"related":["multi-head-attention","attention","transformer-block","causal-mask"],"reference":"https://arxiv.org/abs/1706.03762"},{"id":"causal-mask","number":69,"title":"Mască cauzală","category":"Fundamente","summary":"Regula conform căreia o poziție poate acorda atenție doar sieși și pozițiilor anterioare.","plain":"Regula că un cuvânt are voie să se uite doar înapoi, niciodată la cuvintele care urmează.","definition":"Înainte de softmax, scorurile de atenție pentru pozițiile ulterioare sunt setate la minus infinit, astfel încât ponderile lor devin exact zero. Într-o matrice de atenție, zona de deasupra diagonalei rămâne astfel goală.","importance":"Astfel, un model poate învăța predicția următorului token la toate pozițiile deodată, fără să vadă tokenii pe care trebuie să îi prezică.","boundary":"O celulă mascată nu este o pondere învățată egală cu zero; poziția respectivă nu poate fi atinsă deloc. Masca nu spune nimic despre care poziții anterioare contează.","keywords":["mască","autoregresiv","matrice triunghiulară","tokeni viitori","matrice de atenție"],"matchTerms":["masca cauzală","mascare cauzală","mascarea cauzală","causal mask"],"related":["attention","attention-head","softmax","positional-encoding"],"reference":"https://arxiv.org/abs/1706.03762"},{"id":"mlp","number":70,"title":"MLP (feed-forward)","category":"Fundamente","summary":"Partea unui bloc Transformer care procesează fiecare poziție separat.","plain":"Partea unui bloc în care fiecare cuvânt este prelucrat singur, fără să se uite la celelalte.","definition":"MLP-ul lărgește vectorul unei poziții, aplică o funcție neliniară și îl proiectează înapoi la lățimea inițială; rezultatul se adună la fluxul rezidual. În modelele de tip GPT-2 antrenate în această aplicație, lărgirea este de patru ori, iar funcția este GELU. Llama și Qwen2 folosesc un gated MLP (SwiGLU): două proiecții paralele de lărgire, dintre care una trece prin SiLU, se înmulțesc element cu element și apoi sunt proiectate înapoi; lățimea extinsă este intermediate_size.","importance":"Attention mută informația între poziții; MLP-ul o transformă în interiorul fiecărei poziții și conține o mare parte din parametri.","boundary":"MLP-ul nu citește din alte poziții. Într-un bloc, toate pozițiile folosesc aceleași ponderi MLP.","keywords":["feed forward","perceptron multistrat","gelu","strat ascuns","pe poziție"],"matchTerms":["MLP","MLP-ul","feed-forward","rețea feed-forward","rețeaua feed-forward","perceptron multistrat"],"related":["transformer-block","residual-stream","attention","transformers"],"reference":"https://arxiv.org/abs/1706.03762"},{"id":"residual-stream","number":71,"title":"Flux rezidual","category":"Fundamente","summary":"Vectorul curent al fiecărei poziții, din care citește fiecare bloc și la care adaugă.","plain":"O notiță continuă pentru fiecare cuvânt, pe care fiecare bloc o citește și o completează.","definition":"În modelele de tip GPT-2, fiecare poziție pornește de la embedding-ul tokenului plus embedding-ul poziției. Attention și MLP calculează contribuții care se adună la acest vector în loc să îl înlocuiască (conexiuni reziduale), astfel încât fluxul poartă informația prin toate blocurile până la normalizarea finală (LayerNorm, sau RMSNorm la Llama/Qwen2).","importance":"Adunările fac antrenabile modelele adânci. De aceea Brain Explorer desenează o linie gri cu noduri plus prin toate blocurile.","boundary":"Fluxul este un vector cu multe dimensiuni; puținele componente afișate într-o vizualizare sunt doar un eșantion, iar un singur număr are rareori o semnificație fixă.","keywords":["conexiune reziduală","skip connection","stare ascunsă","adunare"],"matchTerms":["fluxul rezidual","conexiune reziduală","conexiuni reziduale","conexiunile reziduale","residual stream","reziduu"],"related":["transformer-block","mlp","attention","layer-norm","embeddings"],"reference":"https://arxiv.org/abs/1512.03385"},{"id":"layer-norm","number":72,"title":"LayerNorm","category":"Fundamente","summary":"Aduce vectorul unei poziții la o medie și o dispersie standard înainte de calculul următor.","plain":"Aduce numerele unui cuvânt la o mărime comună, ca pasul următor să lucreze ușor cu ele.","definition":"Normalizarea de strat scade media componentelor unui vector, împarte la deviația lor standard și aplică apoi o scalare și o deplasare învățate. Blocurile pre-norm o aplică înainte de Attention și înainte de MLP; un LayerNorm final pregătește ultima stare pentru capul de ieșire. Llama și Qwen2 folosesc în aceleași locuri RMSNorm, care doar împarte la media pătratică și aplică o scalare învățată, fără scăderea mediei și fără deplasare.","importance":"Intervalele stabile de valori fac antrenarea fiabilă, chiar dacă fluxul rezidual crește de la bloc la bloc.","boundary":"LayerNorm lucrează în interiorul vectorului unei singure poziții și nu amestecă pozițiile. Din cauza scalării și deplasării învățate, ieșirea nu are întotdeauna exact media 0 și varianța 1.","keywords":["normalizare","ln_f","pre-norm","medie","varianță"],"matchTerms":["normalizare de strat","normalizarea de strat","layer norm","layer normalization"],"related":["transformer-block","residual-stream","output-head"],"reference":"https://arxiv.org/abs/1607.06450"},{"id":"output-head","number":73,"title":"Cap de ieșire (output head)","category":"Fundamente","summary":"Proiecția finală care transformă ultima stare într-un scor pentru fiecare token din vocabular.","plain":"Ultimul pas: dă fiecărui cuvânt următor posibil un punctaj.","definition":"După normalizarea finală (LayerNorm, sau RMSNorm la Llama/Qwen2), capul de ieșire înmulțește starea unei poziții cu o matrice care are câte un rând pentru fiecare token din vocabular; la generare se citește doar ultima poziție. Rezultatul sunt logiții. Multe modele de tip GPT leagă această matrice de embedding-ul tokenilor; aplicația oferă acest lucru ca opțiune de model.","importance":"Aici vectorul intern al modelului devine o predicție despre tokeni concreți.","boundary":"În ciuda numelui, capul de ieșire nu este un Attention Head. Atribuie scoruri tokenilor, dar nu alege niciunul; alegerea o face sampling-ul.","keywords":["lm head","unembedding","vocabular","weight tying","proiecție"],"matchTerms":["cap de ieșire","capul de ieșire","output head","LM head"],"related":["logits","softmax","layer-norm","embeddings","attention-head"]},{"id":"logits","number":74,"title":"Logits","category":"Fundamente","summary":"Scoruri brute, nenormalizate, pentru fiecare posibil token următor.","plain":"Punctajele brute pentru fiecare cuvânt următor posibil, înainte să devină șanse.","definition":"Capul de ieșire produce câte un număr real pentru fiecare token din vocabular. O valoare mai mare înseamnă mai probabil, dar valorile pot fi negative și nu au o sumă fixă; softmax le transformă în probabilități.","importance":"Temperatura și filtrele acționează asupra logiților, deci ei sunt punctul de pornire al oricărei decizii de sampling.","boundary":"Un logit nu este o probabilitate, iar diferențele dintre logiți contează mai mult decât valorile lor absolute.","keywords":["scor","nenormalizat","vocabular","cap de ieșire"],"matchTerms":["logiți","logiții","logiților"],"related":["output-head","softmax","temperature","sampling"]},{"id":"softmax","number":75,"title":"Softmax","category":"Fundamente","summary":"Transformă o listă de scoruri în probabilități pozitive care însumează unu.","plain":"Transformă punctajele în șanse între 0 și 100% care împreună dau exact 100%.","definition":"Softmax aplică funcția exponențială fiecărui scor și împarte la suma tuturor exponențialelor. Scorurile mai mari primesc cote mai mari, iar adunarea aceleiași constante la toate scorurile nu schimbă nimic. Transformerele îl folosesc pentru ponderile de atenție și pentru probabilitățile următorului token.","importance":"Face scorurile comparabile ca proporții; exact asta arată barele de probabilitate și arcele de atenție.","boundary":"Probabilitățile softmax descriu distribuția modelului, nu șansa ca o afirmație să fie adevărată.","keywords":["probabilitate","normalizare","exponențială","distribuție"],"related":["logits","attention","temperature","causal-mask"],"reference":"https://docs.pytorch.org/docs/stable/generated/torch.nn.functional.softmax.html"},{"id":"sampling","number":76,"title":"Sampling (eșantionare)","category":"Inferență & Operațiuni","summary":"Alegerea următorului token din distribuția de probabilitate a modelului.","plain":"Următorul cuvânt este tras la sorți; cuvintele probabile ies mai des.","definition":"După temperatură și filtre opționale precum Top-k și Top-p, următorul token este extras aleatoriu, proporțional cu probabilitățile rămase. Decodarea greedy ia în schimb mereu tokenul cel mai probabil, ceea ce corespunde temperaturii 0.","importance":"Același model, cu aceeași intrare, poate produce continuări diferite; setările de sampling controlează cât de variate și cât de riscante sunt.","boundary":"Sampling-ul nu schimbă nici ceea ce a învățat modelul, nici scorurile lui. Un token extras nu este automat cel mai bun sau unul corect.","keywords":["decodare","greedy","aleatoriu","următorul token","distribuție"],"matchTerms":["sampling","sampling-ul","eșantionare","eșantionarea","decodare greedy"],"related":["temperature","top-k","top-p","seed","softmax","logits"]},{"id":"temperature","number":77,"title":"Temperatură","category":"Inferență & Operațiuni","summary":"Împarte logiții înainte de sampling: sub 1 distribuția devine mai ascuțită, peste 1 mai plată.","plain":"Cât de îndrăzneață este alegerea: mică înseamnă sigur și previzibil, mare înseamnă surprinzător.","definition":"Logiții sunt împărțiți la temperatură înainte de softmax. Sub 1 distribuția devine mai ascuțită, iar tokenii probabili devin și mai probabili; peste 1 devine mai plată, iar tokenii improbabili câștigă probabilitate; temperatura 0 alege mereu tokenul cel mai probabil.","importance":"Este principalul reglaj între text previzibil și text variat.","boundary":"Temperatura schimbă distribuția selecției, nu scorurile sau cunoștințele modelului.","keywords":["temperatura de sampling","creativitate","greedy","distribuție"],"matchTerms":["temperatura","temperaturii"],"related":["sampling","logits","softmax","top-k","top-p"]},{"id":"top-k","number":78,"title":"Top-k","category":"Inferență & Operațiuni","summary":"Un filtru de sampling care păstrează doar cei mai probabili k tokeni.","plain":"Doar cele mai probabile k cuvinte rămân la tragerea la sorți; celelalte sunt lăsate deoparte.","definition":"Toți tokenii din afara celor mai mari k scoruri sunt eliminați înainte de extragere, iar probabilitățile rămase sunt normalizate din nou. În această aplicație, k = 0 dezactivează filtrul; el se aplică înainte de Top-p.","importance":"Taie coada lungă de tokeni improbabili care pot deraia o continuare.","boundary":"Un k fix ignoră cum este distribuită probabilitatea: uneori k tokeni sunt prea mulți, alteori prea puțini.","keywords":["filtru","candidați","trunchiere","top k"],"matchTerms":["top-k sampling"],"related":["top-p","sampling","temperature"]},{"id":"top-p","number":79,"title":"Top-p","category":"Inferență & Operațiuni","summary":"Un filtru de sampling care păstrează cel mai mic set de tokeni care împreună ating probabilitatea p.","plain":"Doar cele mai probabile cuvinte rămân la tragere, până când împreună ajung la șansa p.","definition":"Tokenii sunt sortați după probabilitate și păstrați până când probabilitatea lor cumulată atinge p; restul sunt eliminați înainte de extragere. Tokenul cel mai probabil rămâne mereu, iar p = 1 păstrează toți tokenii.","importance":"Spre deosebire de Top-k, se adaptează distribuției: puțini candidați când modelul este sigur, mai mulți când este nesigur.","boundary":"Top-p limitează masa de probabilitate din care se extrage, nu calitatea continuării.","keywords":["nucleus","probabilitate cumulată","filtru","top p"],"matchTerms":["nucleus sampling","top-p sampling"],"related":["top-k","sampling","temperature","softmax"],"reference":"https://arxiv.org/abs/1904.09751"},{"id":"seed","number":80,"title":"Seed","category":"Inferență & Operațiuni","summary":"Valoarea de pornire a unui generator de numere pseudoaleatoare.","plain":"Numărul de pornire pentru alegerile la întâmplare. Același seed dă din nou aceleași alegeri.","definition":"Același seed, cu același cod, model, aceleași setări și același hardware, repetă aceleași alegeri aleatoare, de exemplu tokenii extrași la sampling sau ordinea exemplelor la antrenare.","importance":"Face experimentele repetabile și comparabile.","boundary":"Un seed nu face un rezultat corect, iar seed-uri egale cu intrări sau setări diferite duc la extrageri diferite. Unele operații pe GPU nu sunt complet deterministe nici cu seed fix.","keywords":["aleatoriu","reproductibilitate","determinist","generator"],"matchTerms":["seed-ul","seed-uri","random seed"],"related":["sampling","temperature","training"],"reference":"https://docs.pytorch.org/docs/stable/notes/randomness.html"},{"id":"context","number":81,"title":"Context","category":"Fundamente","summary":"Tokenii pe care un model îi procesează efectiv într-o trecere: intrarea plus tot ce s-a generat.","plain":"Tot ce vede modelul acum: textul tău plus cuvintele pe care le-a scris deja.","definition":"La generare, contextul crește cu un token pe rundă: întâi tokenii de intrare, apoi tokenii aleși în rundele anterioare. Crește până la fereastra de context; dincolo de ea, modelele proprii ale aplicației păstrează doar ultimii block_size tokeni, iar modelele cu cache KV calculează doar tokenul nou și refolosesc pentru rest Key-urile și Value-urile din cache.","importance":"Următorul token depinde doar de context: dacă se schimbă un token din el, se poate schimba orice traseu ulterior.","boundary":"Contextul nu este fereastra de context. Un context mai lung nu este folosit automat mai bine, iar textul de dincolo de fereastra de context nu ajunge niciodată la model.","keywords":["prompt","intrare","secvență","tokeni anteriori"],"related":["context-windows","tokenization","forward-pass","kv-cache"]},{"id":"token-embedding","number":82,"title":"Embedding de token","category":"Fundamente","summary":"Vectorul învățat pe care un model de limbaj îl caută pentru fiecare ID de token, înaintea primului bloc.","plain":"Fiecare token este înlocuit cu o listă lungă de numere pe care modelul a învățat-o pentru el.","definition":"Tabelul de embedding are câte un rând de n_embd numere pentru fiecare token din vocabular. Fiecare ID de token din context își selectează rândul; în modelele de tip GPT-2 se adaugă vectorul poziției, iar suma intră în primul bloc.","importance":"Transformă ID-urile discrete în numere cu care blocurile pot calcula; tokenii folosiți în mod similar pot primi vectori similari.","boundary":"Vectorul este învățat și nu are un sens fix de dicționar; singur nu știe nimic despre poziția sau vecinii tokenului.","keywords":["wte","tabel de embedding","căutare","vector de token"],"matchTerms":["embedding-ul tokenului","embedding-uri de token","token embedding"],"related":["embeddings","tokenization","positional-encoding","residual-stream"]},{"id":"diffusion-model","reference":"https://arxiv.org/abs/2006.11239","number":83,"title":"Model de difuzie","category":"Modalitate & Producție","summary":"Un generator care învață să inverseze coruperea prin zgomot prin actualizări repetate.","plain":"Un generator de imagini care pornește de la zgomot pur și îl curăță pas cu pas.","definition":"Modelul Vision prezice zgomotul adăugat dintr-o imagine zgomotoasă, un pas temporal de difuzie și o descriere. Generarea pornește de la zgomot și folosește predicțiile în actualizările scheduler-ului.","importance":"Explică stările intermediare ale întregii imagini.","boundary":"Actualizarea de eliminare a zgomotului schimbă imaginea; actualizarea de antrenare schimbă ponderile.","keywords":["model de difuzie","modele de difuzie","DDPM"],"matchTerms":["model de difuzie","modele de difuzie","DDPM"],"related":["noise-prediction","noise-schedule","latent-diffusion"]},{"id":"diffusion-timestep","reference":"https://arxiv.org/abs/2006.11239","number":84,"title":"Pas temporal de difuzie","category":"Modalitate & Producție","summary":"Un indice care identifică nivelul de zgomot primit de model.","plain":"Un număr care îi spune modelului cât de zgomotoasă mai este imaginea la acest pas.","definition":"Modelul Vision primește un pas temporal împreună cu imaginea zgomotoasă. Exemplele de antrenare pot avea pași diferiți; generarea parcurge programul de difuzie.","importance":"Separă nivelul de zgomot de numărul actualizărilor optimizatorului.","boundary":"Nu reprezintă timpul real scurs sau contorul pașilor de antrenare.","keywords":["pas temporal de difuzie","pași temporali de difuzie"],"matchTerms":["pas temporal de difuzie","pași temporali de difuzie"],"related":["noise-schedule","diffusion-model"]},{"id":"noise-schedule","reference":"https://arxiv.org/abs/2006.11239","number":85,"title":"Program de zgomot","category":"Modalitate & Producție","summary":"Succesiunea intensităților zgomotului într-un proces de difuzie.","plain":"Planul pentru cât zgomot există în imagine la fiecare pas.","definition":"Modelul Vision păstrează coeficienți de zgomot pentru pașii temporali. Antrenarea îi folosește pentru amestecarea imaginii cu zgomot; generarea folosește actualizarea inversă corespunzătoare.","importance":"Leagă pasul temporal de intensitatea coruperii intrării.","boundary":"Diferă de programul ratei de învățare, care controlează actualizările ponderilor.","keywords":["program de zgomot","programe de zgomot"],"matchTerms":["program de zgomot","programe de zgomot"],"related":["diffusion-timestep","noise-prediction"]},{"id":"image-caption","number":86,"title":"Descriere a imaginii","category":"Modalitate & Producție","summary":"Un text asociat unei imagini pentru condiționarea modelului.","definition":"Vision asociază fiecărei imagini o descriere a conținutului vizibil. Modelul mic mediază embedding-uri învățate pentru octeți UTF-8 ca să condiționeze predicția zgomotului.","importance":"Descrierile consecvente leagă variațiile vizuale de text.","boundary":"Encoder-ul mic pentru octeți diferă de encoder-ul textual al modelului preantrenat.","keywords":["descriere a imaginii","descrieri ale imaginilor","caption","captions"],"matchTerms":["descriere a imaginii","descrieri ale imaginilor","caption","captions"],"related":["dataset","tokenization","diffusion-model"]},{"id":"noise-prediction","reference":"https://arxiv.org/abs/2006.11239","number":87,"title":"Predicția zgomotului","category":"Modalitate & Producție","summary":"Estimarea componentei de zgomot dintr-o imagine coruptă sau stare latentă.","plain":"Presupunerea modelului despre ce parte din imagine este doar zgomot.","definition":"Trainer-ul Vision adaugă zgomot aleator unei imagini. Modelul îl prezice din imagine, descriere și pas temporal; MSE compară predicția cu zgomotul cunoscut.","importance":"Ținta este disponibilă automat deoarece codul o creează.","boundary":"Predicția este zgomot, nu o imagine finală sau o etichetă de obiect.","keywords":["predicția zgomotului","predicții ale zgomotului","zgomot prezis","zgomot țintă"],"matchTerms":["predicția zgomotului","predicții ale zgomotului","zgomot prezis","zgomot țintă"],"related":["diffusion-model","mse","diffusion-timestep"]},{"id":"mse","reference":"https://huggingface.co/docs/diffusers/tutorials/basic_training","number":88,"title":"Eroare pătratică medie","category":"Modalitate & Producție","summary":"Media diferențelor pătratice dintre valorile prezise și cele țintă.","definition":"MSE ridică fiecare eroare la pătrat și calculează media. Vision o aplică zgomotului prezis și adăugat, pentru batch-ul de antrenare și pentru validare.","importance":"Produce un obiectiv scalar din multe erori numerice.","boundary":"Scala depinde de reprezentarea țintei; nu este un scor al calității vizuale percepute.","keywords":["MSE","eroare pătratică medie","eroarea pătratică medie"],"matchTerms":["MSE","eroare pătratică medie","eroarea pătratică medie"],"related":["loss","noise-prediction","validation-loss"]},{"id":"latent-diffusion","reference":"https://arxiv.org/abs/2112.10752","number":89,"title":"Difuzie latentă","category":"Modalitate & Producție","summary":"Difuzie într-o reprezentare comprimată a imaginii, nu direct în pixeli RGB.","plain":"Zgomotul este curățat într-o versiune mică, comprimată, a imaginii, ceea ce e mai rapid.","definition":"Modelul Vision preantrenat actualizează o stare latentă. Decoder-ul VAE o transformă în previzualizări. Trainer-ul mic propriu actualizează stări în spațiul pixelilor.","importance":"Explică diferența dintre previzualizare și starea procesată de model.","boundary":"Componentele latente nu sunt pixeli RGB sau obiecte numite individual.","keywords":["difuzie latentă","difuzia latentă","stare latentă","stări latente"],"matchTerms":["difuzie latentă","difuzia latentă","stare latentă","stări latente"],"related":["diffusion-model","vae","noise-prediction"]},{"id":"vae","reference":"https://arxiv.org/abs/1312.6114","number":90,"title":"Autoencoder variațional","category":"Modalitate & Producție","summary":"Un model encoder-decoder care învață o reprezentare comprimată probabilistică.","plain":"Împachetează o imagine într-o formă mică, comprimată, și o despachetează înapoi într-o imagine.","definition":"Un VAE codifică imagini într-o distribuție latentă și decodează reprezentări în imagini. Vision folosește decoder-ul modelului de pornire pentru afișarea stărilor latente înregistrate.","importance":"Leagă stările comprimate de imaginile vizibile.","boundary":"Decodarea poate modifica sau pierde detalii; trainer-ul mic în spațiul pixelilor nu are VAE.","keywords":["VAE","autoencoder variațional","autoencodere variaționale"],"matchTerms":["VAE","autoencoder variațional","autoencodere variaționale"],"related":["latent-diffusion","embeddings"]},{"id":"u-net","reference":"https://arxiv.org/abs/1505.04597","number":91,"title":"U-Net","category":"Modalitate & Producție","summary":"O rețea cu reducere și creștere a rezoluției și conexiuni între niveluri corespunzătoare.","plain":"Rețeaua care privește imaginea cu zgomot atât în detaliu, cât și ca ansamblu.","definition":"Modelele U-Net combină caracteristici ample de la rezoluții reduse cu detalii transmise prin conexiuni skip. Modelul Vision mic are o cale convoluțională compactă de reducere și creștere cu o conexiune skip.","importance":"Explică îmbinarea caracteristicilor la scări spațiale diferite.","boundary":"Un U-Net nu trebuie să conțină attention; etapele sale nu sunt blocuri Transformer.","keywords":["U-Net","U-Nets","UNet"],"matchTerms":["U-Net","U-Nets","UNet"],"related":["diffusion-model","noise-prediction"]},{"id":"classifier-free-guidance","reference":"https://arxiv.org/abs/2207.12598","number":92,"title":"Classifier-free guidance","category":"Modalitate & Producție","summary":"Combină predicții condiționate și necondiționate pentru a regla influența descrierii.","plain":"Stabilește cât de fidel trebuie să urmeze imaginea descrierea ta.","definition":"Calea Vision preantrenată combină predicții cu și fără condiționare textuală folosind intensitatea ghidării. Modelul mic în spațiul pixelilor nu oferă acest control.","importance":"Leagă setarea ghidării de condiționarea textuală la generare.","boundary":"Ghidarea mai puternică nu îmbunătățește neapărat calitatea și nu este temperatura de eșantionare.","keywords":["classifier-free guidance","intensitatea ghidării"],"matchTerms":["classifier-free guidance","intensitatea ghidării"],"related":["latent-diffusion","image-caption","noise-prediction"]},{"id":"cross-attention","reference":"https://arxiv.org/abs/2112.10752","number":93,"title":"Cross-attention","category":"Modalitate & Producție","summary":"Attention în care pozițiile imaginii citesc vectorii de tokenuri ai encoderului de text.","plain":"Aici părțile imaginii se uită la cuvintele descrierii tale.","definition":"În U-Net-ul Stable Diffusion, straturile cross-attention permit fiecărei poziții spațiale a imaginii latente să cântărească tokenurile promptului: query-urile vin din caracteristicile imaginii, key-urile și value-urile din ieșirea encoderului de text. Vision Explorer arată la fiecare pas ponderile unui strat cross-attention înregistrat.","importance":"Arată unde în imagine poate promptul să orienteze predicția în timpul eliminării zgomotului.","boundary":"Ponderile arată ce citește un strat din prompt, nu de ce apare ceva; contribuie și alte straturi și head-uri.","keywords":["cross-attention","atenție încrucișată"],"matchTerms":["cross-attention","atenție încrucișată"],"related":["attention","u-net","text-encoder","classifier-free-guidance"]},{"id":"scheduler","reference":"https://arxiv.org/abs/2202.09778","number":94,"title":"Scheduler (sampler)","category":"Modalitate & Producție","summary":"Regula care transformă zgomotul prezis la fiecare pas în starea următoare, mai puțin zgomotoasă.","plain":"Regula care scoate la fiecare pas o parte din zgomotul presupus.","definition":"Un scheduler de difuzie stabilește șirul pașilor de timp și, la fiecare pas, combină starea zgomotoasă curentă cu predicția de zgomot a modelului în starea următoare. Modelele Vision preantrenate folosesc PNDM; fiecare pas înregistrat arată starea dinainte, zgomotul prezis și schimbarea.","importance":"Explică de ce același model poate da imagini diferite cu alt scheduler sau alt număr de pași.","boundary":"Un scheduler nu are ponderi antrenate proprii și nu decide ce se desenează.","keywords":["scheduler","sampler","PNDM"],"matchTerms":["scheduler","sampler","PNDM"],"related":["noise-schedule","diffusion-timestep","noise-prediction","diffusion-model"]},{"id":"text-encoder","reference":"https://arxiv.org/abs/2103.00020","number":95,"title":"Encoder de text (CLIP)","category":"Modalitate & Producție","summary":"Rețeaua care transformă tokenurile promptului în vectori citiți de denoiserul imaginii.","plain":"Traduce descrierea ta în numere pe care generatorul de imagini le poate citi.","definition":"Stable Diffusion împarte promptul în cel mult 77 de tokenuri, completează restul și le trece printr-un encoder de text CLIP. Vectorii săi de ieșire sunt key-urile și value-urile cross-attention din U-Net la fiecare pas de eliminare a zgomotului.","importance":"Leagă promptul scris de ceea ce poate citi denoiserul în timp ce elimină zgomotul.","boundary":"Encoderul de text rămâne neschimbat în timpul generării imaginii și nu produce text.","keywords":["encoder de text","CLIP"],"matchTerms":["encoder de text","CLIP"],"related":["tokenization","cross-attention","latent-diffusion","classifier-free-guidance"]},{"id":"visual-encoder","reference":"https://arxiv.org/abs/2502.14786","number":96,"title":"Encoder vizual","category":"Modalitate & Producție","summary":"O rețea de imagini preantrenată care transformă o imagine în tokeni pe care un model de limbaj îi poate citi.","definition":"În modelele vizual-lingvistice bazate pe encoder, un Vision Transformer precum CLIP sau SigLIP împarte imaginea în patch-uri, le lasă să se urmărească reciproc în ambele direcții și trece rezultatul printr-un adaptor și un proiector către modelul de limbaj, sub formă de tokeni vizuali. Aduce o cunoaștere vizuală prealabilă învățată din colecții mari de perechi imagine-text.","importance":"Modelul de limbaj poate folosi imagini încă de la primul pas de antrenare, în loc să învețe să vadă din pixeli bruți.","boundary":"Aceasta este partea de imagine a modelelor care înțeleg imagini. În Stable Diffusion, encoderul de text CLIP citește promptul, nu o imagine.","keywords":["encoder vizual","visual encoder","image encoder","ViT","SigLIP"],"matchTerms":["encoder vizual","visual encoder"],"related":["vision-language-models","image-patch-token","encoder-free-multimodal","text-encoder","attention"]},{"id":"encoder-free-multimodal","reference":"https://arxiv.org/abs/2609.35457","number":97,"title":"Model multimodal fără encoder","category":"Modalitate & Producție","summary":"Un model de limbaj care citește direct patch-urile imaginii, fără o rețea de imagini preantrenată separată.","definition":"Modelele fără encoder proiectează patch-urile brute ale imaginii direct în modelul de limbaj, care trebuie să învețe singur trăsăturile vizuale. Într-o comparație controlată (Chen et al., 2026), la dimensiunile măsurate au atins un loss multimodal mai mare decât modelele bazate pe encoder, dar loss-ul lor a scăzut mai repede cu mai multă putere de calcul; primele lor straturi au preluat munca unui encoder vizual.","importance":"Arată o altă construcție: o singură rețea pentru imagine și text, în loc de encoder vizual plus model de limbaj.","boundary":"Recuperarea prezisă la aproximativ 10^22 FLOP de antrenare este o extrapolare a legilor de scalare ajustate, mult peste ce antrenează această aplicație.","keywords":["fără encoder","encoder-free","nativ multimodal","Fuyu","EVE"],"matchTerms":["fără encoder","encoder-free"],"related":["visual-encoder","image-patch-token","scaling-laws","vision-language-models","transformer-block"]},{"id":"image-patch-token","reference":"https://arxiv.org/abs/2010.11929","number":98,"title":"Token de patch de imagine","category":"Modalitate & Producție","summary":"Un pătrat mic dintr-o imagine transformat într-un vector, ca un transformer să trateze imaginea ca secvență.","definition":"Imaginea este împărțită în patch-uri de dimensiune fixă, de exemplu 16×16 pixeli; fiecare patch este aplatizat și proiectat la lățimea modelului, rezultând un token pe patch. În cadrul unei imagini, acești tokeni au voie adesea să se urmărească reciproc în ambele direcții, spre deosebire de tokenii de text sub o mască cauzală.","importance":"Permite imaginilor să folosească același mecanism de tokeni și attention ca textul.","boundary":"Un token de patch conține pixeli, nu un cuvânt; înseamnă doar ce învață rețeaua din el.","keywords":["patch","patch de imagine","patch embedding","token vizual"],"matchTerms":["patch de imagine","token vizual"],"related":["tokenization","token-embedding","causal-mask","visual-encoder","encoder-free-multimodal"]},{"id":"scaling-laws","reference":"https://arxiv.org/abs/2203.15556","number":99,"title":"Legi de scalare","category":"Antrenare & Adaptare","summary":"Reguli ajustate pentru cum scade loss-ul pe măsură ce cresc modelul, datele de antrenare și calculul.","definition":"Legile de scalare descriu loss-ul de validare ca lege de putere a calculului de antrenare, a dimensiunii modelului și a numărului de tokeni, ajustate pe multe rulări mai mici. Metoda Chinchilla antrenează modele de dimensiuni diferite cu același buget de calcul (profiluri IsoFLOP) pentru a găsi împărțirea optimă între parametri și tokeni.","importance":"Permite prezicerea rulărilor mari din cele mici și compararea arhitecturilor la același calcul.","boundary":"O lege ajustată descrie intervalul măsurat; tot ce depășește acest interval este o extrapolare și poate fi greșit.","keywords":["lege de scalare","scaling law","Chinchilla","optim din punct de vedere al calculului","IsoFLOP"],"matchTerms":["lege de scalare","legi de scalare"],"related":["training","loss","validation-loss","encoder-free-multimodal"]},{"id":"rgb444","number":100,"title":"Tokenuri de culoare RGB444","category":"Modalitate & Producție","summary":"O paletă cu 4.096 de culori: un ID de token pentru fiecare culoare de pixel.","plain":"Fiecare culoare primește un număr. Numărul spune culoarea, nu poziția.","definition":"RGB444 folosește patru biți pentru fiecare canal roșu, verde și albastru. Pentru valori 0–15: ID = roșu × 256 + verde × 16 + albastru. Canalele afișate se înmulțesc cu 17. Modelul pentru forme prezice aceste ID-uri pentru fiecare rând al imaginii.","importance":"Tokenizarea imaginilor devine direct reversibilă și inspectabilă fără un codebook învățat.","boundary":"Un token de culoare nu conține poziția sau identitatea obiectului. O paletă mai mare nu scurtează secvența imaginii.","keywords":["RGB444","token de culoare","paletă"],"matchTerms":["RGB444","token de culoare"],"related":["tokenization","image-caption"]},{"id":"teacher-forcing","number":101,"title":"Teacher forcing","category":"Antrenare & Adaptare","summary":"Antrenarea prezice ținta următoare folosind datele anterioare corecte, nu propria ieșire generată.","plain":"La exerciții, modelul vede pasul anterior corect. Mai târziu trebuie să folosească propriul răspuns.","definition":"În modelul pentru forme, rândul țintă este prezis din descriere, poziție, stare recurentă și rândul anterior corect. La generare se reutilizează propriul rând prezis. Pierderea este entropia încrucișată pentru 4.096 de clase de culoare per pixel.","importance":"Explică de ce pierderea poate scădea la antrenare, deși erorile se acumulează la generare.","boundary":"Nu garantează imagini corecte la generarea liberă. Pixelii aceluiași rând generat sunt condițional independenți.","keywords":["teacher forcing","generare pe rânduri"],"matchTerms":["teacher forcing"],"related":["rgb444","training","loss"]},{"id":"learning-rate","number":102,"title":"Rată de învățare","category":"Antrenare & Adaptare","summary":"Cât de mult mută optimizatorul ponderile într-un pas.","plain":"Cât de mare este fiecare corecție. Prea mare și antrenarea sare, prea mică și abia avansează.","definition":"Rata de învățare scalează fiecare modificare pe care optimizatorul o face ponderilor. Pe pagina de antrenare crește în timpul unui scurt Warmup și apoi scade după o curbă cosinus până la o zecime din valoarea maximă; pe pagina Forme scade după o curbă cosinus până la o zecime sau rămâne constantă.","importance":"O rată prea mare face Loss-ul să sară sau să diveargă; una prea mică irosește pași.","boundary":"Nu există o valoare corectă universal. Depinde de mărimea Batch-ului, de optimizator și de mărimea modelului, iar o valoare bună pentru o rulare este doar un punct de plecare pentru alta.","keywords":["rată de învățare","learning rate","Warmup","cosinus"],"matchTerms":["rată de învățare","rata de învățare","ratei de învățare","learning rate"],"related":["optimizer","training-step","batch-size","adamw","training"]},{"id":"batch-size","number":103,"title":"Mărime Batch","category":"Antrenare & Adaptare","summary":"Câte exemple mediază un pas înainte ca ponderile să se schimbe.","plain":"Câte exemple vede modelul înainte să se corecteze o dată.","definition":"Un Batch este grupul de exemple al căror Loss este mediat într-un singur gradient și o singură modificare. Pe pagina de antrenare, Batch-ul unui pas se formează din micro batch-uri: micro batch-ul este cât încape deodată pe placă, iar acumularea gradientului adună micro batch-uri până la mărimea planificată a pasului. Pe pagina Forme, mărimea Batch-ului este numărul de imagini per pas.","importance":"Batch-urile mai mari dau un gradient mai stabil per pas, dar costă memorie și timp; împreună cu pașii stabilesc câte date vede o rulare.","boundary":"Un Batch mai mare nu este automat mai bun, iar o altă mărime cere de obicei altă rată de învățare. Micro batch-ul schimbă viteza și memoria, nu mărimea unui pas.","keywords":["Batch","micro batch","acumularea gradientului"],"matchTerms":["batch","batch-ul","batch-uri","batch-ului","mărime batch","mărimea batch-ului"],"related":["training-step","epoch","learning-rate","training"]},{"id":"training-step","number":104,"title":"Pas de antrenare","category":"Antrenare & Adaptare","summary":"O actualizare a ponderilor: un Batch, un Loss, un gradient, o modificare a optimizatorului.","plain":"O rundă de exercițiu: modelul se uită la un Batch, își măsoară eroarea și își corectează ponderile o dată.","definition":"Un pas trece un Batch prin model, calculează Loss-ul, propagă gradientul înapoi și lasă optimizatorul să modifice ponderile o dată. Contorul de pași al unei rulări numără aceste modificări; checkpoint-urile, evaluările și evoluția ratei de învățare se raportează la el.","importance":"Pașii sunt ceasul unei rulări: durata, intervalul de salvare și curbele de Loss se măsoară în pași.","boundary":"Un pas nu este o Epoch și nici un pas de generare. Cât învață un pas depinde de mărimea Batch-ului și de rata de învățare. Pașii de eliminare a zgomotului din generarea de imagini sunt alt contor.","keywords":["pas de antrenare","optimizator","actualizare"],"matchTerms":["pași","pașii","pașilor","pasul","pas de antrenare","pași de antrenare"],"notIn":["Toerken.","Workflow.","Course.","Learn.ChapterPlain.","Settings.Demo.","Data.Empty.","Runs.Download.","Telemetry.","Vision.Steps","Vision.StepProgress","Onboarding.Tokenizer.Why","Sample.Rail.MinPHint"],"related":["batch-size","epoch","learning-rate","checkpoint","training"]},{"id":"epoch","number":105,"title":"Epoch","category":"Antrenare & Adaptare","summary":"O trecere completă a tuturor datelor de antrenare prin model.","plain":"O dată prin toate exemplele de antrenare. Zece Epochs înseamnă că fiecare exemplu a venit de circa zece ori.","definition":"O Epoch este completă când fiecare exemplu de antrenare a fost folosit o dată. Cu o mărime fixă a Batch-ului: Epochs ≈ pași × mărime Batch ÷ numărul exemplelor de antrenare. Pagina Forme arată această estimare lângă pași; pagina de antrenare numără în schimb pași și tokeni.","importance":"Epochs arată cât de des vede modelul aceleași date, iar asta împinge memorarea pe seturi mici.","boundary":"Aplicația antrenează după pași, nu după Epochs, deci numărul este o estimare. Mai multe Epochs pe un set mic pot scădea Loss-ul de antrenare în timp ce validarea se înrăutățește.","keywords":["Epoch","trecere","memorare"],"matchTerms":["Epochs","epoci"],"related":["training-step","batch-size","dataset","validation-loss"]},{"id":"gate","number":106,"title":"Gate","category":"Antrenare & Adaptare","summary":"Un număr învățat între 0 și 1 care amestecă două surse într-un singur rezultat.","plain":"Ca un macaz pentru fiecare pixel: stabilește cât din culoare vine din descriere și cât de la model însuși.","definition":"În modelul pentru forme, fiecare pixel calculează un gate g între 0 și 1. Probabilitatea unei culori este g × culoarea numită în descriere plus (1 − g) × propria predicție de culoare a modelului. Explorer-ul arată g ca parte preluată din descriere; dacă descrierea nu numește nicio culoare, gate-ul este închis (0).","importance":"Arată dacă culoarea unui pixel a fost preluată din text sau vine din ce a învățat modelul, de exemplu din culoarea rândului de deasupra.","boundary":"Un gate este o pondere calculată, nu o decizie sau o intenție a modelului. Un gate aproape de 100 % spune de unde vine culoarea, nu că pixelul se află în locul potrivit.","keywords":["gate","gating","pointer-generator","amestec"],"matchTerms":["gate","gate-ul","gate-uri"],"related":["rgb444","teacher-forcing","attention","softmax"]},{"id":"python","number":107,"title":"Python","category":"Inferență & Operațiuni","summary":"Un limbaj de programare folosit pentru multe instrumente de IA.","plain":"Python este limbajul părții de calcul a aplicației; tu o controlezi prin interfață.","definition":"Python execută programe. LLM Studio îl folosește în partea de calcul pentru pregătirea datelor și apelarea bibliotecilor precum PyTorch. Interfața Windows este o altă parte a aplicației.","importance":"Așa se explică de ce instalarea pregătește un mediu Python și pachete pe lângă aplicație.","boundary":"Python singur nu este un model antrenat. Nu trebuie să scrii cod Python pentru a folosi traseele de învățare.","keywords":["Python","python"],"matchTerms":["Python"],"related":["pytorch","numpy"],"reference":"https://docs.python.org/3/tutorial/"},{"id":"pytorch","number":108,"title":"PyTorch","category":"Inferență & Operațiuni","summary":"O bibliotecă de instrumente pentru calcule cu rețele neuronale.","plain":"PyTorch face calculele numerice prin care un model învață și produce rezultate.","definition":"PyTorch este o bibliotecă utilizabilă din Python. Calculează cu tensori, oferă componente pentru rețele neuronale și calculează automat derivatele folosite la actualizarea ponderilor în antrenare. LLM Studio o folosește în partea de calcul.","importance":"Modelul este arhitectura împreună cu ponderile învățate; PyTorch este instrumentul care execută calculele.","boundary":"PyTorch nu este un chatbot gata antrenat și nici un model anume. Utilizarea CPU sau GPU depinde de instalare, hardware și fluxul ales.","keywords":["PyTorch","pytorch"],"matchTerms":["PyTorch"],"related":["python","tensor","cpu","gpu","cuda","optimizer"],"reference":"https://docs.pytorch.org/tutorials/beginner/basics/intro.html"},{"id":"tensor","number":109,"title":"Tensor","category":"Inferență & Operațiuni","summary":"Un tablou de numere cu o formă definită.","plain":"Un tensor este un pachet ordonat de numere: o listă, un tabel sau un teanc de tabele.","definition":"În PyTorch, un tensor poate conține un vector de cuvânt, culorile unei imagini sau ponderile unui strat. Forma indică dimensiunea fiecărei axe: 3 × 64 × 64 poate însemna trei canale de culoare ale unei imagini de 64 × 64. Tipul de date stabilește cum se păstrează fiecare număr.","importance":"Tensorii leagă grilele colorate și benzile vectoriale din exploratoare de numerele reale din model.","boundary":"Forma singură nu spune ce înseamnă axele. Trei axe pot reprezenta lucruri diferite în etape de calcul diferite.","keywords":["Tensor","tensor","shape","array","dimensions"],"matchTerms":["Tensor","tensori"],"related":["pytorch","numpy","embeddings","safetensors"],"reference":"https://docs.pytorch.org/tutorials/beginner/basics/tensorqs_tutorial.html"},{"id":"cpu","number":110,"title":"CPU","category":"Inferență & Operațiuni","summary":"Procesorul principal, de uz general, al calculatorului.","plain":"CPU execută sarcinile obișnuite ale calculatorului și poate face și calcule de model.","definition":"CPU înseamnă Central Processing Unit. Execută programe, organizează date și calculează operații cu tensori. La calculul pe CPU, majoritatea datelor modelului se află în memoria de sistem, numită RAM.","importance":"CPU și GPU sunt două locuri posibile pentru calcul. Așa se înțelege de ce o sarcină poate dura mai mult fără placă video.","boundary":"Suportul CPU din PyTorch nu înseamnă că fiecare funcție a aplicației sau orice model mare este activat pe CPU. Timpul și memoria RAM disponibilă limitează utilizarea.","keywords":["CPU","cpu","RAM","processor"],"matchTerms":["CPU"],"related":["gpu","pytorch"],"reference":"https://docs.pytorch.org/tutorials/beginner/basics/tensorqs_tutorial.html"},{"id":"gpu","number":111,"title":"GPU","category":"Inferență & Operațiuni","summary":"Un procesor pentru foarte multe calcule în paralel.","plain":"GPU poate face multe calcule numerice asemănătoare simultan, ceea ce ajută la antrenare.","definition":"GPU înseamnă Graphics Processing Unit. Multe operații din rețelele neuronale se pot împărți în calcule paralele. Un GPU potrivit le poate accelera; datele modelului și rezultatele intermediare au nevoie de spațiu în memoria video, numită VRAM.","importance":"Așa se explică de ce la antrenare contează atât suportul GPU, cât și memoria VRAM liberă.","boundary":"GPU nu accelerează orice sarcină. Hardware-ul, algoritmii și software-ul trebuie să fie compatibile; RAM și VRAM sunt memorii diferite.","keywords":["GPU","gpu","VRAM","graphics card"],"matchTerms":["GPU"],"related":["cpu","cuda","pytorch"],"reference":"https://docs.pytorch.org/tutorials/beginner/basics/tensorqs_tutorial.html"},{"id":"cuda","number":112,"title":"CUDA","category":"Inferență & Operațiuni","summary":"Platforma software NVIDIA pentru calcul pe GPU-uri NVIDIA compatibile.","plain":"CUDA este una dintre căile prin care PyTorch folosește o placă NVIDIA potrivită pentru calcule.","definition":"CUDA oferă interfețe și instrumente pentru calcule generale pe GPU-uri NVIDIA. Cu o instalare PyTorch compatibilă, operațiile cu tensori rulează pe GPU în loc de CPU. Este necesar un driver NVIDIA compatibil.","importance":"Termenul leagă placa video, driverul și varianta PyTorch instalată.","boundary":"CUDA nu este o placă video și nici un model. Instalarea CPU nu are nevoie de CUDA; orice GPU sau o versiune separată de toolkit nu garantează compatibilitatea.","keywords":["CUDA","cuda"],"matchTerms":["CUDA"],"related":["gpu","pytorch","cpu"],"reference":"https://docs.nvidia.com/cuda/cuda-programming-guide/index.html"},{"id":"numpy","number":113,"title":"NumPy","category":"Inferență & Operațiuni","summary":"O bibliotecă Python pentru tablouri numerice și prelucrarea datelor.","plain":"NumPy ajută la păstrarea și prelucrarea eficientă a listelor și tabelelor mari de numere.","definition":"NumPy oferă tablouri multidimensionale și operații numerice. Aplicația îl folosește în partea de calcul, inclusiv la pregătirea datelor. Tensorii PyTorch seamănă cu aceste tablouri, dar pot calcula și pe GPU-uri compatibile și pot urmări derivate pentru antrenare.","importance":"Așa se deosebesc instrumentele de prelucrare a datelor de bibliotecile pentru modele: ambele lucrează cu numere, dar au sarcini diferite.","boundary":"Un tablou NumPy nu este o rețea neuronală antrenată. NumPy și PyTorch nu sunt interschimbabile pentru orice operație sau organizare a memoriei.","keywords":["NumPy","numpy"],"matchTerms":["NumPy"],"related":["python","tensor","pytorch"],"reference":"https://numpy.org/doc/stable/user/whatisnumpy.html"},{"id":"hugging-face-hub","number":114,"title":"Hugging Face Hub","category":"Inferență & Operațiuni","summary":"O platformă pentru fișiere de modele, seturi de date și documentația lor.","plain":"Hub-ul este un loc de unde poți descărca fișierele unui model potrivit.","definition":"Hugging Face operează Hub-ul și dezvoltă biblioteci precum Transformers și Diffusers. Un depozit de model poate conține ponderi, configurație, tokenizer și un Model Card cu descrierea modelului. Modelele descărcate pot rula local cu software potrivit.","importance":"Așa se deosebesc sursa descărcării, biblioteca software și modelul propriu-zis.","boundary":"Prezența pe Hub nu garantează calitatea sau compatibilitatea cu aplicația. Verifică descrierea și condițiile de utilizare; încărcarea locală diferă de apelarea unui API găzduit.","keywords":["Hugging Face Hub","hugging-face-hub"],"matchTerms":["Hugging Face Hub"],"related":["transformers-library","diffusers","safetensors"],"reference":"https://huggingface.co/docs/hub/index"},{"id":"transformers-library","number":115,"title":"Transformers (Hugging Face)","category":"Inferență & Operațiuni","summary":"O bibliotecă pentru încărcarea și rularea arhitecturilor de model acceptate.","plain":"Biblioteca Transformers leagă fișierele potrivite ale modelului de codul care le calculează.","definition":"Hugging Face Transformers oferă implementări de arhitecturi și instrumente pentru tokenizere, intrări și ieșiri. Aplicația o folosește pentru modelele externe acceptate. Ponderile antrenate sunt fișiere separate.","importance":"Transformers poate desemna fie arhitectura generală, fie această bibliotecă software concretă.","boundary":"Biblioteca nu este ea însăși Qwen sau alt checkpoint. Suportul bibliotecii nu înseamnă automat că orice arhitectură și vizualizare este acceptată în LLM Studio.","keywords":["Transformers (Hugging Face)","transformers-library"],"matchTerms":["Transformers (Hugging Face)","Hugging Face Transformers"],"related":["transformers","pytorch","hugging-face-hub","tokenization"],"reference":"https://huggingface.co/docs/transformers/index"},{"id":"diffusers","number":116,"title":"Diffusers","category":"Inferență & Operațiuni","summary":"O bibliotecă de componente pentru modele de difuzie.","plain":"Diffusers leagă etapele care transformă zgomotul într-o imagine.","definition":"Hugging Face Diffusers oferă componente de model, schedulere și pipeline-uri pentru metode de difuzie. Traseul de difuzie din pagina Vision folosește asemenea componente. Un pipeline poate lega encoderul de text, predictorul de zgomot, schedulerul și decoderul de imagine.","importance":"Așa se deosebesc biblioteca, modelul de imagine și pașii arătați în Vision Explorer.","boundary":"Diffusers nu este un model de imagine antrenat anume. Modul Forme cu tokeni de culoare folosește alt traseu de calcul, nu un pipeline Diffusers.","keywords":["Diffusers","diffusers"],"matchTerms":["Diffusers"],"related":["pytorch","hugging-face-hub","diffusion-model"],"reference":"https://huggingface.co/docs/diffusers/index"},{"id":"safetensors","number":117,"title":"Safetensors","category":"Inferență & Operațiuni","summary":"Un format de fișier pentru tensori, adesea ponderi de model.","plain":"Un fișier Safetensors conține numerele modelului, nu întregul program din jurul lui.","definition":"Safetensors păstrează tensori cu nume, forme, tipuri de date și valori. Spre deosebire de Python Pickle, citirea formatului nu cere executarea obiectelor Python încorporate. Folosirea ponderilor necesită în continuare arhitectura și configurația potrivite și, în funcție de model, un tokenizer.","importance":"Așa se explică de ce un fișier de ponderi descărcat nu ajunge singur și de ce checkpoint-urile trebuie să corespundă tipului de model.","boundary":"Formatul nu confirmă originea, calitatea sau drepturile de utilizare. Și restul pachetului de model și codul său trebuie verificate.","keywords":["Safetensors","safetensors"],"matchTerms":["Safetensors"],"related":["tensor","pytorch","hugging-face-hub"],"reference":"https://huggingface.co/docs/safetensors/index"}],"revision":"18af578133e83464f980ad6bd0ccc2e9e8ec8e084f4308cea7c708b662bf5638","sourceCommit":"3df13173e1cdb99a2e3ce5a2ca9dccd1013091b9","sourceDirty":false,"sourceSha256":"18af578133e83464f980ad6bd0ccc2e9e8ec8e084f4308cea7c708b662bf5638","revisionAlgorithm":"sha256-utf8-lf-no-bom"}