Înapoi la cursuri
IT PRO Intermediate

LLM-uri Locale cu Ollama: Privacy, Self-Hosting și Inferență Offline

Citește gratuit prima lecție — integral Fără cont, fără card · plus demo-ul interactiv al platformei și Profesorul AI Începe acum

Program intermediar, complet practic, dedicat rulării modelelor de limbaj open-weight pe infrastructură proprie, on-premise și offline. Pornind de la motivația reală — privacy by design, data residency, GDPR și EU AI Act ca motoare de adopție în bănci, sănătate și sectorul public — înveți să instalezi și să operezi Ollama, să consumi API-ul REST OpenAI-compatible local (http://localhost:11434/v1), să alegi argumentat dintre Llama 4, Gemma 3, Qwen3 și DeepSeek, să stăpânești cuantizarea GGUF (q4_K_M vs q8_0) și dimensionarea realistă a hardware-ului, să construiești modele custom cu Modelfile, să înlocuiești apelurile cloud în aplicații, să scalezi inferența cu vLLM și SGLang și să citești corect model card-urile pentru conformitate de licențiere (Apache 2.0 vs licența custom Meta). Modulul de guvernanță acoperă DPIA, audit trail și minimizarea datelor, iar capstone-ul livrează un deployment privat end-to-end cu API intern și checklist GDPR. Totul ancorat exclusiv în docs.ollama.com, model cards HuggingFace, llama.cpp/GGUF, documentația vLLM și SGLang. Conținut informativ, nu consultanță juridică.

11 module
32 lecții
~24h durata
v1.0 versiune
Profesor AI virtual Agent AI integrat în fiecare lecție — pune întrebări și primești răspunsuri instant bazate pe conținutul cursului
Exerciții practice Scenarii reale și exerciții hands-on direct pe platformă, cu feedback instant
Progres și analytics Dashboard personal cu statistici, streaks, scoruri și trasee de învățare personalizate
Quizuri AI interactive Întrebări generate de AI și adaptate nivelului tău, cu explicații detaliate
Acces la acest curs
249
lei + TVA / lună
Toate lecțiile Quiz-uri AI Profesor AI — limitat Anulezi oricând
sau
Recomandat
Pachet IT Pro
1.999
lei + TVA / lună
≈ 79 lei / curs economisești ~68%
Cele 25 cursuri, cumpărate separat 6.225 lei/lună
Cu pachetul IT Pro 1.999 lei/lună
Creează cont și alege pachetul
  • Toate cele 25 cursuri IT ProO bibliotecă întreagă, nu doar acest curs
  • Trasee structurate de învățareȘtii exact ce să înveți și în ce ordine
  • Profesor AI Virtual — acces completRăspunsuri la fiecare lecție, când ai nevoie
  • Quiz-uri, progres, streaks & statistici
  • Notițe, bookmarks & recapitulări programate
  • Conținut actualizat periodic
Anulezi oricând
Plată securizată
Actualizat periodic
Conținut în română
Agent AI integrat Exclusiv Întreabă orice despre lecție și primești răspuns instant — agentul cunoaște conținutul cursului
Chat interactiv cu AI Rezumate automate Quizuri personalizate

Ce vei învăța

Competențe practice pe care le dobândești parcurgând acest curs

De Ce LLM Local: Privacy, Data Residency și Cadrul Legal ca Motoare de Adopție
Instalare și Fundamente Ollama: Primul Model și API-ul REST OpenAI-Compatible
Peisajul Modelelor Open-Weight 2026: Criterii Reale de Alegere
Cuantizare și Hardware: GGUF, q4_K_M vs q8_0 și Dimensionare Realistă
Modelfile și Personalizare: Modele Custom pentru Cazuri de Uz Interne
Integrare în Aplicații: Înlocuirea Apelurilor Cloud și Considerații de Performanță
Scaling de Inferență On-Premise: vLLM și SGLang pentru Servire Performantă
Licențiere și Conformitate: Citirea Corectă a Model Cards pentru Uz Comercial
Securitate și Guvernanță Self-Hosted: DPIA, Audit Trail și Minimizarea Datelor
Proiect Capstone: Deployment Privat End-to-End cu API Intern și Checklist GDPR
Apendice: Resurse Oficiale, Actualizări 2026 și Trasee de Învățare

Pentru cine este

Developeri Ingineri software Arhitecți de soluții CTO / Tech Lead Data Scientists ML Engineers DevOps Engineers

Nivel recomandat

Intermediate

Cunoștințe de bază despre AI și domeniul specific sunt recomandate.

Actualizari

Periodic

Ultima actualizare: 20.07.2026. Conținut mereu la zi.

Categorie

AI Engineering

Curs tehnic pentru profesioniști IT — necesită plan IT Pro sau IT + Non-IT.

Nivel Intermediate

Cunoștințe de bază necesare

Cunoștințe de bază despre AI și domeniul specific sunt recomandate pentru a beneficia la maxim.

Mereu actualizat

Ultima actualizare: 20.07.2026

Cursul este actualizat periodic cu cele mai noi informații, instrumente și practici din industrie.

Practic și aplicat

32 lecții cu exemple reale

Fiecare lecție include scenarii practice, checklist-uri executabile și quiz-uri pentru verificarea cunoștințelor.

Curriculum

11 module, 32 lecții — structurat pentru a învăța pas cu pas.

11 module
32 lecții
~24h de conținut
Quiz-uri interactive
Preview disponibil De Ce Rulezi Modelul Local: Privacy by Design și Costul Real al Apelului Cloud
Citește preview
1 Preview De Ce Rulezi Modelul Local: Privacy by Design și Costul Real al Apelului Cloud
Citește preview
2 Data Residency și Suveranitatea Datelor: Unde Trăiesc Datele Tale Contează
50 min
3 EU AI Act și Modelele de Uz General: Ce Obligații Rămân Când Hostezi Local
50 min
1 Instalare și Primul Run: ollama run, pull și Structura Comenzilor
50 min
2 API-ul REST OpenAI-Compatible: /v1/chat/completions Local, Fără Cloud
54 min
3 Operare Locală: Logs, Keep-Alive, Concurență și Variabile de Mediu OLLAMA_*
48 min
1 Taxonomia Modelelor Open-Weight: Familii, Dimensiuni și Arhitecturi Dense vs MoE
52 min
2 Gemma 3, Qwen3, DeepSeek și Llama 4: Profiluri Comparate prin Model Cards
54 min
3 Cum Alegi Modelul pentru Cazul Tău: O Matrice de Decizie Practică
48 min
1 GGUF și Cuantizare: Ce Se Întâmplă Când Comprimi un Model
52 min
2 q4_K_M vs q8_0 și Restul Schemelor: Trade-off Calitate/Memorie în Practică
50 min
3 Dimensionarea Hardware: Cât VRAM/RAM Îți Trebuie și Cum Estimezi
50 min
1 Anatomia unui Modelfile: FROM, PARAMETER, SYSTEM și TEMPLATE
50 min
2 System Prompts și Parametri pentru un Model Intern: Comportament Predictibil
48 min
3 Import de Modele: GGUF, Safetensors și Cuantizare la Create
50 min
1 De la Cloud la Local: Înlocuirea Apelurilor API cu Endpoint Intern
52 min
2 Latență, Throughput și Streaming: Ce Așteptări Realiste Să Ai Local
50 min
3 Embeddings, RAG Local și Patterns de Integrare Offline
48 min
1 Când Depășești Ollama: De ce vLLM și SGLang pentru Servire la Scară
50 min
2 vLLM în Profunzime: PagedAttention, Continuous Batching și Server OpenAI-Compatible
54 min
3 SGLang și Alegerea Stack-ului de Servire: RadixAttention și Criterii de Decizie
48 min
1 Cum Citești un Model Card: Licență, Acceptable Use și Ce Te Obligă Cu Adevărat
50 min
2 Apache 2.0 vs Licențe Custom: Qwen3, Gemma 3 și Llama 4 Comparate
52 min
3 Conformitate Practică: Atribuire, Audit de Licențe și Politica Internă de Modele
48 min
1 Self-Hosting Reduce, Dar NU Elimină Obligațiile GDPR: Harta Responsabilităților
50 min
2 DPIA pentru un Sistem LLM Intern: Când și Cum O Faci
50 min
3 Audit Trail, Minimizarea Datelor și Hardening al Serverului Local
50 min
1 Proiectarea Deployment-ului Privat: Cerințe, Alegerea Modelului și Arhitectura Internă
52 min
2 Implementarea End-to-End: Modelfile Custom, API Intern și Integrare
54 min
3 Checklist GDPR și Postura Finală: Validarea Conformității Deployment-ului
54 min
1 Resurse Oficiale, Actualizări 2026 și Trasee de Învățare
26 min
2 Ollama Cloud și Granița Perimetrului: O Capcană de Conformitate de Evitat
22 min
De pe blog

Articole conexe

Aprofundează subiectele din acest curs cu articolele noastre de pe blog.

Acces la toate cursurile IT Pro

Vrei acces la acest curs?

Creează un cont și alege planul potrivit pentru a accesa acest curs și multe altele.

Creează cont Compară planurile
32 lecții practice Conținut actualizat constant Creat de experți AI