Curs IT Pro Nivel Intermediar

LLM-uri Locale cu Ollama: Privacy, Self-Hosting și Inferență Offline

Alegi un model open-weight, îl cuantizezi în GGUF, îl servești prin API local sau vLLM și verifici licența și conformitatea cu GDPR.

Lecții
32în 11 module
Durată
~24 hîn ritmul tău
Quiz
418de întrebări
Nivel
Intermediarcu noțiuni de bază
  • În limba română
  • Actualizat pe
Fragment gratuit · lecția 1 · fără cont De Ce Rulezi Modelul Local: Privacy by Design și Costul Real al Apelului Cloud Când apeși enter pe un prompt, textul tău — documentele atașate, istoricul conversației, poate un extras de cont sau un fragment de fișă medicală — pleacă de pe infrastructura ta, traversează internetul și ajunge pe serverele altcuiva. Întrebarea „unde au ajuns aceste date și cine le mai poate vedea?” pare pur tehnică, dar este, în realitate, strategică și juridică — iar pentru sectoare întregi, precum cel bancar, sănătatea sau administrația publică, poate fi diferența dintre conformitate și incident. Citește fragmentul

Ce vei învăța

Competențele cursului. Aceleași apar pe Certificatul de Finalizare, ca să poți arăta ce ai parcurs.

  • De Ce LLM Local: Privacy, Data Residency și Cadrul Legal ca Motoare de Adopție
  • Instalare și Fundamente Ollama: Primul Model și API-ul REST OpenAI-Compatible
  • Peisajul Modelelor Open-Weight 2026: Criterii Reale de Alegere
  • Cuantizare și Hardware: GGUF, q4_K_M vs q8_0 și Dimensionare Realistă
  • Modelfile și Personalizare: Modele Custom pentru Cazuri de Uz Interne
  • Integrare în Aplicații: Înlocuirea Apelurilor Cloud și Considerații de Performanță
  • Scaling de Inferență On-Premise: vLLM și SGLang pentru Servire Performantă
  • Licențiere și Conformitate: Citirea Corectă a Model Cards pentru Uz Comercial

Despre curs

Program intermediar, complet practic, dedicat rulării modelelor de limbaj open-weight pe infrastructură proprie, on-premise și offline. Pornind de la motivația reală — privacy by design, data residency, GDPR și EU AI Act ca motoare de adopție în bănci, sănătate și sectorul public — înveți să instalezi și să operezi Ollama, să consumi API-ul REST OpenAI-compatible local (http://localhost:11434/v1), să alegi argumentat dintre Llama 4, Gemma 3, Qwen3 și DeepSeek, să stăpânești cuantizarea GGUF (q4_K_M vs q8_0) și dimensionarea realistă a hardware-ului, să construiești modele custom cu Modelfile, să înlocuiești apelurile cloud în aplicații, să scalezi inferența cu vLLM și SGLang și să citești corect model card-urile pentru conformitate de licențiere (Apache 2.0 vs licența custom Meta). Modulul de guvernanță acoperă DPIA, audit trail și minimizarea datelor, iar capstone-ul livrează un deployment privat end-to-end cu API intern și checklist GDPR. Totul ancorat exclusiv în docs.ollama.com, model cards HuggingFace, llama.cpp/GGUF, documentația vLLM și SGLang. Conținut informativ, nu consultanță juridică.

Pentru cine este

Pentru developeri, ingineri și profesioniști tehnici care construiesc sau integrează soluții AI. Face parte din AI Engineering, pe direcția IT Pro.

Ce îți trebuie

Nivel Intermediar: ajută să ai deja noțiunile de bază despre AI și despre domeniul cursului.

Programa cursului

11 module · 32 de lecții · aproximativ 24 de ore · 418 întrebări de quiz

Citește un fragment gratuit din lecția 1: „De Ce Rulezi Modelul Local: Privacy by Design și Costul Real al Apelului Cloud” Fără cont și fără card. Vezi cum e scrisă o lecție înainte să plătești.

  1. Modulul 1: De Ce LLM Local: Privacy, Data Residency și Cadrul Legal ca Motoare de Adopție

    3 lecții · 2 h 32 min · 41 de întrebări
    1. De Ce Rulezi Modelul Local: Privacy by Design și Costul Real al Apelului Cloud Fragment gratuit din lecția „De Ce Rulezi Modelul Local: Privacy by Design și Costul Real al Apelului Cloud” 52 min 15 întrebări
    2. Data Residency și Suveranitatea Datelor: Unde Trăiesc Datele Tale Contează 50 min 13 întrebări
    3. EU AI Act și Modelele de Uz General: Ce Obligații Rămân Când Hostezi Local 50 min 13 întrebări

  2. Modulul 2: Instalare și Fundamente Ollama: Primul Model și API-ul REST OpenAI-Compatible

    3 lecții · 2 h 32 min · 39 de întrebări
    1. Instalare și Primul Run: ollama run, pull și Structura Comenzilor 50 min 13 întrebări
    2. API-ul REST OpenAI-Compatible: /v1/chat/completions Local, Fără Cloud 54 min 13 întrebări
    3. Operare Locală: Logs, Keep-Alive, Concurență și Variabile de Mediu OLLAMA_* 48 min 13 întrebări

  3. Modulul 3: Peisajul Modelelor Open-Weight 2026: Criterii Reale de Alegere

    3 lecții · 2 h 34 min · 41 de întrebări
    1. Taxonomia Modelelor Open-Weight: Familii, Dimensiuni și Arhitecturi Dense vs MoE 52 min 14 întrebări
    2. Gemma 3, Qwen3, DeepSeek și Llama 4: Profiluri Comparate prin Model Cards 54 min 13 întrebări
    3. Cum Alegi Modelul pentru Cazul Tău: O Matrice de Decizie Practică 48 min 14 întrebări

  4. Modulul 4: Cuantizare și Hardware: GGUF, q4_K_M vs q8_0 și Dimensionare Realistă

    3 lecții · 2 h 32 min · 41 de întrebări
    1. GGUF și Cuantizare: Ce Se Întâmplă Când Comprimi un Model 52 min 14 întrebări
    2. q4_K_M vs q8_0 și Restul Schemelor: Trade-off Calitate/Memorie în Practică 50 min 14 întrebări
    3. Dimensionarea Hardware: Cât VRAM/RAM Îți Trebuie și Cum Estimezi 50 min 13 întrebări

  5. Modulul 5: Modelfile și Personalizare: Modele Custom pentru Cazuri de Uz Interne

    3 lecții · 2 h 28 min · 40 de întrebări
    1. Anatomia unui Modelfile: FROM, PARAMETER, SYSTEM și TEMPLATE 50 min 14 întrebări
    2. System Prompts și Parametri pentru un Model Intern: Comportament Predictibil 48 min 13 întrebări
    3. Import de Modele: GGUF, Safetensors și Cuantizare la Create 50 min 13 întrebări

  6. Modulul 6: Integrare în Aplicații: Înlocuirea Apelurilor Cloud și Considerații de Performanță

    3 lecții · 2 h 30 min · 40 de întrebări
    1. De la Cloud la Local: Înlocuirea Apelurilor API cu Endpoint Intern 52 min 13 întrebări
    2. Latență, Throughput și Streaming: Ce Așteptări Realiste Să Ai Local 50 min 14 întrebări
    3. Embeddings, RAG Local și Patterns de Integrare Offline 48 min 13 întrebări

  7. Modulul 7: Scaling de Inferență On-Premise: vLLM și SGLang pentru Servire Performantă

    3 lecții · 2 h 32 min · 41 de întrebări
    1. Când Depășești Ollama: De ce vLLM și SGLang pentru Servire la Scară 50 min 13 întrebări
    2. vLLM în Profunzime: PagedAttention, Continuous Batching și Server OpenAI-Compatible 54 min 14 întrebări
    3. SGLang și Alegerea Stack-ului de Servire: RadixAttention și Criterii de Decizie 48 min 14 întrebări

  8. Modulul 8: Licențiere și Conformitate: Citirea Corectă a Model Cards pentru Uz Comercial

    3 lecții · 2 h 30 min · 41 de întrebări
    1. Cum Citești un Model Card: Licență, Acceptable Use și Ce Te Obligă Cu Adevărat 50 min 14 întrebări
    2. Apache 2.0 vs Licențe Custom: Qwen3, Gemma 3 și Llama 4 Comparate 52 min 14 întrebări
    3. Conformitate Practică: Atribuire, Audit de Licențe și Politica Internă de Modele 48 min 13 întrebări

  9. Modulul 9: Securitate și Guvernanță Self-Hosted: DPIA, Audit Trail și Minimizarea Datelor

    3 lecții · 2 h 30 min · 40 de întrebări
    1. Self-Hosting Reduce, Dar NU Elimină Obligațiile GDPR: Harta Responsabilităților 50 min 14 întrebări
    2. DPIA pentru un Sistem LLM Intern: Când și Cum O Faci 50 min 13 întrebări
    3. Audit Trail, Minimizarea Datelor și Hardening al Serverului Local 50 min 13 întrebări

  10. Modulul 10: Proiect Capstone: Deployment Privat End-to-End cu API Intern și Checklist GDPR

    3 lecții · 2 h 40 min · 43 de întrebări
    1. Proiectarea Deployment-ului Privat: Cerințe, Alegerea Modelului și Arhitectura Internă 52 min 14 întrebări
    2. Implementarea End-to-End: Modelfile Custom, API Intern și Integrare 54 min 14 întrebări
    3. Checklist GDPR și Postura Finală: Validarea Conformității Deployment-ului 54 min 15 întrebări

  11. Modulul 11: Apendice: Resurse Oficiale, Actualizări 2026 și Trasee de Învățare

    2 lecții · 48 min · 11 întrebări
    1. Resurse Oficiale, Actualizări 2026 și Trasee de Învățare 26 min 6 întrebări
    2. Ollama Cloud și Granița Perimetrului: O Capcană de Conformitate de Evitat 22 min 5 întrebări
Pe email

Trimite-mi programa cursului pe email

Modulele și lecțiile, în ordine, plus linkul către previzualizarea lecției 1 — ca să decizi în liniște.

Apăsând butonul, ești de acord să primești programa cursului pe email. Confirmi adresa dintr-un click, în primul email. Politica de confidențialitate

Cum înveți

Citești lecția, întrebi Profesorul AI chiar în pagină și verifici ce ai reținut.

De Ce Rulezi Modelul Local: Privacy by Design și Costul Real al Apelului Cloud

Când apeși enter pe un prompt, textul tău — documentele atașate, istoricul conversației, poate un extras de cont sau un fragment de fișă medicală — pleacă de pe infrastructura ta, traversează internetul și ajunge pe serverele altcuiva. Întrebarea „unde au ajuns aceste date și cine le mai poate vedea?” pare pur tehnică, dar este, în realitate, strategică și juridică — iar pentru sectoare întregi, precum cel bancar, sănătatea sau administrația publică, poate fi diferența dintre conformitate și incident.

Bara Profesorului AI, care apare în lecție sub pasajul selectat, cu acțiunile „Explică-mi asta”, „Dă-mi un exemplu”, „De ce contează?” și „Întrebarea mea”
Primele rânduri din lecția 1 a acestui curs. Citește fragmentul gratuit, fără cont.

  1. Citești lecția în ritmul tău

    Lecții scrise, cu exemple și exerciții. Progresul se salvează automat, așa că reiei oricând de unde ai rămas.

  2. Întrebi Profesorul AI chiar în lecție

    Selectezi un pasaj și îți explică, îți dă un exemplu sau îți spune de ce contează. Îi scrii sau îi vorbești, în română.

  3. Verifici ce ai reținut

    Fiecare lecție are quiz-ul ei, cu explicații la răspunsuri: 418 întrebări în tot cursul. Profesorul îți face și rezumatul lecției și carduri de recapitulare.

  4. Primești Certificatul de Finalizare

    Când parcurgi lecțiile și atingi scorul minim la quiz-uri, îl emiți din cont, cu număr unic, verificabil public.

Profesorul AI e inclus în abonament, și la accesul pe un singur curs, cu o limită lunară de utilizare corectă. Este un sistem AI, nu un profesor uman, iar răspunsurile pot conține erori; detalii în Termeni. Vezi demo-ul Profesorului AI.

Pleci cu o dovadă pe care oricine o poate verifica

Certificatul de Finalizare pentru „LLM-uri Locale cu Ollama: Privacy, Self-Hosting și Inferență Offline”: o atestare privată, cu număr unic și cod QR. Un recrutor îi confirmă autenticitatea pe pagina publică de verificare, fără cont și fără cost.

Exemplu de Certificat de Finalizare Cursuri AI, cu date de exemplu: seria și data emiterii în colțul din dreapta sus, numele titularului, cursul, treapta acordată, procentul de lecții, scorul mediu, timpul de studiu, versiunea cursului, emitentul și codul QR de verificare
Documentul real, un PDF A4, aici cu date de exemplu. Pe al tău apar numele tău, cursul „LLM-uri Locale cu Ollama: Privacy, Self-Hosting și Inferență Offline”, seria, data emiterii și treapta obținută; codul QR din imagine e decorativ.

  • Verificabil public

    Pagină publică de verificare, cod QR și amprentă criptografică, fără cont pentru cel care verifică.

  • Îl arăți unde contează

    Îl adaugi pe CV și pe profilul de LinkedIn; recrutorul îi confirmă autenticitatea cu un click.

  • Spune exact ce atestă

    Cursul, treapta obținută (Promovat, Merit sau Distincție), seria și data emiterii, plus procentul de lecții parcurse.

Verifică un certificat

Atestare privată de finalizare a parcurgerii cursului. NU este diplomă sau calificare recunoscută de stat (Legile 198/2023, 199/2023, OG 129/2000, ANC); angajatorii o pot lua în considerare la libera lor apreciere. Politica de certificare.

Prețuri

Doar acest curs sau toată direcția IT Pro

Cursul se plătește lunar, pachetele lunar sau anual. Oprești reînnoirea oricând din cont, iar accesul pornește imediat după plată. Prețurile sunt totale, cu TVA 21% inclus.

La plata anuală plătești 10 luni și ai acces 12.

Doar acest curs

LLM-uri Locale cu Ollama: Privacy, Self-Hosting și Inferență Offline

499 lei pe lună, TVA inclus Fără angajament: oprești reînnoirea oricând

aproximativ 21 lei pe oră de curs

Cumpără doar acest curs
32 de lecții în 11 module aproximativ 24 de ore
  • Toate lecțiile, exercițiile și quiz-urile cursului: 418 întrebări
  • Profesor AI în lecții, cu utilizări incluse în abonament
  • Certificat de Finalizare verificabil public

IT Pro

Include acest curs

Developeri, ingineri de date, arhitecți. Cod și producție.

1.999 lei pe lună, TVA inclus sau 19.990 lei pe an: plătești 10 luni, ai 12

80 lei pe lună pentru fiecare dintre cele 25 de cursuri

Alege IT Pro
25 de cursuri IT în medie 24 de ore per curs
  • Prompt engineering, LLM-uri, RAG, agenți AI și MCP, Claude Code și Cursor, computer vision, MLOps, securitate AI
  • Proiecte practice cu exemple de producție
  • Profesor AI în fiecare lecție, quiz-uri și certificat la fiecare curs

IT + Non-IT

Tot catalogul, ambele parcursuri în paralel.

2.499 lei pe lună, TVA inclus sau 24.990 lei pe an: plătești 10 luni, ai 12

50 lei pe lună pentru fiecare dintre cele 50 de cursuri

Alege IT + Non-IT
Toate cele 50 de cursuri aproximativ 1.213 ore
  • Economisești 999 lei pe lună față de cele două pachete luate separat
  • Trasee de învățare pentru ambele profiluri
  • Profesor AI în fiecare lecție, quiz-uri și certificat la fiecare curs

Abonamentele se reînnoiesc automat; oprești reînnoirea oricând din cont, iar accesul rămâne până la finalul perioadei plătite. Fiind conținut digital cu acces imediat, vezi condițiile de retragere.

Cumperi pentru o echipă?Pachete pentru companii, cu factură pe firmă și raport de progres pentru fiecare coleg. Prețuri fără TVA. Cumperi pentru altcineva?Dăruiește o lună de acces la acest curs: plată unică de 499 lei, cod pe email, fără abonament.

Compară toate planurile în detaliu

Înainte să te decizi

Întrebări frecvente

Despre curs, preț, Profesorul AI și certificat.

Ce înveți în cursul „LLM-uri Locale cu Ollama: Privacy, Self-Hosting și Inferență Offline”?

Program intermediar, complet practic, dedicat rulării modelelor de limbaj open-weight pe infrastructură proprie, on-premise și offline. Pornind de la motivația reală — privacy by design, data residency, GDPR și EU AI Act ca motoare de adopție în bănci, sănătate și sectorul public — înveți să instalezi și să operezi Ollama, să consumi API-ul REST OpenAI-compatible local (http://localhost:11434/v1), să alegi argumentat dintre Llama 4, Gemma 3, Qwen3 și DeepSeek, să stăpânești cuantizarea GGUF (q4_K_M vs q8_0) și dimensionarea realistă a hardware-ului, să construiești modele custom cu Modelfile, să înlocuiești apelurile cloud în aplicații, să scalezi inferența cu vLLM și SGLang și să citești corect model card-urile pentru conformitate de licențiere (Apache 2.0 vs licența custom Meta). Modulul de guvernanță acoperă DPIA, audit trail și minimizarea datelor, iar capstone-ul livrează un deployment privat end-to-end cu API intern și checklist GDPR. Totul ancorat exclusiv în docs.ollama.com, model cards HuggingFace, llama.cpp/GGUF, documentația vLLM și SGLang. Conținut informativ, nu consultanță juridică.

Cursul are 11 module și 32 de lecții, cu 418 întrebări de quiz. Programa completă, modul cu modul, e afișată pe pagina cursului.

Am nevoie de experiență anterioară pentru acest curs?

Cursul e de nivel Intermediar: ajută să ai deja noțiunile de bază despre AI și despre domeniul cursului.

Cât durează cursul?

Durata estimată e de aproximativ 24 de ore, în 32 de lecții. Înveți în ritmul tău, iar progresul se salvează automat la fiecare lecție, așa că reiei oricând de unde ai rămas.

Cât costă și ce abonament îmi trebuie?

Accesul doar la acest curs costă 499 lei pe lună. Cursul e inclus și în pachetul IT Pro, 1.999 lei pe lună pentru toate cele 25 de cursuri IT Pro, și în IT + Non-IT, 2.499 lei pe lună pentru tot catalogul.

La plata anuală a unui pachet plătești 10 luni și ai acces 12. Prețurile pentru persoane fizice sunt totale, cu TVA de 21% inclus. Compară planurile.

Pot citi o parte din curs înainte să plătesc?

Da. Poți citi gratuit, fără cont, un fragment din lecția 1, „De Ce Rulezi Modelul Local: Privacy by Design și Costul Real al Apelului Cloud”. Fragmentul îți arată cum e scrisă lecția; restul lecției și celelalte lecții se deschid după plată.

Cum mă ajută Profesorul AI în acest curs?

Profesorul AI e integrat în fiecare lecție și pornește de la lecția pe care o ai deschisă: îți explică pasajele pe care le selectezi, îți dă exemple, îți face rezumatul, te testează cu un quiz și îți pregătește carduri de recapitulare. Îl folosești scriind sau vorbind, în română.

E inclus în abonament, și la accesul pe un singur curs, cu o limită lunară de utilizare corectă. Este un sistem AI, nu un profesor uman, iar răspunsurile pot conține erori; detalii în Termeni.

Primesc un certificat când termin cursul?

Când îndeplinești pragurile de finalizare afișate în platformă (lecțiile parcurse și scorul minim la quiz-uri), îți poți emite din cont Certificatul de Finalizare pentru „LLM-uri Locale cu Ollama: Privacy, Self-Hosting și Inferență Offline”, cu număr unic, verificabil public pe site.

Este o atestare privată de finalizare, emisă de GALIAN SOFTWARE DEVELOPMENT SRL. Nu este diplomă sau act de studii, nu este certificat de calificare profesională și nu este recunoscut de ANC; angajatorii îl pot lua în considerare la libera lor apreciere. Detalii în Politica de certificare.

Abonamentul se reînnoiește automat? Cum îl opresc?

Da. Accesul la un curs și pachetele sunt abonamente care se reînnoiesc automat la finalul fiecărei perioade plătite: o lună sau, la plata anuală a unui pachet, un an. Data următoarei reînnoiri o vezi oricând în cont.

Oprești reînnoirea oricând, din cont sau pe email, fără alte formalități. Accesul rămâne activ până la finalul perioadei deja plătite, iar pentru perioada începută nu se restituie sume pro-rata, cu excepțiile prevăzute de lege. Certificatul emis și progresul rămân în cont. Detalii în Termeni și Condiții, secțiunea 5.5.

Pot dărui cursul cuiva?

Da. Poți dărui o lună de acces la acest curs: plătești o singură dată 499 lei, iar destinatarul primește pe email un cod care îi deschide o lună de acces. Nu e un abonament și nu se reînnoiește. Vezi cum funcționează cadoul.

Din aceeași direcție

Cursuri similare

Toate sunt incluse în pachetul IT Pro, la aproximativ 80 lei pe curs, sau le iei separat, la 499 lei pe lună fiecare.

IT Pro: AI Engineering

MCP (Model Context Protocol) — Construirea de Servere și Integrări (Enterprise Edition)

Servere MCP în Python cu FastMCP și în TypeScript: transport stdio și HTTP, OAuth 2.1, threat modeling, testare, Docker, deploy în cloud și CI/CD.

Avansat 22 de lecții ~25 h

Fragment gratuit din MCP (Model Context Protocol) — Construirea de Servere și Integrări (Enterprise Edition)

499 lei/lunăTVA inclus

Cumpără cursul MCP (Model Context Protocol) — Construirea de Servere și Integrări (Enterprise Edition)

Toate cursurile din AI Engineering Tot catalogul (50)

De pe blog

Articole despre aceleași subiecte

Începe cursul azi, în ritmul tău

„LLM-uri Locale cu Ollama: Privacy, Self-Hosting și Inferență Offline”: 32 de lecții și aproximativ 24 de ore de conținut, cu progresul salvat la fiecare lecție.

  • Acces imediat după plată, pe calculator, tabletă sau telefon.
  • Profesor AI în fiecare lecție, inclus în abonament.
  • Certificat de Finalizare, verificabil public.

Doar acest curs

499 lei/lună

TVA 21% inclus · oprești reînnoirea oricând din cont

Cumpără cursul Sau toate cele 25 de cursuri IT Pro: 1.999 lei/lună

Încă te gândești?Verifică înainte să plătești.

ChatGPT, OpenAI, Claude, Anthropic, Gemini, Google, Microsoft 365 Copilot, Cursor, Midjourney și celelalte denumiri de produse și companii menționate sunt mărci sau denumiri comerciale ale titularilor lor. Cursuri-AI.ro este un furnizor independent de formare și nu este afiliat, sponsorizat sau aprobat de aceștia.