Kjør AI lokalt med Ollama: komplett guide 2026
Ollama gjør det enkelt å kjøre kraftige språkmodeller på din egen maskin — uten å sende data til eksterne servere. Her er alt du trenger for å komme i gang.
Med Ollama kan du kjøre Llama 3, Mistral og andre toppmodeller direkte på din egen maskin.
Ollama lar deg kjøre Llama 3, Mistral og Gemma lokalt på Mac, Windows og Linux. Komplett guide til installasjon, modellvalg og personvern-bevisst AI-bruk.
Hvorfor kjøre AI lokalt?
Når du bruker ChatGPT, Claude eller Gemini, sendes promptene dine til eksterne servere i USA. For de fleste brukere er dette uproblematisk. Men for norske bedrifter som håndterer personopplysninger, juridiske dokumenter, pasientjournaler eller forretningshemmeligheter, er dette en compliance-risiko — og muligens et GDPR-brudd.
Lokal AI med Ollama løser dette: modellen kjører på din hardware, ingen data forlater maskinen. I tillegg er det gratis etter at hardware er på plass, fungerer uten internettilkobling, og gir deg full kontroll over hvilken modell du bruker og hvordan den er konfigurert.
Installasjon: Mac, Windows og Linux
Installasjon av Ollama tar under 5 minutter på alle plattformer:
- Mac (Apple Silicon/Intel): Last ned fra ollama.com og kjør installasjonspakken. Ollama starter automatisk som en bakgrunnsprosess. Kommandoen «ollama run llama3» laster ned og starter modellen.
- Windows: Fra og med 2024 finnes offisiell Windows-installer. Last ned .exe fra ollama.com, installer som vanlig program. Fungerer med NVIDIA GPU via CUDA og AMD GPU via ROCm.
- Linux: Én kommando installerer alt: «curl -fsSL https://ollama.com/install.sh | sh». Støtter systemd-service for automatisk oppstart. NVIDIA og AMD GPU støttes natively.
- Docker: «docker run -d -p 11434:11434 ollama/ollama» starter Ollama i en container. Praktisk for server-deployments og når du vil isolere miljøet.
Hvilken modell skal du velge?
Valget av modell avhenger av hardware og brukstilfelle. Her er de viktigste alternativene i 2025:
- Llama 3.2 (Meta, 3B/8B/70B): Meta sin åpne flaggskip-serie. 8B-varianten er ypperlig på de fleste oppgaver med moderat hardware. 70B krever kraftig GPU (24 GB VRAM) men matcher GPT-4 Turbo på mange benchmarks.
- Mistral 7B / Mixtral 8x7B: Fransk open source-modell kjent for høy ytelse per parameter. Mixtral bruker Mixture-of-Experts (MoE) og er overraskende god på kode og logisk resonering.
- Gemma 2 (Google, 2B/9B/27B): Google sin åpne modellserie. 9B-varianten er rask og god på norsk-tilstøtende oppgaver. 2B kjører på telefoner og enkle maskiner.
- DeepSeek R1: Kinesisk open source-modell som overrasket verden i januar 2025. Ekstremt sterk på matematikk og kode. Tilgjengelig i destillerte varianter fra 1.5B til 70B.
- Phi-4 (Microsoft): Liten men kraftig modell fra Microsoft. 14B-parametere men ytelse som konkurrerer med modeller 5x større. God for ressursbegrenset hardware.
Hardware-krav og ytelse
Ytelse avhenger kritisk av om modellen passer i GPU-VRAM. Hvis ikke, faller den tilbake til RAM/CPU — som er 5–20x tregere:
Llama 3.2 3B — VRAM-krav~3 GB (4-bit kvantisert)
Llama 3.1 8B — VRAM-krav~5 GB (4-bit kvantisert)
Llama 3.3 70B — VRAM-krav~40 GB (trenger 2x GPU)
Mistral 7B — tokenshastighet (RTX 4090)~80–100 tokens/sek
Llama 3.1 8B på M3 Pro MacBook Pro~50–70 tokens/sek
Open WebUI minneforbruk~200–400 MB RAM
Open WebUI: ChatGPT-grensesnitt for lokale modeller
Kommandolinje-grensesnittet til Ollama er praktisk for utviklere, men ikke for alle. Open WebUI (tidligere Ollama WebUI) gir et polert nettlesergrensesnitt identisk med ChatGPT — med chat-historikk, modellbytte, filvedlegg og til og med bilde-generering via Stable Diffusion.
Installasjon med Docker: «docker run -d -p 3000:80 --add-host=host.docker.internal:host-gateway ghcr.io/open-webui/open-webui:main». Deretter er grensesnittet tilgjengelig på localhost:3000. For team-bruk kan Open WebUI settes opp med autentisering og rolle-basert tilgang — en privat ChatGPT-instans for bedriften.
Brukstilfeller der lokal AI er overlegen
Personvern-sensitive dokumenter: Revisor som analyserer regnskap, advokat som gjennomgår kontrakter, lege som skriver journalnotater — disse bør ikke sendes til OpenAI-servere. Med Ollama forblir all data lokalt.
Offline-bruk: Journalister på utilgjengelig reportasjested, ingeniører på offshoreinstallasjon med begrenset båndbredde, eller bare deg på fly uten WiFi. Lokal AI fungerer uten internett.
Begrensninger: hva lokal AI ikke kan
Lokal AI er ikke GPT-4 eller Claude 3.5 Sonnet. De beste kommersielle modellene er vesentlig bedre enn de fleste open source-alternativer på kompleks resonnering, nyanserte språkoppgaver og instruksjonsfølging. For krevende faglige oppgaver er de kommersielle modellene fortsatt bedre investeringen.
Hardware-kostnad er en reell faktor: En god lokal AI-setup krever enten Apple Silicon (M2 Pro/Max eller nyere), en RTX 4090 (ca. 15 000 kr), eller en server med A100. For enkle oppgaver er en M2 MacBook Air tilstrekkelig. Men budsjett-PC-er uten dedikert GPU gir en treig og frustrerende opplevelse med alle modeller utenom de minste.
Ofte stilte spørsmål
Hva handler «Kjør AI lokalt med Ollama: komplett guide 2026» om?
Ollama lar deg kjøre Llama 3, Mistral og Gemma lokalt på Mac, Windows og Linux. Komplett guide til installasjon, modellvalg og personvern-bevisst AI-bruk.
Hvorfor kjøre AI lokalt?
Når du bruker ChatGPT, Claude eller Gemini, sendes promptene dine til eksterne servere i USA. For de fleste brukere er dette uproblematisk. Men for norske bedrifter som håndterer personopplysninger, juridiske dokumenter, pasientjournaler eller forretningshemmeligheter, er dette en compliance-risiko — og muligens et GDPR-brudd.
Hva bør du vite om installasjon: Mac, Windows og Linux?
Installasjon av Ollama tar under 5 minutter på alle plattformer:
Hvilken modell skal du velge?
Valget av modell avhenger av hardware og brukstilfelle. Her er de viktigste alternativene i 2025:
Hva bør du vite om hardware-krav og ytelse?
Ytelse avhenger kritisk av om modellen passer i GPU-VRAM. Hvis ikke, faller den tilbake til RAM/CPU — som er 5–20x tregere:
Hva bør du vite om open WebUI: ChatGPT-grensesnitt for lokale modeller?
Kommandolinje-grensesnittet til Ollama er praktisk for utviklere, men ikke for alle. Open WebUI (tidligere Ollama WebUI) gir et polert nettlesergrensesnitt identisk med ChatGPT — med chat-historikk, modellbytte, filvedlegg og til og med bilde-generering via Stable Diffusion.
Redaksjonell merknad: Dette innholdet er utarbeidet av Norsk Næring med hjelp av kunstig intelligens og kvalitetssikret av redaksjonen. Informasjonen er ment som generell veiledning og erstatter ikke profesjonell rådgivning. Feil eller unøyaktigheter? Kontakt oss på help@norsknæring.no.
