Gå til hovedinnhold

Chatten med lokale AI-modeller

Hvorfor lokale AI-modeller?​

Lokal bruk av AI-modeller gir viktige fordeler:

  • Inherent sikkerhet - Dataene dine forblir på din egen datamaskin og blir aldri sendt til eksterne servere
  • Ingen ekstra kostnader - Lokale modeller har ingen API-kostnader per bruk
  • Personvern i fokus - Ideelt for sensitive dokumenter og informasjon

Hvorfor Ollama?​

Ollama er et verktøy som gjør det enkelt å kjøre AI-modeller lokalt. Det installeres på hver datamaskin separat, noe som innebærer at det ikke er noen begrensninger på antall brukere - ingen delt server nødvendig.

Installere Ollama​

  1. Gå til Ollama nedlastingsside
  2. Last ned versjonen for ditt operativsystem (Windows, macOS eller Linux)
  3. Installer Ollama ved å følge installasjonsveiviseren
  4. Etter installasjon kjører Ollama bakgrunnsdrift automatisk

Installere et språkmodell​

Etter at Ollama er installert, må du minst laste ned én språkmodell:

  1. Åpne Ollama-grensesnittet (via systemfelt-ikonet eller terminalen)
  2. Last ned en språkmodell etter eget ønske

Anbefalt modell​

Velg helst en modell som har verktøy og visjon-muligheter:

  • Tool capabilities - Modellen kan bruke alle verktøyene som er tilgjengelige i applikasjonen, slik som nettsøk og bildegenerering
  • Vision capabilities - Modellen kan analysere og beskrive bilder
Anbefalt modell

qwen3-vl:4b tilbyr en god balanse mellom hastighet og verktøy/visjon-muligheter. Installer denne modellen via terminalen:

ollama pull qwen3-vl:4b

Modellvalg basert på maskinvare​

Ytelsen til en modell avhenger sterkt av maskinvaren i datamaskinen din:

MaskinvareAnbefaling
Begrenset (8GB RAM, ingen GPU)Velg mindre modeller (1-4B parametre)
middels (16GB RAM, basising)Modeller opptil 7B parametre
Kraftig (32GB+ RAM, moderne GPU)Større modeller mulig (13B+)
Hastighet vs. kvalitet

En mindre modell genererer vanligvis raskere svar, men kan være mindre nøyaktige. Eksperimenter for å finne den beste balansen for din situasjon.

Konfigurasjon i skrivebordsapplikasjonen​

Når Ollama kjører med en installert modell, oppdager skrivebordsapplikasjonen dette automatisk. Du kan deretter velge den lokale modellen i chatten som et alternativ til skymodellene.

På startskjermen kan du velge en lokal modell under inndatafeltet før du sender den første meldingen. Den valgte modellen brukes fra første melding og kan endres senere.

Tilgjengelige modeller med verktøy/visjon-støtte​

Se hele listen på ollama.com/library. Filtrer på modeller med:

  • Tools-tag for verktøy-muligheter
  • Vision-tag for bildegjenkjenning

Populære alternativer:

  • qwen3-vl:4b - Kompakt, rask, verktøy + visjon
  • llama3.2-vision - Visjon-muligheter
  • mistral - Rask håndtering av generelle oppgaver
WhatsApp