Chatten med lokale AI-modeller
Hvorfor lokale AI-modeller?
Ollama kjører modellen lokalt. Innlogging og lagring av chatter bruker skyen og krever internett. Det byttes ikke automatisk til en skymodell.
Dette gjelder vanlig modus. I frakoblet modus blir alt på denne datamaskinen: appen fungerer da også uten internett, og nye chatter lagres bare lokalt og kryptert.
Hvorfor Ollama?
Ollama er et verktøy som gjør det enkelt å kjøre AI-modeller lokalt. Det installeres på hver datamaskin separat, noe som innebærer at det ikke er noen begrensninger på antall brukere - ingen delt server nødvendig.
Installere Ollama
- Gå til Ollama nedlastingsside
- Last ned versjonen for ditt operativsystem (Windows eller macOS)
- Installer Ollama ved å følge installasjonsveiviseren
- Etter installasjon kjører Ollama bakgrunnsdrift automatisk
Installere et språkmodell
Etter at Ollama er installert, må du minst laste ned én språkmodell:
- Åpne Ollama-grensesnittet (via systemfelt-ikonet eller terminalen)
- Last ned en språkmodell etter eget ønske
Anbefalt modell
Velg helst en modell som har verktøy og visjon-muligheter:
- Tool capabilities - Modellen kan bruke alle verktøyene som er tilgjengelige i applikasjonen, slik som nettsøk og bildegenerering
- Vision capabilities - Modellen kan analysere og beskrive bilder
qwen3-vl:4b-instruct tilbyr en god balanse mellom hastighet og verktøy/visjon-muligheter. Installer denne modellen via terminalen:
ollama pull qwen3-vl:4b-instruct
Velg varianten -instruct: den svarer med en gang. Den vanlige qwen3-vl:4b tenker lenge før hvert steg og er mange ganger tregere på en bærbar. For små lokale modeller bruker appen en kort instruksjon og bare verktøyene som passer til spørsmålet ditt. Hvis det samme steget mislykkes igjen og igjen, stopper KI-en og forteller hva som virket og hva som ikke gjorde det.
Modellvalg basert på maskinvare
Ytelsen til en modell avhenger sterkt av maskinvaren i datamaskinen din:
| Maskinvare | Anbefaling |
|---|---|
| Begrenset (8GB RAM, ingen GPU) | Velg mindre modeller (1-4B parametre) |
| middels (16GB RAM, basising) | Modeller opptil 7B parametre |
| Kraftig (32GB+ RAM, moderne GPU) | Større modeller mulig (13B+) |
En mindre modell genererer vanligvis raskere svar, men kan være mindre nøyaktige. Eksperimenter for å finne den beste balansen for din situasjon.
Konfigurasjon i skrivebordsapplikasjonen
Når Ollama kjører med en installert modell, oppdager skrivebordsapplikasjonen dette automatisk. Du kan deretter velge den lokale modellen i chatten som et alternativ til skymodellene.
På startskjermen kan du velge en lokal modell under inndatafeltet før du sender den første meldingen. Den valgte modellen brukes fra første melding og kan endres senere.
Tilgjengelige modeller med verktøy/visjon-støtte
Se hele listen på ollama.com/library. Filtrer på modeller med:
Tools-tag for verktøy-muligheterVision-tag for bildegjenkjenning
Populære alternativer:
qwen3-vl:4b-instruct- Kompakt, rask, verktøy + visjonllama3.2-vision- Visjon-mulighetermistral- Rask håndtering av generelle oppgaver
Les dokumenter og skanninger lokalt
Med en lokal modell leser skrivebordsappen dokumenter på din egen datamaskin. Ingenting lastes opp.
- Arbeidsmappe: i en godkjent mappe leser KI-en Word, PowerPoint, Excel, PDF, OpenDocument (ODT, ODP, ODS) og RTF. Gamle .doc- og .ppt-filer leses bare hvis LibreOffice er installert.
- Skanninger og bilder: skannede PDF-sider, bilder (PNG, JPG, WebP, TIFF) og bilder i Word- og PowerPoint-filer leses med tekstgjenkjenning (OCR). OCR følger med appen og gjenkjenner nederlandsk, engelsk, tysk og fransk. I chatten ser du hvilken side som leses; en lang skanning kan ta noen minutter. Maksimalt 100 sider per dokument leses med OCR.
- Usikker gjenkjenning: når tekstgjenkjenningen er usikker, sier KI-en fra. Kontroller da navn, tall og beløp i originalen. Håndskrift, tabeller og diagrammer gjenkjennes ikke alltid riktig.
- Bildemodell: hvis den valgte modellen har vision (som
qwen3-vl:4b-instruct), ser modellen selv på bilder der tekstgjenkjenningen leser lite eller usikkert. Uten GPU tar det lengre tid. - iPhone-bilder (HEIC): lagre dem først som JPEG eller PNG.
Også med en skymodell leser appen dokumentene i arbeidsmappen på datamaskinen din, men den leste teksten sendes da til den modellen som en del av samtalen.
Arbeid uten internett, også med vedlegg i chatten: se Frakoblet modus.