Gå till huvudinnehållet

Chatta med lokala AI-modeller

Varför lokala AI-modeller?​

Lokal hantering av AI-modeller erbjuder viktiga fördelar:

  • Inherently säker - Dina data stannar på din dator och skickas aldrig till externa servrar
  • Inga extra kostnader - Lokala modeller har inga API-kostnader per användning
  • Integritet garanterad - Perfekt för känsliga dokument och information

Varför Ollama?​

Ollama är ett verktyg som gör det enkelt att köra AI-modeller lokalt. Det installeras separat på varje dator, vilket innebär att det inte finns begränsningar vad gäller antal användare – inget delat serverbehov.

Installera Ollama​

  1. Gå till Ollama nedladdningssida
  2. Ladda ned versionen för ditt operativsystem (Windows, macOS eller Linux)
  3. Installera Ollama genom installationsprogrammet
  4. Efter installationen kör Ollama automatiskt i bakgrunden

Installera ett språkmodell​

Efter att ha installerat Ollama behöver du minst en språkmodell nedladdad:

  1. Öppna Ollama-gränssnittet (via systemfältets ikon eller terminal)
  2. Ladda ned en språkmodell efter eget val

Rekommenderad modell​

Välj helst en modell som har tool- och vision-funktioner:

  • Tool capabilities - Modellen kan använda alla verktyg som finns i applikationen, såsom internet-sökning och bildgenerering
  • Vision capabilities - Modellen kan analysera och beskriva bilder
Rekommenderad modell

qwen3-vl:4b erbjuder en bra balans mellan snabbhet och tool/vision-förmågor. Installera denna modell via terminalen:

ollama pull qwen3-vl:4b

Modellval baserat på hårdvara​

Modellens prestanda beror starkt på din dators hårdvara:

HårdvaraRekommendation
Begränsad (8GB RAM, ingen GPU)Välj mindre modeller (1-4B parametrar)
Medel (16GB RAM, grundläggande GPU)Modeller upp till 7B parametrar
Kraftfull (32GB+ RAM, modern GPU)Större modeller möjligt (13B+)
Snabbhet vs. kvalitet

En mindre modell presterar generellt bättre i hastighet, men kan ge mindre exakta svar. Experimentera för att hitta bästa balans för din situation.

Konfiguration i skrivbordsapplikationen​

När Ollama körs med en installerad modell upptäcker skrivbordsapplikationen detta automatiskt. Du kan sedan i chatten välja den lokala modellen som alternativ till moln-modellerna.

På startskärmen kan du välja en lokal modell under inmatningsfältet innan du skickar det första meddelandet. Den valda modellen används från det första meddelandet och kan ändras senare.

Tillgängliga modeller med tool/vision-stöd​

Se hela listan på ollama.com/library. Filtrera på modeller med:

  • Tools-tag för tool capabilities
  • Vision-tag för bildigenkänning

Populära alternativ:

  • qwen3-vl:4b - Kompakt, snabb, tool + vision
  • llama3.2-vision - Vision-förmågor
  • mistral - Snabba allmänna uppgifter
WhatsApp