Ana içeriğe atla

Yerel AI modelleriyle sohbet

Neden yerel AI modelleri?​

Ollama modeli yerel olarak çalıştırır. Oturum açma ve sohbet depolama bulutu kullanır ve internet gerektirir. Bulut modeline otomatik geçiş yapılmaz.

Bu normal mod için geçerlidir. Çevrimdışı modda her şey bu bilgisayarda kalır: uygulama internet olmadan da çalışır ve yeni sohbetler yalnızca yerel olarak, şifreli saklanır.

Neden Ollama?​

Ollama, AI modellerini yerel olarak kolayca çalıştırmanıza olanak tanıyan bir araçtır. Her bilgisayarda ayrı ayrı kurulabilir, bu da kullanıcı sayısı için herhangi bir sınırlama olmadığını – paylaşılan sunucuya ihtiyaç yok – anlamına gelir.

Ollama kurulum​

  1. Aşağıdaki sayfaya gidin: Ollama indirme sayfası
  2. İşletim sisteminiz için sürümü indirin (Windows veya macOS)
  3. Kurulumu takip ederek Ollama’yı kurun
  4. Kurulumdan sonra Ollama arka planda otomatik olarak çalışır

Bir dil modeli kurulum​

Ollama kurulduktan sonra en az bir dil modeli indirmeniz gerekir:

  1. Ollama arayüzünü açın (sistem tepsisindeki simge veya terminal üzerinden)
  2. İstediğiniz bir dil modeli indirin

Önerilen model​

Tercihen tool ve vision yeteneklerine sahip bir model seçin:

  • Tool yetenekleri - Model, uygulamadaki tüm araçları kullanabilir, internet araması ve görüntü üretimi gibi
  • Vision yetenekleri - Model görüntüleri analiz edebilir ve açıklayabilir
Önerilen model

qwen3-vl:4b-instruct hız ile araç/vision yetenekleri arasında iyi bir denge sağlar. Bu modeli terminalden kurun:

ollama pull qwen3-vl:4b-instruct

Doğrudan yanıt veren -instruct varyantını seçin. Normal qwen3-vl:4b her adımdan önce uzun süre düşünür ve bir dizüstü bilgisayarda kat kat daha yavaştır. Küçük yerel modeller için uygulama kısa bir talimat ve yalnızca sorunuza uyan araçları kullanır. Aynı adım tekrar tekrar başarısız olursa yapay zekâ durur ve neyin işe yarayıp neyin yaramadığını söyler.

Donanıma göre model seçimi​

Bir modelin performansı bilgisayarınızın donanımına bağlıdır:

DonanımÖneri
Kısıtlı (8GB RAM, GPU yok)Daha küçük modelleri tercih edin (1-4B parametreler)
Orta (16GB RAM, temel GPU)7B parametreye kadar modeller
Güçlü (32GB+ RAM, modern GPU)Daha büyük modeller mümkün (13B+)
Hız vs. kalite

Daha küçük bir model genellikle hız açısından daha iyi performans gösterir, ancak daha az doğru yanıtlar verebilir. Sizin durumunuza en uygun dengeyi bulun.

Masaüstü uygulamasındaki yapılandırma​

Ollama çalışırken kurulu bir model varsa, masaüstü uygulaması bunu otomatik olarak algılar. Ardından sohbet sırasında yerel modeli, bulut modellerinin yerine alternatif olarak seçebilirsiniz.

Başlangıç ekranında giriş alanının altındaki seçiciyle ilk mesajdan önce yerel bir model seçebilirsiniz. Seçilen model ilk mesajdan itibaren kullanılır ve daha sonra değiştirilebilir.

Taşınabilir modellerin mevcut olmasıyla ilgili bilgiler ve araçlar​

Tam liste için ollama.com/library adresini görün. Modelleri şu etiketlerle filtreleyin:

  • Tools etiketli olanlar araç yetenekleri için
  • Vision etiketli olanlar görüntü tanıma için

Popüler seçenekler:

  • qwen3-vl:4b-instruct - Kompakt, hızlı, araç + vision
  • llama3.2-vision - Vision yetenekleri
  • mistral - Hızlı genel görevler

Belgeleri ve taramaları yerel olarak okuma​

Yerel bir modelle masaüstü uygulaması belgeleri kendi bilgisayarınızda okur. Hiçbir şey yüklenmez.

  • Çalışma klasörü: onaylanmış bir klasörde yapay zekâ Word, PowerPoint, Excel, PDF, OpenDocument (ODT, ODP, ODS) ve RTF dosyalarını okur. Eski .doc ve .ppt dosyaları yalnızca LibreOffice yüklüyse okunur.
  • Taramalar ve fotoğraflar: taranmış PDF sayfaları, görüntüler (PNG, JPG, WebP, TIFF) ve Word ile PowerPoint dosyalarındaki görüntüler metin tanıma (OCR) ile okunur. OCR uygulamayla birlikte gelir ve Felemenkçe, İngilizce, Almanca ve Fransızcayı tanır. Sohbette hangi sayfanın okunduğunu görürsünüz; uzun bir tarama birkaç dakika sürebilir. Belge başına en fazla 100 sayfa OCR ile okunur.
  • Belirsiz tanıma: metin tanıma belirsiz olduğunda yapay zekâ bunu bildirir. Bu durumda adları, rakamları ve tutarları orijinalden kontrol edin. El yazısı, tablolar ve şemalar her zaman doğru tanınmaz.
  • Görüntü modeli: seçilen modelin vision özelliği varsa (örneğin qwen3-vl:4b-instruct), metin tanımanın az veya belirsiz okuduğu görüntülere model kendisi de bakar. GPU olmadan bu daha uzun sürer.
  • iPhone fotoğrafları (HEIC): önce JPEG veya PNG olarak kaydedin.

Bulut modeliyle de uygulama çalışma klasöründeki belgeleri bilgisayarınızda okur, ancak okunan metin sohbetin bir parçası olarak o modele gönderilir.

İnternetsiz çalışmak, sohbetteki eklerle birlikte: bkz. Çevrimdışı mod.

Bu sayfada