Bilgisayarda Yerel Yapay Zeka Çalıştırma: Ollama Kurulumu ve Donanım İhtiyacı

Bilgisayarda yerel yapay zeka çalıştırmanın en kolay yolu Ollama'dır: ollama.com/download adresinden Windows, macOS veya Linux sürümünü kurun, ardından terminale ollama run gemma3:4b gibi bir komut yazın; model indirilir ve internet bağlantısına gerek kalmadan bilgisayarınızda sohbet etmeye başlarsınız. Donanım ihtiyacı modelin boyutuna bağlıdır: 8 GB RAM ile 1-4 milyar parametreli küçük modeller, 16 GB RAM veya 8 GB ekran kartı belleğiyle 7-9 milyar parametreli modeller rahat çalışır; 12-14 milyar parametreli modeller için 12-16 GB VRAM önerilir. Ekran kartı şart değildir ama yanıt hızını kat kat artırır. Kurulum 10-15 dakika sürer.

Neden Yerel Yapay Zeka?

Bulut tabanlı sohbet botları güçlüdür, ancak yazdıklarınız şirketin sunucularına gider ve çoğu gelişmiş özellik abonelik gerektirir. Yerel modellerin avantajları şunlardır:

• Gizlilik: Belgeleriniz ve sorularınız bilgisayarınızdan çıkmaz.
• İnternetsiz çalışma: Model indirildikten sonra çevrimdışı kullanılabilir.
• Ücretsiz: Açık ağırlıklı modeller için abonelik ücreti yoktur.
• Deneme özgürlüğü: Farklı modelleri karşılaştırabilir, uygulamalarınıza entegre edebilirsiniz.

Dezavantajı, ev bilgisayarında çalışabilen modellerin en büyük bulut modelleri kadar yetenekli olmamasıdır. Kod yazma, metin özetleme, çeviri ve basit soru-cevap için ise küçük modeller şaşırtıcı derecede işe yarar.

Donanım İhtiyacı

Yerel bir modelin çalışması için modelin tamamının belleğe sığması gerekir. Ollama modelleri varsayılan olarak sıkıştırılmış (4 bit kuantize) biçimde indirir; bu, bellek ihtiyacını büyük ölçüde azaltır. Aşağıdaki değerler yaklaşık rehber niteliğindedir:

| Model boyutu | Örnek modeller | Yaklaşık bellek | Önerilen donanım | |---|---|---|---| | 1-4 milyar parametre | gemma3:1b, gemma3:4b, llama3.2:3b, qwen3:4b | 1-4 GB | 8 GB RAM, ekran kartı şart değil | | 7-9 milyar | qwen3:8b, llama3.1:8b | 5-6 GB | 16 GB RAM veya 8 GB VRAM | | 12-14 milyar | gemma3:12b, qwen3:14b | 8-10 GB | 12-16 GB VRAM | | 20-32 milyar | gpt-oss:20b, gemma3:27b, qwen3:32b | 13-20 GB | 16-24 GB VRAM veya 32 GB birleşik bellek |

Bu tabloda dikkat edilmesi gerekenler:

• Ekran kartı belleği (VRAM) hız için belirleyicidir. Model VRAM'e tamamen sığarsa yanıtlar hızlı akar; sığmazsa bir kısmı sistem RAM'inde ve işlemcide çalışır ve hız belirgin biçimde düşer.
• Apple Silicon Mac'ler birleşik bellek kullandığı için 16 GB veya 32 GB belleğin büyük kısmını modele ayırabilir ve bu iş için oldukça verimlidir.
• Uzun bağlam (context): Uzun belgeleri modele vermek ek bellek gerektirir.
• Disk: Ollama'nın kendisi birkaç gigabayt, modeller ise boyutuna göre birkaç gigabayttan yüzlerce gigabayta kadar yer kaplar. Hızlı bir SSD, modellerin yüklenme süresini kısaltır.

Model kütüphanesi çok hızlı değişir; yukarıdaki model adları yazıyı hazırladığımız Kasım 2026 itibarıyla ollama.com/library sayfasında bulunan popüler örneklerdir.

Adım 1: Sistem Gereksinimlerini Kontrol Edin

Windows için Ollama'nın resmi belgelerine göre gereksinimler şunlardır:

• Windows 10 22H2 veya daha yeni bir sürüm (Home veya Pro)
• NVIDIA ekran kartı kullanıyorsanız 551.61 veya daha yeni bir sürücü
• AMD Radeon kartlar için güncel sürücü (Ollama ROCm veya Vulkan üzerinden destek sunar)
• Ollama'nın kendisi için en az 4 GB, modeller için ek disk alanı

NVIDIA sürücünüz eskiyse önce güncelleyin; adımlar ekran kartı ve NVIDIA sürücü kurulum rehberimizde var.

Adım 2: Ollama'yı Kurun

Windows ve macOS:

1. ollama.com/download adresine gidin ve işletim sisteminize uygun kurulum dosyasını indirin.
2. Windows'ta OllamaSetup.exe dosyasını çalıştırın. Kurulum yönetici izni istemez ve varsayılan olarak kullanıcı klasörünüze kurulur.
3. Kurulum bittiğinde Ollama arka planda çalışmaya başlar; görev çubuğunun bildirim alanında simgesi görünür.

Linux:

Terminalde şu komutu çalıştırın:

curl -fsSL https://ollama.com/install.sh | sh

Kurulumu doğrulamak için bir terminal veya PowerShell penceresi açıp şunu yazın:

ollama --version

Adım 3: İlk Modelinizi Çalıştırın

Donanımınıza uygun bir modelle başlayın. 8-16 GB RAM'li bir bilgisayar için iyi bir başlangıç:

ollama run gemma3:4b

Komut, model bilgisayarda yoksa önce indirir (birkaç gigabayt), ardından sohbet ekranını açar. Sorunuzu yazıp Enter'a basın. Sohbetten çıkmak için /bye yazın.

Güçlü bir ekran kartınız varsa daha büyük bir model deneyebilirsiniz:

ollama run qwen3:14b

Ollama'nın güncel Windows ve macOS sürümleri, terminal kullanmak istemeyenler için basit bir sohbet penceresi de içerir; model seçip doğrudan bu pencereden yazışabilirsiniz.

Adım 4: Temel Komutları Öğrenin

ollama list
ollama ps
ollama pull llama3.2:3b
ollama rm llama3.2:3b

• ollama list: İndirilmiş modelleri ve boyutlarını gösterir.
• ollama ps: O anda bellekte çalışan modelleri ve ekran kartında mı işlemcide mi çalıştıklarını gösterir. "100% GPU" ifadesi, modelin tamamen ekran kartına sığdığını gösterir.
• ollama pull: Modeli çalıştırmadan indirir.
• ollama rm: Modeli silerek disk alanı açar.

Adım 5: Modellerin Kaydedileceği Yeri Değiştirin (İsteğe Bağlı)

Windows'ta modeller varsayılan olarak kullanıcı klasöründeki .ollama klasörüne kaydedilir. C sürücünüzde yer azsa, Windows'ta "ortam değişkenleri" diye aratarak hesabınız için OLLAMA_MODELS adında bir değişken oluşturun ve değer olarak başka bir diskteki klasörü (örneğin D sürücüsünde bir klasör) girin. Ardından Ollama'yı görev çubuğundan kapatıp yeniden açın. Disk alanı sorunları için SSD sağlık kontrolü ve disk temizliği rehberimize de bakabilirsiniz.

Adım 6: Diğer Uygulamalarla Kullanın

Ollama çalışırken bilgisayarınızda localhost:11434 adresinde bir yerel API sunar. Bu sayede:

• Open WebUI gibi açık kaynaklı arayüzlerle tarayıcıda ChatGPT benzeri bir sohbet ekranı kurabilirsiniz.
• Kod editörlerinin yapay zeka eklentilerini yerel modele bağlayabilirsiniz.
• Kendi Python veya JavaScript uygulamalarınızdan modele istek gönderebilirsiniz.

Varsayılan ayarlarda bu API yalnızca kendi bilgisayarınızdan erişilebilir. Ağdaki başka cihazlara açmak istiyorsanız güvenlik duvarı ve erişim konusunda dikkatli olun; API'yi internete açık bırakmayın.

Performans İpuçları

• Model yanıtları çok yavaşsa ollama ps ile modelin ekran kartına sığıp sığmadığını kontrol edin; sığmıyorsa daha küçük bir model seçin.
• Oyun gibi VRAM kullanan uygulamaları kapatın.
• Laptoplarda adaptörü takın ve güç modunu "En iyi performans" yapın.
• Türkçe yanıt kalitesi modelden modele değişir; birkaç modeli aynı soruyla deneyip karşılaştırmak en iyi yöntemdir.

Yapay zeka için donanım seçiyorsanız oyuncu laptopu alma rehberimiz VRAM konusuna da değiniyor; masaüstü toplamayı düşünüyorsanız oyun bilgisayarı toplama rehberimize bakabilirsiniz.

Sıkça Sorulan Sorular

Ollama ücretsiz mi?

Evet, Ollama'nın kendisi ücretsiz ve açık kaynaklıdır, yerel modelleri çalıştırmak için ücret ödenmez. Modellerin her birinin kendi lisansı vardır; ticari kullanım düşünüyorsanız kullandığınız modelin lisans koşullarını okuyun.

Ekran kartı olmadan Ollama çalışır mı?

Çalışır. Ekran kartı yoksa veya model ekran kartına sığmazsa Ollama işlemciyi ve sistem RAM'ini kullanır. Küçük modeller (1-4 milyar parametre) modern bir işlemcide kullanılabilir hızda yanıt verir, ancak büyük modellerde yanıtlar belirgin biçimde yavaşlar.

Yerel modeller ChatGPT kadar iyi mi?

Ev bilgisayarında çalışabilen modeller, en büyük bulut modelleri kadar geniş bilgiye ve akıl yürütme gücüne sahip değildir. Buna karşın özetleme, taslak yazma, çeviri ve kod yardımı gibi günlük işlerde oldukça yeterlidirler. Gizlilik ve çevrimdışı çalışma gerektiren işlerde ise belirgin bir avantaj sunarlar.

Yerel yapay zeka için kaç GB RAM gerekir?

Küçük modeller için 8 GB yeterlidir, ancak rahat bir deneyim için 16 GB önerilir. 7-9 milyar parametreli modeller 16 GB sistem RAM'iyle çalışır; daha hızlı ve büyük modeller için ekran kartı belleği (8-16 GB VRAM) belirleyici hale gelir.