MacOS üzerine Open WebUI (Ollama WebUI) Kurulumu

Gereksinimler

  1. Python: macOS’unuzda Python 3.9 veya üzeri sürümünün kurulu olması gerekir. Eğer kurulu değilse, Python’ın resmi web sitesinden indirebilirsiniz.
  2. Homebrew: Homebrew, macOS için bir paket yöneticisidir. Open WebUI’nin bazı bağımlılıklarını kurmak için gereklidir. Eğer kurulu değilse, Terminal’i açın ve aşağıdaki komutu çalıştırın:

    /bin/bash -c "$(curl -fsSL https://raw.githubusercontent.com/Homebrew/install/HEAD/install.sh)"
  3. Git: Git, Open WebUI’yi indirmek için gereklidir. Eğer kurulu değilse, Homebrew ile kurabilirsiniz:

    brew install git
  4. Yeterli Disk Alanı: Model dosyaları ve bağımlılıklar için en az 20 GB boş disk alanınızın olması önerilir.

Open WebUI’yi İndirme

Terminal’i açın ve Open WebUI’nin bulunmasını istediğiniz dizine gidin. Örneğin, masaüstünde bir klasör oluşturabilirsiniz:
cd ~/Desktop/OpenWebUI

Ardından, Open WebUI’yi Git ile klonlayın:
git clone https://github.com/oobabooga/text-generation-webui
cd text-generation-webui

Bağımlılıkları Kurma

Open WebUI‘nin bağımlılıklarını kurmak için aşağıdaki komutu çalıştırın:
pip install -r requirements.txt

Bu işlem biraz zaman alabilir. Eğer herhangi bir hata alırsanız, hata mesajını dikkatlice okuyun ve sorunu çözmeye çalışın. Genellikle eksik bir bağımlılık veya uyumsuz bir Python sürümü gibi sorunlar yaşanabilir.

PyTorch Kurulumu (Önemli)

PyTorch, yapay zeka modellerini çalıştırmak için kullanılan bir kütüphanedir. macOS için PyTorch’u kurmak biraz karmaşıktır çünkü Apple’ın Metal GPU’su ile uyumlu bir sürümünü bulmanız gerekir.

Aşağıdaki komutları kullanarak PyTorch’u kurmayı deneyin:

pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/torch_stable.html

Eğer bu komut çalışmazsa veya hatalar alırsanız, PyTorch’un resmi web sitesindeki macOS kurulum
talimatlarını inceleyin ve uygun komutu kullanın. Metal desteği olan bir PyTorch sürümü kurduğunuzdan emin olun.

Open WebUI’yi Çalıştırma

Tüm bağımlılıkları kurduktan sonra, Open WebUI’yi aşağıdaki komutla çalıştırabilirsiniz:
python server.py --share

--share parametresi, web arayüzünü internet üzerinden erişilebilir hale getirir. Bu, farklı cihazlardan (telefon, tablet vb.) web arayüzüne erişmek istediğinizde kullanışlıdır.

Web Arayüzüne Erişme

Server.py komutunu çalıştırdıktan sonra, Terminal’de bir URL adresi göreceksiniz. Bu URL adresini tarayıcınızın adres çubuğuna yazarak Open WebUI web arayüzüne erişebilirsiniz.

Ek Notlar ve Sorun Giderme

Metal Uyumluluğu: macOS’unuzda Metal GPU’su varsa, PyTorch’un Metal ile uyumlu bir sürümünü kurduğunuzdan emin olun. Bu, model performansını artıracaktır.

  • Hata Mesajları: Kurulum sırasında herhangi bir hata alırsanız, hata mesajını dikkatlice okuyun ve internette çözüm aramaya çalışın. Genellikle hata mesajları, sorunun kaynağı hakkında ipuçları verir.
  • Model İndirme: Open WebUI’yi çalıştırdıktan sonra, bir model indirmesi gerekecektir. Web arayüzünde “Model” sekmesine gidin ve indirmek istediğiniz modeli seçin.
  • Güncellemeler: Open WebUI’yi düzenli olarak güncelleyin. Bu, hataları düzeltir ve yeni özellikler ekler.
  • CUDA: macOS, CUDA’yı desteklemez. Bu nedenle, CUDA tabanlı modelleri kullanamazsınız. Metal tabanlı modelleri kullanmanız gerekecektir.

Bir yanıt yazın

This site uses Akismet to reduce spam. Learn how your comment data is processed.