Bu rehberimizde Intel ARC ekran kartları ile KoboldAI kuracağız.
KoboldAI kurulumuna geçmeden önce ilk olarak bilgisayarımıza bir şekilde Linux kurmalıyız.
Intel PyTorch kütüphanesi sadece Linux üzerinde çalışıyor. Windows kullanıyorsanız WSL içinde Ubuntu 22.04 kullanabilirsiniz.
WSL için bu rehberi takip edebilirsiniz:
www.technopat.net
Intel OneAPI ve Compute Runtime kurulumu:
Ubuntu:
Linux 6.2 kernelinden daha yeni bir kernele ihtiyacımız olduğundan en düşük Ubuntu 23.04 versiyonunu kullanmamız gerek.
Daha eski bir Ubuntu versiyonu kullanıyorsanız kernelinizi Linux 6.2 veya daha yeni bir versiyona güncellemeniz gerek.
Not: WSL için kernel güncellemek gerekli değil.
Daha sonra gerekli paket listesini sisteme ekleyelim:
Daha sonra gerekli paketleri kuralım:
Arch Linux:
Arch Linux için gerekli paketleri kuralım:
KoboldAI Kuurulumu:
Github'dan KoboldAI'ı indirelim:
Daha sonra KoboldAI'ın bulunduğu klasöre girelim:
Daha sonra aşağıdaki komut ile KoboldAI'ı çalıştırabilirsiniz:
Not: İlk başlatmada internetten gerekli kütüphaneleri indirdiğinden biraz zaman alacaktır.
KoboldAI kurulumuna geçmeden önce ilk olarak bilgisayarımıza bir şekilde Linux kurmalıyız.
Intel PyTorch kütüphanesi sadece Linux üzerinde çalışıyor. Windows kullanıyorsanız WSL içinde Ubuntu 22.04 kullanabilirsiniz.
WSL için bu rehberi takip edebilirsiniz:
Rehber: WSL ile Windows 10'da Linux terminali kullanma
Herkese merhabalar :), Bu gün sizlerle WSL nedir, nasıl kurulur onu anlatacağız. Soru: WSL nedir? Cevap: WSL, yani Windows subsytem for Linux sözlerinin kısaltılmasıdır. Amacı ise klasik Linux Shell'ini PowerShell üzerinde çalıştırmak ve işleriniz terminal üzerinden görmektir. Yani basit...
Intel OneAPI ve Compute Runtime kurulumu:
Ubuntu:
Linux 6.2 kernelinden daha yeni bir kernele ihtiyacımız olduğundan en düşük Ubuntu 23.04 versiyonunu kullanmamız gerek.
Daha eski bir Ubuntu versiyonu kullanıyorsanız kernelinizi Linux 6.2 veya daha yeni bir versiyona güncellemeniz gerek.
Not: WSL için kernel güncellemek gerekli değil.
Daha sonra gerekli paket listesini sisteme ekleyelim:
Bash:
sudo apt-get install -y gpg-agent wget
wget -qO - https://repositories.intel.com/graphics/intel-graphics.key | \
sudo gpg --dearmor --output /usr/share/keyrings/intel-graphics.gpg
echo 'deb [arch=amd64,i386 signed-by=/usr/share/keyrings/intel-graphics.gpg] https://repositories.intel.com/graphics/ubuntu jammy arc' | \
sudo tee /etc/apt/sources.list.d/intel.gpu.jammy.list
wget -O- https://apt.repos.intel.com/intel-gpg-keys/GPG-PUB-KEY-INTEL-SW-PRODUCTS.PUB \
| gpg --dearmor | sudo tee /usr/share/keyrings/oneapi-archive-keyring.gpg > /dev/null
echo "deb [signed-by=/usr/share/keyrings/oneapi-archive-keyring.gpg] https://apt.repos.intel.com/oneapi all main" | sudo tee /etc/apt/sources.list.d/oneAPI.list
sudo apt update && sudo apt upgrade -yDaha sonra gerekli paketleri kuralım:
Bash:
sudo apt-get install intel-opencl-icd intel-level-zero-gpu level-zero intel-media-va-driver-non-free libmfx1 libgl-dev intel-oneapi-compiler-dpcpp-cpp intel-oneapi-mkl python3-pip python3-venv git unzip libjemalloc-devArch Linux:
Arch Linux için gerekli paketleri kuralım:
Bash:
pacman -S git unzip python-pip python-virtualenv jemalloc intel-media-driver intel-oneapi-basekit intel-compute-runtime intel-graphics-compiler intel-opencl-clangKoboldAI Kuurulumu:
Github'dan KoboldAI'ı indirelim:
Bash:
https://github.com/henk717/KoboldAIDaha sonra KoboldAI'ın bulunduğu klasöre girelim:
Bash:
cd KoboldAIDaha sonra aşağıdaki komut ile KoboldAI'ı çalıştırabilirsiniz:
Bash:
./play-ipex.sh
