AMD ile yapay zeka konusunda neler yapılabilir?

Shinoa dedi:

Çoğu program tarafından AMD desteklenmez, AMD de bazı kartlarda ROCm var ama 7700XT bunlardan biri değil diye hatırlıyorum. ROCm desteği bile çok az bir grup yazılım tarafından verilir.

Şöyle söyleyeyim, 6750XT varken yapay zeka bir resim oluşturmam 4-5 dakika alırken rakibinde sadece 10 7-8 saniye sürüyordu, 3070 Ti'dan bahsediyorum. Bu bağlamda çoğu şey CPU'dan geçer bu da gecikmeye sebebiyet verir.

Yani, işiniz zor. Mesela ben şu an Ollama kullanıyorum ve AMD desteği çok minimal düzeylerde ve misal olarak benim ekran kartım 14b(14 milyar) sürümlerinde takılırken 7700XT en fazla 4b gibi mini diyebileceğimiz modellerde ancak hızlı sonuçlar verir. Resim oluşturma konusunda da Fooocus'un AMD desteği var ama o da uzun süreler geçiyor oluştururken. Sadece deneme maksatlı bir şeyler yapmak için uygun ama bu sektöre atılım yapacağım dersen AMD bir kart ile İMKANSIZ. Intel'in kartları bile daha başarılı yaygın olmasa bile. O bakımdan bu kartları sadece oyun oynayacak kişilere aldırırız.

Ek olarak AMD sistemlerde RAM'in fazla olması gerekli çünkü çoğunlukla CPU kullanılır, bunun için de RAM önemlidir. Minimum 32 öneririm.

Genişletmek için tıkla...

Shinoa dedi:

Çoğu program tarafından AMD desteklenmez, AMD de bazı kartlarda ROCm var ama 7700XT bunlardan biri değil diye hatırlıyorum. ROCm desteği bile çok az bir grup yazılım tarafından verilir.

Şöyle söyleyeyim, 6750XT varken yapay zeka bir resim oluşturmam 4-5 dakika alırken rakibinde sadece 10 7-8 saniye sürüyordu, 3070 Ti'dan bahsediyorum. Bu bağlamda çoğu şey CPU'dan geçer bu da gecikmeye sebebiyet verir.

Yani, işiniz zor. Mesela ben şu an Ollama kullanıyorum ve AMD desteği çok minimal düzeylerde ve misal olarak benim ekran kartım 14b(14 milyar) sürümlerinde takılırken 7700XT en fazla 4b gibi mini diyebileceğimiz modellerde ancak hızlı sonuçlar verir. Resim oluşturma konusunda da Fooocus'un AMD desteği var ama o da uzun süreler geçiyor oluştururken. Sadece deneme maksatlı bir şeyler yapmak için uygun ama bu sektöre atılım yapacağım dersen AMD bir kart ile İMKANSIZ. Intel'in kartları bile daha başarılı yaygın olmasa bile. O bakımdan bu kartları sadece oyun oynayacak kişilere aldırırız.

Ek olarak AMD sistemlerde RAM'in fazla olması gerekli çünkü çoğunlukla CPU kullanılır, bunun için de RAM önemlidir. Minimum 32 öneririm.

Genişletmek için tıkla...

FalconPolat dedi:

NVIDIA yoksa bu sevdadan vazgeçmeni şiddetle öneririm.


AMD bana saç baş yoldurdu bu konuda, bu yazılanların altına imzamı atarım.

Genişletmek için tıkla...

78OxyGen28 dedi:

peki yapay zeka alanında illa son deep learning gibi şeyler değilde machine learning konularına yoğunlaşsam?

Genişletmek için tıkla...

78OxyGen28 dedi:

Machine Learning denesem?

Genişletmek için tıkla...

Shinoa dedi:

Çoğu program tarafından AMD desteklenmez, AMD de bazı kartlarda ROCm var ama 7700XT bunlardan biri değil diye hatırlıyorum. ROCm desteği bile çok az bir grup yazılım tarafından verilir.

Şöyle söyleyeyim, 6750XT varken yapay zeka bir resim oluşturmam 4-5 dakika alırken rakibinde sadece 10 7-8 saniye sürüyordu, 3070 Ti'dan bahsediyorum. Bu bağlamda çoğu şey CPU'dan geçer bu da gecikmeye sebebiyet verir.

Yani, işiniz zor. Mesela ben şu an Ollama kullanıyorum ve AMD desteği çok minimal düzeylerde ve misal olarak benim ekran kartım 14b(14 milyar) sürümlerinde takılırken 7700XT en fazla 4b gibi mini diyebileceğimiz modellerde ancak hızlı sonuçlar verir. Resim oluşturma konusunda da Fooocus'un AMD desteği var ama o da uzun süreler geçiyor oluştururken. Sadece deneme maksatlı bir şeyler yapmak için uygun ama bu sektöre atılım yapacağım dersen AMD bir kart ile İMKANSIZ. Intel'in kartları bile daha başarılı yaygın olmasa bile. O bakımdan bu kartları sadece oyun oynayacak kişilere aldırırız.

Ek olarak AMD sistemlerde RAM'in fazla olması gerekli çünkü çoğunlukla CPU kullanılır, bunun için de RAM önemlidir. Minimum 32 öneririm.

Genişletmek için tıkla...

78OxyGen28 dedi:

Merhabalar tekrar yazıyorum ama google bulut sistemlerinin ekran kartlarını kullanarak yapay zekaya girebilir miyim?

Genişletmek için tıkla...

deltawrp dedi:

Comfyuı ve Stable Diffusion kurmana yardımcı olabilirim amacın görsel üretimiyse. Ama Linux kurman gerekecek onu söyleyeyim.

Genişletmek için tıkla...