Arkadaşlar, benim bir robotik projem var. Robotun sohbet eklentisi de olacak. Tasarımları hazır, sadece bu kaldı. Şimdi ben bunun için kendi chatbot modelimi mi eğitmeliyim, yoksa ChatGPT mi kullanmalıyım? Ama bu Chatbot'un biraz insan gibi davranması gerekiyor. Yani 'en sevdiğin renk' diye sorulsa cevap verebilecek. ChatGPT'ye bunu yapmasını istediğimde 'ben bir nlp modeliyim' deyip işin içinden çıkıyor. İkna etsem bile unutuyor ve tekrar sorulduğunda 'ben nlp modeliyim' diyor yine. Ne yapmalıyım?
ChatGPT kullanmak mı daha mantıklı yoksa kendi modelimi eğitmek mi?
- Konuyu başlatan 479980
- Başlangıç Tarihi
- Mesaj 17
- Görüntüleme 1.642
OnlyX
Hectopat
- Katılım
- 21 Temmuz 2022
- Mesajlar
- 4.046
- Çözümler
- 21
Eğer 60 milyon dolarlık NVIDIA A100'lerin varsa neden eğitmeyesin?
- Katılım
- 29 Mart 2020
- Mesajlar
- 3.826
- Çözümler
- 71
Hocam kendi modelinizi eğitmeniz tabi ki daha iyi ancak biraz masraflı bir iş. Yine de yukarıdaki arkadaş fena sallamış.
OnlyX
Hectopat
- Katılım
- 21 Temmuz 2022
- Mesajlar
- 4.046
- Çözümler
- 21
Hocam 1 tane yetiyorsa evet salladım. Ben 1 tanesinin değerinden bahsetmedim.
Tabii eğer chat GPT mi yoksa kendi botummu diyor ise. Yoksa bir soruya cevap verecekse sadece GT710 da yeter.
- Katılım
- 29 Mart 2020
- Mesajlar
- 3.826
- Çözümler
- 71
Ortalama 5000 tane bile gerekse 35 milyon dolar oluyor. 60'a çıkması zor biraz
Ki Oracle'ın yazdığı bir yazıya göre minimum 8 tane diyor.
OnlyX
Hectopat
- Katılım
- 21 Temmuz 2022
- Mesajlar
- 4.046
- Çözümler
- 21
Ortalama 5000 tane bile gerekse 35 milyon dolar oluyor. 60'a çıkması zor biraz
Hocam 5000 tane gerektiğine nereden vardınız open AI ve Microsoft bile söylemezken? Üstelik 5000 tane kartı PCI slotuna takmıyorlar CPU gibi takılıyor onlardaki kart. Arkadaş kendi botu ile chat GPT'yi karşılaştıracaksa 5000'den fazla gerekeceği kesin.
1 GB'lık veri seti ile ortalama seviyede bir seq2seq çeviri modeli eğitmiştim. Ekran kartım GTX 1650 Ti. 60 milyon dolarlık ekran kartı neredeymiş gösterseniz. Zaten ChatGPT performansı beklemiyorum chatbotumdan.
OnlyX
Hectopat
- Katılım
- 21 Temmuz 2022
- Mesajlar
- 4.046
- Çözümler
- 21
Hocam ama chat GPT mi yoksa kendi modellimi yazmışsınız bende ona göre cevapladım o kadar yani. Şöyle bir bot olsun sadece 3 soruya cevap verecek dememişsinizki.
Az veriyle eğitince model olmuyor mu? İf-else ile çalışan bir şey yapmıyorum istediği kadar soruya cevap verebilir.
Hocam masrafı falan yok ya 50-60 GB veri bulabilsem 2-3 hafta arasında eğitilebileceğimi düşünüyorum. Bir de RTX 4080 olan arkadaşım var onun cihazından eğitirsem daha kısa sürer.
Bu arada veri ile ilgili bir projemde var. Pek sağlıklı olmayacak ama olsun.
