O kadar mod ile sorun yaşama sebebinin bilgisayar değil oyunun kendisi kaynaklı olduğunu düşünüyorum. Belli bir miktardan sonra oyun motoru sıkıntı çıkarıyor olabilir. İlla yükseltme yapmayı düşünüyorsan 3080ti beklemen daha mantıklı olabilir. Skyrim modları ciddi VRAM kullanıyor ve sorun VRAM kaynaklıysa 10 gb VRAM de yeterli olmayabilir. 3090 ise fiyatını hak etmiyor. İşlemci ise gayet yeterli, sadece oyun oynamak için yükseltmeye gerek yok.
AMD tarafında ise 6800XT bakabilirsin. Performans açısından 3080 rakibi ve 16 gb VRAM ile geliyor. Ray tracing konusunda bir miktar daha yavaş, ileride ray tracing kullanırım diyorsan Nvidia daha mantıklı olabilir.