Optimizasyonun birçok çeşidi var, örneğin bellek tarafını optimize etmek için doku sıkıştırma uygulamak gerekir, bunun bedelini de kullanılan algoritmaya göre cpu/gpu zamanı olarak ödersin ya da tam tersi cpu/gpu zamanından kazanmak için bellekten feragat etmen gerekir. İşin grafik tarafında normal map'leri iyi tasarlamak gerekir, model detayları da hedef donanım için değişken olabilmelidir, yüksek sistemde high poly düşük sistemde low poly modelleri en azından iş yükünü azaltmak için bir fonksiyona bağlaman gerekiyor. Render tarafında gereksiz detayları belirli mesafelerde render edilecek şekilde kodu optimize edebilirsin, devasa bir çevrenin render edilmesi çoğu zaman gereksizdir. Gölge tarafında da olabildiğince fırınlanmış gölgeler diye tabir edilen dinamik olmayan gölgeleri kullanmaya çalış vs...
Bu tarz zibilyon tane teknik var, ben aklıma gelen birkaç tanesini örneklendirdim. Bunları çoğu zaman tecrübe ederek, üzerine düşünerek çözüyorsun/öğreniyorsun, özel bir eğitimi/dokümanı var mı bilmiyorum.