Doğru kompozisyonu seçiyorsun değil mi encoder üzerinde. Bir de bütün projeyi tek bir comp içine alıp kamera ayarını falan ortalayıp onu encodere atmayı deneyin. Olmadı After Effects üzerinden Full kalitede render alıp handbrake ile boyut küçültebilirsin ben öyle yapıyorum genelde.