Bitrate kaynaklı sanırım. Özellikle yoğun parçacıklı sahnelerde pikselleşme yaşanıyorsa, render ayarlarınızda Bitrate değerini yükseltin. Deneme amaçlı 3-4 saniyelik pikselleşme olan kısımları tekrar render alın ve farklı bitrate değerleri kullanın. Gizli olarak YouTube'a yükleyin ve hangisinde pikselleşme ortadan kalkıyorsa o bitrate değerini kaydedin.