code editor denilen şey, adı üzerinde kodu düzenlemeye yarayan araçtır. Normal not defterlerinden en ayırt edilebilecek farkı, programlama dilleri için kelime vurguları ve renklerini değiştirebilmesidir. IDE ise ıntegrated development environment demektir, yani insanların bir program, algoritma vs. geliştirebilmesi için gereken her türlü aracı barındırır, dile göre değişiklik gösterebilir. Proje yönetimi, dosyaların birbirini otomatik olarak tanıması, entegre derleyici, linker vs. gibi artıları vardır.
Eğer bir proje geliştirmiyorsan ve sadece kod yazıyorsan, algoritma vs. deniyorsan, illa ki bir IDE'ye ihtiyacın yok. vs code için birçok plugin var, kod çalıştırıcı pluginlerle vs Code'u kullanabilirsin. Proje geliştirme durumunda IDE'ler daha çok yardımcı oluyor.
Edit: Sadece naçizane düşüncemi paylaşmak istedim, soruya bakarak programlamaya biraz yeni yeni başladığını tahmin ediyorum, öyle varsayacağım. Ben de mesela lisedeyken tam olarak ne yapacağımdan emin değildim ve önüme Java geldi diye Java öğrenmeye başladım. Ama artık bu sektörde biri olarak şu an diyorum ki keşke zamanında ona harcayacağım zamanı C / C++ ve Python öğrenmekle geçirşey mişim. Çok daha kuvvetli ve esnek diller olduğunu düşünüyorum. Tabii ki işini bilerek Java öğreniyorsan ne güzel, kolay gelsin.