Bu işlerle uğraşacaksan en azından C kullanmalısın. PE file format nedir, hangi bölümlerden oluşur adın gibi bilmen gerek. Bir exe dosyasını doğrudan bellekte eşleyip çalıştırmak fikri scantime analizleri atlatmak için güzel yöntemdi, tabii 10-15 yıl önce, artık bu teknikler pek kullanılmıyor. Zaten antivirüsler bu iş için kullanılan API'leri hooklar, manual DLL map ile API yükleme, IAT üzerinden bazı API'leri örtük çağırma ve doğrudan sistem çağrıları gibi yöntemlerle bir şeyler yapılabilir tabii. Bu konuda bulabileceğin Türkçe kaynaklar yüzeysel olur ancak fikir edinebilirsin.