Sıfırdan geliştirmek istiyorsanız ilk işiniz bu işleme uygun regex bulmak veya yazmak olmalı. Daha sonra bir parser yazmaya ihtiyacınız var ki [shortcode] şeklindeki veriyi HTML'e çevirebilsin, bunu view tarafında yapmak lazım tabii veritabanına [shortcode] şeklinde kaydetmelisiniz.
Daha kolay yöntemleri de var tabii, bu iş için hazır kütüphaneler tercih edilebilir. Kendim bizzat denemedim ama aşağıda verdiğim sizin işinizi görür gibi:
Build your own shortcodes system in PHP with ease. - fredericseiler/shortcoder