Kerjaya muziknya bermula dengan kumpulan bangsawan, City Opera sehingga menjadi ketua pancaragam. Pada 1938, beliau menikahi penyanyi terkenal, Tarminah Kario Wikromo. Beliau mekar dalam zaman industri filem Melayu selaku ketua orkestra Studio Malay Film Productions dan Cathay Kris. Karyanya menjangkau seribu lagu, khususnya irama rakyat dan asli, termasuk Sayang Disayang.

Sumbangan besarnya meliputi lagu kebangsaan, Majulah Singapura dan lagu patriotik Semoga Bahagia, lagu tema Hari Kanak-Kanak dan Pesta Belia Singapura. Pak Zubir dianggap tokoh ulung muzik Melayu dan guru kepada para pemuzik termasyhur termasuk seniman agung P. Ramlee.