Marzuki dilahirkan di Kwitang, Jakarta (sebelum ini dikenali sebagai Batavia) kepada keluarga Betawi kaya. Bapanya Marzuki memiliki sebuah kedai membaiki kereta, dan memainkan rebana; ibunya meninggal dunia ketika melahirkannya.[1] Dari usia muda Marzuki menikmati muzik, mendengar lagu berulang kali pada peti nyanyi keluarga dan belajar untuk memainkan rebana, gitar kecil, dan gitar.[1]

Marzuki belajar di sebuah sekolah rendah untuk asli Indonesia, Hollandsch-Inlandsche School Idenburg di Menteng; beliau kemudian menghadiri sekolah menengah bahasa Belanda Meer Uitgebreid Lager Onderwijs di Menjangan Street di Jakarta. Beliau fasih berbahasa Indonesia, Inggeris, dan Belanda.[2] Beliau juga belajar agama di Unwanul Wustha Madrasah.[3] Walau bagaimanapun, beliau tidak belajar muzik secara rasmi, dan bukannya pembelajaran dengan sendiri.[4]

Pada tahun 1931, Marzuki menulis lagu pertamanya, "Wahai Sarinah", yang mengenai penderitaan rakyat. Sepanjang kerjayanya, beliau menulis antara 202 dan 204 lagu. Antara karangan beliau yang terkenal adalah "Rayuan Pulau Kelapa" (1944), "Gugur Bunga di Taman Bakti" (1945), dan "Selendang Sutera" (1946).[3]

Marzuki memulakan kerjaya muzik beliau dengan menyertai orkestra Lief Jawa, di bawah arahan Hugo Dumas. Pada tahun 1934 beliau menjadi penyiar dengan Nederlandsch-Indische Radio Omroep Maatschappij, stesen radio kebangsaan Hindia Belanda, dan selepas itu mengetuai Studio Orkestra Jakarta, Studio Orkestra Bandung, dan kemudian orkestra Hoso Kanri Kyoku semasa pendudukan Jepun di Indonesia.[3]

Pada tahun 1957 Marzuki menulis lagu terakhirnya, "Inikah Bahagia". Beliau meninggal dunia pada jam 14:00 pada 25 Mei 1958 di rumahnya di Tanah Abang, Jakarta. Beliau dikebumikan di Perkuburan Karet Bivak.[5]