Zaharah memulakan kerjayanya sebagai guru di Madrasah Aliyah YPPI Bengkalis dan kemudiannya menyertai Partai Golongan Karya.[1] Dia kemudian menjadi aktif sebagai ahli hak pilih wanita dan ahli politik, dan menemani wanita yang mengalami kes di mahkamah.[perlu rujukan] Semasa Orde Baru, Zaharah berkhidmat sebagai ahli Dewan Perwakilan Rakyat Republik Indonesia di Bengkalis dari 1983 hingga 1993 dan menjadi wanita pertama memegang jawatan itu.[1][2] Ini kemudiannya dikatakan sebagai hasil rapat ayahnya dengan pemerintah dan Presiden Suharto.[9][10] Semasa memegang jawatan, Zaharah giat menyertai perbicaraan yang diadakan oleh Dewan Perwakilan Rakyat Republik Indonesia.[perlu rujukan] Selepas bersara, dia kembali bekerja sebagai guru di Madrasah Aliyah YPPI Bengkalis sehingga kematiannya pada bulan Oktober 2007.[perlu rujukan]