Pada peringkat awal kerjayanya Tariq merupakan timbalan kepada ketua panglima Islam iaitu Musa ibn Nusair ketika tentera Islam membina benteng pertahanan di utara Afrika. Namanya menjadi terkenal selepas Musa menghantar beliau ke semenanjung Iberia (kini Sepanyol dan Portugal).

Atas kejayaannya menewaskan tentera Visigoth, beliau dilantik oleh khalifah sebagai gabenor di daerah Hispania. Selepas beberapa tahun mentadbir wilayah tersebut, Tariq dipanggil untuk pulang semula ke Damsyik atas arahan khalifah Al-Walid bin Abdul Malik.