Al-A'zami dilahirkan di Mau, India dalam tahun 1930-an. Al-A'zami mendapat pendidikan dari Darul Uloom Deoband (1952), Universiti Al-Azhar, dan Universiti Cambridge. Beliau merupakan Profesor Emeritus di Universiti Raja Saud di mana beliau juga mempengerusikan jabatan Kajian Islam. Selain memegang jawatan di Timur Tengah, beliau juga menyandang jawatan Sarjana Pelawat di Universiti Michigan, Felo Pelawat di Universiti Oxford, Profesor Pelawat di Universiti Princeton dan juga Sarjana Pelawat di Universiti Colorado, kedua-duanya di Amerika Syarikat.[1] Selain itu beliau juga memegang jawatan di Universiti Wales , United Kingdom.[2]

Beliau menerima Hadiah Antarabangsa Raja Faisal bagi Kajian Islam pada tahun 1980.[3]