Sekolah ini telah dinamakan bagi memperingati Sultan Muhammad Jiwa Zainal Adilin Mu'adzam Shah II, Sultan Kedah ke-19. Baginda telah memerintah Kedah selama 68 tahun bermula dari 1710 hingga 1778. Baginda merupakan pengasas bandar Alor Setar dan telah memindahkan pusat pentadbiran kerajaan negeri Kedah pada masa pemerintahannya dari Kota Bukit Pinang ke bandar Alor Setar. Banyak binaan bangunan kerajaan, istana lama dan warisan sejarah di Alor Star dibina semasa pemerintahan baginda, antaranya Istana Kota Setar, Balai Besar, dan Balai Nobat.[2][3]

Sekolah ini telah mula dibuka pada 1 Januari 1973. Disebabkan pada masa tersebut bangunan sekolah masih dalam proses pembinaan, maka kumpulan terawal pelajar-pelajar sekolah ini telah ditumpangkan di beberapa buah sekolah lain iaitu di Perak, SMK Anderson dan SMJK Methodist Girls School dan di Kedah, SMK Khir Johari, Sungai Petani.[4]

Bangunan serta kompleks sekolah ini siap sepenuhnya dan mula diduduki pada tahun 1974. Sekolah ini memulakan operasinya dengan bilangan guru seramai 35 orang, 60 orang staf sokongan dan 454 orang murid.