Sekolah Menengah Sultan Abdul Halim bermula dengan sebuah darjah menengah pengantar Melayu yang telah dibuka di Kolej Sultan Abdul Hamid, Alor Setar dengan bilangan pelajar seramai 31 orang pada tahun 1958. Bilangan pelajar telah meningkat kepada 791 orang pada tahun 1963. Pada peringkat ini, wujud keperluan untuk menubuhkan sebuah sekolah khusus bagi menempatkan pelajar-pelajar aliran Melayu.

Pelajar-pelajar aliran berkenaan yang menuntut di Kolej Sultan Abdul Hamid, Alor Setar kemudiannya telah diserap menjadi pelajar-pelajar Sekolah Menengah Sultan Abdul Halim (SMSAH). Mereka dipindahkan ke bangunan sendiri yang terletak di Jenan, Jitra, Kedah pada 7 Mei 1963. Kompleks berkeluasan lebih 51 ekar ini mempunyai 27 bilik darjah, sebuah dewan besar, sebuah gimnasium dan sebuah kantin. 2 buah bilik darjah dijadikan asrama sementara. Pada 1964, 3 buah bangunan asrama dan sebuah masjid dibina. Upacara perasmian telah disempurnakan oleh Kebawah Duli Yang Maha Mulia Sultan Abdul Halim Mu’adzam Shah, Sultan Negeri Kedah Darul Aman ketika itu pada 8 April 1965.