Sekolah Agama Menengah Hulu Langat telah ditubuhkan pada 1 Januari 1983 dan dibuka dengan rasmi serta beroperasi sepenuhnya pada 2 Januari 1983 di Sekolah Rendah Agama Batu 10, Cheras. Pembinaan sekolah ini adalah di atas kehendak ibubapa yang ingin melanjutkan pelajaran anak-anak mereka di peringkat menengah.Pengambilan pelajar pada tahun itu seramai lebih kurang 70 orang iaitu hanya pelajar tingkatan satu sahaja. Ini disebabkan oleh bilangan kelas yang terhad iaitu hanya dua buah kelas. Tambahan pula bilangan tenaga pengajar yang sedikit iaitu seramai 4 orang guru sahaja. Di antara guru-guru yang terawal adalah seperti Ustaz Manaf, Cikgu Joseph, Cikgu Siti Zubaidah dan Ustazah Jamaliah. Setelah 6 bulan berlalu, berkat kesabaran pelajar-pelajar menyalin nota, akhirnya bekalan buku teks diterima.

Hari berganti hari, bulan berganti bulan, bilangan kemasukan pelajar ke sekolah ini meningkat. Ditambah pula dengan beberapa masalah lain yang dihadapi, pihak pentadbiran sekolah mengambil keputusan untuk berpindah ke Sekolah Rendah Agama Batu 9, Cheras. Namun demikian, perpindahan ini tidaklah menjanjikan keselesaan kepada para pelajar dengan keadaan persekitaran yang bising daripada pembaikian Masjid Ubudiah, Batu 9 ditambah lagi dengan kekurangan kemudahan asas seperti makmal dan bengkel serta masalah banjir kilat ekoran daripada pembangunan setempat, segalanya menjadikan impian yang diidamkan tidaklah seindah mana.

Bertitik tolak daripada itu, pihak kerajaan memperuntukan sebanyak RM 6 juta untuk membina sebuah sekolah di atas tanah yang berkeluasan 7 ekar persegi. Kerja-kerja pembinaan bermula pada tahun 1986 dan tergendala selama beberapa tahun. Akhirnya, kerja-kerja pembinaan siap pada tahun 1991.