Sejarahnya bermula selepas sekolah ini ditubuhkan pada 1 Disember 1995 dan mula beroperasi pada 10 Disember 1995 dengan menumpang di bangunan asrama Sekolah Menengah Tuanku Abdul Rahman, Gemas. Bilangan pelajar yang menuntut seramai 118 orang (58 putera dan 60 puteri) bersama-sama 10 orang tenaga pengajar di bawah naungan Tuan Haji Zainal Abidin bin Abdul Latif selaku pengetua SMKA Pedas melangkah dengan penuh yakin dan semangat walaupun tanpa prasarana yang serba sempurna. Dari Gemas, SMKA Pedas berpindah sejauh 91 km ke tapak rasminya di Pedas. Kawasan seluas 38ekar ini dilengkapi dengan pelbagai kelengkapan untuk pembelajaran.

Tahun 1997 menyaksikan pertambahan bilangan tenaga pengajar dan kemasukan pelajar-pelajar tingkatan satu dan tingkatan empat. Pada 1 Jun 1998, Ustaz Marzuki bin Hamid mengambil alih pentadbiran sekolah selepas Puan Khuzaimah binti Sulaiman bertukar ke Sekolah Menengah Kebangsaan Agama Sheikh Haji Mohd Said, Seremban. Sehingga 1999, bilangan warga SMKA Pedas terus meningkat hinga menjangkau 53 orang guru dan lebih 700 orang putera danputeri. Tahun 1999 dan 2000 merupakan tahun keramat kerana kejayaan PMR dan SPM yang diumumkan telah mengharumkan nama Sekolah Menengah Kebangsaan Agama Pedas. Pada 7 Mei 2011, Menteri Besar Negeri Sembilan, Dato' Seri Mohamad bin Hasan telah merasmikan pertukaran nama SMKA Pedas kepada SMKA Dato' Haji Abu Hassan bin Haji Sail.