Sekolah Berasrama Penuh Integrasi Jempol mula dibuka pada 7 Januari 2002. Pada peringkat awal, sekolah ini dikenali sebagai Sekolah Menengah Kebangsaan Agama Jempol (SMKAJ) sebelum menjadi Sekolah Menengah Agama Persekutuan Jempol (SMAPJ). Kemudian, sekolah ini telah dinaik taraf sebagai Sekolah Berasrama Penuh Integrasi Jempol (INTEJ) pada 3 Disember 2003.

Sekolah ini pada mulanya menumpang di Sekolah Menengah Kebangsaan Batu Kikir (SMKBK) selama hampir 7 bulan sementara menunggu bangunan sekolah siap dibina. Sesi persekolahan dijalankan pada sebelah petang. Sebelum kedatangan Puan Pengetua, Puan Rubiyah Harun pada 16 Mac 2002, tugas pengetua dipangku oleh Guru Penolong Kanan Pentadbiran, Puan Hajjah Zabidah binti Haji Lasim. Bilangan guru pada ketika itu hanyalah seramai 16 orang dan seorang kakitangan sekolah. Bilangan pelajar tingkatan satu yang mendaftar adalah seramai 150 orang dan tingkatan empat seramai 29 orang.

Pada 8 Julai 2002, INTEJ telah berpindah ke bangunan rasmi sekolah yang terletak kira-kira 0.5 kilometer daripada SMKBK dengan keluasan kira-kira 48 ekar persegi dan dilengkapi kemudahan-kemudahan moden yang serba canggih bagi membolehkan para pelajar belajar dengan selesa dalam suasana kondusif.

Pada tahun 2003, bermula dari 8 Januari sehinggalah ke bulan Julai, seramai 188 pelajar yang terdiri daripada tingkatan satu dan empat mendaftar secara berperingkat-peringkat di sekolah ini. Sehingga akhir Oktober, jumlah keseluruhan pelajar INTEJ adalah seramai 367 orang dan kakitangan akademik pula seramai 54 orang manakala kakitangan sekolah seramai 12 orang. Pada tahun 2003, dua aliran ditawarkan untuk pelajar tingkatan empat iaitu Sains Agama dan Sains Tulen.

Kini, bilangan pelajar di INTEJ telah bertambah sehingga lebih kurang 530 orang dan dibarisi seramai 58 orang guru dan 20 orang staf sokongan. Bertepatan dengan nama Integrasi yang telah diberikan, sekolah ini juga telah memperkenalkan tiga aliran yang boleh dipilih oleh pelajar peringkat menengah atas iaitu aliran Sains Agama, Sains Tulen dan Sains Teknikal.