Haniyeh lahir di kem pelarian Al-Shati di Genting Gaza. Pada 1948 ibu bapanya melarikan diri selepas serangan-serangan bom Israel dan tempat itu kini dikenali sebagai Ashkelon di Israel. Pada 1987, Ismail mendapat ijazah kesusasteraan Arab dari Universiti Islam Gaza. Pada 1989 dia dikurung selama 3 tahun oleh pihak keselamatan Israel dan dibebaskan pada 1992. Selepasa itu diusir oleh Lubnan. Dia pulang ke Gaza dan dilantik sebagai dekan Universiti Islam.