Yahya telah ditahan pertama kalinya pada 1982 atas dakwaan kegiatan keganasan dan telah dipenjara beberapa bulan di penjara Far'a di mana di sana beliau telah bertemu dengan pejuang Palestin yang lain, termasuk Salah Shehade, dan mengadbikan dirinya untuk perjuangan Palestin.[7] Beliau ditahan sekali lagi pada 1985,[3] setelah dibebaskan beliau bersama Rawhi Mushtaha mengasaskan pertubuhan keselamatan Munazzamat al Jihad w’al-Dawa (Pertubuhan Jihad dan Dakwah, atau Majd), yang mana bekerja untuk mengesan pengintip Israel dalam gerakan rakyat Palestin dan pada 1987 menjadi "polis" Hamas.[7]

Pada 1988, beliau telah menjadi dalang kepada penculikan dan pembunuhan dua tentera Israel, kemudiannya ditangkap dan disabitkan hukuman. dan dijatuhkan hukuman dengan empat hukuman penjara seumur hidup pada 1989.[3][6] Beliau cuba untuk melarikan diri dari penjara beberapa kali tetapi sentiasa tertangkap.[8][9] Yahya menjalani hukumannya 22 tahun sebelum dibebaskan pada 2011 dan dihantar semula ke Gaza hasil rundingan pertukaran tahanan ratusan warga Palestin yang ditahan dengan seorang tentera Israel, Gilad Shalit.[10][2]

Memimpin Hamas di Gaza

Pada Februari 2017, Yahya telah dipilih sebagai pemimpin Hamas di Genting Gaza, mengambil alih jawatan Ismail Haniyeh. Pada Mac, beliau menubuhkan jawatankuasa pentadbiran Genting Gaza yang dikawal sepenuhnya oleh Hamas, yang membawa maksud beliau menolak sebarang perkongsian kuasa dengan Pihak Berkuasa Palestin di Ramallah. Yahya menolak sebarang pendamaian dengan Israel.[2] Beliau telah menyeru kepada pejuang Palestin untuk menagkap lebih ramai tentera Israel.[6]

Pada September 2017, sebuah rundingan baharu dengan Pihak Berkuasa Palestin telah dimulakan oleh Mesir, dan Yahya bersetuju untuk membubarkan jawatankuasa pentadbiran Gaza milik Hamas.[11] Pada 16 Mei 2018, dalam sebuah pengumuman yang tidak disangka dalam Al Jazeera, Yahya menyatakan bahawa Hamas akan meneruskan "perjuangan rakyat yang aman" yang membuka kemungkinan Hamas akan memainkan peranan dalam rundingan dengan Israel.[12] Seminggu sebelumnya, beliau telah mendorong rakyat Gaza untuk melanggar kepungan Israel, dengan berkata "Kami lebih rela mati sebagai syahid daripada mati dalam penindasan dan penghinaan", dan menambah, "Kami bersedia untuk mati, dan puluhan ribu akan mati bersama-sama kami."[13]

Pada Mac 2021, beliau telah dipilih sekali lagi sebagai ketua Hamas di Gaza untuk penggal kedua dalam sebuah pemilihan yang dianjurkan secara rahsia. Beliau merupakan pemimpin Hamas paling tertinggi di Gaza dan pemerintah de facto Gaza, dan menjadi individu kedua paling berkuasa dalam Hamas selepas Ismail Haniyeh.[14]

Pada 15 Mei 2021, sebuah serangan udara Israel dilaporkan telah mengenai rumah Yahya dalam konflik yang mencetuskan Perang Pedang al-Quds. Tiada maklumat kematian dan kecederaan dalam serangan tersebut. Serangan tersebut berlaku di Khan Yunis. [15]