Pada tahun 716, Maharaja Theodosius III yang sedar bahawa bahaya yang bakal mendatang telah menandantangani satu pakatan dengan Khan Tervel dan mereka bersedia untuk mempertahankan kepentingannya. Maharaja telah menyediakan modal untuk menyimpan makanan di dalam kota sebagai bekalan menghadapi ancaman tentera Islam seterusnya.

Pada tahun 717, Maharaja Leo III telah melancarkan pemberontakan terhadap pemerintahan Theodosius. Tentera Islam cuba memanfaatkan peluang dengan berunding bersama Leo. Leo meyakinkan pihak Islam bahawa beliau akan menjadi sekutu tentera Islam sekiranya beliau berjaya menaiki takhta. Theodosius tidak sanggup untuk mencetuskan perang saudara lagi dan mengumumkan pengunduran dirinya daripada takhta kerajaan. Leo III menaiki takhta secara aman dan beliau segera mengingkari perjanjiannya dengan kerajaan Umayyah.

Khalifah Sulaiman bin Abdul Malik telah mengarahkan saudaranya, Maslamah bin Abdul Malik untuk memimpin 80,000 tentera bersama 800 kapal untuk menakluk Constantinople. Sementara itu, Leo II telah memulakan persiapannya. Utusan telah dihantar ke Bulgaria untuk meminta bantuan manakala pertahanan kota telah diperbaiki. Angkatan Islam telah menguasai Abydos pada Julai 717 sebelum mereka mara ke Hellespont.

Pada bulan Ogos 717, tentera Islam telah mendirikan dua dinding yang menghadap ke kota manakala satu dinding lagi didirikan bagi mempertahankan kem mereka dari arah barat. Constantinople telah dilindungi oleh tembok Theodosian yang dibina pada awal abad kelima yang setinggi 12 meter dan setebal 4 meter, di mana ia sama sekali tidak dapat ditandingi. Tembok laut pula dibina tidak lama kemudian, namun ia masih lemah. Tembok pertahanan kota telah dipertahankan oleh seramai 12,000 pasukan pengawal yang kuat. Bekalan makanan juga disimpan dalam skala kuantiti yang besar.