City memperoleh kejayaan pertama mereka dengan memenangi Divisyen Dua pada tahun 1899; dengan itu mereka dinaikkan pangkat ke peringkat tertinggi dalam bola sepak Inggeris, Divisyen Satu. Mereka memenangi kejayaan besar pertama mereka pada 23 April 1904, dengan menewaskan Bolton Wanderers 1-0 di Crystal Palace untuk memenangi Piala FA; City terlepas untuk memenangi kejuaraan berganda liga dan Piala FA, selepas menamatkan liga di tempat kedua tetapi City menjadi kelab pertama di Manchester untuk memenangi kejuaraan. Pada musim berikutnya, kelab ini telah dibelenggu dengan dakwaan penyelewengan kewangan, menyebabkan penggantungan tujuh belas pemain pada tahun 1906, termasuk kapten Billy Meredith, yang kemudiannya berpindah ke Manchester United. Satu kebakaran di Hyde Road memusnahkan tempat penonton utama pada tahun 1920, dan pada tahun 1923 kelab ini berpindah ke stadium yang baru dibina mereka, Maine Road yang terletak di Moss Side.

Pada tahun 1930-an, Manchester City layak ke dua perlawanan akhir berturut-turut Piala FA, kalah kepada Everton pada tahun 1933, sebelum memenangi Piala dengan menewaskan Portsmouth pada tahun 1934. Semasa musim Piala FA 1934, Manchester City memecah rekod penonton teramai dalam sejarah kelab bola sepak Inggeris, 84569 peminat membanjiri Maine Road untuk pusingan keenam Piala FA menentang Stoke City pada tahun 1934 -. rekod yang masih kekal hingga ke hari ini. Kelab ini memenangi gelaran Divisyen Satu buat pertama kali pada tahun 1937 tetapi telah diturunkan divisyen pada musim berikutnya walaupun menjaringkan lebih banyak gol daripada mana-mana pasukan lain dalam liga. Dua puluh tahun kemudian, pasukan City yang diilhamkan oleh sistem taktikal yang dikenali sebagai Pelan Revie memasuki perlawanan akhir berturut-turut Piala FA sekali lagi, pada tahun 1955 dan 1956; seperti pada tahun 1930, mereka tewas dalam perlawanan yang pertama, kepada Newcastle United dan memenangi yang kedua. Perlawanan akhir 1956, di mana Manchester City menewaskan Birmingham City 3-1, adalah salah satu perlawanan akhir yang paling terkenal sepanjang zaman, dan diingati kerana penjaga gol City, Bert Trautmann terus bermain selepas tidak sedar lehernya patah.

Selepas penyingkiran ke Divisyen Dua pada tahun 1963, masa depan City kelihatan gelap dengan rekod kehadiran penonton yang rendah iaitu 8,015 penonton ketika menentang Swindon Town pada bulan Januari 1965. Pada musim panas tahun 1965, pasukan pengurusan Joe Mercer dan Malcolm Allison telah dilantik. Dalam musim pertama di bawah Mercer, City memenangi gelaran Divisyen Dua dan membuat pembelian penting Mike Summerbee dan Colin Bell. Dua musim kemudian, pada musim 1967-1968, Manchester City memenangi Kejohanan Liga buat kali kedua, merangkul gelaran pada hari terakhir musim dengan kemenangan 4-3 di Newcastle United dan menewaskan jiran terdekat mereka Manchester United di tempat kedua. Trofi seterusnya yang dimenangi adalah Piala FA pada tahun 1969, sebelum mencapai kejayaan Eropah dengan memenangi Piala UEFA pada tahun 1970, mengalahkan Górnik Zabrze 2-1 di Vienna. City turut memenangi Piala Liga musim itu, menjadi pasukan Inggeris yang kedua untuk memenangi trofi Eropah dan trofi domestik pada musim yang sama.

Kelab ini terus mencabar pasukan lain untuk kejuaraan sepanjang tahun 1970-an, mengakhiri musim satu mata di belakang juara liga sebanyak dua kali dan layak ke perlawanan akhir Piala Liga 1974. Salah satu perlawanan dalam tempoh ini yang paling diingati oleh penyokong Manchester City adalah perlawanan terakhir musim 1973-74 terhadap musuh ketat Manchester United yang memerlukan kemenangan untuk mengelakkan penyingkiran. Bekas pemain United Denis Law menjaringkan gol dengan gaya backheel untuk memberikan City kemenangan 1-0 di Old Trafford dan mengesahkan penyingkiran pesaing mereka. Trofi akhir dalam tempoh paling berjaya kelab itu dicapai pada tahun 1976, apabila Newcastle United tewas 2-1 pada perlawanan akhir Piala Liga.

Malcolm Allison menyertai semula kelab itu untuk menjadi pengurus untuk kali kedua pada tahun 1979, tetapi mensia-siakan sejumlah besar wang ke atas pembelian yang gagal seperti Steve Daley. Pertukaran pengurus berganti-ganti. Tujuh dalam tempoh 1980-an. Di bawah John Bond, City layak ke perlawanan akhir Piala FA 1981 tetapi tewas dalam perlawanan ulangan kepada Tottenham Hotspur. Kelab ini telah dua kali diturunkan divisyen dalam tempoh 1980-an (pada tahun 1983 dan 1987), tetapi kembali ke divisyen utama sekali lagi pada tahun 1989 dan menduduki tempat kelima pada tahun 1991 dan 1992 di bawah pengurusan Peter Reid. Walau bagaimanapun, ini hanya bersifat sementara dan berikutan pemergian Reid nasib Manchester City terus pudar. City adalah pengasas Liga Perdana setelah penciptaannya pada tahun 1992, tetapi selepas tamat ditempat kesembilan pada musim pertama mereka mengalami tiga musim yang sukar sebelum diturunkan liga pada tahun 1996. Selepas dua musim dalam Divisyen Satu, City jatuh ke divisyen terendah dalam sejarag mereka, menjadi pemenang trofi Eropah kedua yang diturunkan ke liga peringkat ketiga negara mereka, selepas 1. FC Magdeburg dari Jerman.

Selepas penyingkiran, kelab ini telah melalui pergolakan di luar padang, dengan pengarah baru David Bernstein memperkenalkan disiplin fiskal yang lebih besar. Di bawah pengurus Joe Royle, City dinaikkan liga dalam percubaan pertama mereka, dicapai dengan cara yang dramatik dalam perlawanan play-off menentang Gillingham. Kenaikkan liga berturut-turut menyaksikan City kembali ke bahagian atas tetapi ini terbukti merupakan satu langkah langkah terlalu jauh untuk kelab yang berada dalam proses pemulihan dan pada tahun 2001, City telah diturunkan liga sekali lagi. Kevin Keegan meggantikan Royle sebagai pengurus dan mencapai pulangan segera ke liga utama selepas kelab ini memenangi Divisyen Satu musim 2001-02, dimana mereka turut memecahkan rekod mata dan gol yang dijaringkan dalam satu musim. Musim 2002-03 adalah musim terakhir di Maine Road dan termasuk kemenangan 3-1 ke atas musuh derby Manchester United, mengakhiri tempoh 13 tahun tanpa kemenangan derby. City juga layak ke pertandingan Eropah untuk pertama kali dalam 25 tahun. Pada musim 2003, City berpindah ke Stadium Bandaraya Manchester. Empat musim pertama City di stadium itu berakhir di pertengahan liga. Bekas pengurus England, Sven Goran Eriksson menjadi pengurus pertama kelab itu yang berasal dari luar negara apabila dilantik pada tahun 2007. Selepas persembahan permulaan baik tetapi pudar pada separuh kedua musim, Eriksson telah dipecat pada Jun 2008. Eriksson telah digantikan oleh Mark Hughes dua hari kemudian pada 4 Jun 2008.

Pada tahun 2008, kelab ini berada pada kedudukan kewangan yang tidak menentu. Thaksin Shinawatra telah mengambil kawalan kelab ini tahun sebelumnya, tetapi krisis politiknya menyaksikan asetnya dibekukan. Pada bulan Ogos 2008, kelab ini telah dibeli oleh Abu Dhabi United Group. Pengambil alihan ini telah diikuti oleh tawaran tergesa-gesa untuk mendapatkan pemain berprofil tinggi; kelab ini memecahkan rekod perpindahan British dengan menandatangani pemain antarabangsa Brazil, Robinho dari Real Madrid dengan yuran perpindahan untuk £32.5 juta. Persembahan City tiada peningkatan yang besar dari musim sebelumnya walaupun perbelanjaan wang yang banyak, dengan pasukan hanya menduduki tempat kesepuluh, walaupun mereka melakukannya dengan baik untuk mara ke suku akhir Piala UEFA. Pada musim panas tahun 2009, kelab ini telah melakukan perbelanjaan pemindahan ke tahap yang tidak pernah berlaku sebelum ini, dengan perbelanjaan lebih daripada £100 juta untuk pemain Gareth Barry, Roque Santa Cruz, Kolo Touré, Emmanuel Adebayor, Carlos Tévez dan Joleon Lescott. Pada bulan Disember 2009, Mark Hughes yang dilantik tidak lama sebelum pertukaran pemilik pada asalnya dikekalkan oleh lembaga pengarah baru telah digantikan oleh Roberto Mancini. City menamatkan musim di tempat kelima dalam Liga Perdana Inggeris, hampir layak ke Liga Juara-Juara, dan bertanding dalam Liga Europa pada musim 2010-11.

Pelaburan yang berterusan dalam pemain pada musim berikutnya dan hasil mula menampakkan hasil dengan peningkatan kualiti pemain. City layak ke perlawanan akhir Piala FA 2011, perlawanan akhir pertama mereka dalam tempoh lebih daripada tiga puluh tahun, selepas mengalahkan saingan derby Manchester United pada separuh akhir, yang merupakan pertama kali mereka menyingkirkan pesaing mereka keluar dari pertandingan piala sejak tahun 1975. Mereka mengalahkan Stoke City 1-0 dalam perlawanan akhir, memenangi Piala FA mereka yang kelima, dan merupakan trofi pertama kelab itu sejak memenangi Piala Liga 1976. Pada minggu yang sama, City melayakkan diri ke Liga Juara-Juara UEFA untuk kali pertama sejak tahun 1968 dengan kemenangan 1-0 ke atas Tottenham Hotspur. Pada hari terakhir musim 2010-11, City mengatasi Arsenal untuk tempat ketiga dalam Liga Perdana Inggeris, dengan itu mendapatkan kelayakan terus ke peringkat kumpulan Liga Juara-Juara. Persembahan yang kukuh terus diikuti pada musim 2011-12, termasuk menewaskan Tottenham 5-1 di White Hart Lane dan menundukkan Manchester United dengan jaringan 6-1 di tempat lawan. Walaupun persembahan kukuh City berkurangan di pertengahan musim, dan pada satu ketika City jatuh lapan mata di belakang musuh ketat mereka dengan hanya enam perlawanan lagi untuk bermain, kemerosotan tidak diduga oleh juara sebelumnya menyebabkan City kembali memberikan saingan dengan berbaki dua perlawanan, membentuk perlawanan kemuncak liga yang menarik dengan kedua-dua pasukan mempunyai mata yang sama. Walaupun City hanya memerlukan satu kemenangan menentang pasukan di zon penyingkiran, mereka masih ketinggalan gol di belakang pada akhir masa biasa, yang menyebabkan beberapa pemain United untuk menyelesaikan permainan mereka meraikan dengan kepercayaan bahawa mereka telah memenangi liga. Dua gol dalam masa kecederaan - termasuk satu dijaringkan ketika hampir lima minit selepas waktu biasa telah berlalu - menyebabkan kemenangan pada saat-saat akhir, kali pertama kelab dalam tempoh 44 tahun, dan menjadi pasukan yang kelima untuk memenangi Liga Perdana Inggeris sejak penciptaannya pada tahun 1992. Selepas kemenangan itu, media UK dan dari seluruh dunia menyatakan kemuncak perlawanan ini sebagai saat paling hebat dalam sejarah Liga Perdana Inggeris. Perlawanan ini juga diingati kerana bekas pemain City, Joey Barton dibuang padang selepas tiga insiden yang layak diberikan kad merah ke atas tiga pemain City hanya dalam tempoh beberapa saat, menyebabkan dia digantung 12 perlawanan yang memaksa beliau untuk meninggalkan bola sepak Inggeris.

Selepas menamatkan musim, ramai yang percaya bahawa kemenangan ini akan merangsangkan City. Hampir tiada pemain menyertai kelab itu sehingga hari terakhir musim, apabila saat-saat akhir aktiviti perpindahan menyaksikan empat pemain yang berbeza menyertai kelab ini dalam tempoh 10 jam. City mengakhiri musim di tempat kedua, dan hanya memberi sedikit saingan untuk memenangi liga. Dalam Liga Juara-Juara Eropah, kelab ini telah tersingkir pada peringkat kumpulan untuk musim kedua berturut-turut, dalam keputusan yang seolah-olah untuk mengesahkan reputasi Mancini sebagai jauh lebih baik menguruskan perlawanan domestik berbanding Eropah, manakala perlawanan akhir kedua Piala FA dalam tiga musim berakhir dengan kekalahan 1-0 kepada Wigan Athletic, selepas khabar angin mengatakan bahawa Mancini akan dipecat. Mancini telah dipecat dua hari kemudian, kononnya kerana beliau telah gagal mencapai sasaran beliau untuk musim ini tetapi media mencadangkan hubungan antara Mancini dan pemainnya dan juga dengan pengarah kelab itu, manakala keengganan untuk menggunakan pemain muda juga disebut. Di tempat beliau telah dilantik Manuel Pellegrini, yang mempunyai rekod yang lebih mengagumkan dalam Liga Juara-Juara tetapi kurang memenangi trofi. Pada musim pertama Pellegrini, City memenangi Piala Liga dan kejuaraan Liga Perdana pada hari terakhir musim. Pada musim 2014/15, 2 gelaran yang dipegang City masing-masing gagal dipertahankan apabila kedua-dua gelaran tersebut menjadi milik pencabar terdekat mereka, Chelsea F.C. Namun pada musim 2015/16, City mulakan musim baharu dengan langkah cemerlang tetapi menunjukkan penurunan apabila sampai ke pertengahan liga. Akan tetapi, City kembali memenangi Piala Liga selepas semusim tidak memperolehnya.