Bangsa Slav menghuni tanah Czech pada abad ke-6 Masihi. Kira-kira pada tahun 870, mereka mendirikan Istana Prague. Pada lewat abad ke-10, Prague berkembang menjadi sebuah kota yang maju. Pada tahun 973, kawasan kota ini telah memperoleh satu pentadbiran yang dikenali sebagai "diocese" (bermaksud uskup). Pada awal abad ke-13, tukang mahir dan saudagar Jerman telah datang dan tinggal di Prague. Menjelang abad ke-14, Prague berubah menjadi sebuah kota yang besar dan penting. Pada tahun 1334, kota Prague telah ditadbir oleh "archbishop" yang bermaksud uskup agung. Maharaja Suci Rom iaitu Charles IV telah pergi ke Prague dan menambahkan lagi luas kawasan kota ini. Pada tahun 1344, kerja-kerja pembinaan Katedral St. Vitus telah bermula. Pada tahun 1348 pula, Maharaja Charles telah menubuhkan Universiti Prague. Beliau juga telah membina semula Istana Prague. Kerja-kerja pembinaan Jambatan Charles turut dijalankan pada tahun 1357. Dewan Kota Prague pula dibina pada tahun 1364.

Pada Zaman Pertengahan, terdapat sebilangan komuniti Yahudi di Prague. Sebuah kuil Yahudi telah dibangunkan pada tahun 1270. Walau bagaimanapun, orang Yahudi sering menjadi mangsa penindasan di Prague. Pada tahun 1389, kira-kira 3,000 orang Yahudi di kota ini telah dibunuh.

Tokoh penggerak Reformasi iaitu Jan Hus telah menuntut dan belajar di Universiti Prague. Beliau telah martir dengan cara dibakar hidup-hidup pada tahun 1415.

Pakar astronomi unggul dari Denmark iaitu Tycho Brahe telah meninggal dunia di Prague pada tahun 1601 dan dikebumikan di Gereja Týn.

Pada tahun 1621, 27 orang pemimpin Protestan telah dihukum bunuh di Dataran Kota Lama, Prague. Pada kurun ke-17, kota Prague menyaksikan pergolakan politik dan agama yang dahsyat di situ. Namun, ia juga merupakan saat gemilang bagi pembangunan kota tersebut kerana Istana Wallenstein telah dibina. Satu kebakaran telah terjadi dan memusnahkan sebahagian besar Dataran Kota Lama pada tahun 1689 namun ia dibaik pulih semula.

Wabak penyakit telah melanda kota Prague pada tahun 1713 dan telah mengorbankan kira-kira 12,000 hingga 13,000 orang. Pada tahun 1741, tentera Perancis berjaya menduduki kota Prague. Seterusnya pada tahun 1744, tentera Prusia pula menawan Prague. Mereka mengepung kembali kota ini pada tahun 1757. Namun begitu, kota Prague terus berkembang luas menjadi kota yang makmur dan penting. Teater telah dibina pada tahun 1783. Sehingga tahun 1784, kota Prague telah dibahagikan kepada empat pekan kecil iaitu Hradčany, Malá Strana, Kota Baru, Kota Lama. Pada tahun tersebut, keempat-empat pekan tersebut telah digabungkan dalam satu pentadbiran.

Menjelang abad ke-19, bandar Prague berkembang pesat dan banyak bangunan telah didirikan. Zaman ini juga menyaksikan perkembangan semangat nasionalisme Czech. Muzium Negara telah dibina pada tahun 1818. Seterusnya, Muzium Seni Hiasan didirikan pada tahun 1885 sebelum Menara Pemerhati Petřín telah siap dibina pada tahun 1891.

Sementara itu, Revolusi Perindustrian tiba di bandar ini pada kurun ke-19. Landasan kereta api mula dibina di Prague pada tahun 1845.

Pada tahun 1915, sebuah monumen diabadikan kepada Jan Hus, tokoh reformasi Kristian pada Zaman Pertengahan telah dibina. Kemudian, bandar Prague menjadi ibu negara Czechoslovakia pada tahun 1918. Ketika abad ke-20, Prague terus berkembang dengan keadaan yang stabil. Pada tahun 1939, jumlah populasinya telah mencapai 1 juta orang. Namun pada 15 Mac 1939, tentera Nazi telah menduduki bandar ini.

Semasa Perang Dunia Kedua, binaan-binaan di Prague mengalami sedikit kerosakan. Namun, rata-rata penghuni Yahudi telah dibunuh. Kemudian pada 5 Mei 1945, penduduk bandar telah bangkit dalam pemberontakan menentang Nazi. Tentera Jerman berundur dan meninggalkan Prague pada 8 Mei. Namun pada tahun 1948, komunis di Czechoslovakia merampas kuasa dan menandakan tempoh pengekangan telah bermula.

Pada tahun 1968, Alexander Dubček melancarkan satu pembaharuan yang dikenali sebagai Peristiwa Musim Bunga Prague. Pada bulan Ogos, Pakatan Warsaw telah melancarkan tekanan diplomatik dengan menceroboh Czechoslovakia untuk menamatkan pembaharuan tersebut dan menyingkirkan sentimen anti-komunis. Mujurlah, rejim tirani komunis akhirnya tumbang pada tahun 1989.

Pada 1 Januari 1993, bandar Prague mula menjadi ibu negara Republik Czech selepas perpecahan Czechoslovakia dengan aman. Pada tahun 2002, Prague dilanda beberapa kejadian banjir. Namun kini, Prague menjadi bandar yang maju. Sektor pelancongan ditumpukan di bandar yang bersejarah ini. Pada saat ini, populasi Prague telah menjangkau 1,259,000 orang.