Vienna mula didiami sejak 500 SM, ketika tapak Vienna dan Sungai Danube "diselenggarakan" oleh puak Celt. Pada 15 SM, puak Rom memanggil bandar ini dengan nama Vindobona untuk mengawasi empayar ini daripada suku-suku Germanik di utara.

Pada tahun 1145, Duke Henry II Jasomirgott membawa keluarga Babenberg berpindah dari Klosterneuburg ke Vienna. Sejak itu, Vienna menjadi pusat kepada dinasti Babenberg.[14] Pada 1440, Vienna menjadi bandar utama untuk kerabat diraja Habsburg. Vienna semakin berkembang dan akhirnya menjadi ibu negara de facto Empayar Suci Rom (1483–1806) dan juga merupakan sebuah pusat budaya seni, muzik dan sains. Hungary menduduki bandar ini di antara tahun 1485–1490.

Pada abad ke-16 dan ke-17, tentera Uthmaniyyah berperang di kota ini sebanyak dua kali (pada tahun 1529 dan 1683). Wabak besar melanda Vienna pada tahun 1679, dan membunuh hampir satu pertiga daripada populasinya.[15]

Pada tahun 1804, ketika tercetusnya Perang Napoleon, Vienna menjadi ibu negara Empayar Austria dan meneruskan untuk mejadi kuasa Eropah dan dunia politik termasuk menjadi hos dalam Kongres Vienna pada tahun 1814. Selepas Kompromi Austria-Hungary 1867, Vienna kekal menjadi ibu negara Empayar Austria-Hungary. Bandar ini kemudian menjadi pusat muzik klasikal dan melahirkan beberapa tokoh muzik ternama.

Pada tahun 1918, sekepas berakhirnya Perang Dunia Pertama, Vienna menjadi ibu negara Republik Jerman-Austria, dan kemudian pada tahun 1919, Vienna menjadi ibu negara Republik Pertama Austria.

Dari abad ke-19 sehingga 1938, Vienna menjadi bandar yang mempunyai kebudayaan yang tinggi serta melaksanakan modenisme. Pada tahun 1913, Adolf Hitler, Leon Trotsky, Joseph Tito, Sigmund Freud dan Joseph Stalin hidup dalam beberapa batu antara satu sama lain di tengah-tengah Vienna, dan sebahagian daripada mereka menjadi pelanggan tetap di sama kedai kopi Vienna.[16] Di Austria, Vienna menjadi pusat sosialis politik dan bandar ini menjadi medan pertempuran Perang Saudara Austria pada tahun 1934, ketika Canselor Engelbert Dollfuss merampas kuasa.

Pada tahun 1938, pemimpin Nazi kelahiran Austria, Adolf Hitler berucap kepada etnik Austria Jerman dari balkoni Istana Imperial Hofburg. Di antara tahun 1938 (selepas Anschluss) dan penghujung Perang Dunia Kedua, Vienna kehilangan status ibu negaranya selepas Austria sebahagian daripada Jerman Nazi dan status ibu negara diberikan kepada bandar Berlin. Vienna bukan lagi ibu negara sehingga 1955 apabila Austria menerima kedaulatan penuh.

Pada 2 April 1945, tentera Soviet melancarkan serangan ke atas Jerman yang memegang bandar ini. Pasukan tentera udara British dan Amerika segera mengebom kedudukan Jerman di Vienna dan mengakibatkan kerosakan banyak harta benda awam serta bangunan-bangunan. Vienna jatuh sebelas hari kemudian. Austria keluar dari Jerman dan Vienna menjadi ibu negara semula tetapi Soviet memegang bandar ini sehingga 1955.

Selepas perang, Vienna sebahagian daripada pendudukan Soviet ke atas Timur Austria sehingga September 1945. Sama seperti Berlin, Vienna pada September 1945 dibahagikan kepada empat kuasa - iaitu AS, UK, Peranics dan Soviet. Empat kuasa besar menduduki Vienna dan pendudukan itu sama sahaja seperti di Berlin.

Soviet meletakkan pagar kawat berduri di sekeliling perimeter Berlin Barat pada tahun 1953, tetapi tidak di Vienna. Pada tahun 1955, Soviet menandatangani Perjanjian Negeri, bersetuju untuk melepaskan zon pendudukan mereka di Timur Austria serta sektor mereka di Vienna. Dalam pertukaran mereka yang dikehendaki, Austria mengisytiharkan berkecuali selama-lamanya selepas Pihak Bersekutu telah meninggalkan negara ini. Oleh itu, mereka memastikan bahawa Austria tidak akan menjadi ahli NATO.

Empat kuasa besar itu mengawal Vienna sehingga mereka menandatangani Perjanjian Negeri Austria yang ditandatangani pada Mei 1955. Sejak itu, Rumah Opera dan Burgtheater dibuka semula kepada awam. Kesatuan Soviet menandatangani Perjanjian Negeri hanya setelah diberi jaminan politik oleh kerajaan persekutuan untuk mengisytiharkan perkecualian Austria selepas pengunduran tentera bersekutu. Undang-undang berkecuali ini diluluskan pada Oktober 1955, dengan janji Austria tidak akan menyertai NATO serta Blok Komunis, dan ia salah satu alasan mengapa Austria lewat menyertai Kesatuan Eropah.

Kini, Vienna menjadi bandar global dengan banyak pejabat-pejabat dibuka di sini antaranya Pertubuhan Bangsa-Bangsa Bersatu (Pertubuhan Pembangunan Perindustrian Bangsa-Bangsa Bersatu, Pejabat Pertubuhan Bangsa-Bangsa Bersatu di Vienna dan Pejabat Pertubuhan Bangsa-Bangsa Bersatu mengenai Jenayah dan Dadah), Agensi Tenaga Atom Antarabangsa, Pertubuhan Negara-negara Pengeksport Petroleum, dan juga Pertubuhan bagi Keselamatan dan Kerjasama Eropah.