Während das Wiener Becken bereits in der Altsteinzeit (600000 bis 10000 v. Chr.) von Jägern begangen wurde, wurde es ab der Jungsteinzeit (5500 bis 2200 v. Chr.) von Bauern besiedelt. Bis heute weisen zahlreiche Brandgräber auf die bronzezeitliche (2200 bis 800 v. Chr.) und ein gut sichtbarer Grabhügel auf die eisenzeitliche (800 v. Chr. bis 1025) Geschichte des heutigen Wiens (48.208389 N, 16.370677 O) hin.
Am Ort des heutigen Stadtzentrums legten die Römer im 1. Jahrhundert ein Militärlager an. Im 1. Bezirk, der Inneren Stadt, sind der Mauer- und Straßenverlauf der Befestigung noch heute zu erkennen. Nachdem die Römer das Militärlager im 5. Jahrhundert aufgegeben hatten, wurde die Region von einem Wirtschaftshof für den Weinbau geprägt.
Seinen wirtschaftlichen und politischen Aufstieg erlebte Wien, nachdem der ostfränkische König Otto I (936 bis 973), der spätere römisch-deutsche Kaiser Otto I der Große (962 bis 973), in der 955 auf dem Lechfeld stattgefundenen Schlacht über die Ungarn gesiegt hatte. Bereits 976 gründeten die Babenberger die Markgrafschaft Österreich, die 1156 zum Herzogtum Österreich erhoben wurde. Noch als Markgraf von Österreich (1141 bis 1156) hatte Heinrich II Jasomirgott, der erste Herzog von Österreich (1156 bis 1177), seine Residenz in Wien begründet.
Mit dem römisch-deutschen König Rudolf I (1273 bis 1291) begann 1278 die Herrschaft der Habsburger über das Herzogtum Österreich. Im Wettbewerb mit Prag, das von den Luxemburgern zu einer prächtigen Residenzstadt ausgebaut wurde, betrieben die Habsburger die Entwicklung von Wien. Mit den im Winter 1358/59 gefälschten Urkunden des Privilegiums maius (Großer Freiheitsbrief) erhob sich Rudolf IV, der Herzog von Österreich (1358 bis 1359), selbst zum Erzherzog, um Wien zugleich ab 1358 zu seinem Herrschaftssitz über das Erzherzogtum Österreich zu erheben.
Er gründete nicht nur die Alma Mater Rudolphina Vindobonensis, aus der die heutige Universität Wien hervorging. Vielmehr errichtete er auch das gotische Langhaus des Stephansdoms.
Mit der Wahl des römisch-deutschen Königs Albrecht II (1438 bis 1439) wurde Wien ab 1438 zur Königsresidenz des Heiligen Römischen Reichs. Es wurde ab 1469 mit einem Bischofssitz versehen. Unter dem römisch-deutschen Kaiser Karl V (1520 bis 1556) wurde Wien zur Kaiserresidenz des Heiligen Römischen Reichs.
Während der Reformation, die auf die 1517 von dem Mönch Martin Luther (*1483 bis 1546) veröffentlichte Disputatio pro declaratione virtutis indulgentiarum (Disputation zur Klärung der Kraft der Ablässe), die sogenannten Fünfundneunzig Thesen, weite Teile von Europa erfasste, wandten sich zwar auch viele Wiener dem Protestantismus zu. Doch wurde Wien ab 1551 zum Ausgangspunkt der Gegenreformation, nachdem der römisch-deutsche Kaiser Ferdinand I (1558 bis 1564) die Jesuiten nach Wien geholt hatte. Sie übernahmen nicht nur die Leitung der Alma Mater, sondern übten auch die Bücherzensur aus. Nach brutalen Enteignungen und Vertreibungen, die von den Jesuiten geschürt worden waren, lebten nach 1640 nur noch wenige Protestanten in Wien.
Mit dem Zusammenbruch des Byzantinischen Reichs geriet Wien ab der Mitte des 15. Jahrhunderts in die Auseinandersetzungen mit dem Osmanischen Reich, das seinen Einflussbereich von Asien nach Europa ausdehnen wollte. Bereits 1529 bildeten die osmanischen Heerschaften einen Belagerungsring um Wien, das sich mit Unterstützung von Truppen des Heiligen Römischen Reichs jedoch erfolgreich gegen eine Besetzung verteidigen konnte. Im Hinblick auf die nur etwa 150 Kilometer östlich der Stadt verlaufende Grenze zum Osmanischen Reich wurde Wien bis ins 17. Jahrhundert mit modernen Befestigungsanlagen versehen. Die Bautätigkeit in Wien beschränkte sich während dieses Zeitraumes fast vollständig auf die Verteidigungsanlagen, während die sonstige Entwicklung der Stadt erheblich gehemmt wurde. Nochmals 1683 legten die osmanischen Truppen einen Belagerungsring um Wien, dem die neuen Befestigungsanlagen jedoch wieder standhielten, bis das von Einheiten des Königreichs Polen angeführte Entsatzheer eintraf. Auf den Verlust der 1683 stattgefundenen Befreiungsschlacht am Kahlenberg gab das Osmanische Reich seine europäischen Interessen endgültig auf. Noch heute erinnert die Betreuung der am Kahlenberg stehenden Kirche Sankt Josef durch polnische Priester an den siegreichen polnischen König Jan III Sobieski (1674 bis 1696).
Mit der Beendigung der osmanischen Bedrohung blühte Wien auf, da sich die Bautätigkeit während des 18. Jahrhunderts nicht mehr allein auf die Verteidigungsanlagen beschränkte. Nicht nur innerhalb der Stadtmauern, sondern auch außerhalb der Stadtgrenzen entstanden vielfältige Wohngebiete, deren Gebäude im Barockstil errichtet wurden. Die wachsende Bevölkerung, die 1679 und 1713 von der Pest heimgesucht worden war, führte zur Verbesserung der hygienischen Verhältnisse sowohl zur Einführung einer Straßenreinigung als auch zur Errichtung einer Kanalisation.
Mit der 1804 erfolgten Gründung des Kaisertums Österreich wurde Wien zur Hauptstadt des neuen Staates. Es entwickelte sich insbesondere auch zu einem wichtigen Kulturzentrum in Europa, das unzählige Künstler anzog: Franz Joseph Hadyn (*1732 bis 1809), Wolfgang Amadeus Mozart (*1756 bis 1791), Ludwig van Beethoven (*1770 bis 1827) und Franz Peter Schubert (*1797 bis 1828).
Während der Koalitionskriege, die von 1792 bis 1815 in ganz Europa geführt wurden, wurde Wien sowohl 1805 als auch 1809 von der Armee des französischen Kaisers Napoléon I Bonaparte (1804 bis 1814 und 1815) eingenommen. Nach dem Sieg über die französischen Truppen zeichnete es sich 1814/15 als Gastgeber des Wiener Kongresses aus, auf dem etwa zweihundert Vertreter aus europäischen Staaten über die zukünftige politische Neugliederung in Europa unter Beibehaltung der Herrschaft der Adelsgeschlechter berieten.
Die Auswirkungen der von März 1848 bis Juli 1849 geführten Deutschen Revolution, die sich gegen die Restaurationsbestrebungen der deutschen Herrschergeschlechter wandte, führten 1848 zur Wiener Märzrevolution und zur Wiener Oktoberrevolution. Während die aufbegehrenden Bürger als Folge der Märzrevolution zunächst einige politische Zugeständnisse erwirken konnten, gingen diese nach den erfolglosen heftigen Barrikadenkämpfen der Oktoberrevolution wieder verloren.
Die ab Anfang des 19. Jahrhunderts auch in Österreich einsetzende Industrialisierung wirkte auch auf Wien ein. Die Einwohnerzahl stieg bis 1870 auf etwa 1 Millionen Einwohner, während sie 1910 ihren Höhepunkt von etwa 2,1 Millionen Einwohner erreichte; heute leben in Wien etwa 1,7 Millionen Einwohner. Ihren Lebensunterhalt erwirtschaftete die wachsende Bevölkerung auch in den sich in Wien ansiedelnden Manufakturen, deren erste in der Leopoldstadt gegründet wurde. Auch zog mit der 1837 stattgefundenen Eröffnung der Kaiser-Ferdinand-Nordbahn von Floridsdorf nach Deutsch-Wagram das Eisenbahnwesen in Österreich ein. Der Druck der wachsenden Bevölkerung verlangte Wien umfangreiche städtebauliche Maßnahmen ab, die seinen Charakter bis heute prägen. Ab 1850 begann die Eingemeindung der Vorstädte, indem die Stadtmauern der Altstadt ab 1858 geschliffen und durch die mit Monumentalbauten gesäumte Ringstraße ersetzt wurden. Nach der Überschwemmung von 1830 wurde die Regulierung der Donau von 1868 bis 1875 durchgeführt, indem die in Wien vorhandenen zahlreichen Seitenarme der Donau abgegraben und umgeleitet wurden. Allein der heutige Donaukanal, der ursprünglich den Hauptstrom der Donau ausmachte, ist verblieben, während der Hauptstrom der Donau abseits von Wien geschaffen wurde. Ab der Mitte des 19. Jahrhunderts wurden Stadtentwicklungspläne aufgestellt, mit denen die dörflich geprägte Alt-Wiener-Bauweise durch Geschäfts- und Wohnhäuser mit vier bis sechs Geschossen ersetzt wurde.
Von 1914 bis 1918 ist Wien während des Ersten Weltkrieges zwar nicht beschädigt worden. Von 1939 bis 1945 während des Zweiten Weltkrieges ist es jedoch zu einem großen Teil zerstört worden: Dreitausend Bombentrichter führten zur 20 %-igen Zerstörung.