Po śmierci ostatniego z rodu Babenbergów, z wdową po nim ożenił się król czeski Przemysł Ottokar II, który był pretendentem do tronu Świętego Cesarstwa Narodu Niemieckiego, jednak po porażce z Rudolfem I Habsburgiem, w roku 1278 Wiedeń i cała ówczesna Austria przeszła pod panowanie dynastii Habsburgów i był z nią związany praktycznie do wieku XX.

W czasie panowania Rudolfa IV Założyciela (1358-1365) rozpoczęła się budowa katedry Św. Szczepana, utworzono uniwersytet, a w roku 1438, wraz z wyborem na tron Świętego Cesarstwa Rzymskiego Narodu Niemieckiego stał się on jego stolicą i siedzibą biskupstwa (1469). W roku 1485 utracony na rzecz Węgier i wkrótce odzyskany.

W następnych latach Habsburgowie pozyskali rozległe tereny w Europie i na całym świecie (środkowa Europa, Niderlandy, Włochy, Półwysep Iberyjski, posiadłości hiszpańskie w obu Amerykach, a w latach późniejszych Czechy i Węgry). Po abdykacji Karola V państwo podzielono na Hiszpanię, Niderlandy, królestwa Neapolu i Mediolanu oraz kolonie zamorskie, które przypadły Filipowi II, oraz koronę cesarską wraz z Austrią, Czechami i Węgrami, które przypadły Ferdynandowi. Nastąpił podział Habsburgów na linię hiszpańską, która wygasła po śmierci Karola II w roku 1700 i austriacką.

Wiedeń, który od połowy XVI wieku rządzony był przez linię austriacką nie rozwijał się z powodu ciągłego zagrożenia ze strony tureckiej, co spowodowało wzniesienie silnych fortyfikacji wokół miasta. W 1529, po zdobyciu Budapesztu Turcy ruszyli pod Wiedeń, jednak z niewyjaśnionych przyczyn nie przystąpili do oblężenie miasta. XVI wiek to też czas reformacji, która na katolickim dotąd Wiedniu odcisnęła swoje piętno. Do walki z luteranizmem stanęli jezuici i z powrotem doprowadzili miasto do jego katolickiego charakteru.

W roku 1679 Wiedeń zmagał się z epidemią zarazy, która pochłonęła życie 70 tysięcy mieszkańców miasta.