Der Alte Schwan gehört zu Erfurts ältesten Profanbauten. Im Jahr 1310 wurde er erstmals als Fuhrhof erwähnt, wo die Kaufleute ihre beladenen Wagen abstellten und einkehrten. Das heute sichtbare, im Kern gotische Bauwerk wurde vermutlich im 15. Jahrhundert als Bürgerhaus "Güldener Strauß" gebaut. In der Renaissance wurde das Haus umgebaut, wobei offenbar die Fenster schon etwas vergrößert wurden und das Eingangsportal entstand. Die Fassade blieb seit dem Mittelalter nahezu unverändert, ebenso kontinuierlich war die Nutzung als Gasthof.
1965 wurde der Alte Schwan bereits einmal völlig instandgesetzt und ein uriges Weinrestaurant eingerichtet. In den Zeiten bis zur Schließung der beliebten HO-Gaststätte 1990 war es stets schwierig, einen der 67 Plätze zu ergattern. "Nicht einmal mit Trinkgeld," wie man zu berichten weiß.
In den Gästebüchern des Alten Schwan steht manch' prominenter Name, von dem dichtenden Schuhmacher Hans Sachs, der im 16. Jahrhundert hier einkehrte, bis zu Christoph Martin Wieland, der im 18. Jahrhundert als Prinzenerzieher des Weimarer Herzogenhauses im Alten Schwan logierte. Im Alten Schwan schrieb er seine burlesken Gedichte "Der neue Adamis" und den orientalisch verkleideten humanistischen Aufklärungsroman "Der goldene Spiegel oder Die Könige von Scheschian". Auf dieses sozialkritische Werk hin erhielt Wieland den Ruf an die Weimarer Universität.
In unmittelbarer Nachbarschaft des Alten Schwan befindet sich die berühmte Krämerbrücke. Genau wie der "Ponte Vecchio" in Florenz, trägt die Krämerbrücke auf beiden Seiten je eine geschlossene Reihe Fachwerkhäuser - das einzige Bauwerk dieser Art nördlich der Alpen. 1117 wurde die Krämerbrücke erstmals erwähnt, nachdem sie soeben abgebrannt war. Mit fünf kräftigen Sandsteinbogen überspannt sie seit 1325 die Flussarme der Gera. Vom Alten Schwan auf die Krämerbrücke und zur Ägidienkirche führt ein kurzes Gässchen, die Lutherstiege, an dessen einziger Haustür der Augustinermönch Martin Luther einst bettelte.