Der Schillerplatz im Herzen Stuttgarts wird von mehreren klassischen Gebäuden, wie dem Alten Schloss, der Stiftskirche, dem Fruchtkasten, dem Prinzenbau, dem moderneren Haus König von England und an seiner Nordseite von der Alten Kanzlei umgegeben. Neben dem Alten Schloss bildet sie das älteste Gebäude am Platz. Errichtet wurde der Verwaltungsbau der herzoglichen Kanzlei unter Herzog Ulrich in den Jahren 1542 bis 1544. Das Gebäude fungierte als Sitz der landesfürstlichen Regierung, sowie als Sitz für die Landschreiberei, wie auch der Hof- und Rentkammer. Der Verwaltungsbau war bis ins Jahr 1777 mittels eines überdeckten Ganges direkt mit dem Alten Schloss verbunden. Mit der Fertigstellung der Neuen Kanzlei in der Königstraße erhielt das Gebäude 1838 seinen heutigen Namen, Alte Kanzlei.
Den ersten Bauabschnitt bildete der östliche Teil des Kanzleigebäudes. In ihm war neben den oben genannten Verwaltungsorganen auch die Bücherei untergebracht.
Unter der Leitung des Baumeisters Aberlin Tretsch, welcher einige Jahre zuvor bereits für den Umbau des Alten Schlosses verantwortlich war, erfolgte die Erweiterung des Kanzleigebäudes bis zum späteren Prinzenbau und im selben Zuge eine Aufstockung um ein weiteres Geschoss. Die Trennung der beiden Bauabschnitte wird bis heute durch die abgetreppte Brandwand oberhalb des Daches markiert.
Durch die Erweiterung hat der Bau ein weiteres Portal erhalten. Das alte Eingangsportal mit dem prächtigen Wappen Herzog Ulrichs, welches 1543 geschaffen wurde, ist erhalten geblieben. Durch einen Brand wurde das zweite Portal beschädigt und musste 1683 neu geschaffen werden. Dafür war der Baumeister Matthias Weiß verantwortlich. Beide Portale, zum Schillerplatz hin ausgerichtet, wurden 1878/79 vom Architekten Alexander von Tritschler zu einer optischen Einheit im Renaissancestil umgestaltet.
In den Jahren 1598/1599 erhielt die Kanzlei den heute als Merkursäule bekannten Wasserturm an der Ecke zum damaligen Lustgarten. Am Sockel des Wasserturms befindet sich das Kosakenbrünnele.
Zudem befindet sich an der Fassade zum Schillerplatz die Gedenktafel für Gerhard Storz.