Der Bestand der Alten Nationalgalerie geht auf das Vermächtnis des Bankiers Joachim Heinrich Wilhelm Wagener an den preußischen Staat im Jahre 1861 zurück. Er hatte 262 Gemälde zusammengetragen, vor allem Werke der Düsseldorfer Malerschule und der belgischen Historienmalerei, aber auch Caspar David Friedrichs »Einsamen Baum« und Karl Friedrich Schinkels »Gotische Kirche auf einem Felsen am Meer«. Sie bilden den Grundstock für die Sammlung der Nationalgalerie mit Meisterwerken der Romantik, des Realismus und Impressionismus.

Bis zur Eröffnung des neuen Hauses 1876 war der Bestand der Nationalgalerie durch Ankäufe und Stiftungen von Gemälden, Skulpturen und Grafik verdoppelt worden. Hugo von Tschudi, Direktor der Nationalgalerie seit 1896, erwarb mit gestifteten Mitteln gegen den Widerstand des Kaisers und der Ankaufskommission wichtige Werke der französischen Impressionisten, darunter Édouard Manets »Im Wintergarten« und Claude Monets »Ansicht von Vétheuil«. Die Nationalgalerie war damit das erste europäische Museum, das impressionistische Kunst erwarb und zeigte.

Anders bahnbrechend wirkte Ludwig Justi, der Tschudi 1909 als Direktor folgte. Nach der Revolution 1918 richtete er im ehemaligen Kronprinzenpalais Unter den Linden eine einzigartige Ausstellung zur modernen Kunst des Expressionismus ein. Er erwarb Meisterwerke wie Franz Marcs heute verschollenes Gemälde »Der Turm der blauen Pferde«. Was aus dieser Dependance der Nationalgalerie den nationalsozialistischen Bildersturm und den Krieg überdauerte, gehört heute zum Bestand der Neuen Nationalgalerie.

Die Alte Nationalgalerie verwahrt derzeit etwa 2.000 Gemälde und ebenso viele Skulpturen, von denen etwa 400 Gemälde und 100 Skulpturen auf allen drei Ausstellungsgeschossen zu sehen sind.