Im Juni 1977 wurde im ehemaligen Apothekerpavillon auf dem Gelände der WIG 74 in Oberlaa das Gartenbaumuseum eröffnet. Bereits nach 1918 plante man auf dem Gelände des Berggartens in Schönbrunn ein „Gärtnermuseum“ einzurichten. Diese Pläne wurden nicht realisiert. In den 1950er Jahren erfolgte schließlich ein Aufruf von Lehrern der Gartenbauschule der Gemeinde Wien in Kagran an die mehrheitlich aus Gartenbaubetrieben stammenden Schüler alte, ausrangierte Gartengeräte zu sammeln. Die Sammlung wurde zunächst in Kagran deponiert und später in die städtische Gärtnerei in den ehemaligen Rothschildgärten auf der Hohen Warte transferiert. Hans Eisterer, ehemaliger Schüler der Gartenbauschule und Gärtnermeister im Dienste des Stadtgartenamtes, betreute diese Sammlung im Depot auf der Hohen Warte weiter. Alfred Auer, Stadtgartendirektor und Generalsekretär der ÖGG, unterstützte diese Initiative und auf seine Anregung wurde die Sammlung schließlich der ÖGG zur Gründung eines Gartenbaumuseums übergeben. Nach dem Ende der WIG 74 wurde der Apothekerpavillon für die Einrichtung des Gartenbaumuseums übergeben. Das Stadtgartenamt, Magistratsabteilung 42, beteiligte sich finanziell und personell. Als Museumsleiter war bis zu seiner Pensionierung im Jahr 2002 Hans Eisterer verantwortlich. Um den vielfältigen Aufgaben des Museums besser gerecht zu werden, planten die Verantwortlichen eine öffentlich-rechtliche Grundlage zu schaffen, die ein privater Verein, wie die ÖGG, nicht bieten konnte. 1995 übernahm die MA 42 daher die Leitung des Museums.
2001 wurde der „Verein der Freunde des Österreichischen Gartenbaumuseums“ gegründet, dessen Gründungsmitglied die ÖGG ist. Seit 2002 befindet sich das Gartenbaumuseum in der Orangerie Kagran.