Galéria výtvarného umenia sa nachádza v Joubert, len pár blokov od hlavnej vlakovej stanice v Johannesburgu parku. Budova bola navrhnutá architektom sir britský Edwin Lachensom a skladá sa z 15 výstavných siení, rovnako ako niekoľko výstavných priestorov pod holým nebom až po veľké sochy. Jeho archív je zbierka britského a holandského maliarstva XVIII-XIX storočia, zbierka európskych malieb XIX storočia, rovnako ako veľká zbierka dobových diel Juhoafrickej republiky a zahraničných umelcov.

Collector Dorothea Sarah Alexander Florence Phillips, manželka banského magnáta Lionel Phillips tvorili prvú kolekciu galérie na úkor fondov prispeli svojím manželom. Po presťahovaní do Johannesburgu, začala fotiť s cieľom vytvoriť umeleckú galériu, ktorý neskôr sa stal Art Gallery v Johannesburgu. To získal zbierku obrazov od britského umelca a zberateľov Sir Hugh Lane, vystavoval v Londýne v roku 1910. Lady Phillips daroval svoju zbierku čipky a presvedčil jej manžela oznámiť sedem galérie obrazov a sôch Rodin.

Zbierka galérie zahŕňa diela Auguste Rodin, Dante Gabriel Rossetti, Pablo Picasso, Camille Pissarro, Claude Monet, Edgar Degas, Herbert Ward a Henry Moore, rovnako ako diela juhoafrických umelcov - Gerard Sekot Walter Battissa, Alexis Preller, Maud Sumner, Sydney Kumala a ďalšie.

Johannesburg Art Gallery bola otvorená pre verejnosť v roku 1910 na kampusov University of Witwatersrand. Architekt, Sir Edwin Lachens pozvaný Lady Phillips, prišli do Južnej Afriky v roku 1910, aby preskúmala oblasť a začať výstavbu budovy galérie. Ale stavba nebola dokončená podľa skíc architekta. O päť rokov neskôr, sa začatím výstavby, budova otvorila svoje brány verejnosti bez obradu tesne po prvej svetovej vojne.

Na konci roka 1940, galérie budova bola rozšírená v súlade s návrhom architekta Lachensa - postavený západ a východného krídla budovy. Severné krídlo galéria s modernou fasádou bol postavený v poslednej rekonštrukcie budovy v roku 1986-1987.