Notwendig wurde der Südfriedhof, als die Einwohnerzahl Düsseldorfs Ende des 19. Jahrhunderts stetig zunahm und so auch mehr Gräber erforderlich wurden. Mit dem Bau wurde um 1900 begonnen. Das ursprüngliche Friedhofsgebiet war in Form eines Kreuzes mit Endrondellen angelegt und bestand aus einer Gesamtfläche von etwa 28 Hektar. Vom Haupteingang aus gingen ein Hauptweg, zwei parallele Begleitwege sowie zwei weitere parallele Nebenwege nach Süden. Auch heute noch ist dieser Grundriss erkennbar und prägt die Gestalt des Friedhofs.
Im Gegensatz zur damaligen Zeit um 1900, wo man für Friedhöfe wie für Parkanlagen sehr gerne ausländische und exotische Baumarten setzte, wurden auf dem Südfriedhof fast ausschließlich bewährte Landschaftsbäume wie Eiche, Ulme, Linde, Ahorn u.a. gepflanzt, die heute vor allem zusammen mit den verschiedensten Landschaftsgehölzen das Bild prägen. Die ältesten Bäume dieser Anlage sind heute noch auf den Seitenwegen als Alleen zu finden.
Im Jahr 1908 wurde die nach Plänen des damaligen Stadtbaurats Radke und des Architekten Decker errichtete Kapelle mit Leichenhaus eröffnet. Durch ihre Form und Größe wertet sie auch heute noch das Friedhofsbild weiter auf.
Im Laufe der Zeit wurde der Südfriedhof dann erweitert und in seiner Gestalt verändert. Kriegsgrabfelder des 2. Weltkriegs mahnen zum Frieden. Ehrengräber erinnern an bekannte Düsseldorfer Persönlichkeiten, zum Beispiel die ehemaligen Oberbürgermeister Karl Arnold, Georg Glock, Josef Gockeln und Ehrenbürger Georg Schulhoff. Die innere Achse (der ursprüngliche Hauptweg) wurde Mitte der 1960er-Jahre entfernt und als Rasenfläche angelegt, an deren Rändern attraktive Grabstellen in Sonderlage eingerichtet wurden. Die historische Bedeutung des Südfriedhofs kommt auch dadurch zum Ausdruck, dass die Anlage seit 1994/95 als Gartendenkmal eingetragen ist.