Die evangelische Kaiser-Wilhelm-Gedächtnis-Gemeinde entstand 1896 auf Grund der wachsenden Bevölkerungszahl im Berliner Westen. Ein Teil der Luisengemeinde ging in der neuen Gemeinde auf. Die Luisengemeinde schenkte der Kaiser-Wilhelm-Gedächtnis-Gemeinde eine 4,7 Hektar große Fläche zur Anlage eines eigenen Friedhofs, das direkt nördlich an den Luisenfriedhof III anschloss.

Der Friedhof wurde wie der benachbarte Luisenfriedhof als Alleequartierfriedhof angelegt. Für die Allen wurden Linden und Ahorne gepflanzt. Die Einweihung des Friedhofes fand mit dem ersten Begräbnis am 25. Juli 1896 statt.[3] Er übernahm mit diesem Datum die Funktion als Begräbnisplatz des Bildungsbürgertums, das sich Ende des 19. Jahrhunderts rund um den Kurfürstendamm im sogenannten Neuen Westen niedergelassen hatte. Das Repräsentationsbedürfnis über den Tod hinaus war zu dieser Zeit besonders ausgeprägt und führte noch zu Lebzeiten zu erheblichen Investitionen in Grabstellen und deren Ausgestaltung.

1903 ließ sich die Gemeinde eine Friedhofskapelle errichten. Bis dahin nutze sie die Anlagen auf dem Luisenfriedhof III. Zur Ausführung kam ein Entwurf des Stadtbaurats Hetzel (eine teilweise in der Literatur zu findende Autorenschaft Schwechtens ist nicht zutreffend[4]). Hetzel entwarf die Kapelle in romanischen Stilformen, wobei schmückende Schriftelemente Züge des Jugendstils aufweisen. Die Einweihung der Kapelle erfolgte am 27. September 1903.

Einzigartig unter den Kapellen auf Berliner Friedhöfen ist die Einrichtung einer Gruftanlage. 16 vom Kellergeschoss aus zugängliche Grüfte in Größen zwischen zehn und 25 Quadratmetern wurden angelegt, deren Verkauf zur Finanzierung der Kapelle dienen sollte.

Im Zweiten Weltkrieg wurde die Kapelle stark beschädigt. An einigen Erbbegräbnisstätten befinden sich noch heute deutliche Beschussspuren aus dieser Zeit. Die Kapelle wurde 1952/1953 wieder aufgebaut und 1978 umfangreich renoviert.