Die Bebauung in Schmargendorf wird bestimmt durch Mietshäuser und kleinere Mehrfamilienhäuser. Auch einige Einfamilienhäuser und prächtige Villen sind vorhanden, vor allem Richtung Grunewald, östlich und westlich der Clayallee.

Hauptader ist die Breite Straße mit Geschäften, Imbissen und Cafés. Und auch an der Berkaer Straße mit dem prachtvollen Rathaus am Berkaer Platz, den Galeriepavillons aus den 1950er Jahren und der Carl-Orff-Schule ist ein bisschen mehr los als im Rest des Ortsteils. Das Rathaus entstand um 1900. Mit einer Grundfläche von fast 900 Quadratmetern, Türmen, Stufengiebeln und einer Fassade aus Backsteinen und Glasmosaiken gehört der Bau sicherlich zu den beeindruckendsten seiner Art in Berlin.

Die Dorfkirche Schmargendorf stammt aus dem 13. Jahrhundert und ist eine der kleinsten der gut 50 erhaltenen Dorfkirchen im Stadtgebiet. An die Kirche schmiegt sich der Friedhof Schmargendorf mit altem Baumbestand und einigen monumentalen Erbbegräbnisstätten. Der Platz am Wilden Eber ist eine wichtige Station beim Berlin Marathon. Einheimische sind sich sicher, dass die Stimmung zum Marathon hier am besten ist. Keine Sehenswürdigkeit, aber Schmargendorfer Landmarke sind die weithin sichtbaren Schornsteine des Heizkraftwerks Wilmersdorf an der Forckenbeckstraße.

In Schmargendorf gibt es zwischen zum Teil noch gepflasterten Straßen zahlreiche stille und grüne Winkel und Plätze. Der Messelpark ist zwar schmal, aber naturbelassen und schön zum Spazierengehen. Rund um den Talgraben im Nordosten Schmargendorfs gruppieren sich Horst-Dohm-Eisstadion, Sommerbad Wilmersdorf und mehrere Sportstätten. Das Gelände ist von Bäumen durchsetzt. Im Süden schließt sich eine große Kleingartenanlage an.