Der Fund von Herdstellen im Bereich der heutigen Germanen-, Preußen- und Sachsenstraße lassen auf eine Besiedlung bereits um 2000 v. Chr. schließen. Ein Dorf Glinik wird erstmals im Landbuch Kaiser Karls IV. von 1375 erwähnt, dem frühesten Verzeichnis der Dörfer des Berliner Umlandes. Der Ortsname ist slawischen Ursprungs und verweist auf glina, Lehm, sandiger Boden, glinki, Lehmfelder. Eine kaiserliche Verfügung gründete am 17. April 1893 die Gemeinde Altglienicke, die schnell Identität und Bedeutung erlangte. Bereits 1904 gelang der Anschluss an das Elektrizitätsnetz, 1908 wurde eine eigene Gasanstalt eingeweiht. Ein Zweckverband mit dem damaligen Preußischen Landgemeinden Adlershof und Grünau sicherte die Wasserversorgung.
Noch heute weithin sichtbares Zeichen für Altglienickes Entwicklung ist der von Heinrich Scheven entworfene und 1905/ 06 gebaute Wasserturm in der Schirnerstraße. Ab 1933 wurden in seinem Erdgeschoss auch Gottesdienste abgehalten, wovon Reste einer sakralen Wandgestaltung zeugen. Seit 1999 hat das Baudenkmal nach Zeiten als “Geräteschuppen” einen neuen Eigentümer, der den fast vierzig Meter hohen Turm unter Beibehaltung des historischen Charakters instandsetzt. Daneben beherbergt er das Altglienicke-Museum mit einer Ausstellung zur Geschichte. Sie beinhaltet u. a. ein Originalstück des Spionagetunnels (siehe weiter unten), Einrichtungsgegenstände längst vergangener Altglienicker Ladengeschäfte und Bilder vom historischen Wasserwerk. Geöffnet ist das Museum am jeweils letzten Sonntag im Monat von 14 bis 17 Uhr.
Im alten Dorfkern, rund um die Pfarrkirche (1895), sind große Teile des ”alten” Ortes erhalten. Sehenswert sind auch die Gagfah-Siedlung, eine ”Heimstätte für Angestellte” aus den dreißiger Jahren.
Altglienicke spielte auch in einer der spektakulärsten Spionageaffären des Kalten Krieges eine Rolle: Unter Altglienicke verliefen die Fernmeldeleitungen von der sowjetischen Botschaft in Berlin-Mitte und der KGB-Zentrale in Karlshorst zum deutschen Hauptquartier der Roten Armee in Wünsdorf. Amerikaner und Briten hatten in den 50er Jahren vom West-Berliner Rudow einen Tunnel bis unter die Schönefelder Chaussee graben lassen, um die sowjetische Nachrichtenübermittlung anzuzapfen. Nachdem ein Doppelagent das Unternehmen verraten hatte, war es den Sowjets über 14 Monate hinweg möglich, die westliche Spionage mit falschen Informationen in die Irre zu führen. 1956 schließlich drangen die Techniker des KGB in den Tunnel ein und standen plötzlich im Verstärkerraum der Amerikaner. Der Tunnel wurde umgehend versperrt, die in Rudow zur Tarnung errichtete Radarstation 1995 abgebaut.
(Der Altglienicker Spionagetunnel ist Sujet des 1992 an Originalschauplätzen in Berlin entstandenen Films “…und der Himmel steht still”, Regie: John Schlesinger, mit Anthony Hopkins und Isabella Rosselini, nach dem Roman “The Innocent” von Ian McEwan)