Bereits seit 1956/1957 gab es auf dem Gelände der 4. Grundschule in der Rüdesheimer Straße eine Kinder- und Jugendbibliothek.
1971 wurde im Rahmen eines Preisausschreibens der zukünftige Name der Bibliothek ermittelt. Die jugendlichen Leserinnen und Leser entschieden sich für den amerikanischen Astronauten Neil Armstrong. Bis 2009 hieß sie mit Einwilligung der Weltraumbehörde in Houston/Texas Neil-Armstrong-Bibliothek.