El terreno era llano, pero con depresiones en las que se formaban pequeñas lagunas y embalses.Entre estas depresiones hay una que aún subsiste, en la avenida del Libertador y avenida Sarmiento, que fue aprovechada por Rosas para construir un estanque navegable frente a su residencia (conocida como "caserón de Rosas)", un canal artificial para pasear en bote y un jardín zoológico con animales autóctonos de la región, para disfrute personal.Si bien los caminos, canales y plantaciones se ejecutaron en líneas rectas, esto no fue así en algunas áreas como el Jardín de las Piletas, donde se dispusieron fuentes, flores, una glorieta, aves y jaulas de animales.Otro camino importante, transversal al río, era la avenida de los Sauces, actual Sarmiento.Siguió entonces un largo período de transición para definir el uso definitivo del lugar.Dos años antes el solar fue declarado Monumento Histórico nacional mediante decreto del presidente Juan Domingo Perón.En 1870, se designó el lugar como cuartel del Colegio Militar de la Nación.Se barajaron varios proyectos durante los siguientes veinte años, mientras se consolidaba lentamente el Estado Nacional, y el Poder Ejecutivo recién pudo disponer de los terrenos de Palermo en 1872.Eran tres amplias portadas sobre la calzada flanqueadas por arcos de medio punto con remates barrocos.Jules Dormal trazó además la mencionada avenida de las Palmeras, acceso principal al complejo, y dirigió las obras.Avellaneda plantó simbólicamente una magnolia grandiflora que aún susbsiste en la esquina de las avenida Berro y Casares.Se construyó una avenida empedrada desde el Caserón de Rosas hasta la entrada al parque con adoquines extraídos en la isla Martín García mediante el trabajo de indígenas sometidos durante la Conquista del Desierto.Pero estas palmeras se marchitaron rápidamente mostrando en su punta unos marchitos penachos, por lo que el ingenio popular le dio el apodo a la avenida de "Avenida de las Escobas".En 1897 bregó por la desaparición definitiva del Caserón de Rosas, que todavía subsistía albergando a la Escuela Naval Militar.Los terrenos que se extendían desde el arroyo Maldonado hasta la calle La Pampa fueron anexados al parque.Al lago se le sumaron las avenidas, las plantaciones de bosque, jarrones decorativos, faroles, glorietas, estatuas y demás ornamentos.También se pueden realizar paseos en bote por los tres lagos artificiales que existen en la zona.Una vez cruzado este puente se pueden ver los rosales que dan nombre al parque.
