Otro hermano, Elmer Kress, murió diez días después de nacer.

Cada día debía andar 3 millas (4,8 kilómetros) para llegar a la escuela.

Kress murió en 1955 y está enterrado en el Cementerio Woodlawn, en el Bronx, Nueva York.

Como amante del arte, fue adquiriendo, a través del marchante Joseph Duveen, una importante colección de pinturas y esculturas, principalmente de la escuela Barroca italiana.

Por suerte para Kress, estas pinturas se consideraban "pasadas de moda" durante la época victoriana y eduardiana, por lo que pudo comprar muchas de ellas a precios relativamente bajos.

Muchas de las pinturas fueron donadas a las mismas pequeñas ciudades en las que había hecho su fortuna con sus tiendas.

Actualmente, las obras maestras que Kress donó se considera que tienen un valor incalculable y la Fundación Kress ha concedido desde entonces millones de dólares a varias organizaciones e instituciones.