En 1968, se le ofreció un período de dos semanas actuando en el Hotel Carlyle de Nueva York para reemplazar a George Feyer.
Short (acompañado por Beverly Peer al bajo y Dick Sheridan a la batería) se convirtió en una institución en el Carlyle, al igual que había ocurrido antes con Feyer, actuando en el local a lo largo de más de 35 años.
Allí, una serie de características como eran su elegancia natural, su perfecto fraseo, su talento para presentar nuevas canciones, su buen carácter, y su disciplinado profesionalismo, le valieron un gran respeto y una enorme popularidad.
Algunas fechas claves de su biografía son: A lo largo de su vida Short abogó por compositores afroamericanos de la época como, por ejemplo, Eubie Blake, James P. Johnson, Andy Razaf, Fats Waller, Duke Ellington y Billy Strayhorn, presentando el trabajo de ellos, no en un modo polémico, sino en una obvia igualdad con sus contemporáneos blancos.
De todos los compositores, Short siempre mantuvo que sus favoritos eran Ellington, Arlen y Kern, siendo su apoyo decisivo para la construcción en Nueva York del Duke Ellington Memorial.