Se matriculó en el Conservatorio en 1883, tras haber recibido sus primeras clases de música en el propio orfanato, gracias al clarinetista José Chacón.Yuste fue un reputado solista de clarinete e intervino en los estrenos en España del Quinteto en Si menor, Op.120 de Johannes Brahms, interpretados por primera vez en Madrid en 1893 y 1896, respectivamente, en ambas ocasiones sólo un año después de su estreno en Berlín y Viena.Tiene una calle dedicada en Madrid, en el barrio de Suanzes, muy conocida por estar allí la sede social del diario El País.Además, es abuelo del actor y cómico Josema Yuste.