Su trayectoria musical va unida a la del grupo The Crusaders.

Comenzó, junto a Joe Sample y Wayne Henderson, en su ciudad natal, en un grupo llamado Swingsters, donde estaban también Stix Hooper y Hubert Laws.

El grupo se trasladó a California (1958) cambiando su nombre por el de Modern Jazz Sextet y, más tarde, Night Hawks.

Después, compatibilizará su carrera en The Crusaders con un extenso trabajo como músico de sesión.

Felder sobrevivirá a todos los cambios, disoluciones y reencarnaciones de la banda, hasta la actualidad.