Nacido en Cleveland, Ohio,[1] se crio en un orfanato y con varios parientes.En un principio había querido ser periodista, y esperaba ganar suficiente dinero gracias a su trabajo musical como para entrar en la Universidad Estatal de Ohio.Sin embargo, acabó siendo un dotado músico, liderando su propia banda mientras estudiaba en la high school y tocando en varios grupos locales.La banda de Martin grabó por primera vez para Columbia Records en 1932.Habitual en el medio radiofónico, entre sus shows figuraba el de la cadena NBC Maybelline Penthouse Serenade, en 1937.Martin grabó la pieza instrumentalmente, pero pronto se añadieron letras recibiendo el título de "Tonight We Love" y siendo interpretada por Clyde Rogers.El éxito de "Tonight We Love" hizo que Martin adaptara otros temas clásicos, en los cuales tocaban los pianistas de la banda Jack Fina, Murray Arnold y Barclay Allen.Entre otros artistas de estos shows figuraban Margaret Whiting, Bob Crosby, Frankie Carle, Buddy Morrow, Art Mooney y George Shearing.Una vez finalizadas las giras, Martin volvió a la Costa Oeste, y en 1977 se le solicitó dirigir la banda de Guy Lombardo cuando éste hubo de ser hospitalizado por una dolencia cardiaca.
