The Mills Brothers nacieron en una familia de nueve en Piqua, Ohio, Estados Unidos.

[5]​ Era hijo de William Hutchinson Mills y Cecilia Simms que vivían en Bellefonte, Pensilvania.

John acompañó la armonía de cuatro voces con el ukelele y luego con la guitarra.

Para la audición se hacían llamar "The Mills Brothers", pero antes habían sido conocidos por muchos otros nombres.

Cuando Paley escuchó su actuación, inmediatamente bajó las escaleras y los sacó en directo en la emisora.

Fueron un éxito en CBS en 1930-1931, sobre todo cuando coprotagonizaron el popular programa The Fleischmann's Yeast Hour presentado por Rudy Vallee.

Los hermanos fueron patrocinados por Standard Oil, Procter & Gamble, Crisco y Crosley Radio.

También grabaron sus clásicos "Lazy Bones", "Sweet Sue", " Lulu's Back In Town ", "Bye-Bye Blackbird", "Sleepy Head" y "Shoe Shine Boy".

[10]​ En 1934, The Mills Brothers se convirtieron en los primeros afroamericanos en actuar para la realeza británica.

Actuaron en el Regal Theatre ante los reyes Jorge V y Maria de Teck.

[10]​ En ese momento, Bernard Addison se unió a los Mills Brothers como guitarrista.

Después grabaron "Someday You'll Want Me to Want You", "Swing is the Thing", "Long About Midnight", "Organ Grinder's Swing" y "The Song is Ended".

Honraron a Duke Ellington con una versión swing de su "Caravan" y luego produjeron una serie de grabaciones clásicas; "South of the Border", que tocaron en una gira por Sudamérica, junto con "Ain't Misbehavin'", "It Don't Mean a Thing", "Jeepers Creepers", "Three Little Fishies" y "Basin Street Blues".

Se puede ver a Smith en varias apariciones en cine de los Mills Brothers.

[cita requerida] Al regresar a los Estados Unidos, los hermanos estaban ansiosos por lograr un éxito y grabaron "I'll be Around" en 1943.

[10]​ El auge del rock and roll no impidió que siguiera la popularidad de The Mills Brothers.

El quincuagésimo aniversario de The Mills Brothers en el mundo del espectáculo se celebró en 1976 con un homenaje en el Dorothy Chandler Pavilion en Los Ángeles, presentado por Bing Crosby.