La popularidad de la banda le dio a White la oportunidad de trabajar como solista con renombrados artistas como Loretta Lynn (a quien le produjo el álbum Van Lear Rose en 2004) Beck, The Rolling Stones, y Bob Dylan.«Me habían aceptado en un seminario en Wisconsin, y quería ser sacerdote, pero en el último momento pensé: "Iré a una escuela pública".Había conseguido un nuevo amplificador y no pensé que se me permitiera llevarlo conmigo».Al negocio nunca le faltó trabajo pero tampoco era muy rentable debido a su desinterés por el dinero y las prácticas que realizaba, calificadas como poco profesionales, las cuales incluían hacer recibos de crayón y escribir poesía dentro de los muebles.Esto lo llevó a trabajar con varias bandas como The Go en su álbum Whatcha Doin, y Two-Star Tabernacle.Aparte de ser su mentor y su vecino, Muldoon tocaba la batería en jam sessions nocturnas.En palabras de Jack: «Cuando comenzó a tocar la batería conmigo, se sintió liberador y refrescante.A mediados del 2005, White y su amigo Brendan Benson escribieron juntos la canción «Steady, as She Goes», la cual se convirtió en el primer sencillo de su nueva banda.Gracias a la diversidad del álbum y su sonido caótico recibió mejores críticas que su predecesor.Además dirigió el vídeo musical de «I Cut Like a Buffalo», tercer sencillo del primer álbum Horehound.[1] En 2009 su discográfica Third Man Records auspició un homenaje a Carl Sagan en forma de canción.Ese mismo año, apareció junto con Meg en uno de los cortos dirigidos por Jim Jarmusch en Coffee and Cigarettes.La canción «Another Way to Die» de esta vigésimo segunda película del espía 007, ha sido escrita y producida por White, quien también toca la batería.
