[15][14] En particular, se aficionó a las obras de Dylan e,[15] investigando sus influencias musicales,[16] encontró a varios de los pioneros del blues y el folk, colmo Woody Guthrie, Sonny Terry, Brownie McGhee, Howling Wolf, Robert Johnson y Lead Belly,[14][16] que también inspiraron a Kings of Leon, una banda que gustaba desde su infancia.
[19][20][21] Hizo su debut con dicha agrupación a los trece años interpretando las partes vocales femeninas de «Teenage Dirtbag», de la banda Wheatus,[9][13] en un bar local nocturno llamado Marquee, gracias a su hermana quien para aquel entonces salía con un promotor del pub.
[9][13][12] Sus experiencias musicales en Brístol le dieron el coraje para proseguir una carrera como intérprete.
[11] En 2012, Ezra continuó con sus actuaciones en Brístol y tuvo una residencia de conciertos en el auditorio The Gallimaufry.
[24] Ezra se volvió popular en la ciudad y logró llamar la atención del programa BBC Introducing, que hizo mucho para apoyar su carrera musical.
[22][12] Ezra decidió firmar con el sello discográfico Columbia Records, porque los agentes no parecían interesados por imponer sus propias ideas.
[25][12][26] Visitó las ciudades de Ámsterdam, Barcelona, Berlín, Bruselas, Copenhague, Malmö, Milán, Múnich, París y Viena, entre otras.
[21][26] Cuando regresó a Gran Bretaña, se instaló en la cabaña de un amigo en Gales del Norte.
[27] Además, elogió la destreza vocal del artista considerándola «profunda» e «impresionante».
[31] Para su composición, Ezra se inspiró en una visita planeada a Budapest que no pudo realizar por perder el tren en la ciudad sueca de Malmö.
[13][21] En ella, alude a objetos y posesiones de valor que con gusto abandonaría por una chica.
[33] «Budapest» fue un gran éxito en Reino Unido durante 2014 y terminó el año como la décima tercera canción superventas.
[38][39] Su posición más alta en la Billboard Hot 100 fue la número 32,[40] y pasó a ser el primer tema de Ezra que logró entrar en las cuarenta principales.
[31] Por su parte, Max Cussons, de Contactmusic.com, opinó que «es una canción folk muy buena» y destacó su sinceridad.
[51] El videoclip de «Listen to the man» contó con la aparición del actor Ian McKellen en varias escenas.
[75] Asimismo, recibió varias nominaciones en ceremonias internacionales, incluyendo los MTV Video Music Awards 2015 en la que optó a los galardones a mejor artista revelación y mejor canción de rock por «Budapest»,[76] los Teen Choice Awards de 2015 donde «Budapest» también fue candidata a la mejor canción de rock,[77] y en los premios alemanes Echo Music Awards 2015, en los que Ezra recibió la nominación al mejor artista revelación internacional por Wanted on Voyage.
[81] Ezra cita a Bob Dylan como su mayor influencia,[25][82][83] aunque también reconoce haberse inspirado en Lead Belly y Woody Guthrie.
Al respecto, reconoce que una de las canciones más significativas para él es «Talkin' New York» de su álbum debut, Bob Dylan (1962), en la que documenta sus experiencias al llegar a Greenwich Village.
Así, cuando se dio a conocer con «Budapest» en 2014, con veintiún años, varios críticos musicales comentaron que su voz contrastaba con su corta edad.