[2]​ «Come a Little Closer» tiene un estilo más suave «psicodélico espacial», a diferencia de canciones anteriores de Cage the Elephant donde las vocales tenían un tenor más «arenoso».

La canción debutó en el programa radial de Zane Lowe en la BBC Radio 1.

[3]​ El sitio web Artistdirect.com lo calificó con cinco estrellas de cinco; afirmó que tiene una reminiscencia al estilo de bandas como Nirvana, Pixies, Failure y The Smiths resumiendo «esto es todo lo osado y divino de lo que se trata el rock 'n roll».

[1]​ En su primera semana alcanzó el primer puesto en la lista del sitio web The Hype Machine.

[3]​ Permaneció 10 semanas en la cima del Billboard Alternative Songs de los Estados Unidos, siendo su cuarto sencillo en liderar esta lista.