El álbum fue lanzado originalmente como una versión exclusiva en Europa a través de Lost & Found Records.

Sin embargo, Converge se mostró insatisfecho con la forma en que la discográfica manejaba el lanzamiento, y cobraba a los fanáticos por sus canciones antiguas que eran difíciles de encontrar.

[2]​ Caring and Killing presenta la mayor parte del álbum debut de Converge, Halo in a Haystack, además de canciones lanzadas en varias compilaciones, demos y canciones inéditas.

La última canción, «But Life Goes On», fue grabada para el demo debut Converge 7", pero nunca se lanzó.

A pesar de que el paquete del álbum y las notas de su revestimiento sugieren que el álbum contiene dieciséis canciones, solo quince están presentes.