Un digipack de edición limitada también fue lanzado con un segundo disco que incluye canciones en vivo, demos y grabaciones inéditas.
Las canciones "Runes to My Memory" and "Cry of the Black Birds", ambas fueron hechas en videos musicales.
With Oden on Our Side tiene un enfoque más pesado en comparación con su anterior álbum Fate of Norns; de acuerdo con el vocalista Johan Hegg, en una entrevista con la revista de metal holandesa Aardschok, el álbum volvería a sus raíces como en su álbum debut, Once Sent from the Golden Hall.
El fondo representa el Valknut, un símbolo cuyo significado es incierto, aunque la evidencia arqueológica muestra claramente lo que se asocia con Odín.
Las letras del alfabeto rúnico se pueden ver en los bordes de los triángulos que forman el Valknut.