Junto con Nizam al-Mulk, marchó a Armenia y Georgia, que conquistó en 1064.

[4]​ En el camino para luchar contra los fatimíes en Siria en 1068, Alp Arslan invadió el Imperio bizantino.

El emperador Romano IV Diógenes, asumiendo el mando en persona, se encontró con los invasores en Cilicia.

En tres arduas campañas, los turcos fueron derrotados en detalle y conducidos a través del Éufrates en 1070.

Alp Arslan, que había trasladado sus tropas al sur para luchar contra los fatimíes, retrocedió rápidamente para encontrarse con los bizantinos.

Al ver esto, «los mercenarios occidentales se marcharon y no tomaron parte en la batalla».

El emperador Romano IV fue hecho prisionero y llevado a presencia de Alp Arslan.

Los asuntos domésticos fueron manejados por su hábil visir, Nizam al-Mulk, el fundador de la organización administrativa que caracterizó y fortaleció al sultanato durante los reinados de Alp Arslan y su hijo, Malik Shah.

No solo tenía suficiente comida de sus súbditos para mantener a su ejército, sino que los impuestos recaudados de los comerciantes y mercaderes se agregaban a sus arcas lo suficiente como para financiar sus continuas guerras.

Sacó su arco, pero su pie resbaló, la flecha se desvió, y recibió la daga del asesino en su pecho.