En 1025, él, su primo Arslan y su hermano Chaghri (Çağrı) sirvieron al Qarajánida de Bujará, el cual fue vencido por el Imperio Gaznávida bajo el mando de Mahmud de Ġaznī, y Toğrul fue forzado a huir hacia Corasmia mientras que Arslan se estableció en Jorasán.
Toğrul entonces instaló a Chagri en el gobierno de Jorasán para prevenir una reconquista gaznávida, y se dirigió a conquistar las planicies iraníes entre 1040-1044.
Para 1054 sus fuerzas estaban peleando en Anatolia en contra de los Bizantinos y en 1055 fue comisionado por el Califa abásida Al-Qa'im para recuperar Bagdad de los fatimís.
[6] Su primo Kutalmish, quien había sido de importancia vital en sus campañas y había apoyado la rebelión de Yinal, también reclamaba el trono.
Alp Arslan venció a Kutalmish por la pelea al trono y fue nombrado su sucesor el 27 de abril de 1064.