Fue monje cluniaciense y en 1126, tras casi dos años de administrador en sede vacante, fue confirmado arzobispo de Toledo, cátedra que ocupó hasta su muerte.
Continuó la obra reformadora de su predecesor, don Bernardo, imponiendo los usos romanos en la liturgia y mejorando la moral del clero.
Mandó reconstruir el palacio episcopal frente a la antigua mezquita mayor convertida en Catedral de Santa María –y a la que dio su primer estatuto–, y dejó una parte del edificio para la Escuela.
Entre los traductores que trabajaron en esta primera época destacaron el mozárabe Domingo Gundisalvo, el judeoconverso Juan Hispalense, el italiano Gerardo de Cremona y el escocés Miguel Escoto.
La Escuela toledana, ya en tiempos de Raimundo, toma fama en toda la Cristiandad, ya que también se fomentaban los estudios filosóficos y científicos, compitiendo con las nacientes universidades.