A pesar de la temprana expulsión, Rahman fue convocado nuevamente, esta vez para jugar en la máxima categoría alemana.
Fueron a un play-off contra Hamburgo, el tercer peor equipo de la máxima categoría, para lograr un lugar en primera.
Comenzó la temporada 2014/15 en segunda división, esta vez arrancó desde la fecha 1 como titular, fue contra Bochum y empataron 0 a 0.
Fue el último partido de Rahman en Greuther Fürth, se despidió con goles y ovacionado cuando fue sustituido.
Un nuevo destino esperaba a Baba, el Augsburgo se hizo con sus servicios por dos millones y medio de euros.
El 16 de agosto se confirmó su traspaso a la Premier League, para defender el Chelsea Football Club.
Rahman tuvo varias oportunidades, jugó 15 partidos por Premier League, 4 por las copas nacionales y 4 en Liga de Campeones.
Como no iba a ser considerado para la temporada 2016/17 por el nuevo entrenador Antonio Conte, fue cedido al F. C. Schalke 04 para que tuviera rodaje.