El equipo llegó a Tercera División en la temporada 1988-89, y desde entonces ha permanecido en la misma categoría de forma ininterrumpida, manteniendo posiciones intermedias en la tabla.
logrando el ascenso de su filial a la Segunda División B del fútbol español.
Su principal función es servir de cantera para el primer equipo y forjar nuevos jugadores.
El equipo filial juega sus partidos en la ciudad deportiva del Rayo Vallecano, concretamente en el campo 5 (césped natural), dicha ciudad deportiva (llamada cariñosamente por los vallecanos como "la city") se sitúa en Villa de Vallecas, dicho campo número 5, tiene una capacidad aproximada de 800 personas en su totalidad.
Pasaron por las filas del Rayo Vallecano de Madrid "B" jugadores como:marcos gilabert ribero