Fue creado a partir de la Flota Pequeña Permanente en 1889.
El 29 de julio de 1889, la Flota Pequeña Permanente se reorganizó en la Flota Permanente (Comandante en Jefe: Contraalmirante Inoue Yoshika).
El edicto también estipulaba que se debía reforzar el personal y que se podían enviar barcos fuera de las áreas de patrulla.
El 13 de julio se formó una Flota de la Guardia que constaba de nueve barcos obsoletos y barcos pequeños con un buque insignia, el Katsuragi, y poco después, el 19 de julio, pasó a llamarse Flota del Mar Occidental.
El último comandante en jefe de la Flota Permanente fue Tōgō Heihachirō.