El patrón de colores de rojo, blanco y negro en franjas también estuvo presente en las banderas de Yemen del Norte y del Sur, símbolo panárabe, como son las banderas de Egipto, Siria, Irak, entre otros.
Según la descripción oficial, el rojo representa la sangre de los mártires y la unidad; el blanco para un futuro brillante; negro para el oscuro pasado.
Antes de que el Yemen se unificara en la actual república, estaba dividido en dos estados.
El Yemen del Norte utilizaba la bandera a la izquierda (la bandera del Reino Mutawakkilita de Yemen), desde 1927 hasta 1962, cuando se convirtió en la República Árabe de Yemen, que utilizaría una bandera similar a la actual bandera de Yemen, excepto con una estrella verde en el centro de la franja blanca.
La República Democrática Popular de Yemen o Yemen del Sur utilizaba una bandera con un triángulo azul celeste cerca del mástil, con una estrella roja.