Con ocho años, Cao llega a los Estados Unidos como refugiado.

Es el primer vietnamita estadounidense en ocupar un escaño en el Congreso de los Estados Unidos.

[2]​ Cao está casado con Hieu Phuong "Kate" Hoang.

Kate y Joseph se conocieron en 1998 en la Iglesia Católica María Reina de Vietnam en Nueva Orleans Este y la familia ha asistido allí desde entonces.

Cao y su familia son católicos devotos.