Nacido en la localidad de Gbangbatoke, estudió medicina en el Reino Unido y regresó a Sierra Leona en 1928 para trabajar en la administración colonial.

En 1949 fundó el nacionalista Partido Popular de Sierra Leona (Sierra Leona People's Party, o SLPP) junto con Siaka Stevens, que ganó las elecciones de 1951 para el consejo legislativo.

En 1958, su liderazgo en el partido fue disputado por su hermano menor, Albert Margai, pero aunque este último ganó apretadamente la elección interna, declinó la dirección del partido y lo abandonó para formar el opositor Partido Popular Nacional (People's National Party), reuniéndose de nuevo con su hermano en un gobierno de coalición en 1960.

En los dos años siguientes, mientras Sierra Leona se encaminaba a su independencia, Margai supervisó la creación de una nueva constitución para la colonia.

Sir Milton Margai falleció en Freetown en 1964, dejando su mandato inconcluso.