Nacido en Los Ángeles, California, asistió a la Hollywood High School y luego estudió arte en la "Escuela de Ilustración y Pintura" dirigida por John Francis Smith en Los Ángeles.
En 1932 su esposa, la antigua estrella de la época del cine mudo Jetta Goudal, con la que se casó en 1930, se unió a él en el negocio.
Además, Grieve realizó el interior de la famosa casa de muñecas de la actriz Colleen Moore que recorrió los Estados Unidos y que ahora puede verse expuesta en el Chicago's.
La esposa de Harold Grieve falleció en 1985 en Los Ángeles y él murió allí en 1993.
Están enterrados juntos en una sala privada en el Gran Mausoleo, Santuario de los Ángeles, en el Forest Lawn Memorial Park Cemetery en Glendale, California.