Era hijo de Pedro Bielsa y Dolores Muro.

Al fundarse en 1919 la Universidad Nacional del Litoral, fue profesor de Derecho Administrativo en la Facultad de Ciencias Económicas, Comerciales y Políticas durante cuarenta años y decano desde 1949 a 1952, fecha en que fue separado del cargo por su oposición a Perón.

Se incorporó el 20 de agosto de 1936 con una disertación sobre El desarrollo institucional del Derecho Administrativo y la Jurisdicción Contenciosa.

Su obra más importante fue el Tratado de Derecho Administrativo que inicialmente tenía tres tomos y que en la edición de 1955 ya eran 5 tomos.

Estaba casado con María Luisa Schierano y tuvo tres hijos: Rafael Pedro (abogado como él), Marcial Rafael (ingeniero químico) y Ana María (profesora de matemáticas).