Peña Batlle pasó la mayor parte de su vida en su natal San Carlos, excepto entre 1929 y 1932 cuando trabajó en la demarcación fronteriza.

[1]​[4]​[5]​ Casó con Carmelita Defilló Sanz, prima del célebre músico catalán Pablo Casals y de María Aguayo Casals (la madre del gobernador puertorriqueño Luis A. Ferré), con quien engendró 4 hijos, entre ellos el pintor Fernando Peña Defilló.

Peña Batlle fue presidente de la comisión dominicana trabajaría en esta labor; pero tras el ascenso al poder del general Rafael Leónidas Trujillo, Peña Batlle renunció públicamente a su cargo de presidente.

[3]​[9]​[10]​ Peña Batlle se convirtió rápidamente en una figura importante en el gobierno trujillista, y daría cimientos ideológicos a un régimen que había carecido de doctrinas salvo la razón dada por las armas.

[10]​[11]​ Su paso por la Cancillería resultó en una verdadera transformación de la política exterior que fue catalogada como el paso de una cancillería introvertida a otra extrovertida ganando Peña Batlle reputación en el ámbito internacional.

Ambos países acordaron que nombrarían a sus cancilleres, Peña Batlle y Jean Price-Mars, como embajadores en las respectivas capitales para mejorar sus relaciones.