Tuvo que dejar la escuela tempranamente para ayudar a su familia.

Carroll fue un líder denominacional tanto en el estado (Convención General Bautista de Texas) como en la región Convención Bautista del Sur (que se convirtió en una organización nacional) Activo como educador dirigió la fundación y fue el primer presidente de la "San Marcos Baptist Academy" (Academia Bautista San Marcos).

Su legado perdurable entre los bautistas es su libro titulado The Trail of Blood (El rastro de Sangre) (1931).

Esta colección de cinco conferencias describe la historia Bautista como consecuencia directa de "la sucesión" desde los tiempos apostólicos del cristianismo primitivo.

Promovió el punto de vista Landmarkista sobre los orígenes bautistas, un movimiento que se desarrolló a mediados del siglo XIX entre los bautistas de Tennessee y congregaciones occidentales, y dejó influencias perdurables.