Tolson nació en Laredo (Misuri) y estudió en la Escuela de Negocios Cedar Rapids (Iowa).

En 1964, Tolson sufrió un accidente cerebrovascular y, como resultado, su salud estuvo en un estado muy delicado durante el resto de su vida.

[1]​ En 1970, aunque Tolson era demasiado mayor para ser policía y ya había sobrepasado su edad de jubilación, Hoover seguía empleándolo en el FBI.

[9]​[10]​ La película J. Edgar (2011), dirigida por Clint Eastwood, con guion de Dustin Lance Black, luego de consultar los documentos en poder del FBI, sugiere que Hoover mantuvo una relación gay con Tolson, circunstancia que produjo una fuerte irritación dentro del FBI.

Tolson ha sido representado en varias ocasiones en obras de ficción, entre las que se destacan: