Nacido en Jackson (Míchigan), Coats se graduó de Wheaton College en Illinois y de la Universidad de Indiana Robert H. McKinney School of Law.
Fue designado para ocupar el escaño del Senado dejado vacante por Dan Quayle después de la elección de Quayle como vicepresidente de los Estados Unidos.
No buscó la reelección en 1998 y fue sucedido por el demócrata Evan Bayh.
Después de retirarse del Senado, Coats se desempeñó como embajador de los Estados Unidos en Alemania de 2001 a 2005 y luego trabajó como cabildero en Washington D. C. Fue reelecto en el Senado por un amplio margen en 2010, sucediendo a Bayh, quien anunció su propia jubilación en breve después de que Coats declarara su candidatura.
Coats se negó a postularse para la reelección en 2016 y fue sucedido por Todd Young.