En su infancia, Mellencamp sufrió una serie de contratiempos, incluyendo una larga hospitalización por un trastorno llamado espina bífida.

Pronto surgió la rebeldía; carácter difícil, borracheras, peleas, y problemas con las autoridades.

Pero, mientras el éxito de ventas había llegado, la crítica no lo empieza a tomar en serio hasta su siguiente disco, "Scarecrow" (1985),[3]​ un disco en el que ahondaba en la temática social y desplegaba una mayor variedad de estilos, redundando en un éxito de crítica y alcanzando en número dos en las listas, con los éxitos “Lonely Ol´Night”, “Small Town”, y “R.O.C.K.

Tras ese álbum, se volcó más en actividades sociales, organizando ayuda para los granjeros junto con Willie Nelson y Neil Young.

El respectivo álbum "Dance Naked", se convirtió en su mayor éxito desde "Big Daddy"; en esa época sufre un ataque al corazón que le obliga a cancelar la gira del álbum, no reapareciendo hasta en 1996 con "Mr.

Happy Go - Lucky" ; un álbum muy esperado por los fanes y con una buena acogida de crítica.

El álbum sale en Mercury Records a causa de un acuerdo precedente con la casa discográfica que Mellencamp no había respetado.

El álbum incluye una canción de amor a dúo con Trisha Yearwood, Deep Blue Heart.

En el 2003 se publica Trouble No More, una selección de canciones folk y blues de artistas como Robert Johnson, Son House, Lucinda Williams y Hoagie Carmichael.

El álbum fue dedicado a su amigo Timothy White, editor de la revista Billboard, muerto por un ataque al corazón en 2002.

[10]​ En la primavera del 2005, Mellencamp sale de gira con Donovan y John Fogerty.

Incluye los sencillos "Our Country", "Jim Crow", a dúo con Joan Báez, "Rural Route" y "Someday".El álbum fue nominado para un Grammy Award en 2008 en la categoría Best Solo Rock Vocal Performance.

[12]​ En uno de los espectáculos de Mellencamp en Australia, en Hunter Valley, en Nueva Gales del Sur, Sheryl Crow se unió a la banda cantando una versión acústica del tema "My Sweet Love".

[13]​ En el 2009, mientras estaba de gira, Mellencamp registró su nuevo álbum, "No Better Than This", producido también por T-Bone Burnett.

[14]​ Los temas del álbum fueron registrados en lugares históricos, como la First Baptist Church de Savannah, en Georgia, el Sun Studio de Memphis y el Sheraton Gunter Hotel de San Antonio, donde el bluesman Robert Johnson, había registrado Sweet Home Chicago y Crossroads Blues.

En total con los bises Mellencamp tocaba más de dos horas y 24 temas.