[2]​ Cuando dejó el ejército en 1956, la pareja regresó a la zona de West Memphis para cultivar 500 acres.

[3]​ En 1958, Rich se convirtió en un músico de sesión habitual para Sun Records, tocando en diversos discos de Lewis, Johnny Cash, Bill Justis, Warren Smith, Billy Lee Riley, Carl Mann y Ray Smith.

Su primer sencillo para Groove, "Big Boss Man", fue un éxito menor, pero una vez más, sus siguientes discos, producidos por Chet Atkins, fracasaron.

En 1965 se trasladó a Smash Records, donde su nuevo productor, Jerry Kennedy, le animó a enfatizar sus inclinaciones por el country y el rock n' roll, aunque Rich se consideraba un pianista de jazz y no había prestado mucha atención a la música country desde su infancia.

Su primer sencillo para Smash fue "Mohair Sam", un número de rock con influencias R&B escrito por Dallas Frazier, que se convirtió en un éxito pop entre los 30 primeros.

Sin embargo, una vez más, ninguno de sus siguientes sencillos tuvo éxito.

Sherrill ayudó a Rich a reconvertirse en un baladista del Nashville Sound durante una época en la que viejos artistas del rock 'n' roll como Jerry Lee Lewis y Conway Twitty estaban encontrando un nuevo hogar musical en el formato del country y el western.

Rich obtuvo otros tres éxitos entre los cinco primeros en 1975, pero aunque estaba en la cima de su popularidad, empezó a beber en exceso, lo que le causó considerables problemas fuera del escenario.

[9]​ Algunos lo consideraron un acto de rebelión contra el sonido de Nashville, controlado por Music Row; otros especularon que era una protesta contra el premio otorgado a Denver, cuya música Rich había considerado demasiado "pop" y no suficientemente "country".

No volvió a tener un éxito entre los 10 primeros hasta que "Rollin' With the Flow" alcanzó el número uno en las listas de country (así como el número 32 en las listas de easy listening) en 1977.

Sus éxitos en 1978 incluyeron los top-10 "Beautiful Woman", "Puttin' In Overtime At Home", y su último número uno con "On My Knees", un dúo con Janie Fricke.

Apareció como él mismo en la película de 1978 de Clint Eastwood Every Which Way but Loose, interpretando "I'll Wake You Up When I Get Home".

Recibió críticas positivas y restauró la reputación de Rich como músico, pero fue su último álbum.

En 2016, un álbum de homenaje titulado Feel Like Going Home: The Songs of Charlie Rich fue publicado por Memphis International Records.