En 1961, se unió al grupo de rhythm and blues The Falcons que estaban buscando un nuevo cantante y donde coincidió con Eddie Floyd, otra futura estrella de la música soul.

En 1962, Pickett conoció un primer éxito con The Falcons, «I Found a Love»; sin embargo, poco después de su grabación, decidió abandonar el grupo y embarcarse en su carrera en solitario.

Grabó un demo de una canción que había escrito llamada «If You Need Me» y se la envió a Jerry Wexler, un productor de Atlantic Records.

Wexler se lo dio al cantante Solomon Burke, cuya grabación fue uno de sus mayores éxitos (número 2 en las listas de R&B y número 37 en las listas Pop), convirtiéndose en un clásico de la música Soul, y dejando a Pickett destrozado cuando descubrió que Atlantic había regalado su canción.

A pesar de sus problemas personales, Wilson Pickett recibió numerosos homenajes y galardones por su labor musical.