Fue iniciado en el tenis por su madre (profesora de este deporte) y su abuela quienes le enseñaron sus primeros golpes a los 3 años.
Exactamente un año después, en el Abierto de Columbia, alcanzó su primera final, siendo derrotado por su compatriota Tom Gorman por 6-7, 7-6, 4-6, 7-6 y 6-3.
Ese mismo año logró los títulos de Columbia, Londres, Cincinnati, Albany y Baltimore.
Rehusaba aceptar ser derrotado y daba absolutamente todo en cada punto del partido, no importándole cuán aparentemente vano fuera su esfuerzo.
Le encantaba jugar ante multitudes y realizaba cualquier cosa para tomar una ventaja, como discutir con el "árbitro de silla" o con su oponente.
En 1974 inició demandas a la ATP y su presidente Arthur Ashe por US$10 millones por prohibirle actuar libremente, prohibiéndole participar en el Torneo de Roland Garros por haber firmado un contrato para jugar la Copa del Mundo de Tenis (WTT) para Baltimore, lo que era penalizado por la ATP.
En 1975 volvió a tener una actuación extraordinaria al alcanzar la final de los 3 Slams que había logrado el año anterior, pero perdió en todas ellas.
A pesar de su éxito se seguía manteniendo como un ser independiente con poco respeto por las tradiciones y las otras personas.
De todas maneras se las amañó para alcanzar la final en la que perdió ante Borg en 5 batallados sets.
También perdió la final del Abierto de Estados Unidos ante el argentino Guillermo Vilas quien lo sorprendió con inusuales acercamientos a la red.
En 1978 fue derrotado fácilmente por Borg en la final de Wimbledon pero se recuperó y lo venció en sets corridos en la final del Abierto de Estados Unidos, ahora jugado sobre canchas duras, convirtiéndose en el único hombre en ganar el torneo en 3 superficies diferentes (Hierba, arcilla y decoturf).
Alcanzó la final de Wimbledon y sorprendió a la nueva joven estrella del tenis mundial John McEnroe en 5 atrapantes sets tras estar a 3 puntos de perder el partido en la muerte súbita del cuarto set.
A pesar de esto, cuando se le preguntó si admitía que su rival era mejor, Connors contestó: “Nunca”.
Su suerte terminó ante su contricante Jim Courier en las semifinales con millones de televidentes en el mundo entero.
En su carrera sumó 109 títulos individuales (récord absoluto) y 15 de dobles (incluidos dos Grand Slam con el también polémico Ilie Nastase).
Con 43 años jugó su último partido en el torneo de Atlanta en 1996 donde perdió ante Richey Reneberg.
Fue tanto su coraje y frustración por la derrota, que empleados del Deportivo Chapultepec encontraron varias raquetas destrozadas.
Jugadores prominentes contemporáneos con Connors, incluyen a Phil Dent, Brian Gottfried, Raúl Ramírez, Harold Solomon, Dick Stockton, Roscoe Tanner y Guillermo Vilas.
Sus rivales más viejos incluyen a Arthur Ashe, Rod Laver, Ilie Năstase, John Newcombe, Manuel Orantes, Ken Rosewall y Stan Smith.
Contrincantes más jóvenes incluyen a Björn Borg, Vitas Gerulaitis, Ivan Lendl y John McEnroe.
Por otro lado con el argentino Guillermo Vilas, zurdo al igual que Connors, se desgastó en la final del abierto de los Estados Unidos en 1977 y sus encuentros entre ellos fueron muy competitivos.
En 1975, Connors ganó dos torneos titulados "Challenge Matches", ambos arreglados por the Riordan company y televisados a nivel nacional por CBS Sports del Caesars Palace en Las Vegas, Nevada.
Llegando a la final, perdió en cinco sets con Borg, quien un mes después y de manera breve interrumpió el lugar N.º 1 del ranking mundial.
Tanto McEnroe como Borg estuvieron batallando para llegar al top en esos años, mientras Connors jugaba el papel de alerón.
Connors recuperó de inicio tres puntos para derrotar en un cuarto set en muerte súbita (en 3-4) para ganar el partido 3–6, 6–3, 6–7, 7–6, 6–4, y proclamarse con su segundo título en Wimbledon.
Connors había jugado en 56 torneos y 12 finales desde su victoria previa en the Tokyo Indoors contra Lendl en octubre de 1984.
Jimmy Connors estuvo comprometido en sus inicios profesionales con otra leyenda del tenis la estadounidense Chris Evert, triunfando cada uno por su lado en sus partidos de sencillos hasta el Wimbledon Championships de 1974, una hazaña etiquetada "The Lovebird Double" por los medios.
Estuvo comprometido con la Miss Mundo Marjorie Wallace en 1977, pero en 1979, Connors se casó con la modelo de Playboy Patti McGuire.
En los 1990s se unió con su hermano John como inversionistas en the Argosy Gaming Company, la cual era dueña de casinos en los barcos fluviales en el Río Misisipi.
En la liquidación, Connors a través de su compañía Smooth Swing, adquirío el Alystra Casino en Henderson, Nevada, por un millón novecientos mil dólares del Union Planters Bank, quedando fuera, John.