Un año más tarde, la banda publicó su segundo álbum doble, bajo el título de Chicago II (1970).
Este nuevo disco contenía varios hits, como 25 or 6 to 4, y algunas de sus obras más destacadas, como la arriesgada suite Ballet for a girl in Buchanan, en siete partes,[9] o el tema Poem for the people.
Incluyó también tres suites, entre las que destaca An hour in the shower, cantada por Terry Kath.
Ese mismo año, la banda publicó un cuádruple álbum en directo, Chicago at Carnegie Hall (1971), que no obtuvo buena consideración,[11] especialmente por sus deficiencias de sonido, reconocidas por el propio Pankow.
[12] Su época de oro, musicalmente hablando, pareció concluida con el disco Chicago V (1972) que, aun cuando contenía algunos destacados temas (Dialogue, A hit by Varese...) y al menos un hit (Saturday in the park), no logró el nivel de los tres primeros.
En 1978 la banda entra en una profunda crisis: Guercio abandona definitivamente la producción del grupo; Terry Kath muere de un disparo accidental cuando jugaba a la ruleta rusa, y su puesto lo cubre, provisionalmente, el guitarrista Donnie Dacus.
Durante la gira 1982-83, Dacus es sustituido por Bill Champlin (que luego volvería en distintas giras), y el disco que se publica ese año, Chicago 16, vuelve a entrar en los primeros puestos de las listas de ventas.
El disco Chicago 17 (1984) es el último que graba Peter Cetera, y contiene dos de los más grandes éxitos soft rock cosechados en la historia de la banda: "Hard Habit to break" y "You're the inspiration".
El nuevo cantante elegido, tras realizar numerosas audiciones es Jason Scheff, quien se ajustaba a lo que la banda estaba buscando (un cantante con un cierto toque "Cetera" y un bajista sólido, hijo del bajista que solía acompañar a Elvis Presley).
Algunos cambios más se producen en la década de 1990, año en que Danny Seraphine abandona el grupo y es sustituido por Tris Imboden.
[16] Con Chicago XXXIII: O Christmas Three, la banda volvió a contar con la colaboración del productor Phil Ramone para grabar un nuevo álbum navideño.
Durante varios años, no estuvo claro el estatus exacto de Walter Parazaider como miembro actual o exmiembro.
Un artículo de 2017 decía que Parazaider se retiró debido a una enfermedad cardíaca, pero todavía era "técnicamente" parte del grupo.