Sufrió numerosas ampliaciones y recortes a lo largo de su historia, y el diseño actual corresponde en su mayor parte a las obras realizadas por el arquitecto Jean-François-Thérèse Chalgrin durante el Primer Imperio francés.
El palacio anexo, Petit Luxembourg, se construyó en la misma época y es, desde 1825, la residencia de los presidentes del Senado francés.
El palacio fue ampliado varias veces, pero sin modificar mucho su aspecto exterior: se construyó en los patios interiores, y luego se amplió hacia el jardín haciendo una copia casi exacta de su antigua fachada.
Sin embargo, para dar cabida al Senado en 1969 fue preciso construir oficinas individuales para cada senador y varias salas de reunión y locales administrativos además de adaptar al gusto del siglo XX las comodidades básicas.
No fue suficiente, y se hizo edificar al otro lado de la calle una extensión, conectada por un paso subterráneo.
Durante la Segunda Guerra Mundial, los alemanes lo utilizaron como cuartel y construyeron un búnker en el jardín.
Las novedades, como el cuerpo de la vivienda que tiene una gran amplitud en relación con las dos alas, y la parte central monumental, distinguen el palacio.
Para albergar las asambleas del Directorio y a continuación el recién creado Senado, el arquitecto Jean-François-Thérèse Chalgrin remodeló el interior del edificio para adaptarlo a sus funciones legislativas, obras que terminaron en 1807.