El arquitecto principal del edificio fue Paul J. Pelz, inicialmente en sociedad con John L. Smithmeyer, y fue sucedido por Edward Pearce Casey durante los últimos años de construcción.
Al necesitar más espacio para su creciente colección, la Biblioteca del Congreso bajo el bibliotecario Ainsworth Rand Spofford sugirió al Congreso que se construyera un nuevo edificio específicamente para servir como biblioteca nacional estadounidense.
Eso resultó en una avalancha de libros, folletos, mapas, música, grabados y fotografías.
John L. Smithmeyer y Paul J. Pelz ganaron el concurso para diseñar la biblioteca en 1873.
El bloque central es ampliamente comparado con la Palais Garnier en París, una expresión igualmente ambiciosa de triunfante nacionalismo cultural en el estilo Beaux-Arts que había triunfado en la Exposición Mundial de Columbia en Chicago, 1893.
De izquierda a derecha cuando uno mira al edificio, son Demóstenes (lado norte del pórtico), Ralph Waldo Emerson, Washington Irving, Johann Wolfgang von Goethe, Benjamin Franklin, Thomas Babbington Macaulay, Nathaniel Hawthorne, Sir Walter Scott y Dante Alighieri (pórtico sur lado).
Destaca su gran hall, con escaleras a los lados, que desembocan en un amplio vestíbulo columnado con parejas de columnas preadas de orden corintio, que sostienen una bóveda pintada al fresco, con pinturas clasicistas.
Tras ese vestíbulo se sitúa otra escalera, esta vez de tipo imperial.