La Biblioteca Pública de San Francisco abrió sus puertas el año 1879 en la calle Bush, esquina con la calle Kearny y contrató a Albert Halt como primer bibliotecario.
La propuesta del senador George Hearst convirtió a la biblioteca en depositaria legal federal en 1889.
El autor Nicholson Baker escribió un mordaz artículo en la revista The New Yorker en octubre de 1996 sobre los libros que la biblioteca había desechado antes de trasladarse al nuevo edificio.
La prensa local, por su parte, ha centrado sus críticas en el diseño del atrio que al ser tan amplio reduce drásticamente el espacio disponible para albergar la colección de la biblioteca.
En el año 2006 la Biblioteca Pública de San Francisco contaba con 27 sucursales.