[6]​ En 1998, el empresario londinense Irvine Sellar y sus entonces socios decidieron construir un nuevo rascacielos en lugar de las Southwark Towers, edificadas en los años setenta, tras la publicación un libro blanco del gobierno británico que animaba a construir edificios altos junto a importantes nodos de transporte.

Sellar viajó a Berlín en primavera de 2000 para reunirse con el arquitecto italiano Renzo Piano en un restaurante.

Según Sellar, Piano le transmitió su desprecio por los edificios altos convencionales durante la comida, y a continuación dio la vuelta al menú del restaurante y dibujó una escultura con forma de aguja que emergía del Río Támesis.

[21]​ En julio de 2002, el entonces vice primer ministro del Reino Unido, John Prescott, ordenó que se llevara a cabo una consulta urbanística después de que se opusieran al proyecto de The Shard la Commission for Architecture and the Built Environment y varios organismos patrimoniales, incluidas la Royal Parks Foundation y English Heritage.

Esto les permitió saldar los costes en los que ya habían incurrido y comprar el alquiler de las Southwark Towers a los inquilinos del edificio, PricewaterhouseCoopers.

[27]​ Sin embargo, posteriormente en ese mismo mes, la incertidumbre en los mercados financieros puso la construcción de The Shard en peligro,[28]​ amenazando con hacer del proyecto un ejemplo del índice de los rascacielos.

[29]​ En abril de 2008 la demolición de las Southwark Towers estaba en curso con progresos visibles,[30]​ y en octubre la altura del edificio se había reducido tanto que ya no era visible en el skyline.

[31]​ El consorcio incluía al Qatar National Bank, QInvest, Qatari Islamic Bank y el promotor inmobiliario Barwa Real Estate, así como Sellar Property.

Actualmente, el London Bridge Quarter es propiedad conjunta del Estado de Catar y Sellar Property.

En febrero de 2011 se descubrió que había un zorro rojo (V. vulpes) viviendo en la planta 72, aún en obras, que había subido por la escalera central de la obra.

Apodado Romeo por la RSPCA, el animal fue rescatado y devuelto a su hábitat natural.

A mediados de agosto, se había eliminado la caja del núcleo.

Propuso un sofisticado acristalamiento, con fachadas expresivas compuestas por paneles de vidrio angulosos que pretendían reflejar la luz del sol y el cielo, de manera que la apariencia del edificio cambiara según el tiempo y las estaciones.

Está equipado con una planta de cogeneración que usa gas natural del National Grid.

[59]​ Posteriormente se canceló este proyecto, pese a que su construcción ya había empezado, y actualmente se está construyendo en esa parcela un edificio con un diseño diferente llamado 22 Bishopsgate, que tendrá 278 metros de altura.

[61]​ En esta época, entre los potenciales inquilinos estaban los especialistas en reestructuración financiera Duff & Phelps, la empresa de capital inversión Hatton Corporation y la South Hook Liquefied Natural Gas Company.

Es la segunda sede más grande del grupo tras sus instalaciones en Doha, Catar.

[77]​ En enero de 2015, se anunciaron más inquilinos de The Shard, entre los que se encontraban IO Oil & Gas Consulting, Gallup y The Office Group.

[82]​ Posteriormente publicaron en internet fotografías del skyline de Londres tomadas desde allí y recibieron una gran atención mediática.

El salto más alto se realizó desde una altura de 260 m.[85]​ En marzo de 2016, con el edificio ya finalizado, otra persona realizó un salto BASE desde The Shard.

A finales de mes, los propietarios de The Shard consiguieron que se impusiera una medida cautelar para impedirle que entrara en el edificio o lo escalara.

[90]​ Tras completar su escalada, que duró dieciséis horas, las seis mujeres fueron arrestadas por la policía bajo sospecha de intrusión con agravantes.