Fue entonces cuando, el 2 de agosto, el emperador austríaco Francisco José planteó, a través del cardenal Jan Puzyna, arzobispo de Cracovia, el veto imperial contra el cardenal Rampolla, discretamente ya anunciado antes de la apertura del cónclave.
Los entornos de la Acción Francesa sostuvieron que la oposición motivada por Austria a Rampolla fue por pertenecer a la masonería o porque era miembro de la Ordo Temple Orientis, según la acusación de monseñor Ernest Jouin, la llamada Orden del Temple, opinión todavía mantenida por círculos tradicionalistas; sin embargo, la opinión más plausible es que fue por el apoyo que Rampolla ofreció como secretario de Estado a la laica Tercera República Francesa.
Los partidarios de este último decidieron entonces hacer converger los votos hacia el cardenal Sarto, sabiendo que tenía por entonces más posibilidades de ser elegido.
Sin embargo, en 1908 será elevado a un puesto más prestigioso, el de secretario del Santo Oficio, en el mismo año le dio su renuncia, sin embargo, por la Pontificia Comisión Bíblica.
Rampolla murió en 1913, a los 70 años, su funeral fue presidido por su amigo y estrecho colaborador Giacomo Della Chiesa, el futuro papa Benedicto XV.