Un desengaño con su obispo, que se negó a sufragar en 1880 la cara operación de su enferma madre, lo volvió un feroz y radical anticlerical que se obligó a escribir artículos bajo pseudónimo contra el alto clero a fin de sufragar dicha operación, por lo cual fue procesado canónicamente, aunque no pudieron demostrar su autoría; en 1888 pidió perdón al obispo sin que trascendiera públicamente; pero, años después, al haber advenido un nuevo obispo en Madrid, se reabrió su caso y se lo juzgó por herejía, siendo condenado a reclusión en un convento de Getafe.
Tras un año internado, salió y se declaró de nuevo en rebeldía; de esta época son los artículos que firmaba como «Pío Quinto» y «El capellán Verdades» en Vida Nueva, que durante un tiempo fueron atribuidos al también anticlerical Pío Baroja.
También compuso numerosas novelas y ensayos anticlericales firmando bajo el pseudónimo de «Constancio Miralta» y "Próspero Marsigli"; estas obras fueron añadidas al Index librorum prohibitorum vaticano.
Su visión de la Iglesia católica española es la de quien la ha vivido por dentro y por fuera y por ello resulta bastante valiosa para el historiador; escribió, por ejemplo, que «destronada Isabel II, la mayor parte del clero se hizo carlista».
Los juicios de sus contemporáneos son dispares y así, aunque se ganó la confianza y los elogios del librepensador Ramón Chíes, editor de Las Dominicales del Libre Pensamiento, Rafael Cansinos-Asséns habló de su aversión a los neocatólicos, a los jesuitas y a los escritores modernistas, jóvenes melenudos que cantaban princesas liliales de una belleza clorótica» y de que estaba amancebado con una mujer; en suma, dice, «tenía el alma del inquisidor al revés».