Newton Bliss nació en la ciudad estadounidense de Fall River, Massachusetts.
Se educó en su ciudad natal y en Nueva Orleans, donde pronto entró como contable con su padrastro.
Más tarde se trasladó a Nueva York para establecer una sucursal de dicha empresa, originalmente llamada Wright and Whitman hasta 1874, que debido a la muerte del socio principal, el señor John S. Wright y la nueva entrada de socios, la empresa pasó a llamarse Wright, Bliss and Fabyan.
En 1881 volvió a cambiar de nombre tras la muerte del segundo principal socio, Eben Wright, pasando a llamarse Bliss, Fabyan & Co., nombre que perduró hasta bien entrado el siglo XX.
Un año antes, en 1900, fue invitado a convertirse en vicepresidente de McKinley, oferta que rechazó.