Jay creció en Woodland Hills y asistió al instituto El Camino High School, donde conocería a Greg Graffin y Brett Gurewitz, quienes preguntaron a Jay si quería entrar en una banda nueva que estaban creando, Bad Religion.
Sin embargo, Jay no tenía ningún bajo ni sabía tocarlo, pero fue a una tienda, se hizo con uno y aprendió en poco tiempo.
Ya que la agrupación californiana tuvo una corta ruptura y estuvo 4 años sin lanzar nuevo material, hasta 1988.
En ese paréntesis, Jay tocó en algunas bandas de Los Ángeles como Wasted Youth o T.S.O.L.
Vive en Bowen Island, Columbia Británica (Canadá) y tiene dos hijos con su exmujer Michaela, de la que se divorció en 2005.