Inició sus estudios de física en la Universidad de Columbia, donde se licenció en 1953 y se doctoró en 1958, bajo la dirección del Premio Nobel Isidor Isaac Rabi.

Schwartz inició sus investigaciones alrededor del neutrino gracias a investigaciones previas del Nobel Tsung-Dao Lee.

Este descubrimiento permitió a los teóricos elaborar un esquema, conocido como modelo estàndard, para la clasificación de todas las partículas elementales.

Los neutrinos son unas partículas subatómicas que no tienen carga eléctrica ni prácticamente masa.

En 1988 fue galardonado con el Premio Nobel de Física, junto con Leon Max Lederman y Jack Steinberger, por sus trabajos acerca del neutrino.