Las montañas están situadas en Eslovaquia Occidental, abarcando una área desde Bratislava a Nové Mesto nad Váhom, una muy pequeña parte llamada Hundsheimer Berge (o Hainburger Berge) está situada al sur de la puerta Devín en el noreste de Austria.
En 1976, los Pequeños Cárpatos fueron declarados una zona protegida bajo el nombre de Zona de Protección Paisajística de los Pequeños Cárpatos, abarcando 646,1 km².
Las tres montañas más altas son Záruby con 768,1 m de altitud, Vysoká con 754,1 m y Vápenná con 752,1 m. Los Pequeños Cárpatos se dividen, de sur a norte: En los Pequeños Cárpatos se practican el senderismo, ciclismo, esquí y otros deportes de invierno.
La parte suroriental tiene amplios viñedos (Bratislava, Rača, Pezinok, Modra).
Driny, una cueva caliza, es la única abierta al público.