Nació en el seno de una familia noble, procedente del príncipe tártaro converso Kará-Murzá.
[4][5][6] Según Nikolái Karamzin, su apellido deriva de Kara-mirza, un tártaro bautizado y su antepasado más antiguo conocido que llegó a Moscú para servir bajo el dominio ruso.
Sus dos hijos fundaron dos ramas familiares: una en Kostroma y otra en Simbirsk, a la que perteneció Ekaterina Karamzina.
A su regreso publicó sus Cartas de un viajero ruso, que tuvieron un gran éxito.
Estas cartas, inspiradas en las del novelista de origen irlandés Laurence Sterne Un viaje sentimental por Francia e Italia', se publicaron por primera vez en el Diario de Moscú, que él mismo dirigía, pero más tarde se recopilaron y publicaron en seis volúmenes (1797-1801).
Cursó estudios primarios con tutores y profesores particulares; en San Petersburgo conoció al poeta Iván Dmítriev y desde los catorce años estudió en el colegio alemán del profesor Schaden, en Moscú.
La vida rural idealizada y el sincero aunque tardío arrepentimiento del joven ponen las cosas en su sitio y suavizan la conflictividad del argumento; se considera su obra maestra en este género.
Otras novelas suyas son Frol Silin, el hombre virtuoso, de ambiente rural también idealizado, y la novela histórica Natalia, hija de boyardo, que cuenta una historia amorosa en la Rusia del siglo XVII.
Sin embargo, representan un claro avance en cuanto a que se separan de los géneros literarios propios del Neoclasicismo, como fueron la oda y la sátira.
Desde 1803 se consagró a la investigación histórica con método riguroso y el zar Alejandro I lo nombró historiógrafo oficial, le concedió una pensión de 2.000 rublos al año y le permitió el acceso directo a todos los archivos.
Cuatro años más tarde publicó otros 4 tomos, concluyendo de esa manera su obra capital.