[4] NTLM es un protocolo de autenticación de desafío-respuesta que utiliza tres mensajes para autenticar a un cliente en un entorno orientado a la conexión (sin conexión es similar) y un cuarto mensaje adicional si se desea integridad.
[12][13][2] El servidor autentica al cliente enviándole un número aleatorio de 8 bytes, el desafío.
Los tres encriptaciones del desafío se reúnen para formar la respuesta de 24 bytes.
Tanto la respuesta que usa el hash LM como el hash NT se devuelven como respuesta, pero esto es configurable.NTLMv2, introducido en Windows NT 4.0 SP4[14] (y soportado de forma nativa en Windows 2000), es un protocolo de autenticación desafío-respuesta.
La respuesta más corta utiliza un valor aleatorio de 8 bytes para este desafío.
Sin que el cliente participe en la elección del desafío, el servidor puede enviar X, buscar la respuesta Y en la tabla y obtener K. Este ataque se puede hacerse práctico utilizando tablas arco iris.
[cita requerida] Una de las principales razones es mantener la compatibilidad con los sistemas más antiguos.
Microsoft ha agregado el hash NTLM a su implementación del protocolo Kerberos para mejorar la interoperabilidad (en particular, el tipo de cifrado RC4-HMAC).
[16] Kerberos se usa normalmente cuando un servidor pertenece a un dominio de Windows Server .
Negotiate permite que su aplicación aproveche los protocolos de seguridad más avanzados si son compatibles con los sistemas involucrados en la autenticación.
Cualquier computadora que actúe como servidor y autentique a un usuario cumple la función de DC en este contexto, por ejemplo, una computadora con Windows con una cuenta local como Administrador cuando esa cuenta se usa durante un inicio de sesión en la red.
Antes de Windows NT 4.0 Service Pack 4, el SSP negociaba NTLMv1 y recurría a LM si la otra máquina no lo admitía.
A partir de Windows NT 4.0 Service Pack 4, el SSP negociaría la sesión NTLMv2 siempre que tanto el cliente como el servidor la soportaran.
En Windows Vista y posteriores, LM se ha desactivado para la autenticación entrante.