stringtranslate.com

Acceso a memoria no uniforme

La placa base de una estación de trabajo HP Z820 con dos zócalos de CPU, cada uno con su propio conjunto de ocho ranuras DIMM que rodean el zócalo.

El acceso a memoria no uniforme ( NUMA ) es un diseño de memoria de computadora utilizado en multiprocesamiento , donde el tiempo de acceso a la memoria depende de la ubicación de la memoria en relación con el procesador. Según NUMA, un procesador puede acceder a su propia memoria local más rápido que la memoria no local (memoria local de otro procesador o memoria compartida entre procesadores). Los beneficios de NUMA se limitan a cargas de trabajo particulares, especialmente en servidores donde los datos a menudo están fuertemente asociados con ciertas tareas o usuarios. [1]

Las arquitecturas NUMA siguen lógicamente en escalamiento a las arquitecturas de multiprocesamiento simétrico (SMP). Fueron desarrollados comercialmente durante la década de 1990 por Unisys , Convex Computer (más tarde Hewlett-Packard ), Honeywell Information Systems Italy (HISI) (más tarde Groupe Bull ), Silicon Graphics (más tarde Silicon Graphics International ), Sequent Computer Systems (más tarde IBM ), Data General (más tarde EMC , ahora Dell Technologies ), Digital (más tarde Compaq , luego HP , ahora HPE ) e ICL . Las técnicas desarrolladas por estas empresas aparecieron posteriormente en una variedad de sistemas operativos similares a Unix y, hasta cierto punto, en Windows NT .

La primera implementación comercial de un sistema Unix basado en NUMA fue [ ¿dónde? ] [ ¿cuando? ] la familia de servidores Symmetrical Multi Processing XPS-100, diseñada por Dan Gielan de VAST Corporation para Honeywell Information Systems Italia.

Descripción general

Una posible arquitectura de un sistema NUMA. Los procesadores se conectan al bus o barra transversal mediante conexiones de diferente espesor/número. Esto muestra que diferentes CPU tienen diferentes prioridades de acceso a la memoria según su ubicación relativa.

Las CPU modernas funcionan considerablemente más rápido que la memoria principal que utilizan. En los primeros días de la informática y el procesamiento de datos, la CPU generalmente funcionaba más lenta que su propia memoria. Las líneas de rendimiento de los procesadores y la memoria se cruzaron en la década de 1960 con la llegada de las primeras supercomputadoras . Desde entonces, las CPU se han visto cada vez más "hambrientas de datos" y teniendo que detenerse mientras esperan que lleguen datos de la memoria (por ejemplo, para computadoras basadas en la arquitectura Von-Neumann, consulte Cuello de botella de Von Neumann ). Muchos diseños de supercomputadoras de las décadas de 1980 y 1990 se centraron en proporcionar acceso a memoria de alta velocidad en lugar de procesadores más rápidos, lo que permitía a las computadoras trabajar con grandes conjuntos de datos a velocidades que otros sistemas no podían alcanzar.

Limitar el número de accesos a la memoria proporcionó la clave para extraer un alto rendimiento de una computadora moderna. Para los procesadores básicos, esto significó instalar una cantidad cada vez mayor de memoria caché de alta velocidad y utilizar algoritmos cada vez más sofisticados para evitar errores de caché . Pero el dramático aumento en el tamaño de los sistemas operativos y de las aplicaciones que se ejecutan en ellos generalmente ha superado estas mejoras en el procesamiento de caché. Los sistemas multiprocesador sin NUMA empeoran considerablemente el problema. Ahora un sistema puede dejar sin capacidad a varios procesadores al mismo tiempo, especialmente porque sólo un procesador puede acceder a la memoria de la computadora a la vez. [2]

NUMA intenta solucionar este problema proporcionando memoria separada para cada procesador, evitando el impacto en el rendimiento cuando varios procesadores intentan direccionar la misma memoria. Para problemas relacionados con datos distribuidos (comunes para servidores y aplicaciones similares), NUMA puede mejorar el rendimiento de una única memoria compartida en un factor aproximado del número de procesadores (o bancos de memoria separados). [3] Otro enfoque para abordar este problema es la arquitectura de memoria multicanal , en la que un aumento lineal en el número de canales de memoria aumenta linealmente la concurrencia de acceso a la memoria. [4]

Por supuesto, no todos los datos terminan confinados en una sola tarea, lo que significa que más de un procesador puede requerir los mismos datos. Para manejar estos casos, los sistemas NUMA incluyen hardware o software adicional para mover datos entre bancos de memoria. Esta operación ralentiza los procesadores conectados a esos bancos, por lo que el aumento general de la velocidad debido a NUMA depende en gran medida de la naturaleza de las tareas en ejecución. [3]

Implementaciones

AMD implementó NUMA con su procesador Opteron (2003), utilizando HyperTransport . Intel anunció la compatibilidad NUMA para sus servidores x86 e Itanium a finales de 2007 con sus CPU Nehalem y Tukwila . [5] Ambas familias de CPU Intel comparten un chipset común ; la interconexión se llama Intel QuickPath Interconnect (QPI), que proporciona un ancho de banda extremadamente alto para permitir una alta escalabilidad integrada y fue reemplazada por una nueva versión llamada Intel UltraPath Interconnect con el lanzamiento de Skylake (2017). [6]

Caché NUMA coherente (ccNUMA)

Topología de un servidor ccNUMA Bulldozer extraído utilizando la herramienta lstopo de hwloc.

Casi todas las arquitecturas de CPU utilizan una pequeña cantidad de memoria no compartida muy rápida conocida como caché para explotar la localidad de referencia en los accesos a la memoria. Con NUMA, mantener la coherencia de la caché en la memoria compartida tiene una sobrecarga significativa. Aunque son más sencillos de diseñar y construir, los sistemas NUMA no coherentes con la caché se vuelven prohibitivamente complejos de programar en el modelo de programación de arquitectura estándar de von Neumann . [7]

Normalmente, ccNUMA utiliza comunicación entre procesadores entre controladores de caché para mantener una imagen de memoria consistente cuando más de un caché almacena la misma ubicación de memoria. Por este motivo, ccNUMA puede funcionar mal cuando varios procesadores intentan acceder a la misma área de memoria en rápida sucesión. El soporte para NUMA en los sistemas operativos intenta reducir la frecuencia de este tipo de acceso asignando procesadores y memoria de manera compatible con NUMA y evitando algoritmos de programación y bloqueo que hacen necesarios los accesos no compatibles con NUMA. [8]

Alternativamente, los protocolos de coherencia de la caché, como el protocolo MESIF, intentan reducir la comunicación necesaria para mantener la coherencia de la caché. Scalable Coherent Interface (SCI) es un estándar IEEE que define un protocolo de coherencia de caché basado en directorios para evitar las limitaciones de escalabilidad encontradas en sistemas multiprocesador anteriores. Por ejemplo, SCI se utiliza como base para la tecnología NumaConnect. [9] [10]

NUMA versus computación en clúster

Se puede ver a NUMA como una forma estrechamente acoplada de computación en clúster . La adición de paginación de memoria virtual a una arquitectura de clúster puede permitir la implementación de NUMA completamente en software. Sin embargo, la latencia entre nodos de la NUMA basada en software sigue siendo varios órdenes de magnitud mayor (más lenta) que la de la NUMA basada en hardware. [1]

Soporte de software

Dado que NUMA influye en gran medida en el rendimiento del acceso a la memoria, se necesitan ciertas optimizaciones de software para permitir la programación de subprocesos y procesos cerca de sus datos en memoria.

Soporte de hardware

A partir de 2011, los sistemas ccNUMA son sistemas multiprocesador basados ​​en el procesador AMD Opteron , que se puede implementar sin lógica externa, y el procesador Intel Itanium , que requiere que el chipset sea compatible con NUMA. Ejemplos de conjuntos de chips habilitados para ccNUMA son el SGI Shub (Super hub), el Intel E8870, el HP sx2000 (utilizado en los servidores Integrity y Superdome) y los que se encuentran en los sistemas basados ​​en NEC Itanium. Los sistemas ccNUMA anteriores, como los de Silicon Graphics, se basaban en procesadores MIPS y el procesador DEC Alpha 21364 (EV7).

Ver también

Referencias

  1. ^ ab Nakul Manchanda; Karan Anand (4 de mayo de 2010). "Acceso a memoria no uniforme (NUMA)" (PDF) . Universidad de Nueva York. Archivado desde el original (PDF) el 28 de diciembre de 2013 . Consultado el 27 de enero de 2014 .
  2. ^ Serguéi Blagodurov; Serguéi Zhuravlev; Mohammad Dashti; Alexandra Fedorov (2 de mayo de 2011). "Un caso para la gestión de contiendas compatible con NUMA en sistemas multinúcleo" (PDF) . Universidad Simon Fraser . Consultado el 27 de enero de 2014 .
  3. ^ ab Zoltan Majo; Thomas R. Gross (2011). "Rendimiento del sistema de memoria en un multiprocesador multinúcleo NUMA" (PDF) . ACM. Archivado desde el original (PDF) el 12 de junio de 2013 . Consultado el 27 de enero de 2014 .
  4. ^ "Informe técnico sobre la arquitectura de memoria DDR de doble canal Intel" (PDF) (Rev. 1.0 ed.). Infineon Technologies Norteamérica y Kingston Technology. Septiembre de 2003. Archivado desde el original (PDF, 1021  KB ) el 29 de septiembre de 2011 . Consultado el 6 de septiembre de 2007 .
  5. ^ Intel Corp. (2008). Arquitectura Intel QuickPath [documento técnico]. Obtenido de http://www.intel.com/pressroom/archive/reference/whitepaper_QuickPath.pdf
  6. ^ Corporación Intel. (18 de septiembre de 2007). Gelsinger habla con Intel y Rapid Technology Caden de la industria de alta tecnología [Comunicado de prensa]. Obtenido de http://www.intel.com/pressroom/archive/releases/2007/20070918corp_b.htm
  7. ^ "ccNUMA: acceso a memoria caché coherente no uniforme". slideshare.net. 2014 . Consultado el 27 de enero de 2014 .
  8. ^ Por Stenstromt; Truman Joe; Anoop Gupta (2002). "Evaluación comparativa del rendimiento de arquitecturas NUMA y COMA coherentes con la caché" (PDF) . ACM . Consultado el 27 de enero de 2014 .
  9. ^ David B. Gustavson (septiembre de 1991). "La interfaz coherente escalable y proyectos de estándares relacionados" (PDF) . Publicación SLAC 5656 . Centro del acelerador lineal de Stanford . Archivado (PDF) desde el original el 9 de octubre de 2022 . Consultado el 27 de enero de 2014 .
  10. ^ "NumaChip permite una memoria compartida coherente y de bajo costo en caché". Numascale.com. Archivado desde el original el 22 de enero de 2014 . Consultado el 27 de enero de 2014 .
  11. ^ Soporte NUMA (MSDN)
  12. ^ Mejoras en el rendimiento de la máquina virtual Java HotSpot
  13. ^ "Esfuerzo de escalabilidad de Linux: página de inicio del grupo NUMA". FuenteForge.net . 2002-11-20 . Consultado el 6 de febrero de 2014 .
  14. ^ "Linux kernel 3.8, Sección 1.8. Equilibrio automático de NUMA". kernelnewbies.org . 2013-02-08 . Consultado el 6 de febrero de 2014 .
  15. ^ Jonathan Corbet (14 de noviembre de 2012). "La NUMA tiene prisa". LWN.net . Consultado el 6 de febrero de 2014 .
  16. ^ "Linux kernel 3.13, Sección 1.6. Rendimiento mejorado en sistemas NUMA". kernelnewbies.org . 2014-01-19 . Consultado el 6 de febrero de 2014 .
  17. ^ "Documentación del kernel de Linux: Documentación/sysctl/kernel.txt". kernel.org . Consultado el 6 de febrero de 2014 .
  18. ^ Jonathan Corbet (1 de octubre de 2013). "Progreso de la programación de NUMA". LWN.net . Consultado el 6 de febrero de 2014 .
  19. ^ "numá(4)". www.freebsd.org . Consultado el 3 de diciembre de 2020 .

enlaces externos