Dell AI Factory transforma los centros de datos

Dell presentó innovaciones avanzadas en enfriamiento, computación de alta densidad y almacenamiento para la IA impulsando el alto rendimiento

Dell Technologies presentó sus nuevos sistemas escalables de racks integrados, innovaciones en servidores, almacenamiento y gestión de datos para  AI Factory, impulsando el cómputo de alta densidad y cargas de trabajo de IA a gran escala.

“Los centros de datos actuales no pueden seguir el ritmo de las demandas de la IA, lo que requiere innovaciones en computación de alta densidad y enfriamiento líquido, con diseños modulares, flexibles y eficientes”, comentó Arthur Lewis, presidente del Grupo de Soluciones de Infraestructura de Dell Technologies. “Estos nuevos sistemas ofrecen el rendimiento necesario para que las organizaciones se mantengan competitivas dentro del entorno de IA en rápida evolución”.

El futuro del cómputo acelerado con innovaciones líderes en enfriamiento

El Dell Integrated Rack 7000 (IR7000) responde a las demandas de cómputo acelerado con densidad superior, gestión energética más sostenible y tecnologías avanzadas de enfriamiento. Este rack, basado en estándares de Open Compute Project (OCP), es ideal para despliegues a gran escala y cuenta con un diseño preparado para el futuro, para entornos de tecnología heterogéneos y de múltiples generaciones.

Las características principales incluyen:

• Preparado para alta densidad: el Dell IR7000 de 21 pulgadas soporta densidades  en CPU y GPU líderes de mercado.

• Creado para el futuro y eficiencia: el rack posee sleds de servidor más anchos y altos para acomodar las arquitecturas más recientes de CPU y GPU. Este rack fue diseñado con enfriamiento líquido nativo, capaz de enfriar despliegues futuros de hasta 480KW, capturando casi el 100% del calor generado.

• Diseñado para ofrecer más opciones y flexibilidad: este rack integrado soporta tanto redes de Dell como de terceros.
• Las implementaciones son simples y eficientes en términos de energía con los sistemas escalables de racks integrados de Dell (IRSS). El IRSS ofrece infraestructura innovadora de gran escala, optimizada para cargas de trabajo de IA; mejorando el proceso de configuración con un sistema completamente integrado plug-and-play.

Dell Technologies presenta plataformas preparadas para IA diseñadas para el Dell IR7000:

• Como parte de la Dell AI Factory con NVIDIA, el Dell PowerEdge XE9712 ofrece aceleración de alto rendimiento y densidad para el entrenamiento de grandes modelos de lenguaje (LLMs) e inferencia en tiempo real en despliegues de IA a gran escala. Diseñado para densidad GPU, líderes en la industria con la NVIDIA GB200 NVL72, esta plataforma conecta hasta 36 CPUs NVIDIA Grace con 72 GPUs NVIDIA Blackwell en un diseño a escala de rack. El dominio de 72 GPUs NVLink actúa como una sola GPU para inferencia en tiempo real de modelos de lenguaje con billones de parámetros, hasta 30 veces más rápida. La NVIDIA GB200 NVL72 con enfriamiento líquido es hasta 25 veces más eficiente que la GPU NVIDIA H100 con enfriamiento por aire.

• Dell PowerEdge M7725 ofrece cómputo denso de alto rendimiento, ideal para entornos de investigación, gobierno, fintech y educación superior. Diseñado para ser desplegado en el rack IR7000, el Dell PowerEdge M7725 entrega mayor capacidad de cómputo con mantenimiento mejorado y escalabilidad entre 24K a 27K núcleos por rack, con 64 o 72 nodos de dos sockets, alimentado por CPUs AMD EPYC de 5ª generación. Las ranuras frontales de IO permiten conectividad de alta velocidad para aplicaciones exigentes. El formato del servidor, eficiente en términos de energía, permite despliegues más sostenibles a través de la combinación de enfriamiento líquido directo para las CPUs y enfriamiento por aire mediante conexión rápida al rack integrado.

Innovaciones en almacenamiento de datos no estructurados y gestión de datos para la era de la IA

Las innovaciones en el portafolio de almacenamiento de datos no estructurados de Dell Technologies mejoran el rendimiento de aplicaciones de IA y simplifican la gestión global de datos.

El Dell PowerScale, el primer almacenamiento Ethernet certificado en el NVIDIA DGX SuperPOD, trae nuevas actualizaciones que mejoran las estrategias de gestión de datos, el rendimiento de cargas de trabajo y que ofrecen mayor soporte para cargas de IA¹.

• Descubrimiento mejorado: desbloquee conocimientos a partir de los datos para una toma de decisiones más rápida e inteligente, utilizando metadatos de PowerScale y el Dell Data Lakehouse. Un futuro cargador de documentos de código abierto de Dell para servicios NVIDIA NeMo y frameworks RAG será diseñado para ayudar a los clientes a mejorar el tiempo para ingresar los datos y reducir los costos de cómputo y GPU.
• Almacenamiento más denso: los clientes pueden ajustar sus modelos de IA entrenándolos en conjuntos de datos más grandes con nuevos discos de 61 TB, que aumentan la capacidad y eficiencia, mientras reducen a la mitad² el espacio físico de almacenamiento en el centro de datos.
• Rendimiento mejorado de IA: el rendimiento de cargas de IA es mejorado a través de capacidades front-end NVIDIA InfiniBand y soporte para adaptadores Ethernet de 200GbE, que proporcionan hasta un 63% de aumento en la tasa de transferencia³.

Con las nuevas mejoras a la plataforma de gestión de datos Dell Data Lakehouse, los clientes pueden ahorrar tiempo y mejorar las operaciones con nuevas características como recuperación ante desastres, descubrimiento automatizado de esquemas, APIs de gestión completas y actualizaciones de pila en modo self-service.

Los clientes pueden simplificar su viaje orientado por datos y escalar rápidamente sus casos de uso de IA y de negocios con los servicios de optimización para catalogación de datos y servicios de implementación para pipelines de datos. Estos servicios aumentan la accesibilidad a datos de alta calidad mediante descubrimiento, organización, automatización e integración.

Dell Generative AI Solutions con Intel para flujos de trabajo modernos

Como parte de la Dell AI Factory, el Dell Generative AI Solutions con Intel ofrece plataformas desarrolladas en conjunto, probadas y validadas para una implementación de IA perfecta. Presentando el Dell PowerEdge XE9680 y los aceleradores de IA Intel Gaudi 3 con almacenamiento, redes, servicios de Dell y una variedad de softwares de código abierto, estas soluciones preconfiguradas, flexibles y de alto rendimiento soportan una variedad de casos de uso de IA generativa, incluyendo creación de contenido, asistentes digitales, diseño y creación de datos, generación de código y más.