Dell Technologies ha expandido su oferta de soluciones de inteligencia artificial generativa (IA) con nuevos servidores PowerEdge que incorporan tecnología de AMD en CPU y GPU.
Estos dispositivos están orientados hacia la escalabilidad y flexibilidad en empresas de diferentes tamaños, esto permite que ajustar el hardware acorde a sus funciones y así mantenerse competitivas en cuanto a costos y en tecnología.
Arthur Lewis, presidente del Grupo de Soluciones de Infraestructura de Dell Technologies, comentó sobre esta integración:
"Integrando la tecnología AMD en nuestros servidores más recientes, estamos proporcionando el rendimiento y las eficiencias que las empresas necesitan hoy y en el futuro".
El ejecutivo agrega que:
"[...] Estamos estableciendo nuevos estándares de rendimiento en IA, ofreciendo a las empresas soluciones poderosas y económicas, esenciales para entornos modernos orientados por datos".
Estos servidores no solo están orientados a empresas que buscan implementar soluciones de IA de forma ágil y efectiva, sino que también facilitan el manejo de grandes volúmenes de datos y aplicaciones de alto rendimiento.
Forrest Norrod, vicepresidente ejecutivo del Grupo de Soluciones de Centro de Datos de AMD, destacó que:
"Nuestros procesadores AMD EPYC más recientes y los aceleradores Instinct proporcionan a los clientes de Dell soluciones end-to-end avanzadas, a escala, que acelerarán las implementaciones de IA e impulsarán la infraestructura de TI crítica para los negocios".
Rodrigo Mercado
Juan Andrés
"Nuestra larga colaboración con Dell continúa ofreciendo soluciones de vanguardia que acelerarán las implementaciones de IA e impulsarán la infraestructura de TI crítica para los negocios".
Flexibilidad y escalabilidad para la IA empresarial
Los nuevos servidores PowerEdge, como el XE7745, soportan hasta 8 GPU de doble ancho o 16 de ancho simple PCIe con procesadores AMD EPYC de quinta generación, permitiendo realizar tareas de inferencia de IA y ajuste de modelos con una alta capacidad de procesamiento. Además, las ranuras PCIe Gen 5.0 adicionales proporcionan una conectividad de red optimizada, lo que genera configuraciones más densas y flexibles. Dell asegura que esta configuración es 2x más capacidad de GPU DW PCIe:
"[...] en el análisis de Dell de las especificaciones del Dell PowerEdge XE7745, que muestra 8 ranuras PCIe Gen5 además de las ranuras para GPU. Comparando el XE7745 con la generación anterior, el Dell PowerEdge R760XA, el XE7745 admite hasta 8 GPUs DW o 16 GPUs SW, mientras que el R760XA admite hasta 4 GPUs DW o 12 GPUs SW. Datos precisos al 02/10/2024".
Servidor Dell PowerEdge R6725 | Imágenes Créditos: Dell
Por otro lado, los modelos R6725 y R7725 están diseñados para ofrecer escalabilidad sin sacrificar rendimiento. Gracias al nuevo diseño de chasis DC-MHS y los procesadores de alto rendimiento y CPUs duales de 500W:
[...] en el análisis de Dell, comparando la CPU principal soportada en el Dell PowerEdge R7725, con procesador AMD EPYC de 5ª generación y 192 núcleos Zen 5c, con la CPU principal soportada en el Dell PowerEdge R7625, que tiene procesadores AMD EPYC de 4ª generación y 128 núcleos Zen 4c. Además, según las especificaciones del Dell PowerEdge R7725, muestra soporte para 2 CPUs de 500W con refrigeración por aire. Datos precisos al 02/10/2024. El rendimiento real puede variar.
Esta misma serie está pensada para trabajos con IA, basadas en configuraciones escalables, ofreciendo rendimiento récord para cargas de trabajo como virtualización, bases de datos e IA, así lo detalla la firma:
Basado en los servidores Dell PowerEdge que alcanzaron puntuaciones récord mundiales para VMMark4 (puntuación de [email protected] tiles con el Dell PowerEdge R7725), SAP-SD (puntuación de 201,000 usuarios con el Dell PowerEdge R6725) y TPCx-AI (Puntuaciones de 720,386 @SF3, 864,593@SF10 y 1,115,609@SF30 con los Dell PowerEdge R6715 y R6725) al 02/10/2024. El rendimiento real puede variar.
Por us parte, el servidor R7725 es capaz de otorgar hasta un 66% de mejora de rendimiento y hasta un 33% de aumento de eficiencia en la línea superior.
[...] Basado en el análisis de Dell de las puntuaciones SPECIntRate de la CPU AMD EPYC de 5ª generación 9965, con puntuación de 2980 en el R7725, en comparación con la CPU AMD EPYC de 4ª generación 9754, con puntuación de 1790 en el R7625. Datos precisos al 02/10/2024. El rendimiento real puede variar.
El gigante de servidores destaca que seguirá entregando soporte para los aceleradores AMD Instinct más recientes en los servidores Dell PowerEdge XE.
Destaca, además, que los equipos de TI pueden monitorear, gestionar y actualizar los servidores de forma remota con el Controlador de Acceso Remoto Integrado (iDRAC).
Por su parte, Joe Morrow, director de Servicios de Tecnología, OSF Healthcare, señaló que:
"Las soluciones proporcionadas por Dell Technologies y AMD para OSF Healthcare nos permiten ofrecer mejores servicios a nuestros clínicos y pacientes, reducir nuestros costos generales y ayudar a las comunidades desatendidas. Cuando las vidas de los pacientes dependen de nuestras plataformas, es crucial que nuestros sistemas permanezcan estables y operativos las 24 horas, los 7 días de la semana, los 365 días al año".
AI Factory de Dell: soporte integral para IA generativa
La IA generativa es uno de los focos de la última expansión de Dell AI Factory, que ahora soporta aceleradores AMD Instinct MI300X para facilitar la inferencia y la generación aumentada por recuperación (RAG), estas configuraciones permiten que las soluciones sean escalables y modulares, asegurando un retorno de inversión de hasta un 86% asegura Dell:
"Estimación basada en el análisis de Dell en mayo de 2024, comparando el tiempo de configuración de un clúster Kubernetes de 2 nodos para un LLM de uso general utilizando scripts automatizados frente a la implementación manual de un diseño común. El tiempo de configuración incluye solo la instalación básica. El tiempo de configuración real variará según la configuración de la solución".
El Dell Enterprise Hub en Hugging Face ahora soporta el Dell PowerEdge XE9680 con aceleradores AMD Instinct MI300X, otorgando contenedores personalizados y scripts para fácil implementación de modelos LLM como Llama y Mixtral.
Nelson Salazar
Kuba Stolarski, vicepresidente de investigación de IDC, subrayó:
"Dell Technologies y AMD continúan impulsando la innovación en IA, ofreciendo soluciones que ayudan a las empresas a modernizar sus centros de datos y mejorar la escalabilidad [...] Las últimas actualizaciones de Dell AI Factory son el próximo paso en la jornada de Dell para proporcionar soluciones de IA que aumenten la eficiencia y el valor."
Este nuevo portafolio no solo refuerza la capacidad de las empresas para aprovechar la IA, sino que también subraya la importancia de una infraestructura robusta y flexible en la transformación digital.
¿Cuándo estarán disponible los nuevos servidores de Dell?
Los servidores Dell PowerEdge R6715, R7715, R6725 y R7725 estarán disponibles a partir de noviembre de este año. Y el PowerEdge XE7745, a partir de enero de 2025.
- Las Soluciones de IA Generativa de Dell con AMD estarán disponibles globalmente a partir del cuarto trimestre de 2024.
- Los Servicios de Implementación de Dell para la plataforma de IA Generativa están disponibles inicialmente en México y Brasil
