AMD presenta las GPU de la serie MI350 y afirma hasta 2,2 veces más rendimiento en IA

AMD ha anunciado oficialmente las GPU de la serie Instinct MI350 para cargas de trabajo de IA en centros de datos. La línea de productos se basa en la arquitectura AMD CDNA de cuarta generación y está diseñada para admitir el entrenamiento y la inferencia de modelos de lenguaje a gran escala mediante tecnología de memoria de alto ancho de banda y un rendimiento computacional mejorado.

Según las especificaciones del producto, la serie MI350 está equipada con 288 GB de memoria HBM3E y ofrece 8 TB/s de ancho de banda de memoria. La HBM3E presenta velocidades de transferencia y eficiencia energética mejoradas en comparación con la HBM3 de la generación anterior, y el aumento de la capacidad de memoria se presenta como un elemento de diseño destinado a responder al crecimiento del número de parámetros de los modelos de IA. El ancho de banda de 8 TB/s es una especificación clave para procesar datos de pesos en modelos grandes y puede contribuir a mejorar la eficiencia del movimiento de datos en entornos de IA generativa.

AMD afirma que la serie MI350 ofrece hasta 2,2 veces más rendimiento en IA en comparación con aceleradores de la competencia. Esta cifra de rendimiento puede reflejar condiciones específicas de evaluación, y el rendimiento real de las cargas de trabajo puede variar en función de factores como la arquitectura del modelo, el tamaño del lote y los ajustes de precisión. AMD no ha revelado los productos de comparación concretos ni la metodología de prueba.

La arquitectura CDNA de cuarta generación es una arquitectura de computación dedicada desarrollada por AMD para el mercado de IA en centros de datos. CDNA se centra en operaciones matriciales y procesamiento tensorial, en lugar de en el renderizado gráfico, y AMD la describe como una arquitectura que ofrece un mayor rendimiento computacional y una mejor eficiencia energética en comparación con generaciones anteriores. La serie MI350 es la implementación más reciente de esta arquitectura.

Los operadores de centros de datos y los proveedores de servicios en la nube están evaluando una gama de opciones de aceleradores para gestionar el coste total de propiedad de las cargas de trabajo de IA. La serie MI350 añade otra opción al mercado, y la madurez de la pila de software ROCm y la compatibilidad con marcos de trabajo son factores importantes en las decisiones de adopción. AMD ha ampliado el soporte para marcos de aprendizaje profundo de referencia como PyTorch y TensorFlow, mientras que la compatibilidad con el ecosistema CUDA y la completitud de las herramientas para desarrolladores siguen siendo ámbitos de evaluación.

Aún no se han divulgado la fecha de lanzamiento, el precio ni la gama específica de productos de la serie MI350. Las GPU para centros de datos suelen entrar en producción en masa y en suministro en los meses posteriores al anuncio, y en ocasiones los volúmenes iniciales se asignan a grandes proveedores de nube y socios OEM. La capacidad de la cadena de suministro de AMD y la asignación de líneas de producción de TSMC pueden afectar la velocidad de entrada en el mercado.

En términos de capacidad y ancho de banda de memoria, la serie MI350 se posiciona para responder a las exigencias de ventanas de contexto más amplias en modelos de lenguaje grandes y al procesamiento de modelos multimodales. La configuración de 288 GB puede permitir que modelos más grandes se ejecuten en un solo acelerador o admitir lotes más grandes durante la inferencia. El rendimiento real dependerá de la optimización del software, la estabilidad de los controladores y la eficiencia de la escalabilidad multigPU, por lo que los resultados de evaluación independientes y la validación en condiciones reales siguen siendo importantes.

El anuncio de AMD refleja la competencia en curso en el mercado de aceleradores de IA. Los principales proveedores de nube están adoptando estrategias que incluyen chips diseñados a medida y la adquisición de hardware de múltiples proveedores para ajustar las estructuras de costes.

La configuración de memoria HBM3E de 288 GB sitúa a la serie MI350 como una opción para cargas de trabajo que requieren ventanas de contexto amplias e inferencia de alto rendimiento. La cifra de rendimiento de 2,2 veces deberá evaluarse en función de la metodología de evaluación y de las características de la carga de trabajo. En despliegues a gran escala, las decisiones de adopción suelen considerar también la madurez del ecosistema de software, las herramientas operativas y el soporte de suministro a largo plazo.

La arquitectura CDNA de cuarta generación refleja la inversión continuada de AMD en el diseño de silicio específico para IA. CDNA prioriza el rendimiento en multiplicación matricial y la eficiencia del subsistema de memoria, en consonancia con los patrones computacionales de los modelos basados en transformadores y otras arquitecturas de redes neuronales. La arquitectura utilizada en MI350 está orientada a cargas de trabajo en las que el ancho de banda y la capacidad de memoria son importantes.

El mercado de aceleradores de IA sigue diversificándose a medida que los hiperescaladores y los compradores empresariales amplían sus carteras de hardware. En este entorno, la capacidad de AMD para ampliar su presencia depende del rendimiento competitivo, el suministro estable, el soporte de software y la integración con la infraestructura existente.

Las especificaciones técnicas de la serie MI350 reflejan los requisitos actuales de las cargas de trabajo de IA. A medida que los modelos de lenguaje grandes admiten ventanas de contexto más largas e incorporan capacidades multimodales, la demanda de capacidad y ancho de banda de memoria sigue aumentando. La configuración de 288 GB puede utilizarse para alojar modelos más grandes en un solo acelerador o para procesar lotes más grandes durante la inferencia.