Ryzen AI Halo: 192GB de RAM Unificada para IA Local

AMD quiere ROMPER las barreras del desarrollo local con IA

Tradicionalmente, el desarrollo local de IA sufre de fricciones de instalación, configuraciones tediosas de drivers y limitaciones de memoria al ejecutar modelos masivos. Ryzen AI Halo soluciona esto bajo tres principios de diseño:

• Workflows listos para usar: Incluye aplicaciones preinstaladas, modelos precargados y flujos guiados de manera nativa tanto para Windows como para Linux.

• Escalabilidad: Diseñado para crecer desde el primer modelo local hasta flujos complejos de múltiples agentes autónomos (multi-agent workflows).

• Capacidad masiva local: Rendimiento óptimo sin sacrificar la privacidad de los datos, disponibilidad ni costos de suscripción en la nube.

Ecosistema de Software y Soporte

• Ryzen AI Developer Center: Un concentrador centralizado para gestionar herramientas, actualizaciones y conectividad de dispositivos de forma automatizada, evitando la gestión manual de dependencias.

• Soporte de Vanguardia: Equipado con la pila de software ROCm 7.12 preinstalada (con versión 7.13 disponible desde el día cero).

• AMD AI Playbooks: Guías de aprendizaje interactivas y preinstaladas para acelerar el onboarding de proyectos de IA generativa (texto, código, imágenes y automatización) en cuestión de minutos.

• Programa de Desarrolladores AMD: Beneficios gratuitos que incluyen créditos de nube, tokens para endpoints de Modelos de Lenguaje (LLM) y acceso exclusivo a soporte priorizado de ingeniería.

 

Especificaciones Técnicas de Ryzen AI "Halo"

La plataforma destaca por empacar potencia de nivel de centro de datos en un chasis ultra compacto de tan solo 150 x 150 mm y poco más de un kilogramo de peso:

Componente	Especificación Técnica
Procesador (APU)	AMD Ryzen AI Max+ 395
Memoria	128 GB de memoria unificada LPDDR5X
Gráficos (GPU)	40 Unidades de Cómputo RDNA 3.5
NPU (XDNA2)	50 TOPs de rendimiento dedicado

Rendimiento Comparativo (según AMD)

Como podrán suponer esta plataforma compite directamente con nuestros otros dos amigos de color verde y con los de la manzanita, entonces:

Comparada con la DGX Spark tenemos mayor rendimiento por dólar en la ejecución de los principales LLMs del mercado de forma flexible bajo Windows y Linux, recordemos que la Spark está limitada a usar una versión específica de Linux y no hay soporte para Windows lo cual es una ENORME ventaja ya que hay muchos desarrolladores que todavía prefieren trabajar en este OS.

Comparada con la Apple Mac Mini (M4 Pro / M5  Pro) Ryzen AI Max supera las limitciones de memoria de Apple, ofreciendo mayor espacio de trabajo (headroom) para modelos masivos y siendo hasta 4 veces más rápido en cargas de trabajo basadas en PyTorch, ROCm ha estado madurando bastante como plataforma y ya podemos ver como empieza a rebasar a Metal.

 

Beneficios Económicos en la Era de la Computación Agéntica

AMD nos menciona que con el auge de la IA agéntica (donde la IA "razona" y actúa de forma autónoma), el uso de tokens se ha disparado por encima del millón de tokens diarios por usuario, lo cuál consideramos que podría considerarse un poco aventurado, ya en nuestra percepción serían más bien usuarios que usan una cantidad absurda de tokens arrastrando a los usuarios que no hacen uso tan demandante de tokens o simplemente aún no utilizan bucles de IA como los que se pueden correr precisamente utilizando este tipo de hardware.

Sin embargo mientras que las API de la nube cobran tarifas constantes por millones de tokens de entrada/salida, migrar a un modelo local con Ryzen AI Halo puede generar un ahorro de hasta $750 USD al mes (bajo estimaciones conservadoras de uso).

El equipo es capaz de alcanzar el punto de equilibrio (ROI) en tan solo 6 meses. A los tres años, un usuario en la nube habrá gastado $27,000 USD, mientras que el usuario de Halo solo paga su factura de electricidad, eso sin contar que los modelos gratuitos que precisamente pueden correr en estos dispositivos también van mejorando paulatinamente, por ejemplo hoy día tenemos modelos de ~30B que son capaces de competir con modelos "SOTA" de hace algunos meses.

 

Nueva Serie de Procesadores Ryzen AI Max 400

Para los flujos de trabajo más demandantes a nivel profesional, AMD introduce la serie Ryzen AI Max 400, los primeros procesadores x86 para clientes capaces de ejecutar modelos lingüísticos de más de 300 mil millones de parámetros de forma local.

Specs de la Serie Ryzen AI Max 400 (Gorgon Halo):

• Hasta 16 núcleos Zen 5 y 32 hilos con frecuencias boost de hasta 5.2 GHz.

• Hasta 192 GB de memoria unificada y soporte de hasta 160 GB de VRAM configurable para tareas enfocadas en GPU.

• NPU XDNA2 mejorada de hasta 55 TOPs.

• Compatibilidad total con certificaciones ISV a través de AMD Software Pro Edition.

Desglose de la Familia de Productos Max Pro 400:

• Ryzen AI Max Plus 495: El tope de gama. 16 núcleos / 32 hilos, 5.2 GHz Boost, 80 MB de caché, NPU de 55 TOPs y gráficos Radeon 8065S (40 CU).

• Ryzen AI Max Pro 490: Gama media. 12 núcleos / 24 hilos, 5.0 GHz Boost, NPU de 50 TOPs y gráficos Radeon 8050S (32 CU).

• Ryzen AI Max Pro 485: Configuración de entrada. 8 núcleos / 16 hilos, manteniendo la misma configuración de NPU y GPU que el modelo 490

En fin, parece que tenemos hardware de transición generacional que para los usuarios más demandantes y hambrientos de memoria, podría ser interesante desde el primer modelo (el de 32 CUs) ya que todos pueden reservar hasta de hasta 160GB de memoria asignables como VRAM. Si ya cuentas con algun equipo de este estilo (Ryzen AI Max+ 300) y ves indispensables esos GB extra, tal vez valga la pena, pero si representa una inversión fuerte para tí, mejor esperate a la next gen de estos dispositivos para dar un salto más fuerte y que valga más la pena.

Como siempre, los estaré leyendo.