AMD EPYC Venice y la IA agéntica: el CPU recupera protagonismo en los datacenters del futuro

El Datacenter siempre ha tenidop varios pilares principales, pero definitivamente la conversación sobre infraestructura de inteligencia artificial gira alrededor de los GPUs. Cuántos aceleradores tenemos, cuánta memoria de alto ancho de banda podemos instalar, cuántos tokens generamos por segundo y cuántos miles de millones de parámetros caben dentro de una máquina y en cuanto la IA comienza a hacer cosas más complejas que simplemente responder preguntas, aparece un problema bastante interesante: no todo lo que hace un sistema de inteligencia artificial necesita ejecutarse dentro del GPU.

De hecho, muchas de las operaciones que permiten que un agente funcione siguen siendo trabajo perfectamente convencional de CPU, es con este contexto que AMD acaba de publicar un nuevo informe técnico (white paper) sobre sus EPYC 9006, también conocidos como Venice, donde explica por qué la IA agéntica necesita procesadores capaces de atender cargas de trabajo muy diferentes dentro de un mismo flujo. El documento también presenta resultados preliminares frente a NVIDIA Vera e Intel Xeon, pero lo interesante está en entender cómo está cambiando el trabajo dentro de los datacenters.

Un agente de IA tampoco vive únicamente de inferencia

Hagamos un ejercicio, imaginemos que le pedimos a un agente preparar un informe sobre las nuevas tarjetas gráficas lanzadas durante la semana, la solicitud parece sencilla, pero dependiendo de cómo esté construido el sistema puede desencadenar una cantidad bastante considerable de operaciones. Primero necesita interpretar nuestra petición, consultar fuentes, recuperar documentos, revisar información almacenada, ejecutar herramientas para procesar datos, comparar resultados, verificar determinadas afirmaciones y finalmente construir una respuesta.

Algunas partes pueden requerir inferencia mediante un modelo de lenguaje ejecutado en GPU, otras son consultas SQL, llamadas a APIs, operaciones de almacenamiento, procesos Linux, contenedores, cifrado, comunicaciones de red y ejecución de código convencional y si tenemos decenas, cientos o miles de usuarios haciendo solicitudes simultáneamente, todos esos pequeños trabajos terminan convirtiéndose en un problema bastante serio de infraestructura.

AMD divide este proceso en diferentes etapas que requieren perfiles de cómputo distintos, desde la recepción de la solicitud y la construcción de contexto hasta la recuperación de información, razonamiento, ejecución de herramientas, verificación y entrega de resultados, asi que la idea central del informe es que optimizar únicamente la ejecución del modelo puede dejar buena parte del sistema esperando a que el resto de la infraestructura termine su trabajo.

¿QUÉ HACE EL CPU DENTRO DE UN SISTEMA DE IA AGÉNTICA?

Etapa	Trabajo principal	Recursos importantes
Gateway	Recibir solicitudes, autenticar y gestionar conexiones	Latencia, red, cifrado
Construcción de contexto	Preparar documentos, historial e instrucciones	Memoria, procesamiento de datos
Planificación y orquestación	Coordinar agentes y distribuir tareas	Rendimiento por núcleo, concurrencia
Recuperación de información	Consultar bases de datos y sistemas RAG	Memoria, caché, almacenamiento
Inferencia	Ejecutar modelos de IA	GPU u otros aceleradores, según el modelo
Ejecución de herramientas	APIs, intérpretes, scripts y procesos aislados	Núcleos, hilos, virtualización
Verificación	Comprobar resultados y aplicar políticas	CPU, memoria, seguridad
Entrega	Preparar y transmitir la respuesta	Red, CPU, servicios web

El CPU vuelve a tener varios trabajos al mismo tiempo

AMD identifica tres grandes funciones para los procesadores dentro de la infraestructura agéntica.

La primera es la ejecución de agentes y entornos aislados, donde necesitamos muchos procesos simultáneos. Cada agente puede abrir herramientas, ejecutar pequeños programas y mantener sesiones independientes, así que la cantidad de núcleos e hilos disponibles resulta particularmente importante.

La segunda es el alojamiento de aceleradores, un servidor con ocho GPUs extraordinariamente potentes tampoco sirve de mucho si el CPU no consigue preparar información, gestionar las transferencias y mantener los aceleradores trabajando. Aquí importan el rendimiento por núcleo, la memoria y la conectividad con los dispositivos.

La tercera es la computación empresarial de propósito general: bases de datos, servicios web, almacenamiento, virtualización, sistemas de autenticación, procesamiento de información y prácticamente todas las herramientas que un agente puede necesitar para completar una tarea.

Esto tampoco significa que todos los agentes requieran un EPYC de 256 núcleos, una empresa puede necesitar un servidor relativamente pequeño para consultar documentos internos, mientras un proveedor de nube puede ejecutar miles de agentes concurrentes y una instalación de IA puede necesitar procesadores dedicados casi exclusivamente a alimentar racks completos de aceleradores, la escalabilidad depende del cliente y su flujo de trabajo según señala AMD en el documento.

EPYC Venice: hasta 256 núcleos y 512 hilos para atender todas esas tareas

La sexta generación de AMD EPYC utiliza arquitecturas Zen 6 y Zen 6c, construidas mediante el diseño chiplet que AMD lleva refinando desde las primeras generaciones de EPYC, en sus configuraciones superiores, la familia 9006 alcanza 256 núcleos y 512 hilos por socket, con hasta 16 canales DDR5, soporte para MRDIMM de hasta 12,800 MT/s, y PCIe 6.0 con 1.6 TB/s de ancho de banda máximo teórico de memoria por socket en determinadas configuraciones MRDIMM, además de capacidades de memoria que pueden alcanzar 4 TB utilizando módulos de 256 GB y como siempre, ojo, No todas las configuraciones ofrecen simultáneamente los valores máximos de capacidad y velocidad.

Y aquí hay algo importante: estos números tampoco están pensados únicamente para ejecutar modelos de IA directamente sobre el CPU, la memoria puede alojar bases de datos, cachés, información recuperada mediante RAG, estados de agentes, máquinas virtuales y enormes cantidades de procesos que necesitan existir alrededor de los GPUs.

Con 256 núcleos y SMT habilitado, un procesador puede exponer 512 hilos de hardware para ejecutar tareas concurrentes, pero tampoco quiere decir que cada hilo equivalga automáticamente a un agente completo, pero sí ofrece una enorme cantidad de recursos para construir infraestructura donde miles de procesos pequeños deben coexistir.

AMD no vende el mismo EPYC para todo

Algo que me llama la atención dentro de la estrategia de Venice es que AMD está ampliando su portafolio para cubrir funciones distintas dentro de los datacenters, por ejemplo, la familia EPYC 9006 SP7 está orientada a rendimiento y escalabilidad, incluyendo configuraciones de alta densidad para ejecutar agentes y variantes de alta frecuencia para alojar aceleradores; EPYC 9006 SP8 ofrece alternativas más contenidas, de 8 a 128 núcleos, para empresas y despliegues donde tampoco tiene sentido instalar un CPU gigantesco.

Con tecnologías mas de nicho, los EPYC 9006X SP7 incorporan AMD 3D V-Cache para aplicaciones sensibles al tamaño de caché, como simulaciones, cómputo técnico, analítica y determinadas operaciones de recuperación de información.

Finalmente, EPYC 9006 LP está pensado para sistemas de IA a escala de rack, con memoria LPDDR5X y conectividad de hasta 112 Gb/s para escenarios donde la integración con los aceleradores cobra todavía más importancia.

FAMILIAS AMD EPYC 9006 Y SUS FUNCIONES

Familia	Característica	Aplicaciones
EPYC 9006 SP7	Hasta 256 núcleos y 512 hilos; opciones de alta frecuencia	Agentes concurrentes, servidores generales, alojamiento de GPUs
EPYC 9006 SP8	Opciones de 8 a 128 núcleos	Empresas, servidores de menor escala y despliegues eficientes
EPYC 9006X SP7	AMD 3D V-Cache y mayor capacidad de caché L3	HPC, simulaciones, EDA y cargas sensibles a memoria
EPYC 9006 LP	LPDDR5X y xGMI de hasta 112 Gb/s	Sistemas de IA y alojamiento de aceleradores a escala de rack

Para AMD es relevante que estas familias ya comparten buena parte del ecosistema de software x86 que la industria utiliza y los agentes modernos tampoco aparecen dentro de una infraestructura completamente nueva. Siguen utilizando Linux, contenedores, máquinas virtuales, herramientas empresariales, bases de datos y servicios desarrollados durante décadas.

Donde cambiar la arquitectura de un procesador puede requerir validar nuevamente partes de ese entorno. AMD utiliza precisamente la madurez de x86 como uno de sus argumentos frente a alternativas basadas en ARM, aunque la compatibilidad y el esfuerzo real de migración siempre dependerán del software y del deployment (despliegue).

AMD enfrenta a Venice con NVIDIA Vera: 20% más rendimiento por núcleo

Y aquí llegamos a la parte que probablemente genere más tertulias, AMD presenta una comparación donde un EPYC Venice de 96 núcleos alcanza 1.2 veces el rendimiento por núcleo de NVIDIA Vera, utilizando la suite SPECrate 2026 Integer, esto es una ventaja aproximada del 20% por núcleo, medida bajo carga total de sistema y normalizada por cantidad de núcleos.

La comparación utiliza plataformas EPYC de 96 núcleos frente a Vera de 88 núcleos, con GCC 15.2. En los resultados presentados por AMD, el sistema EPYC alcanza aproximadamente 6.3 puntos por núcleo frente a 5.3 de Vera, aunque hay un detalle importante: son estimaciones preliminares de AMD basadas en sus pruebas internas y datos de NVIDIA. El propio whitepaper reconoce que las configuraciones todavía no cumplían las condiciones necesarias para publicar esos resultados como mediciones oficiales.

AMD también presenta una comparación a nivel de plataforma:

Comparación SPECrate 2026 Integer	Resultado comunicado por AMD
EPYC Venice 96C frente a NVIDIA Vera 88C	1.2× por núcleo
EPYC 9996 frente a plataforma NVIDIA Vera	2.24× en throughput total

La segunda cifra es una comparación diferente, utilizando el EPYC 9996 de 256 núcleos. Tampoco debe interpretarse como una ventaja de 2.24 veces entre procesadores con la misma cantidad de núcleos o consumo equivalente y SPECrate Integer tampoco mide directamente cuántos tokens puede generar un GPU ni cuántos agentes completos puede atender una instalación sino que evalúa rendimiento de CPU sobre una colección estandarizada de cargas enteras (basicamente un benchmark), relevante para muchas tareas que rodean a los modelos de IA.

El CPU seguirá siendo importante, aunque el GPU haga la parte espectacular

Considero que quizás una de las ideas más interesante de todo el documento es que la IA agéntica vuelve a mezclar muchas disciplinas de computación que teníamos ya bastante tiempo tratando por separado: Inferencia, bases de datos, microservicios, virtualización, cómputo paralelo, seguridad, almacenamiento y redes pueden terminar participando en una misma solicitud.

AMD quiere colocar a EPYC como la plataforma capaz de atender todos esos trabajos, desde pequeños servidores empresariales hasta sistemas gigantescos que necesitan mantener miles de agentes y GPUs ocupados y definitivamente tampoco es como que NVIDIA Vera, Intel Xeon u otras arquitecturas no puedan cumplir esas funciones. Las comparaciones publicadas por AMD son un solo lado de la discusión y todavía tendremos que ver más resultados independientes, especialmente en despliegues agénticos completos donde intervienen CPU, GPU, red, memoria y software al mismo tiempo.

Durante los últimos años medimos buena parte del progreso de IA mirando cuántas operaciones podían ejecutar nuestros aceleradores, es ahora cuando tendremos que preguntarnos cuántas tareas completas puede resolver toda la infraestructura, cuánto tiempo pasa esperando cada componente y cuánto cuesta mantener funcionando el sistema, nuevamente, clientes y flujos de trabajo, determinan si esta solució u otra, es la mas adecuada para sus problematicas particulares.

 

FUENTES CONSULTADAS

AMD — EPYC Server CPU Architecture and Performance Overview

Informe técnico principal. Arquitectura de Venice, funciones del CPU, ecosistema x86, memoria, seguridad, HPC y metodología de benchmarks.

https://www.amd.com/content/dam/amd/en/documents/epyc-business-docs/white-papers/amd-epyc-9006-server-cpus-architectural-leadership.pdf

AMD Newsroom — EPYC CPUs Deliver for Every Layer of the Agentic AI Stack

Publicado el 18 de septiembre de 2026. Resumen del informe y argumento sobre diferentes perfiles de CPU dentro de un mismo flujo de IA agéntica.

https://newsroom.amd.com/news/amd-epyc-cpus-deliver-every-layer-agentic-ai-stack/