{"id":71087,"date":"2024-10-14T16:53:23","date_gmt":"2024-10-14T21:53:23","guid":{"rendered":"https:\/\/www.alvarezjoseph.com\/blog\/?p=71087"},"modified":"2024-10-14T16:53:27","modified_gmt":"2024-10-14T21:53:27","slug":"amd-pensando-pollara-400-nic-el-futuro-de-las-redes-para-ia-y-hpc","status":"publish","type":"post","link":"https:\/\/www.alvarezjoseph.com\/blog\/amd-pensando-pollara-400-nic-el-futuro-de-las-redes-para-ia-y-hpc\/","title":{"rendered":"AMD Pensando Pollara 400 NIC: \u00bfEl futuro de las redes para IA y HPC?"},"content":{"rendered":"\n

\u00bfTe imaginas lo que ser\u00eda tener una tarjeta de red de 400 Gbps<\/strong> pensada espec\u00edficamente para los retos de la Inteligencia Artificial y la Computaci\u00f3n de Alto Rendimiento (HPC)? Bueno, AMD acaba de soltar una bomba en el mercado con su Pensando Pollara 400<\/a><\/strong>, una tarjeta NIC que promete un rendimiento brutal, ideal para estos entornos que cada vez exigen m\u00e1s velocidad y eficiencia. Pero \u00bfesto es tan bueno como suena? Vamos a darle un vistazo de cerca.<\/p>\n\n\n\n

\n\n\n\n

\u00bfQu\u00e9 hace tan especial a la Pensando Pollara 400?<\/h2>\n\n\n\n
\"-\"
Fuente: Amd<\/figcaption><\/figure>\n\n\n\n

Voy al grano: la Pensando Pollara 400<\/strong> es la primera tarjeta de red Ultra Ethernet de 400 Gbps<\/strong> en el mercado, y no es una tarjeta cualquiera. Est\u00e1 dise\u00f1ada con una misi\u00f3n espec\u00edfica: optimizar la transferencia de datos dentro de redes de IA<\/strong>, con un enfoque muy particular en la comunicaci\u00f3n GPU a GPU<\/strong>. Esto no es para quienes simplemente quieren navegar por internet o descargar pel\u00edculas r\u00e1pidamente. No, esta tarjeta est\u00e1 pensada para manejar clusters de IA<\/strong> donde la velocidad, la latencia y la comunicaci\u00f3n r\u00e1pida son fundamentales.<\/p>\n\n\n\n

La clave aqu\u00ed es la RDMA Ethernet<\/strong>, que permite el acceso directo a la memoria remota sin intervenci\u00f3n del CPU, algo crucial cuando hablamos de IA, donde la eficiencia y velocidad en la comunicaci\u00f3n interna lo es todo. AMD ofrece una tarjeta que, supuestamente, multiplica por seis el rendimiento<\/strong> comparado con las soluciones Ethernet tradicionales.<\/p>\n\n\n\n

\n\n\n\n

Ethernet sigue siendo el rey\u2026 \u00bfpero a qu\u00e9 costo?<\/h2>\n\n\n\n

La realidad es que Ethernet sigue siendo el est\u00e1ndar m\u00e1s usado<\/strong> en el entorno de IA. Es lo que ya conocemos, est\u00e1 m\u00e1s que probado y, bueno, es relativamente barato. Pero hay un problema: el crecimiento de los modelos de IA y la explosi\u00f3n de la IA generativa<\/strong> han dejado ver que el Ethernet tradicional ya no da para m\u00e1s. No importa si conectas los mejores cables, si lo que tienes no est\u00e1 optimizado, el cuello de botella est\u00e1 asegurado.<\/p>\n\n\n\n

Y aqu\u00ed es donde entra la Pollara 400<\/strong>, que llega con la promesa de cerrar esa brecha entre lo que puede Ethernet y lo que necesita la IA moderna. En resumen: m\u00e1s velocidad, menos latencia, m\u00e1s personalizaci\u00f3n. Porque, en realidad, si algo necesita la IA, es adaptarse y evolucionar constantemente.<\/p>\n\n\n\n

\u00bfQu\u00e9 caracter\u00edsticas la hacen diferente?<\/h3>\n\n\n\n
    \n
  1. Multipathing inteligente<\/strong>: La tarjeta no solo distribuye los paquetes de datos, sino que lo hace de una manera que evita cuellos de botella, algo muy com\u00fan en los entornos de alta carga como los que usan IA.<\/li>\n\n\n\n
  2. Pipeline de hardware programable<\/strong>: Permite que el hardware se ajuste seg\u00fan las necesidades de cada red. Eso significa que puedes optimizarla dependiendo de lo que quieras lograr.<\/li>\n\n\n\n
  3. Soporte RDMA avanzado<\/strong>: Mejora el acceso directo a la memoria, esencial para entornos de IA donde las GPUs necesitan compartir datos r\u00e1pidamente, sin la intervenci\u00f3n constante del CPU.<\/li>\n\n\n\n
  4. Aceleraci\u00f3n de librer\u00edas de comunicaci\u00f3n<\/strong>: Al acelerar librer\u00edas comunes en IA, se reduce el tiempo que lleva cada proceso, haciendo que las cargas se completen m\u00e1s r\u00e1pido.<\/li>\n<\/ol>\n\n\n\n
    \n\n\n\n

    Ultra Ethernet y las promesas que a\u00fan est\u00e1n en el aire<\/h2>\n\n\n\n

    AMD lanza esta tarjeta en medio de la espera de la especificaci\u00f3n Ultra Ethernet v1.0<\/strong>, que deber\u00eda salir en el primer trimestre de 2025. Entonces, b\u00e1sicamente, AMD va un paso adelante, pero al mismo tiempo est\u00e1 lanzando una tarjeta que a\u00fan no tiene el est\u00e1ndar completo. \u00bfEso es bueno o malo?<\/strong> Depende de c\u00f3mo lo veas.<\/p>\n\n\n\n

    \n

    BOOM! AMD enters the back end AI network game with a UEC (UltraEthernet) NIC. Did not expect this one, but understand the Nvidia total solutions posture has to drive this. Will have to do some work to get underneath this. CC @WillTownTech<\/a> @DellTech<\/a> CTO on stage discussing. $AMD<\/a>\u2026 pic.twitter.com\/LBwGt34zWz<\/a><\/p>— Patrick Moorhead (@PatrickMoorhead) October 10, 2024<\/a><\/blockquote>