«La IA generativa está remodelando las industrias y abriendo nuevas oportunidades para la innovación y el crecimiento», dijo el fundador y director ejecutivo de NVIDIA, Jensen Huang, en un discurso previo a la conferencia de tecnología COMPUTEX de esta semana en Taipei.
«Hoy estamos en la cúspide de un cambio importante en la informática», dijo Huang a la audiencia, vestido con su característica chaqueta de cuero negro. «La intersección de la IA y la computación acelerada redefinirá el futuro».
Huang habló antes de una de las principales conferencias de tecnología del mundo ante una audiencia de más de 6.500 líderes de la industria, prensa, empresarios, jugadores, creadores y entusiastas de la IA reunidos en el Centro Deportivo de la Universidad Nacional de Taiwán, con cúpula de cristal, ubicado en el corazón verde de Taipei.
El tema: las plataformas aceleradas de NVIDIA están en plena producción, ya sea a través de PC con IA y dispositivos de consumo que cuentan con una gran cantidad de capacidades impulsadas por NVIDIA RTX o empresas que construyen e implementan fábricas de IA con la plataforma informática de pila completa de NVIDIA.
«El futuro de la informática se está acelerando», afirmó Huang. «Con nuestras innovaciones en IA y computación acelerada, estamos superando los límites de lo que es posible e impulsando la próxima ola de avances tecnológicos».
‘Ritmo de un año’
Se avecinan más, y Huang revela una hoja de ruta para nuevos semiconductores que llegarán a un ritmo de un año. Revelada por primera vez, la plataforma Rubin sucederá a la próxima plataforma Blackwell, con nuevas GPU, una nueva CPU basada en Arm (Vera) y redes avanzadas con NVLink 6, CX9 SuperNIC y el conmutador convergente InfiniBand/Ethernet X1600.
“Nuestra empresa tiene un ritmo de un año. Nuestra filosofía básica es muy simple: construir toda la escala del centro de datos, desagregar y venderle piezas en un ritmo de un año y llevar todo a los límites tecnológicos”, explicó Huang.
El equipo creativo de NVIDIA utilizó herramientas de inteligencia artificial de miembros del programa de inicio NVIDIA Inception , basadas en NVIDIA NIM y la computación acelerada de NVIDIA, para crear la conferencia magistral de COMPUTEX. Repleta de demostraciones, esta exhibición destacó estas herramientas innovadoras y el impacto transformador de la tecnología de NVIDIA.
‘La informática acelerada es informática sostenible’
NVIDIA está reduciendo el coste de convertir los datos en inteligencia, explicó Huang al comenzar su charla.
“La informática acelerada es informática sostenible”, enfatizó, y describió cómo la combinación de GPU y CPU puede ofrecer una aceleración de hasta 100 veces y al mismo tiempo aumentar el consumo de energía en un factor de tres, logrando 25 veces más rendimiento por vatio que las CPU solas.
“Cuanto más se compra, más se ahorra”, señaló Huang, destacando los importantes ahorros de costos y energía de este enfoque.
La industria se une a NVIDIA para construir fábricas de IA que impulsen una nueva revolución industrial
Los principales fabricantes de computadoras, particularmente de Taiwán, el centro mundial de TI, han adoptado las GPU y las soluciones de red de NVIDIA. Las principales empresas incluyen ASRock Rack , ASUS , GIGABYTE , Ingrasys, Inventec, Pegatron , QCT, Supermicro, Wistron y Wiwynn, que están creando sistemas de inteligencia artificial en la nube, locales y de borde.
La plataforma de diseño de referencia modular NVIDIA MGX ahora es compatible con Blackwell, incluida la plataforma GB200 NVL2, diseñada para un rendimiento óptimo en inferencia de modelos de lenguaje grande, generación de recuperación aumentada y procesamiento de datos.
AMD e Intel respaldan la arquitectura MGX con planes de ofrecer, por primera vez, sus propios diseños de módulos de procesador host de CPU. Cualquier constructor de sistemas de servidores puede utilizar estos diseños de referencia para ahorrar tiempo de desarrollo y al mismo tiempo garantizar la coherencia en el diseño y el rendimiento.
Redes de próxima generación con Spectrum-X
En materia de redes, Huang reveló planes para el lanzamiento anual de productos Spectrum-X para satisfacer la creciente demanda de redes Ethernet de alto rendimiento para IA.
NVIDIA Spectrum-X, el primer tejido Ethernet creado para IA, mejora el rendimiento de la red 1,6 veces más que los tejidos Ethernet tradicionales. Acelera el procesamiento, análisis y ejecución de cargas de trabajo de IA y, a su vez, el desarrollo e implementación de soluciones de IA.
CoreWeave, GMO Internet Group, Lambda, Scaleway, STPX Global y Yotta se encuentran entre los primeros proveedores de servicios en la nube de IA que adoptan Spectrum-X para brindar un rendimiento de red extremo a sus infraestructuras de IA.
NVIDIA NIM transformará a millones de personas en desarrolladores de IA de generación
Con NVIDIA NIM , los 28 millones de desarrolladores del mundo ahora pueden crear fácilmente aplicaciones de IA generativa. NIM (microservicios de inferencia que proporcionan modelos como contenedores optimizados) se pueden implementar en nubes, centros de datos o estaciones de trabajo.
NIM también permite a las empresas maximizar sus inversiones en infraestructura. Por ejemplo, ejecutar Meta Llama 3-8B en un NIM produce hasta 3 veces más tokens de IA generativos en una infraestructura acelerada que sin NIM.
Casi 200 socios tecnológicos , incluidos Cadence, Cloudera, Cohesity , DataStax , NetApp , Scale AI y Synopsys , están integrando NIM en sus plataformas para acelerar las implementaciones de IA generativa para aplicaciones de dominios específicos, como copilotos, asistentes de código, avatares humanos digitales y más. Hugging Face ahora ofrece NIM, comenzando con Meta Llama 3 .
“Hoy acabamos de publicar en Hugging Face the Llama 3 completamente optimizado, está disponible allí para que lo pruebes. Incluso puedes llevártelo contigo”, dijo Huang. «Por lo tanto, podría ejecutarlo en la nube, ejecutarlo en cualquier nube, descargar este contenedor, colocarlo en su propio centro de datos y hospedarlo para que esté disponible para sus clientes».
NVIDIA da vida a los asistentes de IA con las PC GeForce RTX AI
Las PC RTX AI de NVIDIA , impulsadas por tecnologías RTX, están preparadas para revolucionar las experiencias de los consumidores con más de 200 computadoras portátiles RTX AI y más de 500 aplicaciones y juegos con tecnología AI.
El RTX AI Toolkit y los microservicios de inferencia NIM basados en PC recientemente disponibles para la plataforma humana digital NVIDIA ACE subrayan el compromiso de NVIDIA con la accesibilidad de la IA.
También se anunció el Proyecto G-Assist, una demostración de tecnología de asistente de IA impulsada por RTX , que muestra asistencia contextual para juegos y aplicaciones de PC.
Y Microsoft y NVIDIA están colaborando para ayudar a los desarrolladores a incorporar nuevas capacidades de IA generativa a sus aplicaciones web y nativas de Windows con fácil acceso API a SLM acelerados por RTX que habilitan capacidades RAG que se ejecutan en el dispositivo como parte de Windows Copilot Runtime.
Robótica NVIDIA adoptada por líderes de la industria
NVIDIA está encabezando el cambio de digitalización industrial de 50 billones de dólares, con sectores que adoptan operaciones autónomas y gemelos digitales: modelos virtuales que mejoran la eficiencia y reducen costos. A través de su Programa de Desarrolladores, NVIDIA ofrece acceso a NIM, fomentando la innovación en IA.
Los fabricantes taiwaneses están transformando sus fábricas utilizando la tecnología de NVIDIA, y Huang muestra el uso que hace Foxconn de NVIDIA Omniverse, Isaac y Metropolis para crear gemelos digitales, combinando visión artificial y herramientas de desarrollo de robots para instalaciones robóticas mejoradas.
“La próxima ola de IA es la IA física. Una IA que comprenda las leyes de la física, una IA que pueda funcionar entre nosotros”, dijo Huang, enfatizando la importancia de la robótica y la IA en los desarrollos futuros.
La plataforma NVIDIA Isaac proporciona un sólido conjunto de herramientas para que los desarrolladores construyan robots de IA, incluidos AMR, brazos industriales y humanoides, impulsados por modelos de IA y supercomputadoras como Jetson Orin y Thor.
“La robótica está aquí. La IA física está aquí. Esto no es ciencia ficción y se está utilizando en todo Taiwán. Es realmente emocionante”, añadió Huang.