Plataforma de datos de IA para empresas

La arquitectura NVIDIA Blackwell proporciona una potente aceleración para cargas de trabajo de IA, optimizando los procesos de procesamiento de datos para IA de agentes. Estos procesos mejoran los flujos de trabajo de ingesta, recuperación y consulta al ofrecer computación de alto rendimiento para modelos de IA a gran escala.

La DPU NVIDIA BlueField-3 acelera el acceso a los datos en todos los iniciadores, controladores y destinos de almacenamiento, lo que permite a varias GPU compartir de forma eficiente los mismos almacenes de datos. Esto optimiza el rendimiento y el acceso a datos para el razonamiento de IA, reduciendo la sobrecarga de la CPU, mejorando la disponibilidad de datos y garantizando un escalado perfecto y eficiente de cargas de trabajo de IA.

A través del enrutamiento adaptativo RDMA a través de Ethernet convergente (RoCE) y el control de congestión optimizado, NVIDIA Spectrum-X acelera el rendimiento de almacenamiento en casi un 50 % y reduce los cuellos de botella de la comunicación. Con ella, las empresas pueden escalar a la perfección aplicaciones de IA al tiempo que maximizan la utilización del sistema.

Con los Blueprints NVIDIA AI-Q, las empresas pueden desarrollar, perfilar y optimizar agentes de IA que colaboran con otros agentes y acceder a datos empresariales a escala.

NVIDIA NeMo™ Retriever mejora la IA empresarial con la generación aumentada por recuperación (RAG), que combina modelos optimizados, búsqueda vectorial y aceleración multiGPU para acelerar y escalar la recuperación de datos, mejorando la precisión de LLM en aplicaciones en tiempo real.

Los agentes de IA son la nueva fuerza de trabajo digital que revoluciona las operaciones empresariales al automatizar tareas complejas y colaborar para resolver problemas. Desarrolle, optimice y escale sistemas de agentes con el Blueprint NVIDIA AI-Q.

NVIDIA Dynamo optimiza el movimiento de datos de IA y el almacenamiento en caché para escalar la inferencia, enrutando de forma eficiente los contextos de caché de KV a las mejores GPU, memoria y ubicaciones de almacenamiento para obtener el máximo rendimiento y eficiencia.

NVIDIA-Certified Systems se amplían para incluir el almacenamiento empresarial, que sirve como base para una nueva ola de plataformas de datos de IA. El nuevo programa de certificación valida los sistemas de almacenamiento que cumplen con los rigurosos requisitos de datos para implementaciones de IA empresarial.