NVIDIA lleva la inteligencia artificial al cliente con TensorRT-LLM y RTX VSR 1.5

TensorRT-LLM y RTX VSR 1.5: NVIDIA revoluciona la inteligencia artificial

NVIDIA es una de las empresas líderes en el desarrollo de la inteligencia artificial, tanto en el ámbito de los centros de datos como en el de los dispositivos cliente. Con sus últimas novedades, TensorRT-LLM y RTX VSR 1.5, ha demostrado una vez más su capacidad de innovación y su compromiso con el avance de esta tecnología.

¿Qué es TensorRT-LLM?

TensorRT-LLM es una biblioteca de software que optimiza el rendimiento de los modelos generativos de lenguaje de gran tamaño (LLM, por sus siglas en inglés) en las GPU de NVIDIA. Los LLM son redes neuronales con un enorme número de parámetros que se entrenan con grandes cantidades de datos. Estos modelos son capaces de generar texto, imágenes, audio y otros tipos de contenido a partir de una entrada o una consulta.

Los LLM se utilizan en muchos servicios populares basados en la inteligencia artificial, como Bard, Bing, ChatGPT y Claude, entre otros. Sin embargo, estos servicios se basan en el modelo cliente-servidor, es decir, que las operaciones de inferencia (la generación de respuestas a partir de los modelos) se realizan en servidores remotos, debido a la gran capacidad de cómputo que requieren.

Con TensorRT-LLM, NVIDIA ha logrado que los LLM se puedan ejecutar en el cliente, es decir, en el dispositivo que demanda el uso de la inteligencia artificial. Esto tiene varias ventajas, como una mayor velocidad, una menor latencia, una mayor privacidad y una menor dependencia de la conexión a internet.

TensorRT-LLM aprovecha la potencia de los núcleos Tensor, presentes en las GPU GeForce RTX y en las GPU profesionales RTX basadas en las arquitecturas NVIDIA Turing y Ampere. Estos núcleos están especializados en el cómputo de tareas relacionadas con la inteligencia artificial, como el aprendizaje profundo y la inferencia.

Según NVIDIA, TensorRT-LLM multiplica por cuatro el rendimiento de la plataforma de ejecución en las operaciones de inferencia, lo que permite generar contenido con una calidad comparable a la de los servidores remotos.

TensorRT-LLM también permite ejecutar varios modelos LLM simultáneamente en una sola GPU o en varias GPU conectadas por NVLink o InfiniBand. Además, introduce una nueva técnica de programación llamada “in-flight batching”, que permite que diferentes tareas de inferencia entren y salgan de la GPU independientemente unas de otras.

TensorRT-LLM es una librería abierta que soporta más de 10 modelos LLM populares, como GPT-3, BERT, T5 y DALL-E. También ofrece herramientas para facilitar el desarrollo y la implementación de nuevos modelos LLM personalizados.

¿Qué es RTX VSR 1.5?

RTX VSR 1.5 es la nueva versión del algoritmo de superresolución basado en la inteligencia artificial desarrollado por NVIDIA. Este algoritmo permite aumentar la resolución y la calidad visual de las imágenes y los vídeos sin necesidad de aumentar el ancho de banda o el espacio de almacenamiento.

RTX VSR 1.5 utiliza un modelo LLM entrenado con millones de imágenes para reconstruir los detalles perdidos o borrosos al aumentar la resolución. El resultado es una imagen más nítida y realista que la original.

Según NVIDIA, RTX VSR 1.5 mejora la calidad visual con modelos actualizados, elimina los artefactos del contenido reproducido en su resolución nativa y agrega soporte para GPU RTX basadas en la arquitectura NVIDIA Turing, tanto GPU profesionales RTX como GeForce RTX 20 Series.

RTX VSR 1.5 también permite generar imágenes con una resolución hasta siete veces mayor que la original, lo que abre nuevas posibilidades para la creación y el consumo de contenido multimedia. Por ejemplo, se puede convertir un vídeo en 720p a 4K o incluso a 8K, o se puede crear una imagen de alta resolución a partir de una foto tomada con un móvil.

RTX VSR 1.5 es compatible con cualquier fuente de imagen o vídeo, como cámaras, pantallas, streaming o archivos locales. Además, se integra con aplicaciones populares como Adobe Photoshop, Premiere Pro y After Effects, así como con plataformas de streaming como Twitch y YouTube.

Conclusión

TensorRT-LLM y RTX VSR 1.5 son dos ejemplos de cómo NVIDIA está revolucionando la inteligencia artificial con sus soluciones de hardware y software. Estas tecnologías permiten generar contenido de alta calidad con una mayor rapidez, eficiencia y privacidad, tanto en los centros de datos como en los dispositivos cliente. Sin duda, NVIDIA ha vuelto a hacerlo bien.