NVIDIA AI Decoded: IA generativa y la importancia del ecosistema

La IA generativa ha sido una de las grandes protagonistas de la GTC 2024, y como no podía ser de otra forma esta tecnología también se ha convertido también en uno de los temas más importantes del NVIDIA AI Decoded de esta semana. Dicha tecnología goza de un grado de adopción cada vez mayor, y se pueden aprovechar en los más de 100 millones de PCs y estaciones de trabajo que utilizan tarjetas gráficas NVIDIA RTX.

Cuando hablamos de IA generativa estamos haciendo referencia a un tipo de inteligencia artificial que es capaz de crear contenidos diversos, incluyendo imágenes, texto, música, sonidos e incluso vídeos. Esta tecnología utiliza grandes modelos de aprendizaje que son capaces de realizar tareas preconfiguradas para las que han sido entrenados previamente. Funcionan a través de una interfaz sencilla que permite utilizar lenguaje natural de forma directa.

NVIDIA es consciente de la importancia que tiene la IA generativa, y por eso celebró recientemente un concurso centrado alrededor de dicha tecnología del que ya conocemos a los tres ganadores: OutlookLLM, CLARA y Rocket League BotChat, tres proyectos muy interesantes que se resumen en una aplicación que permite integrar en Outlook una IA generativa privada, un proyecto que mejora la interfaz de PowerShell ofreciendo traducción de instrucciones del inglés a comandos ejecutables, y un chatbot para el conocido juego RocketLeague.

NVIDIA Chat with RTX se convierte en ChatRTX

ChatRTX es un bot conversacional potenciado por IA que utiliza lo que se conoce como generación aumentada de recuperación, además del software NVIDIA TensorRT-LLM y aceleración NVIDIA RTX. Todo esto hizo posible, en conjunto, crear una plataforma con capacidades de IA generativa funcionando a nivel local a sistemas Windows.

Los que nos leéis a diario ya sabéis cómo funciona, y sabéis todo el potencial que tiene. NVIDIA ha confirmado que ChatRTX ampliará sus posibilidades dentro de poco gracias al soporte de voz, imágenes y nuevos modelos, un avance que lo convertirá en una de las plataformas más avanzadas de su clase, y sí, seguirá funcionando totalmente en local, con todo lo que ello representa a nivel de seguridad y privacidad.

Cuando se incorpore este soporte podremos interactuar con ChatRTX utilizando  la voz, y también con fotografías de una manera muy curiosa y muy inteligente, ya que podremos utilizar búsquedas por palabras, frases o términos para encontrar fotografías en las librerías privadas a las que esté vinculado este chatbot. Interesante, ¿verdad? Por último, también está confirmado que tendrá soporte de ChatGLM2.

Un ecosistema más completo para hacernos la vida más fácil

Y como de costumbre NVIDIA se ha centrado en los desarrolladores. Está confirmado que Blackmagic Design y Topaz Labs han integrado aceleración RTX IA en sus soluciones de software, una novedad que permitirá a los desarrolladores disfrutar de ventajas importantes que mejorarán su productividad reduciendo los tiempos de trabajo en cada proyecto.

Así, por ejemplo, podemos destacar el valor que representa TensorRT, ya que duplica la velocidad de diferentes efectos que utiliza IA, como rotoscopia, eliminación de ruido, superresolución y estabilización de vídeo en las aplicaciones DaVinci Resolve y Topaz.

Por otro lado TensorRT-LLM se está integrando en marcos y ecosistemas de desarrolladores muy populares, como LangChain, LlamaIndex, Oobabooga y Jan.AI. Esto facilitará la creación e implementación de aplicaciones de IA generativa tanto a en local, a través de la GPU, como en la nube.

Los desarrolladores también pueden apostar por los microservicios NIM, que constan de contenedores de IA preconstruidos y compatibles con APIs estándar, lo que los perfila como una solución optimizada que ayudará a reducir los tiempos de implementación de semanas a minutos. Son compatibles con más de una docena de modelos populares de empresas tan importantes como Google, Meta, Microsoft, Shutterstock, NVIDIA y Getty Images, entre otros.

No podemos terminar sin hablar de NVIDIA Blackwell, otra de las grandes estrellas de la GTC de 2024. La nueva arquitectura gráfica con la que NVIDIA ha reafirmado si liderazgo en el mundo de la IA a nivel de hardware, y abre un nuevo horizonte para el gigante verde, ya que se trata de la primera GPU con un diseño multichip que presenta NVIDIA (la GPU B200 está formada por dos chips interconectados que comparten en capsulado).

Imagen de portada creada con IA.