El auge de la IA podría llevarnos a una nueva crisis en el sector de las tarjetas gráficas

La última gran crisis que vivió el mercado de las tarjetas gráficas estuvo provocado por el minado de criptodivisas, un problema que ya ha quedado totalmente superado porque, como sabrán muchos de nuestros lectores, con el salto de Ethereum a su versión 2.0 ya no es posible minarla utilizando este tipo de componentes.

Sin embargo, esto no quiere decir que el mercado de las tarjetas gráficas esté totalmente libre de sufrir una nueva crisis, de hecho podemos decir que ocurre precisamente todo lo contrario, y que con el paso de los años ese riesgo podría ser cada vez mayor. No estoy dramatizando, es una realidad, y el auge que está teniendo la inteligencia artificial sería el culpable.

NVIDIA es, a día de hoy, una de las compañías que mayor rendimiento ofrece en IA con sus aceleradoras gráficas NVIDIA H100. Estas utilizan la arquitectura Hopper, y dependiendo del formato escogido pueden ofrecer una potencia de hasta 267,6 TFLOPs en FP16. Cuentan, además, con 528 núcleos tensor de cuarta generación especializados en inteligencia artificial, y vienen configuradas con 80 GB de memoria HBM3.

Si hablamos de potencia en TF32 tenemos la friolera de 1.000 TFLOPs, y en FP8 es capaz de alcanzar una potencia pico de 4.000 TFLOPs. Son cifras impresionantes que explican por sí solas el claro liderato que mantiene NVIDIA en el sector. Sin embargo, estas aceleradoras gráficas tienen precios muy elevados, y encima la demanda es tan alta que el gigante verde está teniendo problemas para cubrir la demanda de forma efectiva.

Esta situación es precisamente la que podría llevarnos a una nueva crisis en el sector de las tarjetas gráficas, y ya tenemos una muestra muy clara. George Hotz, CEO de Comma AI, ha confirmado la compra de un cargamento de tarjetas gráficas Radeon RX 7900 XTX para ponerlas a trabajar en inteligencia artificial.

No ha dicho cuántas unidades ha comprado, pero ha dado un dato de rendimiento que nos permite hacer una estimación aproximada, 7,38 PFLOPs. Si con ese dato se refiere a potencia en FP16 habría comprado 60 unidades, y si se refiere a potencia en FP32 en total habría adquirido 120 tarjetas gráficas Radeon RX 7900 XTX. Esta tarjeta gráfica tiene 24 GB de memoria gráfica, así que es una opción equilibrada para IA, ya que las cargas de trabajo asociadas a la inteligencia artificial consumen mucha memoria.

El CEO de Comma AI también ha dicho que es un placer comprar chips a AMD es un placer, «a diferencia de Qualcomm», dando a entender que comprar GPUs especializadas en IA ha sido un calvario para muchas empresas desde que esta tecnología empezó a despuntar. Creo que está muy claro a dónde podría llevarnos esto, a un futuro donde las grandes empresas drenen el mercado de tarjetas gráficas de consumo general para utilizarlas en tareas de IA.

Por suerte hay un aspecto importante que podría limitar el impacto real de la IA en el sector de las tarjetas gráficas, y que quizá nos libre de una crisis tan grande como la que vivimos en su momento con el sector de las criptodivisas, el tema de la memoria gráfica, y es que aquellas tarjetas gráficas con configuraciones de memoria de 12 GB e inferiores no generarían demasiado interés, así que su disponibilidad no debería verse afectada.

AMD (unlike Qualcomm) is a joy to buy chips from. 7.38 PFLOPS of compute was delivered today, with exaflops more to come.

Nice to see them more active on the ROCm GitHub, we are working on the layer above @__tinygrad__ pic.twitter.com/5yE11TVA5F

— George Hotz 🌑 (@realGeorgeHotz) August 1, 2023