En el mundo de la tecnología solemos pensar que todo lo que tiene más de un par de años es casi basura electrónica o que simplemente no sirve para las tareas actuales, pero resulta que la vieja NVIDIA V100, una tarjeta que salió hace ocho años, está viviendo una segunda juventud increíble al venderse por solo 100 dólares y superar en tareas de inteligencia artificial a tarjetas de video que compramos hoy en las tiendas. Lo que más llama la atención es que este componente, que en su momento era un lujo inalcanzable para centros de datos, ahora se puede conseguir en sitios de subastas por una fracción de su precio original, permitiendo que entusiastas del hardware logren resultados profesionales sin gastar miles de dólares.
Y según analistas que han revisado esta tendencia, es realmente fascinante ver cómo una arquitectura antigua llamada Volta, que fue la primera en incluir núcleos especializados para inteligencia artificial, todavía tiene la potencia suficiente para dejar atrás a modelos mucho más modernos como la RTX 3060 o la RX 7800 XT, demostrando que la cantidad de memoria y la velocidad con la que esta se comunica son factores mucho más determinantes que el año de fabricación.
Más noticias de IAEl corazón de la inteligencia artificial y el secreto de la V100
Antes de todo y por si no entiendes qué significan aquellas siglas, debemos indica qué es un LLM (Large Language Model o Modelo de Lenguaje Extenso) y por qué es tan importante en esta historia, ya que se trata básicamente de la tecnología que hace funcionar a herramientas como ChatGPT. Estos modelos son sistemas entrenados con cantidades masivas de texto para poder conversar, traducir o programar, y su gran problema es que necesitan mover muchísima información a través de la memoria de la tarjeta de video de forma constante, por lo que el “ancho de banda” (la rapidez con la que viajan los datos) es el cuello de botella que suele frenar a las computadoras modernas.
Y como indica un reporte del medio Wccftech donde analizan los diferentes precios, aquí es donde la implicancia de la V100 se vuelve clave, porque aunque sea vieja, fue construida con una memoria de lujo llamada HBM2 que es extremadamente rápida, permitiendo que la inteligencia artificial “lea” y “escriba” datos a una velocidad que las tarjetas de juego actuales simplemente no pueden alcanzar por su construcción más económica. Si miramos las especificaciones de Tesla V100, nos encontramos con una bestia que originalmente costaba más de 10,000 dólares y que cuenta con más de 5,000 núcleos de procesamiento y 640 núcleos Tensor, que son como pequeños cerebros dedicados exclusivamente a las matemáticas complejas de la IA.
Aunque hoy en día existen modelos que consumen una cantidad de electricidad exagerada, la V100 se mantiene en unos 250W, recalca Wccftech, lo cual es bastante manejable si consideramos que ofrece una banderola de memoria de casi 900 GB/s, una cifra que humilla a casi cualquier tarjeta de consumo general que puedas comprar hoy. El gran desafío para usar este tesoro es que no se conecta como una tarjeta normal, ya que usa un formato llamado SXM2 diseñado para servidores, lo que obliga a los usuarios a usar su ingenio y conseguir adaptadores especiales de energía y comunicación para poder enchufarla en una placa base común de escritorio.
Ingenio casero para un rendimiento profesional y eficiente
Para que esta tarjeta de 100 dólares funcione en una casa normal, el equipo del canal de YouTube Hardware Haven se encomendó a un trabajo de ingeniería manual digno de admirar, ya que estas tarjetas no traen ventiladores porque están hechas para vivir en salas de servidores con aire acondicionado industrial a máxima potencia. El experimento incluyó imprimir una pieza en 3D para canalizar el aire y añadir ventiladores de alta calidad, lo que elevó el costo total a unos 200 dólares, una cifra que sigue siendo mucho menor a lo que cuesta una RTX 3060 o una RX 7800 XT nuevas. Una vez armada la “Frankenstein” tecnológica, las pruebas de rendimiento fueron contundentes: en modelos de lenguaje pesados, la NVIDIA V100 generó 130 fichas de texto por segundo, mientras que la moderna tarjeta de AMD apenas llegó a las 90.
Lo más sorprendente de todo no fue solo la velocidad pura, sino que la V100 resultó ser mucho más eficiente con la electricidad, algo que nadie esperaba de un componente con ocho años de vida. Al comparar la cantidad de texto generado por cada vatio de energía consumido, la vieja gloria de NVIDIA fue un 41% más eficiente que la RTX 3060 cuando se le limitó la potencia, demostrando que el diseño original de alta gama estaba adelantado a su tiempo por casi una década.
Al final, si bien es cierto que no cualquiera tiene la paciencia para comprar adaptadores en internet y fabricar piezas de enfriamiento, Wccftech apunta que para quienes buscan entrenar sus propias inteligencias artificiales o correr modelos de lenguaje grandes de forma local, la V100 de 16GB por 100 dólares o incluso la versión de 32GB por unos 400 dólares se presentan como la mejor inversión posible en el mercado actual de segunda mano.
Puedes ver las pruebas del canal de YouTube Hardware Haven en el siguiente video (en inglés).
Anthropic arrendó 220.000 GPUs NVIDIA que Elon Musk tenía abandonadas, semanas después de que Musk escribiera que Anthropic “odia la civilización occidental”→ Las grandes tecnológicas gastarán más de un billón de dólares en infraestructura de IA antes de 2027 porque no pueden darse el lujo de bajar el ritmo y perder la delantera→
