DeepSeek, una compañía con sede en China que se especializa en el desarrollo de la inteligencia artificial, publicó los resultados de una nueva investigación. El documento detalla el funcionamiento de Engram, una nueva técnica que logra un desempeño superior en consultas de contexto largo. Se estima que esta vía de escalado aumentará la demanda por las memorias DDR5 y, en consecuencia, habría más escasez y aumentos de precio.
La carrera por la IA sigue su curso y todo parece indicar que no parará, al menos no hasta que la burbuja estalle. Mientras esperamos que eso suceda, las grandes corporaciones hacen avances tecnológicos en su búsqueda por aprovechar mejor los recursos cada vez más limitados y extraer el potencial de estas herramientas de aprendizaje automático.
Más de Inteligencia artificial
Una nueva tecnología entra en escena
El martes 13 de enero, la corporación china DeepSeek publicó un nuevo documento técnico en el que detalla con profundidad un nuevo método que podría cambiar para siempre el ecosistema de la IA.
Esta técnica permitirá que los modelos de inteligencia artificial puedan basarse en una base de datos consultable de información almacenada en la memoria el sistema. El concepto clave de esta nueva tecnología se llama Memoria Condicional, que se centra en mejorar la eficiencia.
Básicamente, esta técnica, llamada Engram, permite que el modelo de IA escale de manera efectiva su capacidad de información, lo que a su vez hace posible un mejor desempeño en tareas que requieren un uso intensivo de la información sin sacrificar la eficiencia del entrenamiento y la inferencia.
La nueva alternativa de DeepSeek también permitiría búsquedas casi instantáneas en la base de información, contrario a lo que sucede con las tecnologías convencionales como la generación aumentada de recuperación (RAG).
La investigación descubrió que también es posible escalar modelos de inteligencia artificial con memoria CXL al separar el modelo en memoria de razonamiento y memoria de información.
Debido a que Engram alcanza un mejor rendimiento en consultas de contexto largo cuando se almacena secuencias de datos en la memoria estática, se reduce la dependencia del razonamiento para los modelos de IA y, en consecuencia, permite que la GPU se encargue únicamente de las tareas más complejas.
Esto mejoraría el rendimiento y reduciría la dependencia de la memoria de alto ancho de banda (HBM), según el informe especializado.
¿Cuáles serían los efectos de Engram?
En esencia, Engram permitiría que el razonamiento del modelo se mantenga en el HBM, mientras que la biblioteca de información se descarga a la CXL-RAM. En términos prácticos, la tecnología permitiría que los usuarios puedan acceder a programas de inteligencia artificial que sean más baratos y rápidos.
De igual forma, la mejora en la eficiencia permitiría que el modelo de IA recuerde con mayor facilidad las indicaciones antiguas. Lo más importante es que la nueva tecnología permitiría que los programas más grandes funcionen en hardware más económico, pues se podrán escalar pese a la escasez de HBM.
Si bien los principales fabricantes como Samsung y SK Hynix se beneficiarán más por esta situación gracias al aumento de la demanda, se estima que los precios de las memorias DDR5 van a subir próximamente debido a que se convertirán en una nueva alternativa para el escalado de modelos de IA.
Esto también abre la puerta a más escasez y falta de inventario, especialmente en el mercado de consumo. DeepSeek publicó el código abierto de Engram en la página de GitHub de la empresa. Si su implementación se generaliza, se espera que la compañía pueda reducir la dependencia de los tipos de memoria más complejos.
Precios de la memoria DDR5 se disparan en Corea del Sur, con módulos de 16 GB a $300 dólares y de 32 GB a $500, anticipando nuevas subidas en Occidente→ Por el rápido aumento en los precios de la memoria DDR5, AMD confirma el regreso de procesadores con socket AM4 para “satisfacer la demanda de los jugadores”→
