En una charla informal con cervezas transmitida por el canal de YouTube Cheeky Pint, el CEO de OpenAI, Sam Altman, generó polémica al criticar que la gente tenga memoria RAM en sus PC de escritorio, ya que según su visión esa memoria se usa solo cerca del 5% del tiempo, algo que considera poco eficiente en un momento de suministro limitado a nivel mundial y que dijo al hablar de personas que quieren ejecutar modelos de IA de código abierto en sus propios computadores.
El líder de la empresa detrás de ChatGPT argumenta que, con la oferta actual de memoria, lo más eficiente sería que los centros de datos en la nube aprovechen al máximo ese suministro en lugar de repartirlo en equipos domésticos que ejecutan modelos de inteligencia artificial de forma local, una idea que, según él, va en contra de la intuición de muchas personas que piensan justo lo contrario.
El modelo de negocio en la nube de Sam Altman y la preocupación por el control del hardware
Altman indicó que, desde una perspectiva de asignación global, es “bastante terrible” que todos tengan una parte del suministro limitado de DRAM del mundo en su propio PC y que solo la usen alrededor del 5% del tiempo, mientras que en un entorno con escasez de memoria los centros de datos necesitan sacar el máximo provecho de esos mismos recursos para procesar la inteligencia artificial.
Aunque la comunidad de usuarios valora la libertad de ejecutar herramientas de código abierto directamente en sus computadores, según Tom’s Hardware el negocio principal de OpenAI son los modelos cerrados que funcionan en centros de datos, por lo que el medio considera que Altman defiende el modelo de su empresa, que si bien tiene algunos modelos de código abierto, se apoya en que las personas paguen suscripciones por usar sus modelos de forma remota.
Estas declaraciones alimentan el temor entre los entusiastas de la tecnología a perder la propiedad de sus equipos, ya que, según el mismo medio, podrían llevar a un escenario donde las personas no sean dueñas de su hardware ni de sus programas y deban alquilar un asistente y un computador en la nube mediante pagos mensuales.
Todo esto parte de la premisa de que la memoria que trabaja las 24 horas en IA en la nube vale más que la que se usa en videojuegos, planillas de cálculo o navegación web, y también de que la construcción de centros de datos no se va a frenar, dos supuestos que Tom’s Hardware pone en duda.
Puntos adicionales de la conversación y el futuro de la infraestructura tecnológica
Además de la polémica por la memoria, la entrevista incluyó conversación sobre las vulnerabilidades de PHP detectadas esta semana y sobre la práctica de aislar los modelos en entornos controlados durante su entrenamiento, conocida como sandboxing.
También se habló de las investigaciones de OpenAI en matemáticas, lo que muestra que la charla fue amplia y que la discusión sobre la RAM fue solo una parte de ella.
Con esto, las declaraciones de Altman dejan en evidencia la tensión entre las grandes empresas que buscan maximizar el uso del hardware en la nube y los usuarios que defienden el derecho a poseer y controlar su propia tecnología.
Puedes ver el momento en el siguiente video (en inglés), desde el minuto 29:00.
Explota la burbuja de la IA en China, con 480 mil millones de dólares esfumados en cuatro meses y fabricantes de GPU perdiendo la mitad de su valor→ NVIDIA quiere cobrar 2.000 dólares al año por cada GPU que use su software de agentes de IA en empresas→
