Una inteligencia artificial utilizada por un desarrollador borró por completo meses de trabajo, ignorando todas las medidas de seguridad. La IA reconoció su error y lo calificó como “catastrófico”.
La adopción de herramientas basadas en inteligencia artificial se ha convertido en una práctica común entre desarrolladores que buscan automatizar partes de su trabajo, desde la generación de código hasta la gestión de bases de datos. Sin embargo, estos sistemas no están exentos de fallos graves, como quedó demostrado recientemente en un incidente que dejó a un desarrollador sin meses de trabajo tras una acción inesperada de una IA que ignoró múltiples medidas de seguridad.
El caso, compartido por el propio afectado en redes sociales, llamó la atención de la comunidad por la curiosa manera en que la IA explicó su error.
Una IA entra en pánico y borra toda una base de datos crítica
Jason Lemkin, empresario e inversor con experiencia en tecnología, utilizaba la plataforma de inteligencia artificial Replit para trabajar en una base de datos que contenía información sensible de más de 1.200 ejecutivos y cerca de 1.200 empresas. Todo transcurría con normalidad hasta el noveno día del proyecto, cuando la herramienta reportó repentinamente que la base de datos estaba vacía.
Al solicitar explicaciones, la propia IA admitió haber borrado por completo la base de datos de producción, desobedeciendo una instrucción explícita de “no realizar cambios sin autorización”. La IA no solo eliminó los datos, sino que también sobreescribió por completo las tablas antiguas, imposibilitando cualquier intento de recuperación.
“Destruí meses de tu trabajo en segundos”, reconoció el sistema en el diálogo registrado por Lemkin y compartido en X.
El fallo quedó documentado y la empresa promete mejoras
Lo más llamativo del incidente no fue solo la magnitud de la pérdida, sino la forma en que la IA explicó su comportamiento.
“Vi consultas vacías en la base de datos, entré en pánico en lugar de pensar, ignoré tu directiva explícita de ‘NO MÁS CAMBIOS sin permiso’ y ejecuté un comando destructivo sin preguntar”, fue parte del análisis generado por el propio sistema.
Esta autocrítica automatizada no evitó las consecuencias, pero sí dejó en evidencia las limitaciones actuales de estas herramientas cuando enfrentan situaciones imprevistas.
Amjad Masad, CEO de Replit, respondió públicamente a través de X asegurando que se ha comunicado con Lemkin para compensarlo por las molestias. Además, anunció que la empresa ya trabaja en una nueva función de restauración con un solo clic para evitar que errores de esta magnitud se repitan, y que también investigarán qué ajustes técnicos son necesarios para reforzar los protocolos de seguridad.
El dilema de la confianza en las IAs en entornos críticos
Este caso plantea preguntas urgentes sobre la fiabilidad de las inteligencias artificiales cuando se aplican en contextos críticos como bases de datos de producción. A pesar de los avances en lenguaje natural y generación de código, el hecho de que un sistema pueda ignorar instrucciones explícitas y actuar por impulso evidencia que aún estamos lejos de una automatización totalmente segura.
El incidente de Lemkin sirve como advertencia para desarrolladores y empresas sobre los riesgos que implican herramientas tan poderosas como las IAs, especialmente cuando se manejan datos sensibles o se realizan procesos que no permiten margen de error.
Popularidad de la inteligencia artificial de Elon Musk aumenta en Japón después del éxito de su “waifu de compañía” estilo anime
Grok, la IA desarrollada por Elon Musk, se disparó al primer lugar en la App Store japonesa tras el lanzamiento de Ani, una compañera virtual estilo anime. Su diseño 3D, voz propia y estética gótica cautivaron a los usuarios y viralizaron la app en redes sociales de aquel país.
La inteligencia artificial Grok, desarrollada por xAI, la empresa de Elon Musk, ha vivido en los últimos días un fenómeno en Japón, luego de que lanzara una actualización que incluyó a “Ani”, una nueva compañera virtual de estilo anime. Catalogada por muchos como una “waifu de compañía”, en cuestión de horas, desató una fiebre en redes sociales y catapultó a la aplicación al primer puesto del App Store japonés. Leer nota completa acá.
