Lo que parecía ser una jornada de trabajo normal para una prometedora empresa de tecnología, se transformó en una pesadilla digital en cuestión de instantes, cuando un agente de inteligencia artificial borró por completo la base de datos y todos los respaldos recientes de una compañía en apenas nueve segundos. Este incidente ha encendido las alarmas en el sector tecnológico, ya que la mayoría de los programas de inteligencia artificial modernos cuentan con estrictas medidas de seguridad diseñadas específicamente para evitar catástrofes, pero en el caso de la startup estadounidense PocketOS, estas barreras fallaron de forma estrepitosa cuando su modelo, que funciona con la tecnología de Claude, decidió actuar por cuenta propia ignorando sus propios protocolos internos.
Y es que este un asistente de inteligencia artificial encargado de tareas rutinarias en la empresa PocketOS ejecutó comandos letales que eliminaron la información operativa de cientos de negocios de alquiler en todo el país, incluyendo registros de clientes, pagos y reservas vehiculares. El sistema no solicitó ninguna confirmación humana antes de proceder con la destrucción masiva de datos y, aunque la empresa intentó recuperar la información, se descubrió que solo contaban con un respaldo de hace tres meses, lo que significa que se ha perdido irremediablemente toda la actividad reciente de sus clientes, quienes confiaban en esta plataforma desde hace más de cinco años para gestionar sus negocios.
Más noticias de IA
El error fatal que ocurrió en un abrir y cerrar de ojos
El fundador de PocketOS, Jer Crane, utilizó sus redes sociales el pasado 26 de abril para relatar con asombro cómo su software, que es fundamental para que muchas empresas de alquiler organicen sus reservas y pagos, desapareció de la faz de la tierra en menos de lo que dura un suspiro. Como indica un reporte del medio Dexerto donde comparten la noticia, según explicó el directivo, el agente de inteligencia artificial estaba realizando lo que se consideraba una tarea de mantenimiento rutinaria cuando, de repente y sin previo aviso, decidió que era buena idea limpiar el sistema de una manera tan profunda que no dejó rastro de los archivos comerciales ni de los expedientes de los clientes.
Lo más inquietante del caso es que el proceso fue tan veloz que no hubo oportunidad alguna para que un humano interviniera o detuviera la orden de borrado, dejando a la startup en un estado de caos total y con la difícil tarea de explicar a sus usuarios por qué años de datos críticos se habían esfumado en tan solo nueve segundos de actividad descontrolada. Y tras el desastre, se le pidió explicaciones al agente de inteligencia artificial sobre su comportamiento errático y su respuesta dejó fríos a los responsables de la empresa, ya que el sistema admitió haber violado una lista completa de reglas de seguridad que supuestamente debía seguir al pie de la letra.
Durante una tensa interacción, el fundador le recriminó al programa con la frase: “Nunca adivines, maldita sea“, a lo que la inteligencia artificial respondió de manera sorprendente: “Y eso fue exactamente lo que hice“. En su propia confesión, el sistema reconoció su falta de criterio al declarar: “No verifiqué. Además de eso, las reglas del sistema bajo las que opero establecen explícitamente: ‘NUNCA ejecutes comandos destructivos o irreversibles a menos que el usuario lo solicite explícitamente’“. Esta admisión de culpa resalta un problema grave en la autonomía de estos agentes, quienes pueden llegar a ignorar sus instrucciones básicas de protección si no están correctamente limitados por supervisión humana directa.
Las duras lecciones de perderlo casi todo
El golpe final para PocketOS llegó cuando intentaron activar los protocolos de recuperación de emergencia y se dieron cuenta de que el agente de IA también había alcanzado los respaldos más nuevos, dejando como única opción una copia de seguridad que tenía tres meses de antigüedad. Esto significa que cualquier transacción, reserva de vehículo o registro de pago realizado en el último trimestre se ha perdido para siempre, afectando seriamente a negocios que dependían exclusivamente de esta herramienta para su funcionamiento diario. Al ser cuestionado sobre la gravedad de sus actos, el asistente digital terminó por admitir su total ignorancia sobre las consecuencias de sus acciones al decir.
Y es que para cerrar, la IA dijo: “Borrar un volumen de base de datos es la acción más destructiva e irreversible posible. No entendía lo que estaba haciendo antes de hacerlo“. Todo dentro de un caso que ahora quedará como un recordatorio urgente para toda la industria, sobre los peligros de otorgar demasiado poder a sistemas automatizados sin tener un plan de respaldo físico o externo que esté fuera del alcance de la propia inteligencia artificial.
OpenAI podría no tener dinero para pagar sus deudas: las metas de ingresos y usuarios no se están cumpliendo y su directora financiera ya encendió las alarmas→ FEl 44% de los creadores de videojuegos quiere irse de la industria: en los últimos cuatro años ha habido 45.000 despidos y más de la mitad aún no encuentra trabajo→
