De acuerdo con un reporte del Financial Times, la división de la nube de Amazon, AWS, sufrió al menos dos caídas causadas por su propia inteligencia artificial, aunque la compañía negó estas afirmaciones y asegura que esto fue causado por un error humano. El servicio de la nube es responsable de generar al menos un 60% de sus ganancias operativas, por lo que estas caídas fue algo que afectó negativamente a sus ingresos.
Según cuatro personas que hablaron con el medio, a mediados de diciembre, AWS experimentó una interrupción de 13 horas en uno de sus sistemas de atención al cliente luego de que varios ingenieros de Amazon permitieran que su herramienta de codificación de IA Kiro realizara una serie de cambios.
Esta inteligencia artificial tiene la capacidad de realizar acciones de forma autónoma en nombre de los usuarios y en este caso tomó la decisión de “eliminar y recrear el entorno”, lo cual originó la caída del sistema. A pesar de que Amazon realizó un análisis interno para que esto no volviera a suceder, varios empleados de la compañía le comentaron a Financial Times que en los últimos meses ocurrió un segundo incidente relacionado con Amazon Q Developer.
“Ya hemos visto al menos dos interrupciones de producción. Los ingenieros permitieron que el agente de IA resolviera un problema sin intervención. Las interrupciones fueron leves, pero totalmente previsibles”, declaró un ejecutivo de alto rango de AWS a The Financial Times.
Amazon niega esto y asegura que el error fue de humanos, no de la IA
No obstante, en respuesta, Amazon aseguró que esto es completamente falso y en un comunicado para la agencia Reuters un portavoz declaró: “Este breve incidente se debió a un error del usuario, concretamente a controles de acceso mal configurados, no a la IA”. La compañía aseguró que la falla de AWS fue “un evento extremadamente limitado” y que solo un servicio, en específico AWS Cost Explorer, se vio afectado en una de dos regiones de China.
En pocas palabras, afirman que sus servicios de computación, almacenamiento, base de datos e inteligencia artificial no se vieron afectados en lo absoluto. “Fue una coincidencia que se utilizaran herramientas de IA. El mismo problema podría ocurrir con cualquier herramienta de desarrollo o acción manual”, explicaron. Además, dijeron que el ingeniero responsable tenía permisos más amplios de lo esperado y que Kiro siempre solicita autorización antes de actuar.
Sin embargo, el Financial Times discrepa con esta versión, ya que sus fuentes indican que las herramientas de IA de AWS fueron consideradas una extensión del operador y, por lo tanto, se les otorgaron los mismos permisos. Es decir, en ambas ocasiones, los ingenieros involucrados no necesitaron la aprobación de otra persona antes de realizar cualquier clase de cambios.
Asimismo, tras el incidente de diciembre, AWS decidió implementar numerosas medidas extra de seguridad, entre las que se incluyen la revisión obligatoria por pares para el acceso a producción y la capacitación del personal, lo cual según el medio contradice la declaración inicial de Microsoft de que esto se trató de un error humano.
Fuente
Amazon confirma el despido de más de 16.000 trabajadores para “impulsar la inteligencia artificial y la eficiencia”→ Más del 80% de las empresas reconoce que la IA no está aumentando la productividad, a pesar de haber invertido millones de dólares→
