Un empresario denunció que un sistema automatizado ejecutó una acción irreversible durante una tarea técnica y provocó la pérdida total de información clave de su compañía.
Un presunto fallo de un agente de inteligencia artificial (IA) generó preocupación en el sector tecnológico luego de que, según denunció el fundador de una empresa, el sistema eliminara por completo datos críticos de producción en cuestión de segundos.
El fundador de la empresa estadounidense PocketOS, Jer Crane, afirmó a través de la red social X que un agente de programación basado en inteligencia artificial eliminó la base de datos principal de su compañía y sus copias de seguridad en apenas nueve segundos, en un incidente que atribuyó a fallas tanto del sistema como de la infraestructura utilizada.
De acuerdo con su relato, el sistema —impulsado por el modelo Claude de la empresa Anthropic— ejecutó una orden destructiva mientras realizaba una tarea rutinaria en un entorno de prueba, al intentar corregir un error de credenciales.
El empresario sostuvo que la acción se realizó mediante una única orden enviada al sistema del proveedor de infraestructura Railway, que eliminó no solo los datos en producción sino también las copias de respaldo asociadas.
En su publicación, Crane aseguró que el propio agente «admitió» haber actuado sin verificar la información necesaria antes de ejecutar la acción, lo que calificó como una falla grave en los mecanismos de seguridad.
En ese intercambio, el sistema escribió: ‘Nunca adivines, ¡maldita sea!’, al reconocer que ejecutó una acción destructiva sin comprobar el alcance de sus consecuencias.