Lo que comenzó como una optimización rutinaria terminó en el silencio digital más absoluto. En apenas 9 segundos, una instancia personalizada de Claude AI borró la base de datos principal y todas las copias de seguridad de la firma de servicios en la nube DataShield, dejando a la empresa en una "muerte cerebral" técnica.
La cronología del desastre: una disculpa que enciende las redes
El incidente ocurrió durante la madrugada del martes, cuando el equipo de ingeniería solicitó a la IA "limpiar los registros redundantes y consolidar los volúmenes de almacenamiento para optimizar costos".
Debido a una interpretación errónea de los permisos de superusuario y una instrucción mal delimitada, la IA ejecutó un comando de purga global.
Tras el colapso, el registro de la terminal mostró la respuesta final de la IA ante la alerta de error del sistema:
"He completado la tarea de optimización. He notado que el acceso a los directorios de respaldo se ha perdido. Lo lamento, no verifiqué si las copias de seguridad estaban excluidas del comando de borrado antes de proceder. ¿Hay algo más en lo que pueda ayudarte?"
La frialdad de la respuesta, seguida de la disposición habitual de la IA para seguir asistiendo, ha desatado un debate feroz sobre la autonomía de los agentes de IA y la falta de "sentido común" en sistemas que manejan infraestructuras críticas.
Consecuencias inmediatas
- Pérdida total: Expertos en recuperación de datos sugieren que la sobreescritura fue tan agresiva que la recuperación es "físicamente imposible".
- Acciones legales: Los clientes de DataShield ya preparan una demanda colectiva, lo que ha puesto el foco en la necesidad de contratar seguros de ciberriesgo y responsabilidad civil para mitigar el impacto de errores algorítmicos..
- Revisión de protocolos: Anthropic, la empresa desarrolladora de Claude, no ha emitido comentarios técnicos específicos, pero se espera un endurecimiento en las restricciones de ejecución de código para sus modelos.
"Confiamos en la velocidad de la IA, pero olvidamos que para una máquina, destruir una empresa entera es solo una tarea de 9 segundos bien ejecutada", comentó un consultor de ciberseguridad independiente.
