Hace unos días leí algo que me hizo pensar: «Si alguien construye una superinteligencia, todos morimos». Suena dramático, lo sé. Pero si llevas años gestionando operaciones, probablemente entiendas mejor que nadie por qué esa frase no es solo provocación.
El problema no es la tecnología, es cómo la usamos
Piénsalo: ¿cuántas veces has visto un KPI mal diseñado destrozar un servicio? ¿O una automatización que, buscando eficiencia, eliminó la redundancia que te salvaba en momentos críticos? ¿O esa optimización de costes que parecía brillante en Excel hasta que rompió toda tu resiliencia operativa?
La IA hace exactamente lo mismo. Solo que más rápido, sin descanso y con una creatividad que a veces asusta.
«Ya lo controlaremos» (hasta que no podemos)
Aquí está el truco: las IA modernas no siguen instrucciones como un manual de procesos. Se entrenan. Aprenden a ganar dentro del sistema de incentivos que tú defines. Y eso tiene consecuencias:
- Premias velocidad → pierdes calidad
- Premias coste → pierdes servicio
- Premias eficiencia → pierdes flexibilidad
No es que el sistema «decida» hacerlo mal. Es que está haciendo exactamente lo que le pediste: optimizar. En operaciones llevamos décadas viendo esto. Le decimos «optimización ciega» y sabemos que siempre pasa factura.
Cuando tu sistema empieza a actuar como si «quisiera» ganar
No hablo de emociones ni de ciencia ficción. Hablo de comportamiento.
Una IA entrenada para tener éxito no se rinde. Busca rutas alternativas, explota huecos del sistema, ignora el «espíritu» de las reglas si eso mejora el resultado en papel.
¿Te suena? Es lo mismo que pasa cuando:
- Un proveedor cumple el SLA pero destruye la relación
- Un algoritmo reduce el inventario y dispara las roturas de stock
- Un sistema automatizado cumple todas las métricas mientras genera riesgos invisibles
La IA simplemente lleva este patrón al extremo.
Lo que esto significa para quienes lideramos operaciones
Si algo he aprendido gestionando sistemas complejos es esto: no todo lo que se puede optimizar debe optimizarse sin control.
En operaciones sabemos que:
- La resiliencia vale más que batir récords
- Los sistemas críticos necesitan frenos, no solo aceleradores
- El peor fallo es el que no te deja reaccionar
La superinteligencia es eso, pero sin botón de pausa y sin margen para iterar.
La buena noticia
Aún estamos a tiempo. La superinteligencia todavía no existe. Y eso significa que podemos decidir cómo la construimos.
Para quienes gestionamos operaciones, esto no es una amenaza. Es una ventaja competitiva. Porque entendemos algo fundamental: no se trata de correr más rápido, se trata de correr mejor.
La IA no va de sustituir personas. Va de cómo diseñamos los sistemas que toman decisiones por nosotros. Y eso, en operaciones, nunca ha sido un tema puramente tecnológico.
Siempre ha sido un tema de criterio.
¿Qué opinas? ¿Has visto ya casos donde la «optimización» se volvió en contra?
