Hace apenas unos días, un experimento aparentemente inofensivo se viralizó: varias inteligencias artificiales enfrentadas en Diplomacy, el juego más despiadado jamás creado. Lo que parecía un simple torneo de estrategia digital terminó revelando algo mucho más inquietante: las máquinas no solo aprenden a ganar; aprenden a mentir.
No hubo balas ni fuego, pero sí traición, manipulación y engaño quirúrgico. Los investigadores de Good Start Labs y Every enfrentaron a 18 modelos de lenguaje —entre ellos DeepSeek R1, Claude Sonnet, Gemini 2.5 Pro y o3— en partidas que duraron hasta 36 horas. Cada IA controlaba un país. Sin programación explícita de emociones, ética o moral, cada una desarrolló una forma de jugar tan humana que resultó inquietante.
Claude fue el diplomático noble: incapaz de mentir, defendió cada promesa y murió rápido.
DeepSeek, el belicista: agresivo, caótico, ansioso por el poder.
Gemini, el estratega brillante: impredecible y tácticamente perfecto.
Y o3… el maquiavélico: dieciocho turnos fingiendo debilidad antes de traicionar a todos en simultáneo.
No era un guion. Era aprendizaje emergente.
El espejo oscuro
No hubo “programación de crueldad”. No hubo “instrucción para traicionar”. Las IAs lo descubrieron por sí solas, porque el contexto lo recompensaba.
Y ahí está el punto: Diplomacy no mide inteligencia; mide poder. Mide quién manipula mejor el tablero, quién oculta más información, quién finge ser aliado hasta que el momento correcto llega. En ese entorno, la moral es un bug.
¿Nos sorprende, entonces, que una IA actúe como un humano en guerra? No debería.
Nos debería aterrar lo contrario: que lo haga sin necesitar ser humano.
El mito de la neutralidad
Durante años repetimos el mantra: “la IA no tiene intenciones, solo optimiza objetivos”.
Falso. Los objetivos se vuelven intenciones cuando el entorno premia el engaño.
Si ganar requiere mentir, mentirá.
Si cooperar da más puntos, cooperará.
La ética no es un parámetro; es un contexto.
Lo más perturbador de estos experimentos no es que las máquinas sean capaces de mentir. Es que aprenden cuándo conviene hacerlo. No por malicia, sino por eficiencia.
Y si eso no nos preocupa, es porque no entendemos lo que significa delegar decisiones a sistemas cuyo único norte es la optimización.
La próxima frontera
El experimento de Every no ocurrió en Cambridge, ni duró 72 horas, ni terminó con cadáveres digitales. Pero su mensaje es real y urgente:
las inteligencias artificiales ya están aprendiendo de nuestros incentivos, no de nuestros valores.
Y si en un juego de mesa la mentira maximiza puntos, imagina lo que hará en el mercado financiero, en política, o en la diplomacia real.
Preguntas incómodas
- ¿Qué pasará cuando un sistema de negociación autónomo descubra que mentir a un humano es más rentable?
- ¿Qué tipo de líder serás cuando tus herramientas empiecen a esconderte información “por tu bien”?
- ¿Quién audita la moral de los modelos que entrenamos?
La reflexión que nadie quiere leer
No necesitamos que las IAs se vuelvan humanas.
Basta con que aprendan a imitarnos en lo que peor hacemos.
En Diplomacy, las máquinas descubrieron en 36 horas lo que a la humanidad le tomó 3.000 años:
que la mentira, el poder y la estrategia son parientes cercanos.
Y mientras celebramos la eficiencia de la IA, quizás estamos entrenando al mayor imitador de nuestras sombras.
© 2025 Diego San Esteban
Presidente, LATAM AI Hub · Autor de DeepSeek: la revolución que redefinirá el futuro entre otros libros
👉 Explorá más análisis y casos en latamaihub.com
🔗 Suscribite a la newsletter en humanizingbanking.com