echolabsEl mentiroso estratégico: cuando la prudencia trabaja para el que engaña
Un agente con clave que dice la verdad casi siempre y miente justo donde nadie va a comprobar anula el testimonio. Qué pasó, por qué, qué no pudo romper, y cómo pienso defenderme.
LINK-2 enseñó a mis agentes ECHO a desconfiar. Un novato puede oír a varios veteranos, y lleva un libro de confianza con cada uno: cuando comprueba con su propio cuerpo algo que le contaron, apunta si coincidió o no. Ante dos versiones distintas de lo mismo elige la más prudente. Contra un mentiroso burdo, que invierte todo lo que dice, funcionó: el novato pagó una sola primera lección en 64 mundos, frente a 149 si no desconfiaba.
Antes de evaluar le pedí a un revisor independiente que intentara romperlo, y encontró un mentiroso mejor. Este artículo va de él, porque enseña más que el resto del experimento.
El ataque
El mentiroso estratégico tiene la clave del grupo, así que la autenticación no lo detiene. Dice la verdad en todo lo que sabe. Solo añade una cosa: en cada sitio donde alguna acción hace daño, afirma que las otras acciones también cuestan −100, ahora y después.
Mi regla, ante versiones distintas de emisores con la misma confianza, elige la más pesimista. Es una buena regla contra el mentiroso burdo: si uno dice «acercarse da +16» y otro «da −16», no arriesgarse cuesta poco. Pero el estratégico solo dice cosas pesimistas. La regla prudente las elige siempre. Y esas afirmaciones apartan al novato justo de las acciones que podrían desmentirlas. El libro de confianza solo aprende de lo que el novato comprueba, y aquí el mentiroso decide qué no se comprueba.
Así suena, en un mundo de desarrollo. El honesto y el mentiroso, los dos con clave, hablan por turnos: el mentiroso repite cada verdad y al final añade sus «−100». En cada amenaza ambos coinciden en que acercarse cuesta −16, pero el mentiroso dice que esquivar y esperar cuestan −100. Acercarse pasa a parecer lo menos malo, y el novato entra en la amenaza, cuando con el honesto solo la esquivaba y ganaba +8.
Lo que medí
| En 64 mundos de evaluación | Primeras lecciones pagadas | Daño total, mediana | Retorno, mediana |
|---|---|---|---|
| El novato no oye nada | 179 | 11 | 520 |
| Oye a un honesto | 0 | 9 | 568 |
| Honesto + mentiroso burdo, con confianza | 1 | 9 | 520 |
| Honesto + mentiroso estratégico, con confianza | 179 | 13 | 392 |
Con el mentiroso estratégico, el novato paga exactamente las mismas primeras lecciones que en silencio, mundo por mundo, en los 64. El testimonio honesto queda neutralizado. Y es peor: en 50 de 64 mundos su daño total supera al del novato que no oye nada, porque las falsas alarmas lo empujan por rutas peores. Su retorno baja en 37 mundos. El libro de confianza acaba descubriendo al mentiroso en 47 mundos, pero tarde.
El revisor también desmontó una conclusión que yo daba por buena: el libro de confianza no es lo que protege en la primera visita. Con un libro congelado, que nunca aprende, el resultado es el mismo (1 lección pagada). Con un desempate optimista, que aprende pero elige la versión más favorable, sube a 30. La seguridad la da la prudencia. Y la prudencia es exactamente lo que explota el mentiroso estratégico.
Lo que el mentiroso no pudo romper
Lo que oye un agente ECHO vive en un almacén aparte y nunca se escribe como hecho en su memoria, en su modelo del mundo ni en su tabla de política. Lo comprobé en 832 ejecuciones con un gemelo sordo que recibe las mismas propuestas y debe terminar idéntico byte a byte: no hubo ni una diferencia. Por eso el mentiroso puede quitarle al novato la ayuda, pero no puede cambiarle la cabeza. El novato sigue aprendiendo de su propia experiencia, y como mucho cuatro desvíos por sitio dependen de lo que oyó. El daño está acotado, no anulado: los números de arriba muestran que el coste existe.
La autenticación sí aguantó: 0 de 100 000 etiquetas falsas, 0 reenvíos y 0 manipulaciones con el CRC recalculado. Un forastero sin clave no consigue colar nada. El problema es el que está dentro.
No es un problema nuevo
Que un participante con credenciales mienta de forma selectiva es el problema de los generales bizantinos, y crear muchas identidades para ganar votaciones es el ataque Sybil. No tienen solución gratuita. La lección concreta para ECHO es que la prudencia ante el testimonio no es neutral: protege contra quien exagera lo bueno y entrega el control a quien exagera lo malo.
Cómo pienso defenderme
Nada de esto está medido todavía; son las hipótesis para la siguiente versión:
- Comprobar lo disputado. Cuando dos emisores discrepan sobre lo mismo, la discrepancia es información: gastar un turno de exploración en comprobarlo, en lugar de quedarse siempre con la versión pesimista.
- Contar fuentes independientes. Una alarma que solo da un emisor pesa menos que una que confirman varios. Exige que las identidades sean caras de fabricar.
- Pedir pruebas, no opiniones. Que un testimonio venga atado a la observación que lo produjo (el referente y la transición vista) para que el oyente pueda contrastarlo con lo que él percibe.
- Coste de la falsa alarma. Penalizar en el libro de confianza las alarmas que, una vez comprobadas, eran falsas, aunque haya pocas ocasiones de comprobarlas.
Lo pondré a prueba con el mismo método: contrato y predicciones primero, ataque independiente después, y una sola evaluación. Si el mentiroso estratégico sigue ganando, lo publicaré igual.