Responder menos para equivocarse menos: el examen SimpleQA

200 preguntas por modelo. Con ECHO, los modelos se equivocan menos, a cambio de contestar menos veces.

Las gráficas originales

chart-simpleqa: gráfica original del examen E4-BENCH-1 A
Figura del examen histórico. SVG.
chart-precision-coverage: gráfica original del examen E4-BENCH-1 A
Figura del examen histórico. SVG.
chart-mmlupro: gráfica original del examen E4-BENCH-1 A
Figura del examen histórico. SVG.

La pregunta que medí

Quise separar el conocimiento del modelo del efecto de aportar evidencia y del efecto de filtrarla. Comparé M, modelo solo; M+R, modelo con extractos de Wikipedia; y M+R+ECHO, los mismos extractos con el cortafuegos. El examen congelado incluyó 200 preguntas de SimpleQA, 100 de MMLU-Pro y 50 de GSM8K por modelo. El registro conserva un coste de 1,55 dólares y una auditoría válida reconstruida sin nuevas llamadas.

Modelo registradoIncorrectas M → M+R → ECHOCorrectas M+R → ECHO
Claude Sonnet 5104 → 19 → 1459 → 55
DeepSeek-V4.1-Flash101 → 66 → 1491 → 54
GPT-5.4 mini145 → 76 → 2765 → 56
Qwen3-30B-A3B-Instruct-2507129 → 34 → 1760 → 53

Estos son los nombres e IDs conservados por el informe histórico, no una nueva evaluación de esos proveedores. El JSON enlazado conserva los identificadores completos.

Qué salió bien y qué costó

Frente a M+R, ECHO redujo incorrectas y elevó la precisión de las respuestas emitidas en los cuatro modelos. No creó ningún acierto: su función era aceptar o abstenerse. También perdió respuestas correctas; el F-score bajó en tres modelos y subió en GPT-5.4 mini. Es evidencia de filtrado selectivo en este banco, no de mayor capacidad general ni de ausencia de alucinaciones.

Los controles negativos

En MMLU-Pro se abstuvo casi siempre y el cotejo textual dejó pasar opciones equivocadas. En GSM8K se abstuvo en las 50 preguntas de cada modelo: no podía verificar cálculos con extractos. El corrector era determinista, distinto del juez LLM de SimpleQA; estas cifras no equivalen a un resultado oficial del benchmark.

Fuentes y evidencia

  1. Informe histórico completo Original
  2. Informe estructurado y modelos registrados
  3. Recibo histórico de reconstrucción
  4. Contrato aprobado antes del examen Original
Consultar el archivo documental completo

Siguiente cuaderno
Separar lo que el agente propone de lo que puede demostrar

Vista previa

Abrir original