Chain of Thought

CoT funciona insertando una señal explícita —a menudo una frase corta como "Let's think step by step"— en el prompt. El modelo genera entonces una serie de enunciados intermedios que forman una cadena lógica antes de producir el resultado final. Cada token intermedio se trata como parte de la respuesta, por lo que el modelo puede corregirse a sí mismo en el proceso. Se ha demostrado que esta capa de razonamiento adicional mejora la precisión en tareas de múltiples pasos, como aritmética, acertijos lógicos y generación de código.

Comienza a usar CoT en cualquier prompt que requiera más de un paso de inferencia. Step 1: Añade una instrucción clara (p. ej., "Piensa el problema paso a paso") al final de la consulta del usuario. Step 2: Si el modelo se detiene antes de tiempo, aumenta el límite máximo de tokens o añade un recordatorio como "Continúa el razonamiento". Step 3: Revisa la integridad de los pasos intermedios antes de confiar en la respuesta final. Step 4: Registra la respuesta completa para que puedas comparar la precisión con ejecuciones sin CoT más adelante.

Puedes identificar la salida de CoT buscando múltiples frases cortas que contengan cada una una parte de la solución. En los logs, el recuento de tokens será mayor que en una respuesta simple. Para medir el impacto, realiza un test A/B: un conjunto de prompts con la instrucción CoT y otro sin ella. Compara la exactitud de la respuesta final y observa cualquier reducción en las alucinaciones. Las herramientas que extraen los pasos de razonamiento (p. ej., regex para "Step \d+:") facilitan la puntuación automatizada.

• Asumir que un modelo generará una Chain of Thought sin una instrucción explícita.
• Usar una instrucción demasiado vaga, como simplemente "Explica" sin pedir los pasos.
• Evaluar únicamente la frase final e ignorar errores en los pasos intermedios.
• Establecer un límite máximo de tokens que corte el razonamiento.

CoT añade latencia porque el modelo produce más tokens. Funciona mejor con modelos que tienen capacidades de razonamiento sólidas; los modelos más antiguos o pequeños pueden producir pasos superficiales o irrelevantes. La técnica no ayuda con la recuperación de datos puramente fácticos donde no se requiere razonamiento. A menudo se confunde con self‑consistency (muestreo de múltiples cadenas de CoT y votación) o con el few‑shot prompting, que son estrategias distintas.

"Q: Un tren viaja a 60 millas por hora durante 3 horas, luego a 40 millas por hora durante 2 horas. ¿Cuál es la distancia total?
A: Pensemos paso a paso.
Paso 1: Distancia en el primer segmento = 60 mph × 3 h = 180 millas.
Paso 2: Distancia en el segundo segmento = 40 mph × 2 h = 80 millas.
Paso 3: Distancia total = 180 millas + 80 millas = 260 millas.
Respuesta: 260 millas."

El mismo término en las palabras que alguien usa al hablar con un asistente en lugar de escribir en un buscador: escrito desde la situación, y por eso cada pregunta lleva la situación de la que salió.

• OpenAI documentation
• Wikidata — Q2888844