Harness Experimental

Prompt Sensitivity Analysis

Quebre o system prompt em cláusulas e descubra, por ablação empírica (não por atenção ou autorrelato do modelo), quais partes realmente sustentam o score — e quais só consomem tokens.

✂️
Parser divide o prompt em cláusulas semânticas
🧪
Leave-one-out com múltiplos seeds por cláusula
🔗
Interações não-aditivas entre pares de cláusulas
📦
Compressor sugere prompt reduzido sem perda de score
prompt_sensitivity_harness — terminal
$ overthinking-machine --harness prompt_sensitivity --mode ablation
─────────────────────────────────────────────────
Aguardando configuração e início do experimento…
Escolha um system prompt e o modo de análise na
barra lateral, então clique em ▶ para iniciar.

📝 Prompts disponíveis: Analista Financeiro · Suporte · Custom
🔬 Modos: ablation (leave-one-out) · perturbation (paráfrase) · reorder
🎲 Cada cláusula é testada com N seeds para separar efeito de ruído
📊 ranking de sensibilidade
📊
Nenhum resultado ainda
Inicie um experimento para ver o impacto de cada cláusula em tempo real.
📦 Prompt comprimido sugerido
Cláusulas removidas: 0 de 0 — apenas as com confiança alta/média e impacto ≤ 0.02 (ou negativo) são candidatas a corte.
Original
Comprimido
—
tamanho final
—
tokens economizados (~)
—
impacto no score
🔗 Interações não-aditivas entre cláusulas

Por que esse design, e não outro