harness com squad

Squads recomendados

Como montar os squads do Overclock — orquestrador, executor e fallback por atividade — derivado exclusivamente dos resultados medidos da bateria (scores.json). Gerado por swarm, números conferidos na fonte.

O princípio de montagem é simples: o executor de cada squad é escolhido pelo desempenho medido naquela atividade específica (score = 0.5·qualidade + 0.25·preço + 0.25·velocidade, calculado por teste em top5_por_teste) — não existe "melhor modelo geral" para braçal, existe melhor modelo *para aquele tipo de tarefa*. Já o orquestrador é escolhido por consistência de qualidade (taxa de "entregou" vs. "defeitos"/"quebrou" em vereditos_por_modelo, ao longo de 9 testes), porque o papel dele é planejar, delegar e revisar — um orquestrador que "quebra" ou entrega com defeito em 1 a cada 3 tarefas propaga erro pra todo o squad, então preço e velocidade pesam menos nessa escolha do que na do executor.

O squad default (uso geral)

  • Orquestrador: grok-4-5 — maior taxa de consistência do dataset: 8/9 vereditos "entregou" (88,9%), apenas 1 "defeitos" e zero "quebrou". Também é o 2º colocado no ranking geral (score 0,927), então não sacrifica qualidade pra ganhar estabilidade. O único outro modelo com a mesma taxa de entrega (8/9, 0 quebrou) é fable-5, mas ele custa 5x mais na tabela (in $10/out $50 vs. in $2/out $6 do grok-4-5) sem vantagem de consistência sobre ele — por isso grok-4-5 vence como orquestrador.
  • Executor principal: grok-composer-2-5-fast — 1º colocado no ranking geral (score 0,9364) e vencedor absoluto em 6 dos 9 testes do top5_por_teste (002, 003, 101, 103, 105, 108), sempre com qualidade 1.0 nesses casos, custo entre $0,0087 e $0,0706 por execução e duração entre 6,4s e 47,2s — o executor mais barato e mais rápido do dataset quando entrega. Ressalva: teve veredito "defeitos" em 2/9 testes (qualidade caindo a 0,5 nos testes 001 e 004, ambos de renderização 3D/jogo) — ver "Squad por atividade" e "Regras de montagem" abaixo.
  • Executor de reserva/fallback: gpt-5-3-codex-spark — aparece em quase todo top5_por_teste como 2º ou 3º colocado (002, 003, 103, 104, 105, 108) com veredito sempre "entregou" e é consistentemente o mais rápido em duração (ex.: 9,2s no teste 104, 9,3s no 103, 11,3s no 105) mesmo quando não vence em score. Único ponto de atenção: vereditos_por_modelo mostra 1 "quebrou" em 8 testes registrados — usar como fallback quando o principal falhar, não como default.
  • Custo estimado relativo vs. frontier solo: no teste 004, fable-5 (candidato a "frontier" — maior preço de tabela do dataset) custou $2,109136 com qualidade 1.0; o vencedor grok-4-5 entregou a mesma qualidade 1.0 por $0,196092 — ~10,8x mais barato. No teste 001, os "frontier" gpt-5-6-luna, sonnet-4-6 e gpt-5-4 custaram entre $0,309 e $0,979 por execução; grok-composer-2-5-fast, nos testes em que venceu, custou entre $0,0087 e $0,0706 — na faixa de 10x a 40x mais barato que rodar um frontier solo, ao custo de precisar de um orquestrador (grok-4-5) revisando o resultado nas atividades onde o executor barato historicamente falha (3D/jogo).

Squad por atividade

001 — Quero um app 3D interativo (3D interativo, trilha benchmark)

  • Executor recomendado: gpt-5-6-luna — score 0,9081, qualidade 1.0, custo $0,309267, duração 631,5s, veredito "entregou".
  • Alternativa: sonnet-4-6 — score 0,894, qualidade 1.0, custo $0,690021, duração 551,0s, veredito "entregou" (mais caro, mas um pouco mais rápido).
  • Evitar: grok-composer-2-5-fast — apesar de ser 10x mais barato ($0,037401) e ~17x mais rápido (37,8s), teve veredito "defeitos" aqui, com qualidade caindo pela metade (0,5). O mesmo vale para haiku-4-5 (score 0,7436, qualidade 0,5, "defeitos").

002 — Clona esse site (clone de site, trilha benchmark)

  • Executor recomendado: grok-composer-2-5-fast — score 0,9953, qualidade 1.0, custo $0,045717, duração 47,2s, veredito "entregou".
  • Alternativa: glm-5-turbo — score 0,9912, qualidade 1.0, custo $0,09193, duração 54,0s, veredito "entregou" (quase empatado, ~2x mais caro).
  • Evitar: não medido — todos os 5 primeiros colocados do teste entregaram sem defeito.

003 — Brinquedo de física (física/canvas, trilha benchmark)

  • Executor recomendado: grok-composer-2-5-fast — score 0,9992, qualidade 1.0, custo $0,017562, duração 20,9s, veredito "entregou".
  • Alternativa: haiku-4-5 ou glm-5-turbo — empatados em score 0,9908, qualidade 1.0, custo $0,043317 e $0,040509 respectivamente, ambos "entregou".
  • Evitar: não medido — todos os 5 primeiros colocados entregaram sem defeito.

004 — Faz um jogo (jogo 3D, trilha benchmark)

  • Executor recomendado: grok-4-5 — score 0,986, qualidade 1.0, custo $0,196092, duração 90,6s, veredito "entregou".
  • Alternativa: glm-5-turbo — score 0,9625, qualidade 1.0, custo $0,06977 (mais barato que o líder), mas duração de 322,0s (mais de 3x mais lento).
  • Evitar: grok-composer-2-5-fast — score 0,7494, veredito "defeitos", qualidade caindo a 0,5. Confirma o padrão do teste 001: esse executor não é confiável para 3D/jogo, mesmo sendo o executor principal recomendado para o squad default.

101 — Acha esse bug pra mim (debug, trilha dia-a-dia)

  • Executor recomendado: grok-composer-2-5-fast — score 0,9971, qualidade 1.0, custo $0,008716, duração 6,4s, veredito "entregou".
  • Alternativa: gemini-3-5-flash — score 0,9883, qualidade 1.0, custo $0,005217 (mais barato que o líder), duração 11,0s, veredito "entregou".
  • Evitar: não medido — todos os 5 primeiros colocados entregaram sem defeito.

103 — Adiciona um filtro no meu app (feature em código existente, trilha dia-a-dia)

  • Executor recomendado: grok-composer-2-5-fast — score 0,9766, qualidade 1.0, custo $0,015627, duração 17,1s, veredito "entregou".
  • Alternativa: gpt-5-3-codex-spark — score 0,9752, qualidade 1.0, custo $0,062721, duração 9,3s (mais rápido que o líder), veredito "entregou".
  • Evitar: não medido — todos os 5 primeiros colocados entregaram sem defeito.

104 — Conserta o mobile sem mexer no desktop (CSS responsivo, trilha dia-a-dia)

  • Executor recomendado: gpt-5-3-codex-spark — score 0,9928, qualidade 1.0, custo $0,050473, duração 9,2s, veredito "entregou".
  • Alternativa: gemini-3-5-flash — score 0,9906, qualidade 1.0, custo $0,014254 (mais barato que o líder), duração 33,0s, veredito "entregou".
  • Evitar: não medido — todos os 5 primeiros colocados entregaram sem defeito.

105 — Revisa esse código antes de eu subir (code review, trilha dia-a-dia)

  • Executor recomendado: grok-composer-2-5-fast — score 0,9842, qualidade 1.0, custo $0,023711, duração 29,5s, veredito "entregou".
  • Alternativa: gemini-3-5-flash — score 0,9836, qualidade 1.0, custo $0,028746, duração 28,0s, veredito "entregou" (praticamente empatado).
  • Evitar: não medido — todos os 5 primeiros colocados entregaram sem defeito.

108 — Gera um relatório desse CSV zoado (dados, trilha dia-a-dia)

  • Executor recomendado: grok-composer-2-5-fast — score 0,9897, qualidade 1.0, custo $0,070644, duração 37,7s, veredito "entregou".
  • Alternativa: gpt-5-3-codex-spark — score 0,9721, qualidade 1.0, custo $0,155552, duração 17,6s (mais rápido que o líder), veredito "entregou".
  • Evitar: não medido — todos os 5 primeiros colocados entregaram sem defeito; o mais lento do top5 foi gpt-5-6-luna (190,1s), sem ser veredito de defeito, apenas menos competitivo em velocidade.

Squad mono-laboratório (um único vendor)

Cenário: a conta só tem plano de um laboratório (ex: só Anthropic via Claude Pro/API, só OpenAI, só xAI ou só Zhipu) — não dá pra misturar vendors no squad, então o orquestrador (coordena, decide, arbitra qualidade) e o executor (roda tarefa, otimiza custo/velocidade) precisam sair do mesmo catálogo. A lógica: pegar o modelo com melhor ranking e veredito mais consistente (poucos "defeitos"/"quebrou") pro papel de orquestrador, e o modelo que mais aparece nos top5_por_teste com custo baixo pro papel de executor — trocando o executor pontualmente quando ele falha numa categoria específica de atividade.

Só Anthropic (Claude)

  • Orquestrador: sonnet-4-6 — maior score entre os modelos Anthropic (0.8312, #6 no ranking geral), veredito consistente (entregou 7/9, defeitos 2/9, zero "quebrou").
  • Executor: haiku-4-5 — aparece em 4 dos 9 top5_por_teste como "entregou" com preço baixo (in 1.0/out 5.0): clone de site (002, score 0.9899, custo $0.067784), física/canvas (003, 0.9908, $0.043317), CSS responsivo (104, 0.9898, $0.034326) e code review (105, 0.9341, $0.070433).
  • Trocas por atividade: em "3D interativo" (001), haiku-4-5 cai pra "defeitos" (score 0.7436) — troca pro próprio sonnet-4-6, que entrega (0.894, qualidade 1.0). Em "jogo 3D" (004), haiku-4-5 nem aparece no top5 — quem assume é fable-5, que entrega (0.8742), apesar do custo bem mais alto ($2.109136 vs. os $0.02-0.07 do haiku nas outras atividades).
  • O que você perde vs squad livre: o orquestrador Anthropic (0.8312) fica ~11 pontos percentuais abaixo do grok-4-5 (0.927, #2 geral); e o executor haiku-4-5 custa 1,5x-3x mais que grok-composer-2-5-fast na mesma tarefa (ex: teste 003, $0.043317 vs. $0.017562; teste 105, $0.070433 vs. $0.023711).

Só OpenAI

  • Orquestrador: gpt-5-6-luna — segundo melhor score OpenAI (0.8305) com veredito sem "quebrou" (entregou 6/9, defeitos 3/9); gpt-5-3-codex-spark tem score maior (0.8871) mas carrega 1 "quebrou" no histórico, menos confiável pro papel de coordenação.
  • Executor: gpt-5-3-codex-spark — o mais presente nos top5_por_teste (6 de 9), sempre "entregou" e rápido (9-19s): clone de site (002, 0.991, $0.187335), física/canvas (003, 0.9819, $0.169634), feature em código (103, 0.9752, $0.062721), CSS responsivo (104, 0.9928, $0.050473), code review (105, 0.9791, $0.079178) e dados (108, 0.9721, $0.155552).
  • Trocas por atividade: gpt-5-3-codex-spark não aparece no top5 de "3D interativo" (001) nem "jogo 3D" (004) — nessas, o próprio gpt-5-6-luna assume 001 (0.9081, entregou, mas custo alto $0.309267/631,5s) e gpt-5-4 assume 004 (0.9076, entregou, $0.768271/534,7s).
  • O que você perde vs squad livre: o orquestrador OpenAI (0.8305) fica atrás de grok-4-5 (0.927); o executor gpt-5-3-codex-spark, mesmo sendo o melhor da casa, custa ~4x mais que grok-composer-2-5-fast nas mesmas tarefas (teste 002: $0.187335 vs. $0.045717; teste 103: $0.062721 vs. $0.015627).

Só xAI

  • Orquestrador: grok-4-5 — score 0.927 (#2 geral), o veredito mais consistente do dataset todo (entregou 8/9, apenas 1 defeito, zero "quebrou").
  • Executor: grok-composer-2-5-fast — score 0.9364 (#1 geral), presença maciça nos top5_por_teste com custo baixíssimo: debug (101, 0.9971, $0.008716/6,4s), física/canvas (003, 0.9992, $0.017562/20,9s), feature (103, 0.9766, $0.015627/17,1s), dados (108, 0.9897, $0.070644/37,7s), entre outros.
  • Trocas por atividade: grok-composer-2-5-fast cai pra "defeitos" em "3D interativo" (001, score 0.7478) e "jogo 3D" (004, score 0.7494) — em 004 o grok-4-5 assume e entrega com o melhor score do teste (0.986, #1 do top5); em 001 nenhum modelo xAI aparece no top5, então esse é um ponto cego real do vendor nessa categoria.
  • O que você perde vs squad livre: nada — grok-4-5 (0.927) e grok-composer-2-5-fast (0.9364) já SÃO, segundo precos_tabela, os dois modelos xAI que ocupam #1 e #2 do ranking_geral; "só xAI" é literalmente o squad ideal citado no enunciado.

Só Zhipu (GLM)

  • Orquestrador: glm-5-turbo — score 0.8399 (#5 geral, o melhor não-xAI/Anthropic/OpenAI do ranking), veredito entregou 7/9, defeitos 1/9 (1 "quebrou" registrado, mas a proporção de acerto é bem melhor que a do glm-5-2, que tem defeitos 3/9, entregou 6/9).
  • Executor: glm-5-turbo também — é o único modelo Zhipu que aparece em algum top5_por_teste (5 de 9): clone de site (002, 0.9912, $0.09193), física/canvas (003, 0.9908, $0.040509), jogo 3D (004, 0.9625, $0.06977), debug (101, 0.9535, $0.031725) e feature (103, 0.9465, $0.027815). glm-5-2 não aparece em nenhum top5 do dataset, então não há dado pra sustentá-lo como executor — na prática o squad Zhipu tem só um "banco de reservas" real.
  • Trocas por atividade: em "3D interativo" (001), "CSS responsivo" (104), "code review" (105) e "dados" (108), nenhum modelo Zhipu aparece no top5 — sem alternativa interna pra assumir, é um gap direto do vendor nessas atividades.
  • O que você perde vs squad livre: glm-5-turbo (0.8399) fica atrás de grok-composer-2-5-fast (0.9364) e grok-4-5 (0.927); em custo, glm-5-turbo sai ~2x a ~3,6x mais caro que grok-composer-2-5-fast nas mesmas tarefas (teste 002: $0.09193 vs. $0.045717; teste 101: $0.031725 vs. $0.008716).

Regras de montagem (síntese)

  • grok-composer-2-5-fast é o executor default, exceto em tarefas de renderização 3D/jogo — nos testes 001 e 004 (as duas atividades com componente 3D no dataset) ele teve veredito "defeitos" nas duas vezes, caindo de qualidade 1.0 para 0,5. Nesses dois casos, troque o executor para gpt-5-6-luna (001) ou grok-4-5 (004).
  • Escale para o orquestrador (grok-4-5) revisar quando o executor tiver veredito "defeitos" ou "quebrou" — os dados mostram que isso não é raro: haiku-4-5 teve 2 "quebrou" em 9 testes e gpt-5-3-codex-spark (fallback recomendado) teve 1 "quebrou" registrado, então mesmo o fallback precisa de revisão do orquestrador antes de aceitar o resultado.
  • Os frontiers caros (fable-5, opus-4-8, sonnet-4-6, gpt-5-6-sol) só se pagam quando aparecem no topo do top5_por_teste — isso só aconteceu no teste 001 (sonnet-4-6, 2º lugar) e no teste 004 (fable-5, 4º lugar, atrás de opções bem mais baratas). Fora desses dois testes, nenhum frontier caro apareceu no top5 de nenhuma das 9 atividades — não há evidência no dataset de que valha a pena usá-los como default.
  • gemini-3-5-flash é o "barato-alternativo" recorrente — aparece no top5 de 7 dos 9 testes, quase sempre como 2ª ou 3ª opção mais barata que o líder (ex.: $0,005217 no teste 101 vs. $0,008716 do líder; $0,014254 no teste 104 vs. $0,050473 do líder), sempre com veredito "entregou". Bom candidato a segundo fallback em squads sensíveis a custo.
  • Cuidado com "score alto" mascarando "quebrou"haiku-4-5 tem score geral competitivo (0,8258, 8º lugar) mas o veredito agregado mostra 2 "quebrou" em 9 testes; não usar como executor único sem revisão do orquestrador, apesar de aparecer bem posicionado em vários top5_por_teste individuais.
  • Armadilha confirmada nos dados: nenhum modelo do dataset tem 9/9 "entregou" sem nenhum defeito ou quebra — mesmo os dois melhores em consistência (grok-4-5 e fable-5) têm 1 "defeitos" cada. Squad 100% sem revisão humana/orquestrador não é sustentado pelos números — sempre há uma camada de checagem no fluxo, mesmo com o squad recomendado.