Metodologia

Como auditamos

O que o Rigor testa, com qual limiar e com quais fontes, o que significa cada etiqueta e o que ele não faz. Os valores desta página são os mesmos que o motor usa.

Independência

  • O Rigor não vende robôs, sinais, cursos nem contas de mesa proprietária, e suas páginas não têm links de afiliado.
  • O preço do relatório é o mesmo qualquer que seja a classe obtida: não cobramos mais por uma classe melhor.
  • Não operamos, não guardamos dinheiro nem chaves e não nos conectamos a nenhuma corretora.

Seis perguntas, um limiar para cada uma

O resultado se distingue do acaso?

Sharpe probabilístico (tamanho, assimetria e curtose) e bootstrap estacionário por blocos dos retornos.

O que é preciso para passar

PSR ≥ 0.95 e o percentil 5 do Sharpe do bootstrap acima de zero; fraco a partir de PSR 0.80.

Aguenta o número de tentativas?

Sharpe deflacionado com o maior número entre as tentativas declaradas, as variantes enviadas e as passagens de otimização do MT5; PBO por validação cruzada combinatória quando você envia variantes.

O que é preciso para passar

DSR ≥ 0.95 e PBO abaixo de 0.50; fraco a partir de DSR 0.50.

Aguenta os custos de operar?

Cada operação recalculada com 1x, 2x e 3x o custo, e o custo de equilíbrio.

O que é preciso para passar

Continua positivo com 3x o custo de referência.

O trecho fora da amostra se sustenta?

Sharpe depois do início fora da amostra que você declara e a sua distância do Sharpe dentro da amostra.

O que é preciso para passar

Sharpe fora da amostra ≥ 0.5 e uma distância de no máximo 1.0.

Os dados estão sãos?

35 bandeiras vermelhas: duplicados, saltos, valores congelados, martingale, grade, depósitos, modelagem do backtest e mais.

O que é preciso para passar

Nenhuma bandeira. Uma bandeira grave reprova a dimensão; um aviso a deixa como fraca.

Supera o que você poderia ter tido sem fazer nada?

Excesso de retorno, razão de drawdown e razão de informação frente ao benchmark que você enviar.

O que é preciso para passar

Excesso de retorno e razão de informação positivos, com um drawdown de no máximo 1x o do benchmark.

Como a classe de A a D é definida

  1. A

    A estatística e o número de tentativas passam; custos, fora da amostra e benchmark passam ou não se aplicam; os dados não têm sinais graves nem avisos.

  2. B

    A estatística passa, o número de tentativas passa ou não foi declarado e nada falha, mas ainda falta medir ou reforçar custos, fora da amostra, benchmark, qualidade dos dados ou o número de tentativas.

  3. C

    Uma dimensão não passa, ou a estatística ou o número de tentativas ficam em fraca.

  4. D

    Os dados ou a estatística não passam, ou duas dimensões ou mais não passam.

O que significa cada etiqueta

  • MedidoNós calculamos a partir do seu arquivo.
  • DeclaradoFoi informado por você ou pela sua plataforma; não conseguimos conferir.
  • Não medidoFaltavam dados para medir, e o relatório diz quais.

Os sinais de alerta que revisamos

  • Poucas observações demais
  • Patrimônio zerado ou negativo
  • Datas duplicadas
  • Datas fora de ordem
  • Linhas ilegíveis
  • Retornos sem variação
  • Valores congelados
  • Saltos extremos
  • Sharpe inverossímil
  • Lacunas grandes entre linhas
  • Custos declarados como zero
  • Menos tentativas declaradas do que os arquivos mostram
  • Operações ilegíveis
  • O resultado declarado por operação não bate
  • Tamanho que cresce após perdas (martingale)
  • Grade ou preço médio em perdas
  • Muitas posições abertas ao mesmo tempo
  • Drawdown flutuante oculto
  • Muitos acertos pequenos e perdas grandes
  • Sem sinal de stop loss
  • Resultado concentrado em poucas operações
  • Operações fora das datas da curva
  • Operações que não se movem com a curva
  • O saldo final impresso não confere com as operações
  • A curva e as operações têm uma diferença sem explicação
  • Sinal heurístico na cadeia de saldos
  • O % de ganho não reflete o dinheiro
  • Depósitos em plena perda
  • Perda aberta que o saldo não mostra
  • Backtest com uma modelagem de preços grosseira
  • Histórico de preços incompleto no teste
  • Parâmetros em um pico isolado
  • A otimização não se sustenta no período forward
  • O resultado se apaga no período recente
  • O cabeçalho do relatório não bate

Reproduzível

  • Cada arquivo é identificado no relatório pela sua impressão digital SHA-256.
  • A reamostragem usa uma semente fixa que o relatório imprime: o mesmo arquivo com as mesmas declarações dá os mesmos números.
  • O relatório imprime a versão do motor que o gerou.

O que ele não faz

  • Não prevê resultados futuros: mede a evidência que há nos dados que você envia.
  • Lê os arquivos como chegam; não os confere com a corretora.
  • Não recomenda comprar, vender, copiar nem investir em nada.
  • Um relatório não é parecer jurídico, fiscal nem de investimento.

Fontes

  1. Bailey, D. H. y López de Prado, M. (2012). The Sharpe Ratio Efficient Frontier. Journal of Risk 15(2).
  2. Bailey, D. H. y López de Prado, M. (2014). The Deflated Sharpe Ratio: Correcting for Selection Bias, Backtest Overfitting and Non-Normality. Journal of Portfolio Management 40(5).
  3. Bailey, D. H., Borwein, J., López de Prado, M. y Zhu, Q. J. (2017). The Probability of Backtest Overfitting. Journal of Computational Finance 20(4).
  4. Politis, D. N. y Romano, J. P. (1994). The Stationary Bootstrap. Journal of the American Statistical Association 89(428).

Dados públicos que usamos

  • Cotações do Federal Reserve, letra do Tesouro e preços ao consumidor dos EUA: FRED, Federal Reserve Bank of St. Louis. O VIX é da Cboe Global Markets, via FRED.
  • Taxa de um dia do euro (€STR, via FRED) e, antes de outubro de 2019, a taxa das operações principais de refinanciamento do BCE (a taxa fixa ou, nos leilões de taxa variável, a taxa mínima de proposta) até outubro de 2008 e a taxa da facilidade de depósito do BCE depois. Fonte: estatísticas do BCE; esses dados estão disponíveis grátis no site do BCE (ecb.europa.eu).
  • Taxa de um dia da libra (via FRED): SONIA data licensed under the Open Government Licence v3.0 and copyright the Governor and Company of the Bank of England.
  • Taxa de um dia do Canadá (CORRA): Banco do Canadá; nós a convertemos em rendimento anual, e esses dados estão disponíveis grátis em bankofcanada.ca.
  • Taxa Selic mensal do Brasil: Banco Central do Brasil, série 4189, sob a Open Database License (ODbL).
  • Taxas de política monetária do México, do Japão, da Suíça, da Austrália, da Nova Zelândia, da Índia, da África do Sul, da Coreia do Sul, da Suécia, da Noruega, da Dinamarca, da Polônia, da Tchéquia, da Hungria, da Romênia, da Islândia, da Turquia, de Israel, da Arábia Saudita, da Indonésia, da Tailândia, da Malásia, do Chile, da Colômbia e do Peru. Fonte: BIS (Banco de Compensações Internacionais). São as taxas oficiais de cada banco central, não taxas de mercado.
  • Preços ao consumidor da zona do euro e da Suíça: Eurostat.
  • Preços ao consumidor do Reino Unido: Office for National Statistics, sob a Open Government Licence v3.0.
  • Preços ao consumidor do Canadá: Banco do Canadá (IPC da Statistics Canada); esses dados estão disponíveis grátis em bankofcanada.ca.
  • Preços ao consumidor do Brasil: Banco Central do Brasil (IPCA do IBGE).
  • Preços ao consumidor do México. Fonte: INEGI, Índice Nacional de Precios al Consumidor (INPC); usamos para descontar a inflação dos saldos.
  • Preços ao consumidor do Japão: elaborado a partir do Índice de Preços ao Consumidor (Statistics Bureau, Ministry of Internal Affairs and Communications), via e-Stat.
  • Todos são lidos ao gerar o relatório e nenhum muda a classe.
  • Não mostramos fechamentos do S&P 500, do Nasdaq 100 nem do bitcoin: nenhuma fonte pública permite reutilizá-los em um relatório pago. As quedas históricas da tabela de crises são fatos fixos, não dados que lemos.