Marianne Costa Avalone
Todos os estudos de caso

Revisar uma avaliação de impacto antes de decidir sobre ela

Um fornecedor entregou a avaliação de impacto de um programa de desenvolvimento econômico feito em parceria com prefeituras. Fui chamada para validá-la. O trabalho acabou sendo outro: mostrar à alta direção o que os dados permitiam afirmar e o que não permitiam.

Meu papel
Revisão técnica e desenho da abordagem alternativa, em parceria com a área responsável por políticas públicas
Métodos
Grupos de comparação, agrupamento por similaridade, regressão, simulação de cenários
Para quem
Alta direção da organização
Resultado
Subsidiou a decisão de não dar continuidade ao contrato de avaliação

Como o problema chegou

O pedido era simples: conferir um relatório de impacto produzido por uma consultoria externa antes que ele fosse usado. Na prática, a pergunta implícita era se a organização podia confiar naqueles números para decidir sobre o programa e sobre o próprio contrato de avaliação.

Ao revisar o método, encontrei inconsistências metodológicas e técnicas que comprometiam as conclusões.

A pergunta que valia responder

Apontar falhas resolveria só metade do problema. Quem decide ficaria sem relatório confiável e sem alternativa. Por isso troquei "o relatório está certo?" por outra pergunta: com os dados que temos, o que é possível afirmar sobre a relação entre a participação no programa e os indicadores econômicos dos municípios, e com que grau de confiança?

Fluxo do trabalho: do relatório do fornecedor à decisão da alta direçãoRelatório externopedido: validarRevisão do métodoinconsistênciasPergunta reformuladao que dá para afirmar?Comparaçãoparticipantes e nãoAgrupamentomunicípios parecidosRegressãohoras × indicadoresSimuladorde cenáriosDecisão daalta direçãorevisarreformularconstruirtraduzir e decidir Fluxo do trabalho: do relatório do fornecedor à decisão da alta direçãoRelatório externopedido: validarRevisão do métodoinconsistênciasPergunta reformuladao que dá para afirmar?Comparaçãoparticipantes e nãoAgrupamentomunicípios parecidosRegressãohoras × indicadoresSimuladorde cenáriosDecisão daalta direção
As três análises foram feitas em paralelo e alimentaram o simulador. As caixas em azul marcam onde o trabalho mudou de rumo: a revisão do método e a reformulação da pergunta.

Abordagem

Construímos a análise alternativa em conjunto com a área responsável pelo programa, que conhecia a operação e os municípios.

  • Comparação entre municípios participantes e não participantes, para ter uma referência do que aconteceria sem o programa.
  • Agrupamento por similaridade, para comparar municípios parecidos entre si e não misturar realidades econômicas muito diferentes.
  • Regressões entre as horas de participação no programa e indicadores econômicos, para investigar se mais intensidade se associava a resultados diferentes.
  • Um simulador de cenários, para que a direção pudesse explorar o que os resultados implicavam sem precisar ler os modelos.

O que aconteceu

O trabalho foi apresentado à alta direção e subsidiou a decisão de não dar continuidade ao contrato de avaliação.

O resultado que mais me marcou foi outro: conseguir deixar o problema claro para quem precisava decidir. Uma crítica técnica correta, sozinha, não teria mudado nada.

Limites

  • As análises são observacionais. Mostram associações entre participação e indicadores, não o efeito causal do programa, e foram apresentadas assim.
  • Indicadores municipais agregados respondem a muitas coisas além do programa; o agrupamento reduz esse ruído, mas não o elimina.
  • Encerrar um contrato não equivale a economia líquida. Custos e condições de encerramento ficaram fora desta análise.

O que levo deste caso

Uma crítica de método só muda uma decisão quando chega junto com uma alternativa que o decisor consegue usar.