Tecnologia móvel na floresta

Foto: Edilson Villegas Ramos / ISA

Ocupando 59% do território brasileiro, a região amazônica é de suma importância para o futuro ambiental do planeta. O destino desse ecossistema também está intimamente ligado ao bem-estar das comunidades indígenas que o habitam. Segundo a Rede Amazônica de Informação Socioambiental Georreferenciada, os 2.344 territórios indígenas e 610 áreas protegidas dos nove países amazônicos armazenam 55% do carbono existente em toda a floresta (em torno de 47,3 bilhões de toneladas de carbono) (WALKER ET AL, 2014). Enquanto isso, mais da metade da Amazônia (4,2 milhões de km2) está ameaçada por fatores como o desmatamento ilegal e a expansão da agropecuária (WALKER ET AL, 2014). Neste contexto, o engajamento das comunidades indígenas se torna uma medida essencial de preservar a floresta e reduzir as emissões de gases de efeito estufa. Desde o ano passado, a Plan está auxiliando o Instituto Socioambiental (ISA) a organizar, implementar e analisar um levantamento censitário que garante que comunidades do Alto e Médio Rio Negro no Estado de Amazonas protagonizem a definição e elaboração de Planos de Gestão Territorial e Ambiental (PGTA).

O nosso envolvimento começou com a revisão técnica de uma série de questionários elaborados pelo ISA e a adaptação desses para o Open Data Kit (ODK), uma plataforma que permite a coleta de dados via celular ou tablet mesmo sem conexão à Internet e o eventual envio dos formulários preenchidos para um servidor online. Além de perguntar sobre informações demográficas e socioeconômicas, os questionários incluíram a captura de fotos e as coordenadas geográficas de comunidades, sítios e lugares sagrados em toda a região. Uma vez preparados os questionários, a equipe do ISA realizou um treinamento para dezenas de pesquisadores indígenas em São Gabriel da Cachoeira. Ao longo de cinco meses, essa equipe realizou 369 entrevistas coletivas (com as comunidades e sítios) e mais 3.523 com as famílias, totalizando 29.581 pessoas alcançadas pela pesquisa, assim constituindo o maior levantamento de dados na região desde a demarcação dessas Terras Indígenas nos anos 90.

Com a conclusão da fase de coleta, iniciamos o trabalho considerável de limpar e organizar os dados em planilhas, bem como desenvolver um mapa interativo com detalhes e fotos das comunidades e sítios. A partir das planilhas, produzimos relatórios que reportaram os resultados do levantamento segundo vários recortes geográficos e de grupos étnicos estratégicos. Também fizemos cruzamentos estatísticos para verificar a correlação entre diferentes variáveis. O ISA já realizou oficinas em São Gabriel da Cachoeira com base nesses dados e os achados do estudo ajudarão as comunidades a identificar prioridades para os futuros PGTAs.

Além desse projeto, estamos apoiando outra iniciativa do ISA que envolve 50 pesquisadores indígenas (Agentes Indígenas de Manejo Ambiental) no monitoramento de mudanças ambientais e climáticas em três municípios rio-negrinos (Barcelos, Santa Isabel do Rio Negro e São Gabriel da Cachoeira). Os sete questionários georreferenciados abrangem temas como a fauna e flora da floresta, bem como a incidência de doenças nas comunidades, a condição de roças e observações diárias da temperatura e tempo. Em alguns locais da região, o estudo dos ciclos climáticos já acontece há mais de 10 anos, mas o uso de tablets para coletar os dados vem facilitar e acelerar o trabalho dos pesquisadores, ao mesmo tempo que reduz erros de inserção de dados e oferece novas possibilidades de registros fotográficos e geográficos. Junto com o PGTA, a colaboração da Plan nessas duas iniciativas do ISA contribui para empoderar os povos indígenas na gestão e proteção das suas terras, assim promovendo um futuro sustentável para um dos mais importantes ecossistemas do mundo.

Tia, entendeu ou quer que eu desenhe?

Para aqueles que acompanham o trabalho da Plan não deve ser novidade o fato de que nós avaliamos projetos que tratam de vários temas e envolvem públicos bastante diversificados. A lista de perfis profissionais que participaram dos nossos trabalhos de campo já incluiu: empresários, trabalhadores de chão de fábrica, pequenos agricultores, proprietários de grandes fazendas, coordenadores de projetos sociais, beneficiários desses projetos e por aí vai.

Além da diversidade de posições ocupacionais e estratos de renda, as idades também são muito variadas e incluem até crianças. Já trabalhamos com projetos cujos beneficiários estão cursando o Ensino Infantil (até 6 anos de idade) e crianças que estão atravessando esse processo tão crítico que é a alfabetização (1º ano do Ensino Fundamental).

Quando as crianças são justamente o centro de um projeto, como podemos envolvê-las no trabalho de campo? Como entrevistar essas pessoas que estão desenvolvendo as diversas formas de se expressar?

Orientados por nossa consultora e educadora Gisela Wajskop, que se inspirou em estudos da Sociologia da Infância (Pinto & Sarmento, 1997, 1999; Corsaro, 2011), realizamos conversas em grupo (“grupos focais”) com crianças utilizando técnicas de observação seguidas de atividades de desenho. As crianças utilizam formas específicas de representação e simbolização do mundo que ultrapassam os limites da linguagem codificada em fala e texto. Se quisermos entender o que pensam e lhes darmos voz, o discurso adulto de perguntas e respostas estruturadas pode não ser o meio mais eficaz. As conversas com crianças requerem uma abordagem própria, ajustada a sua visão de mundo curiosa, especulativa, aberta, imagética, daí a opção pela utilização do recurso visual.

Os desenhos são meios riquíssimos de comunicação que podem incluir não somente objetos, mas também movimentos, sons e sentimentos. Ao tentar representar pessoas ou lugares, por exemplo, as crianças desenham o que elas sabem, ou seja, elas mostram uma versão do que elas veem. Ainda que enfrentem dificuldades para incluir em seus desenhos técnicas mais regradas, como a perspectiva, elas inventam soluções para representar objetos com três dimensões (Anning, 1997). Essas soluções não são imediatamente perceptíveis para o adulto treinado na convenção mas fazem pleno sentido quando descritas pelas próprias crianças. Em um mundo dominado pela linguagem padronizada e normatizada, as crianças entram em um território muito mais livre ao trabalhar com materiais de linguagem expressiva, como papel, lápis, giz de cera ou até massinha de modelar.

O desenho acima mostra o entendimento de um aluno de 7 anos sobre um aplicativo de apoio ao letramento utilizado por sua turma. A primeira versão desse aplicativo contava a história do Motogato, um entregador de pizzas que era ajudado por seu chefe, o Sr. Cachorrão, para escrever o endereço dos seus clientes. A criança destaca a expressão angustiada do Motogato tentando navegar pelo universo urbano congestionado chegando corretamente ao seu destino com as informações que lhe são passadas —lugar semelhante ao do próprio aluno face ao desafio de dominar o código da escrita no processo de alfabetização.

Já a ilustração abaixo, criada por uma aluna de 5 anos, reconta simbolicamente a história narrada no livro “Menina Bonita do Laço de Fita”, de Ana Maria Machado. No desenho, a aluna fundiu na mesma representação as características da protagonista do livro e também do coelho, a outra personagem, que não só se apaixona por ela mas quer poder ser como ela.

Elaborado durante a mesma atividade de leitura do livro “Menina Bonita do Laço de Fita”, o desenho abaixo chama a atenção para o direcionamento da atenção da criança. Embora não tenha reproduzido elementos que surgiram na história do livro, o aluno mostrou curiosidade e capacidade de observação ao desenhar elementos do ambiente escolar onde estávamos, incluindo até o meu tripé, que usei para apoiar a câmera filmadora e registrar toda a entrevista. Por mais interessante que pudesse lhe parecer o livro, a presença de um pesquisador estranho e seus instrumentos sofisticados de trabalho, totalmente fora de contexto na rotina de uma escola no interior do Ceará, decerto lhe chamou mais a atenção do que a história de um coelho que se apaixonava por uma menina. Não se pode tirar a razão desse menino de querer destacar essa descoberta em seu desenho.

Os desenhos, portanto, ao fazer despertar representações usando formas e cores podem revelar experiências das crianças com os livros e materiais didáticos, por exemplo, ou até mesmo suas opiniões e sentimentos em relação ao ambiente escolar ou familiar. Ademais, a simples observação das crianças ao criarem seus desenhos pode revelar muitas questões ligadas ao seu desenvolvimento. A intimidade com o lápis e giz de cera pode ser índice de habilidades motoras enquanto que o compartilhamento do material e interações entre as crianças durante a atividade também expõem habilidades sociais e emocionais.

Fontes citadas:

ANNING, Angela. Drawing Out Ideas: Graphicacy and Young Children. International Journal of Technology and Design Education 7. p. 219 – 239, 1997.

CORSARO, W. Sociologia da Infância. Porto Alegre: Artmed, 2011

PINTO, M. & SARMENTO, M. J. (Org.). As crianças e a infância: definindo conceitos, delimitando campos. In: As crianças: contexto e identidades. Braga, Portugal: Centro de Estudos da Criança, 1997.

WAJSKOP, Gisela. Linguagem Oral e Brincadeira Letrada nas Creches. Educ. Real., Porto Alegre, 2017.

Avaliar melhor para reduzir a pobreza

Em seu livro Poor Economics, Esther Duflo e Abhijit V. Banerjee se inserem em uma discussão acalorada sobre como acabar com a pobreza no mundo. O debate entre Jeffrey Sachs, da Universidade de Colúmbia (End of Poverty, 2005), e William Easterly, da Universidade de Nova Iorque (The White Man’s Burden, 2006) transcorre há mais de 10 anos em torno da eficácia da ajuda internacional. Sachs, que além de professor é enviado especial das Nações Unidas na África, defende que a assistência deve ser prestada em grande escala e que isso não só vai elevar o nível de desenvolvimento de países pobres, como é uma obrigação dos países desenvolvidos promovê-la. Já Easterly, ex-gerente do Banco Mundial, discorda, afirmando que o uso indiscriminado dos recursos da cooperação internacional leva a corrupção e péssimos incentivos para os países que recebem o dinheiro, mantendo-os com níveis baixos de desenvolvimento humano.

Já o livro Poor Economics, Esther Duflo e Abhijit V. Banerjee, não trata a questão do assistencialismo por si só como um problema ou uma solução para o subdesenvolvimento. O argumento principal da obra é que precisamos estimar bem o impacto dos projetos por meio de experimentos, para sabermos exatamente quais ações reduzem a pobreza e em que medida. A ajuda internacional seria mais eficaz quanto mais se conheça as causas da pobreza no contexto do país receptor, possibilitando assim a aplicação de uma estratégia que comprovadamente funcione para atacá-las. Na Plan corroboramos essa visão, acreditando ser necessário alocar os recursos de forma ótima na cooperação internacional, aprendendo com avaliações anteriores, bem como tratar a pobreza como um fenômeno dinâmico, sensível a contexto e multidimensional.

Nesse espírito, terminamos recentemente um estudo de desenho semi-experimental medindo o retorno para a sociedade da rede de Centros Urbanos de Cultura, Arte, Ciência e Esporte (CUCAs) de Fortaleza. Esses centros são equipamentos públicos onde pessoas de 15 a 29 anos podem praticar esportes, ter acesso à cultura, como teatro e dança, e atendimento psicossocial com auxílio de pessoal especializado no desenvolvimento pessoal do jovem para melhor formá-lo para o mundo.

Procurando estimar como a participação nos CUCAS afeta o futuro dos jovens, realizamos encontros, debates e entrevistas para entender melhor os processos de transformação pelos quais esses jovens passam ali. Em seguida aplicamos questionários padronizados com amostras aleatórias representativas de pessoas participantes e não-participantes do programa. Como não havia linha de base para comparação, tivemos de fazer aproximações para poder estimar o que havia mudado na vida desses jovens em termos de competências socioemocionais, além de qualificação profissional, autoestima, perspectiva de futuro, mudanças de comportamento e valores, entre outros resultados que se esperava que o programa obtivesse. Desenvolvemos técnicas de perguntas para que as pessoas reconstruíssem como estavam há 3 anos, antes de a Rede CUCA ser implantada, e se comparassem com o momento atual.

Com os dados em mãos, utilizamos a técnica de diferenças das diferenças, que compara as evoluções dos grupos controle e tratamento em dois momentos do tempo. Quando observamos as duas diferenças, a primeira entre o grupo tratamento antes e depois do CUCA, e a segunda entre o grupo tratamento e controle nos mesmos momentos, podemos estimar o impacto do programa considerando que ambos foram expostos a uma gama semelhantes de fatores externos. Ao final, demonstramos, por exemplo, que as probabilidades de os participantes do programa terminarem o ensino médio e tentarem ingressar no ensino superior são significativamente maiores que a de outros jovens.

Para estudar o impacto financeiro do CUCA sobre os rendimentos de seus participantes, utilizamos os resultados das regressões e os multiplicamos pelos valores apurados pelo IBGE para as faixas de renda associadas a cada nível de escolaridade. Como os resultados das regressões indicaram que os frequentadores do CUCA tendem a ter escolaridade mais alta do que a do grupo de controle, é de se esperar que os rendimentos daqueles seja consequentemente maior. A soma desses recebimentos futuros representará um retorno de valor para a sociedade de aproximadamente 3 vezes o montante investido na Rede CUCA.

Com esse estudo pudemos contribuir mostrando que a Rede CUCA pode trazer não só diversão, esporte e cultura para jovens de Fortaleza, mas também trabalho e renda, reduzindo a pobreza. Com o possível ganho de longo prazo medido para os recebimentos do trabalho em um número significativo de casos (foram 263.409 participantes de atividades do CUCA nos últimos 3 anos), a região pode desenvolver novos empregos, movimentar mais bens e estimular a própria economia, melhorando a vida não só daqueles que receberam as vantagens do CUCA, mas também de todos em volta.

As avaliações que combinam análises qualitativas com experimentos controlados para estimar a eficácia dos programas sociais voltados aos grupos mais pobres têm peso crescente no portfólio da Plan, com projetos de grande escala em curso no Nordeste rural do Brasil voltados ao desenvolvimento infantil e à geração de renda no campo. Por meio destes, conforme defendem Duflo e Banerjee, contribuímos para escolher as estratégias mais eficazes de redução das pobrezas; por meio daquelas, entendemos como operam e como os pobres as vivenciam, fornecendo elementos para que sejam adaptadas pelos governos a seus contextos locais.

Fontes:

Esther Duflo & Abhijit V. Banerjee, “Poor Economics: A Radical Rethinking of the Way to Fight Global Poverty”; 2011, PublicAffairs

Esther Duflo, TED Talk, “Social Experiments to Fight Poverty”; https://www.ted.com/talks/esther_duflo_social_experiments_to_fight_poverty

Jeffrey Sachs, “The End of Poverty: How We Can Make It Happen In Our Lifetime”; 2005,             Penguin Press

William Easterly, “The White Man’s Burden: Why the West’s Efforts to Aid the Rest Have Done So Much Ill and So Little Good”; 2006, Penguin Books

Impact Bonds: avaliando o financiamento privado de programas sociais

Pela primeira vez em um país em desenvolvimento, na Colômbia, foi lançado um “Social Impact Bond” (SIB). O programa patrocinado pelo título de dívida tem como objetivo ajudar 514 indivíduos classificados abaixo da linha de pobreza ou desalojados devido ao conflito interno que vive o país a encontrar trabalho. O foco são pessoas formadas no ensino médio, com 18 a 40 anos, que, na data de início do programa, não possuíam emprego. Financiado em 50% pelo governo do país e 50% pelo governo da Suíça, por meio de agências internacionais de apoio em parceria com o Banco Interamericano de Desenvolvimento (BID), a trajetória do SIB vem sendo acompanhada de perto pela Instiglio, organização sem fins lucrativos, dedicada ao desenvolvimento de Impact Bonds em todo o mundo. A consultoria Deloitte será a responsável pelas avaliações independentes necessárias neste processo.

O Impact Bond é um sistema de financiamento de políticas de interesse da sociedade. Além do SIB, há também o Development Impact Bond (DIB), que já é utilizado em outros dois países em desenvolvimento, Peru e Índia. Tanto SIB como DIB possuem a mesma inspiração financeira. Um operador privado aporta o capital inicial e assume o risco do investimento. Caso tenha sucesso na avaliação de impacto feita por um organismo independente, o governo ou garantidor privado cobre seu investimento e uma margem de lucro pré-definida. A maior diferença entre SIB e DIB é o financiador final; no primeiro, este é o governo, enquanto no DIB o financiador é uma instituição garantidora privada.

Para os avaliadores profissionais, a parte que chama mais atenção é o fato de o sistema depender de medições externas, independentes dos dois agentes principais do contrato, para certificar a eficiência e os incentivos corretos na prestação dos serviços propostos pelos Impact Bonds. No caso do DIB peruano, a intervenção é um suporte para o cultivo de cacau pela população indígena em áreas da Amazônia. O objetivo é aumentar a produção e o retorno financeiro da população da região com a commodity. A medição é feita com uma linha de base, definida no início do tratamento, e com indicadores medidos durante e após a intervenção. No entanto, as medições nesse caso não possuem grupos de controle, o que pode gerar distorções na análise dos dados.

Brookings

Já na Índia, o primeiro caso de um DIB para educação ocorreu no Rajastão. O projeto é direcionado para educação de meninas, um problema fundamental no país asiático e outros lugares do mundo, onde muitas vezes mulheres são impedidas pelas próprias famílias de ter qualquer tipo de educação. O projeto consiste em dar suporte à ONG Educated Girls, que tem como objetivo aumentar a assiduidade na escola, as notas e diminuir a taxa de evasão de meninas e meninos. O projeto inclui equipe que vai de casa em casa conversar com pais e mães para convencê-los a matricularem seus filhos e, principalmente, filhas nas escolas.

O sistema de medição de impacto do projeto de educação na Índia tem formato diferente do peruano. Além da linha de base, a empresa de consultoria IDinsight, contratada para fazer a avaliação de impacto externa, utilizou a base de escolas da ONG Educate Girls para formar um grupo controle que não receberia o tratamento, sendo mantido para comparação. Como as escolas da base de dados foram escolhidas de forma aleatória para o grupo controle e tratamento, podemos dizer que a avaliação tem formato experimental, e que, portanto, se presta a determinar se o tratamento efetivamente causou o impacto observado.

Fonte: Instiglio

No caso peruano, como estamos falando de uma avaliação com comparação entre linha de base e resultado final, sem grupo controle, fatores não observáveis podem gerar problemas de inferência de causalidade. Um exemplo é o desempenho do mercado de cacau no mundo. Caso o impacto externo no mercado de cacau seja positivo, os indicadores serão impactados positivamente e não necessariamente esse impacto estará relacionado com o programa. A falta de grupo de controle será um problema em casos como esse, podendo premiar (ou não) o controlador do programa devido a fatores que ele não controla, reduzindo a validade da avaliação e possivelmente causando futura desconfiança em novos acordos na região.

Já o formato da avaliação de impacto utilizada no DIB indiano não só utiliza grupo controle, como escolhe grupos controle e tratamento por sorteio aleatório. Primeiro, a utilização de um grupo controle permite que impactos provenientes de outras fontes que não o programa possam ser retirados dos impactos que observamos nos indicadores, deixando apenas aqueles relacionados ao tratamento. Nesse caso, por exemplo, uma melhora estrutural no sistema educacional da Índia seria identificada por tratamento e controle e não entraria na contabilidade do indicador final, que compara um com o outro. Segundo, as amostras serem aleatórias para grupos tratamento e controle traz mais eficiência ao avaliar os reais impactos do programa, mostrando impactos causais entre indicadores e tratamento.

Em suma, apesar de entender que nem sempre temos a possibilidade de fazer um sistema de avaliação de impacto com grupos tratamento e controle criados aleatoriamente, é importante sempre ter em mente possíveis formas de retirar da avaliação causas externas à intervenção que não deveriam ser contabilizadas.

Programas como os Impact Bonds são muito bem vindos para a melhoria do funcionamento e da prestação de serviços de interesse público e social no mundo, principalmente para países em desenvolvimento. O mais interessante desse sistema é ele buscar a eficiência por desenho, exatamente porque utiliza sistemas de medição para certificar que o serviço seja prestado e atestar a qualidade oferecida. Isso tudo tirando o ônus do risco das mãos do setor público e instituições financiadoras, além de jogar incentivos diretamente para o setor privado, que, de modo geral, lida bem com estas variáveis. Na Plan vemos com muito bons olhos iniciativas que valorizam a medição para garantir o maior impacto possível de uma intervenção, seja por parte do setor público ou privado.

Fontes:

  • Autonomous and sustainable cocoa and coffee production by indigenous Asháninka people of Peru. Field mission for the verification of impact indicators of the Development Impact Bond agreement CFC/2013/03/139FT: http://common-fund.org/fileadmin/user_upload/Verification_Report.pdf
  • Brookings Institute, https://www.brookings.edu/blog/education-plus-development/2016/07/18/educate-girls-development-impact-bond-could-be-win-win-for-investors-and-students/
  • Brookings Institute, https://www.brookings.edu/blog/education-plus-development/2017/03/31/colombia-leads-the-developing-world-in-signing-the-first-social-impact-bond-contracts/
  • Instiglio, http://instiglio.org/educategirlsdib/wp-content/uploads/2015/09/Educate-Girls-DIB-Sept-2015.pdf
  • Instiglio, http://www.instiglio.org/en/impact-bonds/
  • Instiglio, http://www.instiglio.org/en/sibs-worldwide/
  • William R. Shadish, Thomas D. Cook, & Donald T. Campbell; “Experimental and Quasi-Experimental Designs for Generalized Causal Inference”; Houghton Mifflin Company. 2002.

A importância da Linha de Base para a Avaliação de Impacto na Gestão de Políticas Públicas

Certamente você já deve ter visto propagandas de gestores públicos dizendo quanto foi investido em determinado programa, quantas pessoas foram beneficiadas, quantos uniformes escolares foram distribuídos, etc… À primeira vista isso pode parecer suficiente para avaliar uma gestão, contudo, é importante ter em mente que divulgar o montante investido ou o número de beneficiários é muito diferente de informar o impacto que os investimentos públicos tiveram na vida da população.

Ou seja, dizer que mil pessoas foram atendidas no novo posto de saúde não significa exatamente que a qualidade do serviço de saúde aumentou. Afirmar que houve uma expansão na capacidade do serviço diz pouco ou quase nada sobre o impacto que esta ação teve na vida dos cidadãos atingidos. Para saber qual o efeito desta ação seria necessário averiguar como esta ampliação de atendimento resultou na melhora dos indicadores de saúde, se é que estes indicadores realmente melhoraram. Isto permitiria ao gestor divulgar não apenas o número de atendidos, mas o efeito produzido por esta ação.

Ainda que isso não pareça uma prioridade dentre a maior parte dos gestores, avaliar o impacto das políticas não é apenas uma maneira de melhorar o accountability da gestão, mas também uma forma de gerar dados que possam subsidiar as decisões que devem ser tomadas.

Além de não ser comum a preocupação com a mensuração do impacto das políticas implementadas, ainda há entre os gestores muita insegurança sobre como fazer uma avaliação deste tipo. Vejamos um exemplo claro de como uma avaliação de efeito de uma política pode ser equivocada.

Imagine que um gestor observou que os alunos de uma determinada escola aumentaram suas notas depois que houve uma mudança no cardápio da merenda escolar. A partir desta observação ele elaborou um relatório apontando essa melhora no desempenho escolar como sendo efeito da mudança no cardápio merenda. Até aqui tudo parece coerente, certo? Errado! A conclusão que o gestor chegou pode estar completamente equivocada e seu relatório pode passar a falsa ideia de que o um novo cardápio vai auxiliar na melhora do rendimento escolar.  Isso acontece porque diversos outros fatores podem ter influenciado as notas dos alunos e, talvez, a mudança no cardápio não tenha relação alguma com o desempenho escolar destes estudantes.

Qual seria então a maneira ideal para se mensurar o efeito de uma determinada política pública na vida dos beneficiários? A resposta é: a partir de uma avaliação de impacto[1] que permita uma comparação da evolução do indicador analisado com um contrafactual. A princípio isso pode parecer muito complexo, mas este exercício analítico é muito mais simples do que parece, na realidade todo o raciocínio deste tipo de investigação parte de uma pergunta trivial: o que teria acontecido com os beneficiários da política pública caso ela não tivesse sido implementada?

Seguindo no mesmo exemplo da mudança no cardápio da escola, a pergunta a ser respondida seria: o que teria acontecido com estes estudantes caso o cardápio tivesse permanecido como era anteriormente?

Sabendo como eram as notas dos alunos antes e depois da mudança no cardápio e estimando o que teria acontecido caso tal mudança nunca tivesse sido implementada é possível comparar os dois cenários e mensurar o verdadeiro impacto da política pública em questão.

Apesar de não ser difícil fazer tal comparação, ela requer uma preparação anterior à implementação da política pública a ser avaliada, e isso ocorre por dois motivos. Primeiro porque neste tipo de análise é necessário ter informações sobre o antes (Linha de Base) e o depois da intervenção (Avaliação Final dos Resultados). Segundo porque para fazer um contrafactual é fundamental ter informações não apenas sobre as pessoas que serão beneficiadas pela política pública (Grupo de Tratamento), mas também é necessário reunir dados sobre os indivíduos que não vão ter acesso a tal benefício (Grupo de Controle). A ideia aqui é comparar a evolução destes dois grupos de indivíduos ao longo do tempo e, a partir disso, calcular o real impacto da política avaliada.

A Linha de Base é importante para medir a condição anterior à intervenção e desta maneira municiar o gestor com informações da situação dos indicadores que deverão ser afetados com a implementação da política pública; a Avaliação Final busca identificar quais os resultados obtidos com as ações dos governos. Por fim, o papel do Grupo de Controle é servir como parâmetro da comparação, este grupo de pessoas será analisado para que se possa estimar o que teria acontecido caso o cardápio não tivesse sido alterado.

Na ilustração abaixo podemos visualizar melhor como é feita tal comparação.

A diferença na evolução da nota do Grupo de Tratamento e a evolução da nota do Grupo de Controle é o impacto obtido pela implementação da política pública, no caso a mudança no cardápio da escola.

Neste início de 2017, mais de 4 mil novos prefeitos e prefeitas estão assumindo seus cargos e com eles e elas surgem novas ideias e muito provavelmente novas políticas públicas. Ou seja, neste momento abre-se uma janela de oportunidade para que os gestores possam planejar não apenas suas intervenções, mas também tracem planos sobre como avaliá-las adequadamente.  Apenas desta forma eles poderão ter certeza dos reais impactos que os recursos públicos investidos proporcionaram aos cidadãos beneficiados. Com isso toda a sociedade ganha, pois teremos maior transparência e confiabilidade acerca das transformações sociais que as políticas públicas implementadas alcançaram. Ademais, ao fim de uma gestão, ter esses dados pode ser uma peça chave para mostrar à população que a contribuição deixada para o município é muito mais do que uma simples peça publicitária.


[1] Importante ressaltar que a avaliação de impacto pode ser prospectiva ou retrospectiva . Como o objetivo do texto é propor um modelo de avaliação mais próximo do ideal, aqui vamos tratar apenas do modo prospectivo porque é ele que oferece maior confiabilidade na mensuração do impacto. (Gertler, Paul J., Sebastian Martinez, Patrick Premand, Laura B. Rawlings, and Christel M. J.Vermeersch. 2016. Impact Evaluation in Practice, second edition. Washington, DC: Inter-American Development Bank and World Bank. doi:10.1596/978-1-4648-0779-4. License: Creative Commons Attribution CC BY 3.0 IGO http://www.worldbank.org/en/programs/sief-trust-fund/publication/impact-evaluation-in-practice)

Reconhecimento

Na Plan temos como princípio que a prática da pesquisa faz com que os nossos consultores estejam mais preparados também para a reflexão teórica. Isso porque quem vai a campo tem a oportunidade de testar suas hipóteses, confrontando-as com a realidade vivida pelas pessoas, realidade que refuta, afirma e estimula com uma veemência que o argumento e o contraditório, no plano das ideias, não alcançam. Nestes tempos de juízos baseados em informação de segunda mão alimentados pela hipercirculação das ideias na internet, é tentador se engajar no debate a partir de pontos de vista autorizados por outros, sem que nos demos conta que algumas vezes as autoridades também apoiam suas teses em informações colhidas precariamente.

Como sempre –mas mais ainda hoje porque as notas metodológicas somem nos rodapés do desinteresse e da falta de tempo do público– o teste empírico é indispensável para que o conhecimento sobre a realidade social qualifique o discurso. Para o avaliador essa missão é crítica pois suas conclusões informarão, além da teoria sobre como fazer programas e projetos melhores, a execução de políticas que afetarão a vida das pessoas.

Por isso fiquei muito orgulhoso com o reconhecimento que grandes instituições produtoras de saber deram a quatro membros de nosso escritório este ano. Uma delas, Rafaela Antoniazzi, foi aceita no programa de doutoramento em economia da Fundação Getúlio Vargas. Seus posts neste blog dão conta de como sua perspectiva evoluiu como resultado da imersão na realidade das escolas, empresas, agricultores, ONGs, governos e tantos outros atores que teve a oportunidade de entrevistar nesses anos de Plan, abrindo sua perspectiva sobre as possibilidades dos métodos mistos de pesquisa.

Cristiana Martin e Peter Smith, que outro dia mesmo, cientistas sociais recém-saídos da faculdade, tiveram na Plan uma porta de acolhimento no mundo profissional, ingressaram ambos no programa de mestrado em sociologia da Universidade de São Paulo. Os dois têm abraçado desafios como investigar a realidade vivida pelas pessoas da zona rural do Maranhão, dos bairros pobres do ABC paulista, dos vilarejos do extremo norte do Amapá, de territórios marcados por problemas sociais seriíssimos como a exploração de crianças e o tráfico de pessoas, entre tantas outras viagens a campo. Esses mesmos jovens sociólogos aprenderam, pelo calejamento da prática, a ter a segurança necessária para entrevistar também pessoas em posição de poder nas inúmeras avaliações institucionais que a Plan faz.

Por fim, e não menos entusiasmante, a ex-advogada Veridiana Mansour, que se fez avaliadora neste escritório após concluir um mestrado de transição de carreira, foi contratada pela FAO – Organização das Nações Unidas para a Alimentação e a Agricultura, em seu centro mundial de avaliação, em Roma. Uma notícia agridoce pela falta que nos faz, mas que mais que tudo corrobora sua incrível dedicação ao trabalho de pesquisa.

Parabéns a eles e a toda a equipe da Plan, e um 2017 de mais prática e mais reflexão para todos nós. Se tiver que amassar barro, nós amassamos, como a Cris e a Rafa aí na foto.

Transparência na gestão pública: monitoramento de políticas por meio de dados abertos

Uma das maneiras mais simples de se monitorar políticas públicas é recorrendo a dados da gestão pública que as instituições de governo disponibilizam online.

No mundo todo, é crescente a demanda pela transparência na divulgação desses dados. No Brasil, os órgãos e entidades públicas são obrigados a disponibilizar informações desde que a Lei de Acesso à Informação (Lei nº 12.527/2011) entrou em vigor em maio de 2012. Atualmente, o país ocupa o 18º lugar no Global Right to Information Rating, que ranqueia as legislações mais rigorosas, apesar de ter sido o 89º país a adotar uma lei de acesso à informação pública. A LAI já tem quatro anos e ainda há muitas falhas no atendimento aos pedidos de acesso à informação.

Na busca por governos mais transparentes, diversas iniciativas e portais foram criados tanto para facilitar o acesso e compreensão de dados disponibilizados, monitorando o desempenho ou gastos das gestões públicas, como para monitorar e cobrar a transparência dos governos nas instâncias municipal, estadual e federal.

Esses portais também auxiliam nas pesquisas de monitoramento quando é necessário recorrer a dados secundários. Tivemos oportunidade de conhecer algumas iniciativas ao longo dos nossos trabalhos e vamos partilhar algumas aqui no Blog.

Em trabalho com a Fundação Lemann, utilizamos o portal QEdu que monitora dados sobre a educação no Brasil. É possível comparar dados do Enem, Ideb, Censo Escolar e Prova Brasil por municípios e por todas as unidades escolares públicas e privadas, municipais e estaduais. O portal também possibilita desmembrar alguns indicadores, como o Ideb, formado pela nota da Prova Brasil no aprendizado (conhecimento de conteúdos) e no fluxo (taxa de aprovação).

Para o Instituto Ethos, trabalhamos com o Cidade Transparente. Trata-se de uma iniciativa que mensura a transparência municipal através dos Indicadores da Cidade Transparente, “obtido por meio da análise de informações e dados da administração pública” que é “adaptado da metodologia de avaliação da transparência das cidades-sede da Copa do Mundo desenvolvida no âmbito do projeto Jogos Limpos”, avaliado pela Plan. A iniciativa busca estimular a participação social e contribuir para melhoria da transparência dos municípios brasileiros.

Ainda monitorando o avanço da transparência no país, o Transparência Brasil acompanha informações sobre a vida e as decisões políticas no país. Três projetos principais são desenvolvidos pela organização: “Excelências”, com informações sobre o histórico dos congressistas, incluindo processos na justiça, multas, declarações de bens, etc; “Meritíssimo”, um acompanhamento das decisões dos ministros do STF; “Às Claras”, um banco de dados com informações sobre financiamento de campanhas eleitorais municipais, estaduais e nacionais desde 2002. O portal deve lançar em breve o “Cadê minha escola?” para monitorar de maneira participativa a construção de escolas e creches públicas.

No âmbito do monitoramento de arrecadação e gastos dos municípios, a Fundação Brava desenvolveu o portal Meu Município, que usa dados do Ministério da Fazenda (Secretaria do Tesouro Nacional) e do IBGE. A metodologia utilizada pode ser consultada aqui.

Conheça mais sobre as iniciativas pela transparência no Brasil:

Retps: Rede pela Transparência e Participação Social
GPoPAI – USP: Grupo de Pesquisas em Políticas Públicas para o Acesso à Informação
Eaesp – FGV
Artigo 19

Novas tecnologias no espaço urbano: os casos do Pokémon Go e do Waze

Logo depois do lançamento do aplicativo Pokémon GO em São Paulo, tornou-se comum ver grandes grupos de pessoas congregadas em marcos da cidade com smartphones na mão, estacionárias salvo os dedos mexendo na tela, furiosamente lançando pokébolas aos Pokémons “selvagens”. Esta cena curiosa tem se reproduzido no mundo inteiro, com milhões de usuários saindo das suas casas para mergulhar num mundo virtual, imbuindo espaços públicos com novos significados como campos de batalha, lojas de suprimentos ou o habitat de certas criaturas. Embora os “treinadores” estejam intensamente focados nesse universo artificial, o fenômeno do Pokémon GO transcende o virtual e faz parte de uma discussão maior sobre o impacto de novas tecnologias sobre antigas questões como espaço público e estigmatização.


No caso do Pokémon GO, nos Estados Unidos foi notado que os Pokémon estavam concentrados em bairros mais centrais e/ou ricos. Devido ao alto nível de segregação residencial nas cidades americanas, isso significa que, geralmente, bairros povoados por minorias raciais têm menos acesso ao jogo. Uma explicação é que os desenvolvedores distribuíram os Pokémon segundo um mapa para um aplicativo anterior que utilizava os locais mais frequentados pelos usuários, que aparentemente tendiam a ser mais ricos e velhos. Mesmo assim, é importante considerar como um jogo aparentemente inócuo se relaciona com questões de segregação e direito à cidade.

Como observam Angelique Harris e Jonathan Wynn, sociólogos da Marquette University (EUA), há vários casos de pessoas confundidas com criminosos ao andarem por seus bairros por serem negros, o que pode resultar em confrontos com policiais desconfiados. De fato, essa situação já ocorreu com um jogador de Pokémon GO cujos comentários públicos ecoaram os apelos dentro da comunidade afro-americana para que se tome cuidado ao usar o aplicativo.

Por outro lado, a falta de Pokémon em bairros afro-americanos discutivelmente reflete preconceito geográfico que favorece bairros privilegiados ou pelo menos nos quais jogadores brancos não se sentiriam desconfortáveis. É preocupante que, intencionalmente ou não, a atual versão do aplicativo esteja reproduzindo a segregação urbana, mas o seu sucesso impressionante em tornar os usuários exploradores do meio urbano e em promover interações espontâneas também representa uma oportunidade de superar barreiras classificatórias, como classe e aparência.

Esse mesmo potencial se aplica no contexto de metrópoles brasileiras como São Paulo e Rio de Janeiro, onde o Pokemon GO está conspicuamente ausente nos bairros pobres; mas o papel de novas tecnologias no debate de questões sociais como segurança pública não se restringe ao mundo de criaturas fantásticas. O Waze, um aplicativo social de tráfego com seis milhões de usuários no Brasil, recentemente adicionou uma função que utiliza dados do Disque-Denúncia para alertar os motoristas cariocas que estão perto de uma de 25 “áreas de risco de crime” e garantir que as rotas evitem ruas denominadas “perigosas”.

Essa função, por enquanto exclusiva do Rio, chega um ano depois da morte de uma mulher que foi orientada pelo Waze a entrar no bairro do Caramujo, em Niterói. Evidentemente, essa informação pode salvar vidas, mas não está claro se é possível fornecer esse aviso sem estigmatizar as comunidades de “alto risco”. Consciente desse potencial, o Waze decidiu que os nomes desses lugares seriam visualizados apenas se o usuário colocar um deles como destino, ou se entrar em um deles. Para um morador da Rocinha, contudo, esse atributo certamente contribui para a marginalização: “Quando você mapeia parte da cidade e diz que uma parte é perigosa e outra não é perigosa, você está excluindo as pessoas…A gente não tem nenhum relato de pessoas que sofreram agressões por terem entrado errado na Rocinha por causa de aplicativo”. Neste sentido, o Waze representa uma abordagem baseada em dados para antecipar o crime, mas também pode influenciar a maneira pela qual moradores cariocas vivenciam a sua própria cidade e até aprofundar a polarização espacial do Rio de Janeiro.

Seja no momento de caçar Pokémon ou se deslocar pela cidade, novas tecnologias móveis oferecem maneiras inovadoras de perceber os arredores e simultaneamente estimulam debates familiares sobre integração social ou sua ausência. É interessante pensar também como a produção coletiva de dados pode auxiliar os governos na melhoria dos serviços públicos, como a manutenção de praças de parques, o policiamento direcionado, etc., ou ainda na identificação de carências específicas de certos bairros, aproveitando os dados de crowdsourcing para construir um governo mais eficaz e mitigador das desigualdades urbanas por meio do monitoramento participativo. Só o tempo dirá em que direção caminharemos.

Reduzindo a pobreza pela política habitacional

Idealmente, espera-se que as políticas públicas encontrem soluções sustentáveis para problemas sociais, ou seja, com algum grau de permanência. A pobreza, visível todos os dias das ruas aos noticiários, é uma das principais questões de política pública. Programas sociais já tiveram impacto em reduzi-la (Bolsa Família, por exemplo), mas no que tange a pobreza que dorme embaixo de viadutos, nas portas de comércios e grelhas de ventilação —a pobreza dos desabrigados— ainda há muito o que fazer.

Este artigo discute um pouco dos atuais problemas habitacionais nos grandes centros urbanos dos Estados Unidos e apresenta algumas das políticas públicas realizadas por lá.

O problema de moradia e o crescimento dos homeless nos Estados Unidos é cada vez mais debatido nos noticiários. As grandes cidades nunca tiveram índices tão altos de populações de rua.  Um dos motivos para tal fenômeno é o crescimento no número de despejos: por não conseguirem pagar o aluguel ou em alguns casos a hipoteca, famílias são expulsas do lugar onde moram, e a dificuldade de encontrar vagas em abrigos ou locadores que as aceitem aumenta a probabilidade de ficarem desabrigadas.

O pesquisador e sociólogo urbano de Harvard, Matthew Desmond, realizou um recente estudo sobre despejos nos Estados Unidos. Baseado em dados quantitativos e pesquisa de campo com 8 famílias que sofreram despejos na cidade de Milwaukee (WI), ele concluiu que os despejos são uma causa da pobreza e não o resultado dela:

“Famílias que sofrem despejo perdem a moradia e seus pertences, que ficam ou empilhadas na calçada ou são armazenadas. Se as agora famílias de rua deixaram de realizar os pagamentos, seus pertences são ou vendidos ou jogados no lixo. Crianças perdem a escola e pessoas perdem seus trabalhos. Os despejos vêm junto com um histórico da família registrado em tribunal, e isso pode afetar onde a família vai viver dali em diante. Muitos proprietários recusam famílias que tenham sido despejadas recentemente. Isso faz com que essas famílias passem a ocupar bairros e moradias piores. As autoridades responsáveis por habitação pública tratam despejos como um entrave às inscrições das famílias em programas sócias de habitação, o que significa que as que mais precisam de ajuda, as despejadas, são negadas. (…). [O despejo] é um fator que desencadeia depressão; com efeitos na saúde mental. Você coloca tudo isso na ponta do lápis e chega a uma nova forma de ver a pobreza, uma que vê os despejos como algo que coloca as famílias em uma trajetória social muito mais complicada.”

É fácil associar despejos à “simples” incapacidade de pagar o aluguel. No entanto, essa percepção deve ser colocada em perspectiva.

Desmond menciona que quando se lê reportagens sobre desocupações no New York Times nos anos 1930 e 1940, o despejo era algo que chamava atenção das pessoas e não era frequente. Hoje, um em cada oito inquilinos em uma grande cidade americana sofre despejos a cada dois anos na média. O que nos leva a perguntar: o número de despejos aumentou com o passar das décadas e se tornou algo “normal”? Desmond confessa a dificuldade de encontrar dados de séries históricas sobre despejos nos Estados Unidos, mas dados sobre o valor dos aluguéis – outra maneira de olhar para o mesmo problema – revelam uma evolução preocupante.

O geógrafo Eric Fischer pesquisou o valor dos aluguéis descritos em anúncios de jornais na cidade de São Francisco nos últimos 70 anos e concluiu que o aumento tem sido, em média, de 6.6% ao ano. Isso significa 2.5% acima da inflação. Em 60 anos é como se o preço da habitação quadruplicasse comparado a todas as outras coisas com que os salários devem arcar. São Francisco pensou sim em controlar o valor dos alugueis já em 1979, mas outras variáveis como o número de unidades habitacionais disponíveis, o valor dos salários e o número de empregos fazem parte da equação para de fato evitar o aumento da população de rua.

Existe uma fórmula para a política habitacional nos grandes centros urbanos? Tem dado certo?

O controle do valor dos aluguéis é de fato uma das maneiras de se evitar o aumento do número de moradores temporários de rua e foi implantado em Berlim, por exemplo. É a primeira cidade da Alemanha a adotar uma legislação que proíbe aumentar o valor do aluguel em mais de 10% do valor pago pelo último locatário. Além de ser uma forma de conter um dos valores de aluguel que mais aumenta na Europa e que é marcado por uma grande diferença no valor pago em contratos de aluguel existentes e novos, tenta evitar que Berlim se transforme em uma Paris ou Londres, onde a população com baixos salários não necessariamente vai para a rua, mas deixa de poder viver nas principais zonas da cidade e acaba sendo empurrada para áreas periféricas. O controle dos aluguéis pode evitar novos despejos, mas certamente não soluciona a situação de quem já tem a rua como morada permanente.

Aliás, despejo não é o único motivo que leva famílias ou pessoas a adotar a rua como moradia. Essa população tem diferentes perfis e origens. Já em 1992, o psicólogo Sam Tsemberis mostrou uma diferença taxonômica, identificando dois tipos de moradores de rua: o temporário e o permanente. Considerou que o primeiro pode ser mais facilmente ajudado pelo Estado: pode ser vítima de despejo, de desemprego e há programas sociais que podem prover assistência. O segundo é, no mais das vezes, vítima de uma pobreza extrema, associada à dependência química, alto consumo de álcool e transtornos mentais. De forma semelhante, Eneida Bezerra et al. trazem as diferenças entre “Ficar na rua”, “Estar na rua” e “Ser da rua”, sendo as duas primeiras formas no âmbito temporário e a última no permanente.

Uma política pública de sucesso fez cair 23% o número dos moradores de rua permanentes desde meados de 2015 e em 60% desde 2013 em três condados da Flórida, Estados Unidos. A prática implica em uma inversão de um antigo conceito. Em vez de primeiro dar tratamento aos moradores permanentes de rua (em especial as vítimas de traumas, com uso abusivo de substâncias psicoativas ou transtornos mentais) e depois dar-lhes moradia com condicionantes (como permanecerem “limpos” e “sãos”), a região da Flórida Central passou a oferecer moradia permanente sem os tradicionais fatores condicionantes. A estratégia é chamada de “housing first” (moradia primeiro) e tem mostrado que os beneficiários vem conseguindo manter a casa em 63 a 77% dos casos, ao invés dos 24 a 39% que receberam casa com as estratégias condicionantes. Bons resultados também aparecem em Seattle, Denver e Washington, além dos estados de Rhode Island, Illinois e Utah.

Por fim, voltando ao caso de moradores temporários que, além de vítimas de despejo não dispõem de recursos para pagamento de pensão e buscam alternativa às ruas em albergues, a recente mudança no direcionamento do orçamento dado pelo Department of Housing and Urban Development (Federal) têm deixado os gestores de abrigos preocupados.

A ideia é direcionar o orçamento para moradias permanentes, indicando que é uma medida mais produtiva do que os abrigos municipais transitórios. Essa medida pode significar perda de 500 camas distribuídas em aproximadamente 12 abrigos na cidade de Nova Iorque onde vivem 58 mil pessoas —numa cidade que tem por obrigação fornecer abrigo a todos os moradores de rua.

Ao que tudo indica, a transferência para a moradia permanente pode mesmo ser uma melhor alternativa. No entanto, cortar custos dos albergues é uma manobra muito arriscada. O New York Times indica que “moradia permanente pode ser uma solução para famílias desabrigadas, mas moradores de rua sós precisam de mais ajuda no combate a outros fatores —desde transtornos mentais até a recuperação pós-encarceramento— e os serviços dos albergues também prestavam auxílio a esses problemas”.

A medida é recente, foi divulgada em maio de 2016 e ainda não há pesquisas que possam indicar os resultados da mudança no direcionamento do orçamento dos albergues. No entanto, o grande risco é que se torne em uma nova forma de despejo, o despejo dos abrigos.

Fontes

Mudanças nas políticas de drogas: consequências para a avaliação

Em outubro de 2012, os governos de Colômbia, Guatemala e México declararam que, ante a ameaça das organizações narcotraficantes, as Nações Unidas deveriam marcar uma conferência “que permitisse tomar as medidas necessárias para aprimorar as estratégias e os instrumentos utilizados pela comunidade global para enfrentar as drogas e suas consequências.” A chamada UNGASS (Sessão Especial da Assembleia Geral) começa no dia 19 desse mês, e o debate será influenciado tanto pelas reformas políticas adotadas em países específicos quanto pelas tendências que persistem desde a última conferência em 1998 cuja divisa foi “Um mundo sem drogas: podemos consegui-lo!”

Por um lado, a legalização do consumo de drogas psicotrópicas em graus diferentes em países como Portugal, Suíça, Uruguai e os estados americanos de Colorado e Oregon tem melhorado indicadores econômicos e de saúde pública. Por outro lado, um regime de proibição parece incapaz de inibir o aumento do consumo ou enfraquecer o crime organizado. Segundo estimativas da ONU, 246 milhões de pessoas usaram drogas em 2013, ou 5% da população global entre 15 e 64 anos, e esse número aumentará para 25% até 2050. Além disso, a lucratividade do tráfico de drogas continua estimulando violência e corrupção ao mesmo tempo em que os preços sobem.

A sociedade civil vê na UNGASS uma oportunidade única de promover alternativas à proibição e começar a mudar o consenso global ao redor das drogas. Segundo Steve Rolles, analista de políticas da campanha Transform do Reino Unido, a ONU em si está cada vez mais dividida internamente, com “relatórios do [Conselho de Direitos Humanos das Nações Unidas], UNAIDS e PNUD articulando críticas devastadoras da guerra contra as drogas.” Se a confluência desses fatores levar à adoção de reformas substanciais durante a UNGASS, impactará diretamente a atuação do Escritório das Nações Unidas sobre Drogas e Crime (UNODC).

Todos os projetos do UNODC incorporam avaliações realizadas pela Unidade de Avaliação Independente que seguem as normas e diretrizes da ONU como um todo. De acordo com um relatório do Global Drug Policy Observatory, avaliações baseadas em evidência serão essenciais tanto para determinar a eficácia das políticas de drogas vigentes quanto para elucidar alternativas viáveis ao status quo. Para esse fim, será necessário reconciliar as perspectivas divergentes das duas comunidades –a oficial de controle de drogas e a dos que querem reformas–porque é muito provável que os resultados sejam interpretados diferentemente, dependendo do olhar do avaliador.

Segundo os autores, as avaliações convencionais normalmente utilizam indicadores que medem o sucesso de um programa ou iniciativa pelo nível de conformidade com os acordos internacionais. Assim, a teoria de mudança ambiciona que “a proibição da produção, tráfico e consumo de substâncias psicotrópicas ilícitas resultará na redução (ou até a eliminação) do dano que elas causam à saúde e bem-estar de indivíduos e sociedades, e na mitigação das ameaças à estabilidade, segurança e soberania dos países.” Os indicadores usados nessas avaliações frequentemente correspondem a questões de implementação e impactos intermediários, tais como: redução do número de usuários e viciados; quantidade de drogas apreendidas pela polícia; número de hectares de cultivos ilícitos destruídos; e número de traficantes processados, entre outros. Quando as políticas não funcionam, as avaliações atribuem isso a “falhas de implementação”, em vez de abrir espaço para mudanças na abordagem da questão da produção e consumo de drogas.

Os métodos avaliativos empregados pelos reformadores são mais relacionados aos objetivos de longo prazo da proteção da saúde, da estabilidade política e de direitos humanos. Portanto, uma avaliação elaborada por atores não-governamentais olha para além de números que sugerem uma interdição mais imediata do tráfico de drogas e considera consequências não-intencionais: violência, violações de direitos humanos, crime organizado, alto encarceramento de usuários, etc. Como resultado, as reformas propostas por esses grupos são fundadas em uma outra teoria de mudança que pressupõe a persistência da demanda para substâncias psicotrópicas, e em decorrência disso procura “controlar os efeitos da produção, tráfico e consumo de tais substâncias sobre indivíduos e sociedades para reduzir os danos” sem proibi-las. Segundo essa perspectiva, a implementação efetiva de uma política proibitiva não garante o seu sucesso, especialmente se ela não abordou as raízes do problema (ou seja, os fatores socioeconômicos e psicológicos que perpetuam o ciclo do vício e as considerações financeiras que dificultam a interrupção a produção local de cultivos ilícitos).

No meio dos debates internacionais e domésticos sobre políticas de drogas, é preciso que essas duas visões conflitantes se complementem na construção de uma abordagem melhor e mais ampla para avaliar programas e iniciativas, desde os mais linhas-duras até os mais revolucionários. Os pesquisadores do Global Drug Policy Observatory destacam que, acima de tudo, os dois lados parecem alinhados em termos do interesse em proteger a saúde e bem-estar, eliminar o crime organizado e (em medidas diferentes) regular a produção e consumo de drogas atualmente ilegais. De qualquer forma, o ímpeto para uma reformulação do controle global de drogas na UNGASS sugere que a lógica por trás das avaliações oficiais terá de evoluir com celeridade.