EN
IT
Obiettivi Formativi
OBIETTIVI FORMATIVI: C’è una crescente richiesta di valutazioni d’impatto. Tuttavia, per la maggior parte dei professionisti, definire con chiarezza cosa si intenda per impatto e valutarlo adeguatamente rappresenta ancora una sfida. Il corso su valutazione e assessment dell’impatto prepara i partecipanti a risolvere problemi reali e a prendere decisioni informate, applicando conoscenze, competenze e tecniche apprese. Questo corso vi guiderà attraverso un processo step-by-step per la valutazione d’impatto, offrendovi diverse opzioni per misurare l’impatto, specialmente in interventi complessi. Imparerete metodi diversi e come scegliere quello più adatto al vostro caso.
CONOSCENZA E CAPACITÀ DI COMPRENSIONE: Gli studenti apprenderanno a identificare e stimare gli effetti causali in economia e gestione, applicando diverse metodologie di valutazione dell’impatto. Acquisiranno una chiara comprensione delle principali ipotesi alla base di queste metodologie. Un’abilità fondamentale sarà distinguere tra causalità e correlazione nei contesti empirici.
CAPACITÀ DI APPLICARE CONOSCENZA E COMPRENSIONE: Gli studenti svilupperanno la capacità di analizzare criticamente e interpretare studi empirici che utilizzano tecniche di valutazione dell’impatto. Saranno in grado di valutare l’idoneità delle metodologie rispetto alla domanda di ricerca, al contesto e ai dati disponibili.
AUTONOMIA DI GIUDIZIO: Gli studenti saranno in grado di formulare e giustificare autonomamente semplici domande di ricerca che implicano relazioni causali. Applicheranno strategie di identificazione appropriate per trarre conclusioni basate su evidenze. Inoltre, valuteranno i punti di forza e di debolezza delle scelte metodologiche e relative ai dati.
ABILITÀ COMUNICATIVE: Al termine del corso, gli studenti presenteranno con sicurezza le ipotesi, i metodi e i risultati delle valutazioni dell’impatto a un pubblico professionale e generale, utilizzando un linguaggio chiaro e preciso.
CAPACITÀ DI APPRENDIMENTO: Il corso fornisce conoscenze di base e competenze pratiche per esplorare autonomamente tecniche avanzate di inferenza causale. Gli studenti valuteranno criticamente l’uso di queste tecniche nella letteratura empirica contemporanea e miglioreranno la loro comprensione delle metodologie di valutazione.
Learning Objectives
LEARNING OUTCOMES: There is an increasing demand for impact evaluation. But for most practitioners, clearly defining impact, as well as adequately assessing, and evaluating it, remains a challenge. The impact evaluation and assessment course will prepare the participants to solve real-world problems and make informed decisions by applying the knowledge, skills, and techniques taught. This course will guide you through a step-by-step process for an impact evaluation, providing you with viable options to measure impact, especially for complex interventions. You will learn different methods and how to choose the most suitable for your case.
KNOWLEDGE AND UNDERSTANDING: The students will learn how to identify and estimate the causal effects in economics and management using different impact evaluation methodologies, understanding the main assumptions underlying them. They will be able to distinguish causality from correlation.
APPLYING KNOWLEDGE AND UNDERSTANDING: At the end of the course, students will be able to read critically and understand the empirical analysis of others employing impact evaluation methods. They will be able to assess which techniques better fit the research question, the context, and the data.
MAKING JUDGEMENTS: Students are expected to autonomously formulate and motivate simple research questions implying causal relationships and apply an identification strategy to provide evidence-based conclusions. In doing so, the students will be able to discuss the pros and cons of their methodological and data choices.
COMMUNICATION SKILLS: Students will be able to effectively present assumptions and results of an impact evaluation exercise to a professional and general public, using adequate language.
LEARNING SKILLS: The course provides the necessary notions, the ability to apply them and the autonomy of judgment necessary to further improve the knowledge of more advanced causal inference techniques and evaluation approaches, and to critically understand the application of these tools in the recent empirical literature.
Prerequisiti
Gli studenti devono aver frequentato corsi introduttivi di statistica ed econometria. Devono conoscere i principi dell’inferenza statistica e della regressione lineare e saper usare STATA.
Prerequisites
Students must have attended introductory courses in statistics and econometrics. They must know the principles of statistical inference and linear regression and be knowledgeable with STATA.
Programma
PARTE PRIMA – INTRODUZIONE ALLA VALUTAZIONE D’IMPATTO
Settimana 1 – Perché valutare?
Giorno 1. Politiche basate sulle evidenze – Parte 1
• Che cos’è la valutazione d’impatto?
• Valutazione d’impatto prospettica rispetto a quella retrospettiva
• Studi di efficacia e studi di effettività
Giorno 1. Politiche basate sulle evidenze – Parte 2
• Approcci complementari
• Considerazioni etiche riguardanti la valutazione d’impatto
• Valutazione d’impatto per le decisioni di policy
• Decidere se effettuare o meno una valutazione d’impatto
Giorno 3. Prepararsi a una valutazione
• Passi iniziali
• Costruire una Theory of Change (teoria del cambiamento)
• Sviluppare una Results Chain (catena di risultati)
• Definire le domande di valutazione
• Selezionare indicatori di esito e di performance
• Lista di controllo: reperire i dati per i propri indicatori
PARTE SECONDA – COME VALUTARE
Settimana 2 – Inferenza causale, strategie di identificazione e metodi di stima
Giorno 1. Inferenza causale
• Inferenza causale
• Il controfattuale
• Due stime “contraffatte” del controfattuale
Giorno 2. Assegnazione casuale
• Valutare i programmi in base alle regole di assegnazione
• Assegnazione casuale del trattamento
• Lista di controllo: assegnazione casuale
Giorno 3. Variabili strumentali
• Valutare i programmi quando non tutti rispettano l’assegnazione
• Tipologie di stime d’impatto
• Compliance imperfetta
• Promozione randomizzata come variabile strumentale
• Lista di controllo: promozione randomizzata come variabile strumentale
Settimana 3 – Inferenza causale, strategie di identificazione e metodi di stima
Giorno 1. Disegno a discontinuità regressiva
• Valutare programmi che utilizzano un indice di idoneità
• Disegno a discontinuità regressiva “fuzzy”
• Verificare la validità del disegno a discontinuità regressiva
• Limiti e interpretazione del metodo di discontinuità regressiva
• Lista di controllo: disegno a discontinuità regressiva
Giorno 2. Difference-in-Differences
• Valutare un programma quando la regola di assegnazione è meno chiara
• Il metodo Difference-in-Differences
• In che modo il metodo Difference-in-Differences è utile?
• L’ipotesi di “trend paralleli” nella Difference-in-Differences
• Limiti del metodo Difference-in-Differences
• Lista di controllo: Difference-in-Differences
Giorno 3. Matching
• Costruire un gruppo di confronto artificiale
• Propensity Score Matching
• Combinare il Matching con altri metodi
• Limiti del metodo Matching
• Lista di controllo: Matching
Settimana 4 – Inferenza causale, strategie di identificazione e metodi di stima
Giorno 1. Affrontare le sfide metodologiche – Parte 1
• Effetti di trattamento eterogenei
• Effetti comportamentali non intenzionali
• Compliance imperfetta
Giorno 2. Affrontare le sfide metodologiche – Parte 2
• Effetti di spillover
• Attrition (abbandono dei partecipanti)
• Tempistica e persistenza degli effetti
Giorno 3. Valutare programmi complessi
• Valutare programmi che combinano diverse opzioni di trattamento
• Valutare programmi con livelli variabili di trattamento
• Valutare interventi multipli
PARTE TERZA – COME IMPLEMENTARE UNA VALUTAZIONE D’IMPATTO
Settimana 5 – Implementazione PIE (Policy Impact Evaluation)
Giorno 1. Scegliere un metodo di valutazione d’impatto
• Determinare quale metodo utilizzare per un dato programma
• Come le regole operative di un programma possono aiutare a scegliere il metodo di valutazione d’impatto
• Confronto tra metodi di valutazione d’impatto
• Identificare la più piccola unità di intervento fattibile
Giorno 2. Gestire una valutazione d’impatto
• Gestire il team, il tempo e il budget di una valutazione
• Ruoli e responsabilità dei team di ricerca e di policy
• Stabilire una collaborazione
• Tempistiche della valutazione
• Come definire il budget per una valutazione
Giorno 3. L’etica e la scienza della valutazione d’impatto
• Come gestire valutazioni etiche e credibili
• L’etica nella conduzione di valutazioni d’impatto
• Assicurare valutazioni affidabili e credibili tramite la “Open Science”
• Lista di controllo: una valutazione d’impatto etica e credibile
PARTE QUARTA – COME OTTENERE I DATI PER UNA VALUTAZIONE D’IMPATTO
Settimana 6 – Raccolta dati
Giorno 1. Scegliere un campione
• Campionamento e calcoli di potenza statistica (power calculations)
• Selezionare un campione
• Come decidere la dimensione del campione per la valutazione d’impatto: power calculations
Giorno 2. Trovare fonti di dati adeguate
• Tipologie di dati necessari
• Uso di dati quantitativi già esistenti
• Raccolta di nuovi dati attraverso sondaggi
Giorno 3. Diffondere i risultati e influenzare le politiche
• Una solida base di evidenze per la policy
• Adattare la strategia di comunicazione a diversi pubblici
• Diffondere i risultati
Program
PART ONE - INTRODUCTION TO IMPACT EVALUATION
Week 1 - Why Evaluate?
Day 1. Evidence-Based Policy Making – Part 1
• What Is Impact Evaluation?
• Prospective versus Retrospective Impact Evaluation
• Efficacy Studies and Effectiveness Studies
Day 1. Evidence-Based Policy Making – Part 2
• Complementary Approaches
• Ethical Considerations Regarding
• Impact Evaluation Impact Evaluation for Policy Decisions
• Deciding Whether to Carry Out an Impact Evaluation
Day 3. Preparing for an Evaluation
• Initial Steps
• Constructing a Theory of Change
• Developing a Results Chain
• Specifying Evaluation Questions
• Selecting Outcome and Performance Indicators
• Checklist: Getting Data for Your Indicators
PART TWO - HOW TO EVALUATE
Week 2 - Causal Inference, identification strategies and estimation methods
Day 1. Causal inference
• Causal Inference
• The Counterfactual
• Two Counterfeit Estimates of the Counterfactual
Day 2. Randomized Assignment
• Evaluating Programs Based on the Rules of Assignment
• Randomized Assignment of Treatment
• Checklist: Randomized Assignment
Day 3. Instrumental Variables
• Evaluating Programs When Not Everyone Complies with Their Assignment
• Types of Impact Estimates
• Imperfect Compliance
• Randomized Promotion as an Instrumental Variable
• Checklist: Randomized Promotion as an Instrumental Variable
Week 3 - Causal Inference, identification strategies and estimation methods
Day 1. Regression Discontinuity Design
• Evaluating Programs That Use an Eligibility Index
• Fuzzy Regression Discontinuity Design
• Checking the Validity of the Regression Discontinuity Design
• Limitations and Interpretation of the Regression Discontinuity Design Method
• Checklist: Regression Discontinuity Design
Day 2. Difference-in-Differences
• Evaluating a Program When the Rule of Assignment Is Less Clear
• The Difference-in-Differences Method
• How Is the Difference-in-Differences Method Helpful?
• The “Equal Trends” Assumption in Difference-in-Differences
• Limitations of the Difference-in-Differences Method
• Checklist: Difference-in-Differences
Day 3. Matching
• Constructing an Artificial Comparison Group
• Propensity Score Matching
• Combining Matching with Other Methods
• Limitations of the Matching Method
• Checklist: Matching
Week 4 - Causal Inference, identification strategies and estimation methods
Day 1. Addressing Methodological Challenges - Part 1
• Heterogeneous Treatment Effects
• Unintended Behavioral Effects
• Imperfect Compliance
Day 2. Addressing Methodological Challenges - Part 2
• Spillovers
• Attrition
• Timing and Persistence of Effects
Day 3. Evaluating Multifaceted Programs
• Evaluating Programs That Combine Several Treatment Options
• Evaluating Programs with Varying Treatment Levels
• Evaluating Multiple Interventions
PART THREE - HOW TO IMPLEMENT AN IMPACT EVALUATION
Week 5 – PIE implementation
Day 1. Choosing an Impact Evaluation Method
• Determining Which Method to Use for a Given Program
• How a Program’s Rules of Operation Can Help Choose an Impact Evaluation Method
• A Comparison of Impact Evaluation Methods
• Finding the Smallest Feasible Unit of Intervention
Day 2. Managing an Impact Evaluation
• Managing an Evaluation’s Team, Time, and Budget
• Roles and Responsibilities of the Research and Policy Teams
• Establishing Collaboration
• How to Time the Evaluation
• How to Budget for an Evaluation
Day 3. The Ethics and Science of Impact Evaluation
• Managing Ethical and Credible Evaluations
• The Ethics of Running Impact Evaluations
• Ensuring Reliable and Credible Evaluations through Open Science
• Checklist: An Ethical and Credible Impact Evaluation
PART FOUR. HOW TO GET DATA FOR AN IMPACT EVALUATION
Week 6 – Data collection
Day 1. Choosing a Sample
• Sampling and Power Calculations
• Drawing a Sample
• Deciding on the Size of a Sample for Impact Evaluation: Power Calculations
Day 2. Finding Adequate Sources of Data
• Kinds of Data That Are Needed
• Using Existing Quantitative Data
• Collecting New Survey Data
Day 3. Disseminating Results and Achieving Policy Impact
• A Solid Evidence Base for Policy
• Tailoring a Communication Strategy to Different Audiences
• Disseminating Results
Testi Adottati
Gertler, Paul J., Sebastian Martinez, Patrick Premand, Laura B. Rawlings, and Christel M. J. Vermeersch. 2016. Impact Evaluation in Practice, second edition. Washington, DC: Inter-American Development Bank and World Bank. doi:10.1596/978-1-4648-0779-4. License: Creative Commons Attribution CC BY 3.0 IGO
Books
Gertler, Paul J., Sebastian Martinez, Patrick Premand, Laura B. Rawlings, and Christel M. J. Vermeersch. 2016. Impact Evaluation in Practice, second edition. Washington, DC: Inter-American Development Bank and World Bank. doi:10.1596/978-1-4648-0779-4. License: Creative Commons Attribution CC BY 3.0 IGO
Bibliografia
Joshua D. Angrist and Jörn-Steffen Pischke, 2009 Mostly Harmless Econometrics: An Empiricist's Companion, Princeton University Press.
S. Cunningham, (2021) "Causal Inference: the Mixtape" , https://mixtape.scunning.com/
Bibliography
Joshua D. Angrist and Jörn-Steffen Pischke, 2009 Mostly Harmless Econometrics: An Empiricist's Companion, Princeton University Press.
S. Cunningham, (2021) "Causal Inference: the Mixtape" , https://mixtape.scunning.com/
Modalità di svolgimento
Lezioni frontali, laboratorio, progetti da sviluppare.
Teaching methods
Frontal lectures, labs, projects.
Regolamento Esame
La prova di esame è la stessa per frequentanti e non frequentanti e valuta la preparazione complessiva dello studente, la capacità di integrazione delle conoscenze delle diverse parti del programma, la consequenzialità del ragionamento, la capacità analitica e la autonomia di giudizio. Inoltre, vengono valutate la proprietà di linguaggio e la chiarezza espositiva, in aderenza con i descrittori di Dublino (1. Conoscenza e capacità di comprensione (knowledge and understanding); 2. Capacità di applicare la conoscenza e comprensione (applying knowledge and understanding); 3. Autonomia di giudizio (making judgements); 4. Capacità di apprendimento (learning skills); 5: Abilità di comunicazione (communication skills).
Per la verifica dell'apprendimento è previsto il sostenimento di una prova scritta, un project work e una verifica orale. Il voto complessivo è così composto: scritto (+ orale facoltativo sulla parte teorica) 50%; project work (+ orale sul project work) 50%; Se lo scritto si supera con almeno 18/30, si può rifiutare il voto e tornare all'appello successivo. Il voto ottenuto all'appello successivo annulla il voto precedente; L'orale consiste nella discussione del project work. Tuttavia, chi volesse aumentare il voto dello scritto può sostenere l'orale sulla parte teorica. Il voto dello scritto può aumentare o diminuire di massimo 2 punti; Scritto e orale devono essere sostenuti nel medesimo appello; Se non si supera lo scritto non potrà essere sostenuto l'orale sul PW. La prova di esame sarà valutata secondo i seguenti criteri: Non idoneo: importanti carenze e/o inaccuratezze nella conoscenza e comprensione degli argomenti; limitate capacità di analisi e sintesi, frequenti generalizzazioni e limitate capacità critiche e di giudizio, gli argomenti sono esposti in modo non coerente e con linguaggio inappropriato;
18-20: conoscenza e comprensione degli argomenti appena sufficiente con possibili generalizzazioni e imperfezioni; capacità di analisi sintesi e autonomia di giudizio sufficienti, gli argomenti sono esposti in modo frequentemente poco coerente e con un linguaggio poco appropriato/tecnico;
21-23: Conoscenza e comprensione degli argomenti routinaria; Capacità di analisi e sintesi corrette con argomentazione logica sufficientemente coerente e linguaggio appropriato/tecnico
24-26: Discreta conoscenza e comprensione degli argomenti; buone capacità di analisi e sintesi con argomentazioni espresse in modo rigoroso ma con un linguaggio non sempre appropriato/tecnico.
27-29: Conoscenza e comprensione degli argomenti completa; notevoli capacità di analisi e sintesi. Buona autonomia di giudizio. Argomenti esposti in modo rigoroso e con linguaggio appropriato/tecnico
30-30L: Ottimo livello di conoscenza e comprensione approfondita degli argomenti. Ottime capacità di analisi, di sintesi e di autonomia di giudizio. Argomentazioni espresse in modo originale e con linguaggio tecnico appropriato.
Exam Rules
The exam is the same for attending and non-attending students and evaluates the overall preparation of the student, the ability to integrate the knowledge of the different parts of the program, the consequentiality of the reasoning, the analytical ability and the autonomy of judgment. Furthermore, language properties and clarity of presentation are evaluated, in compliance with the Dublin descriptors (1. Knowledge and understanding) 2. Ability to apply knowledge and understanding; 3. Making judgments; 4. Learning skills; 5: Communication skills.
The exam includes a written test, a project work and an oral exam; The overall grade is as follows: written (+ optional oral exam on the theoretical part) 50%; project work (+ oral project work) 50%; If the written exam is passed with at least 18/30, you can refuse the mark and come back to the next exam date. The mark obtained at the next exam date cancels the previous mark The oral consists in the discussion of the project work. However, those wishing to increase the written mark can take the oral exam on the theoretical part. The written grade can increase or decrease by up to 2 points; Written and oral must be taken in the same exam date If the written test is not passed, the oral exam on the PW cannot be taken. The exam will be assessed according to the following criteria: Not suitable: important deficiencies and / or inaccuracies in the knowledge and understanding of the topics; limited capacity for analysis and synthesis, frequent generalizations and limited critical and judgment skills, the arguments are presented in an inconsistent way and with inappropriate language;
18-20: just sufficient knowledge and understanding of the topics with possible generalizations and imperfections; sufficient capacity for analysis, synthesis and autonomy of judgment, the topics are frequently exposed in an inconsistent way and with inappropriate / technical language;
21-23: Routine knowledge and understanding of topics; Ability to correct analysis and synthesis with sufficiently coherent logical argument and appropriate / technical language
30-30L: Excellent knowledge and in-depth understanding of the topics. Excellent analytical and synthesis skills, and independent judgment. Arguments are expressed in an original manner and with appropriate technical language.
24-26: Fair knowledge and understanding of the topics; good analysis and synthesis skills with rigorously expressed arguments but with a language that is not always appropriate / technical.
Modalità di frequenza
La frequenza è altamente raccomandata in quanto consente di sviluppare capacità relazionali necessarie alla gestione di qualsiasi organizzazione
Attendance Rules
Attendance is highly recommended as it allows you to develop interpersonal skills necessary for the management of any organization