Wim GrootTop Institute Evidence Based Education Research (TIER)Teachers Academy

Evidence based: theorie en praktijk

Teachers Academy

Wat is evidence based onderwijs?

• ‘Evidence based onderwijs’ is de filosofie dat onderwijsbeleid en -praktijk gebaseerd dienen te zijn op een oordeelkundig, expliciet en nauwgezet gebruik van de huidige best evidence.

• ‘Evidence based onderwijs’ verwijst enerzijds naar de verzameling van interventies die positief geëvalueerd zijn, anderzijds verwijst het naar een houding of attitude onder beleidsmakers en mensen uit de onderwijspraktijk (werken op basis van evidence based onderwijs).

Teachers Academy

Evidence based attitude

• Een evidence based attitude impliceert dat de leraar of de beleidsmaker zich bij elke beslissing bewust is:

– Of er bewijsmateriaal (evidence) is om deze beslissing te ondersteunen;

– Hoe sterk dit bewijsmateriaal is.

Teachers Academy

Vormen van evidentie• Gradaties van hardheid van bewijs• Zacht bewijs: gevalsonderzoek• Hard bewijs: experimenteel onderzoek• Soorten bewijs:

– Reviews en statistische meta-analyses van bestaand onderzoek

– Verleggen van de grenzen van kennis door nieuw onderzoek

Teachers Academy

Kennispyramide: Niveaus voor onderscheid in de hardheid en generaliseerbaarheid van bewijs, en de mate waarin uitspraken gedaan

kunnen worden over causale verbanden.

Teachers Academy

Voorwaarden voor echt bewijs• De interventie is helder omschreven• Random (door toeval) bepaalde toewijzing aan condities• Geen systematische verschillen tussen de experimentele

en de controlegroep• Valide en betrouwbaar gemeten uitkomstmaten• (bijna) geen experimentele uitval• Rapportage van effecten bij afgebroken behandeling• Rapportage van lange termijn effecten• Rapportage van de grootte van het effect en significantie• Rapportage van differentiële effecten• Rapportage van alle effecten (ook negatieve en non-

effecten)

Teachers Academy

5 stappen in evidence based methode• Het probleem vertalen in beantwoordbare vraag;• Efficiënt zoeken naar het beste bewijsmateriaal• Een kritische beoordeling van methodologische kwaliteit

en toepasbaarheid van dit materiaal (critical appraisal);– Wat is de validiteit van de studie?– Zijn gevonden effecten significant en relevant?

• Een beslissing nemen op grond van de beschikbare evidentie;– Wat is het belang van de evidentie?– Is de evidentie generaliseerbaar?– Is de interventie ook technisch en logistiek

toepasbaar?– Wat is de kosteneffectiviteit?

• Regelmatig evalueren van de kwaliteit van dit proces.

Teachers Academy

Hoe krijgt evidence based education vorm binnen TIER-UM?• Evaluatie-onderzoek op basis van gerandomiseerde

experimenten of quasi-experimenten naar o.a.:– Evaluatie convenanten terugdringen voortijdig schoolverlaten– Evaluatie brede scholen– Evaluatie verlengde schooldag– Evaluatie teambeloning in het onderwijs– Evaluatie lesmethoden en kwaliteit van leraar

• Meta-analyses en review studies– De maatschappelijke baten van onderwijs– Productiviteit in het onderwijs

• Ontwikkelen portal ‘wat werkt in het onderwijs’

Teachers Academy

Het probleem vertalen in een beantwoordbare vraag

• Probleem: ik kan/wil alleen onderwijs volgen als het wat oplevert.

• Vraag: Wat levert het op als ik het een master opleiding volg?

Teachers Academy

Het probleem vertalen in een beantwoordbare vraag

• Opbrengst voor:– Mezelf?

• Inkomen• Plezier in het werk• Carrière

– Leerlingen?• Leeropbrengsten• Doorstroom• Arbeidsmarktkansen

– De samenleving?• Economische groei• Voortijdig schooluitval• Etc.

Teachers Academy

Opbrengst voor mezelf: inkomen

• Onderzoekbare vraag: wat levert het volgen van een jaar opleiding aan extra inkomen op?

• Wat is het rendement van scholing?

• Rendement = opbrengst als % van de investering

Teachers Academy

Meta-analyse

• Meta-analyse is een onderzoek waarin onderzoeken naar een bepaald onderwerp worden samengevoegd om één meer betrouwbare uitkomst te verkrijgen. Hiervoor worden vaak statistische methoden gebruikt.

• Beperkingen meta-analyse:– Studies zijn niet altijd onderling vergelijkbaar– Publicatie bias

Teachers Academy

Meta-analyse rendement van een jaar onderwijs• Orley Ashenfelter, Colm Harmon & Hessel

Oosterbeek (1999), ‘A review of estimates of the schooling/earnings relationship, with tests for publication bias’, Labour Economics 6, p. 453-470

• Meta-analyse van 27 studies, 96 waarnemingen van rendementen voor 9 landen

Teachers Academy

Teachers Academy

Gemiddelde waarden en standaard deviatie van rendementen in de 27 studies

Teachers Academy

Conclusies uit meta-analyse rendement van een jaar onderwijs

• Rendement van een jaar onderwijs is 7-9%

• Rendement is hoger in de VS dan in andere landen

• Rendement is de afgelopen twintig jaar gestegen

Teachers Academy

Opbrengst voor leerlingen

• Onderzoekbare vraag: Zijn de leerprestaties hoger als docent een master opleiding heeft?

• Steven Rivkin, Eric Hanushek & John Kain (2005), ‘Teachers, schools, and academic achievement’, Econometrica 73, p. 417-458

Teachers Academy

Opzet onderzoek

• Statistische analyse op administratieve gegevens van leerlingen in Texas

• Basisschool en brugklas leerlingen

• 3 jaargangen met elk meer dan 200.000 leerlingen van 3000 openbare scholen

• Gekeken naar effect van klassengrootte, gemiddeld aantal jaren ervaring van de leraar en aandeel leraren met masteropleiding op school op voortgang in rekenen en lezen

Teachers Academy

Teachers Academy

Teachers Academy

Resultaten onderzoek Rivkin et al naar effect kwaliteit leraar op leerprestaties• Beginnende leraren en leraren met 2-3 jaar ervaring

in rekenonderwijs presteren minder;• De volgende twee ervaringsjaren leveren een

beperkt positief effect op leerprestaties op voor rekenen en lezen;

• Dit kan zowel een ervarings- of aanpassingseffect zijn en een selectie-effect;

• Geen bewijs dat een masteropleiding de kwaliteit van het onderwijs verhoogt.

Teachers Academy

Één onderzoeksuitkomst vormt nog geen voldoende bewijs• Sharon Kukla-Acevedo (2009),

‘Do teacher characteristics matter? New results on the effects of teacher preparation on student achievement’, Economics of Education Review 28, p. 49-57

• Data van rekenvaardigheden van 5e klas leerlingen in regio in Kentucky

• 3812 leerlingen, 46 scholen en 120 leraren

Teachers Academy

Teachers Academy

Resultaten onderzoek Kukla-Acevedo naar effect kwaliteit leraar op leerprestaties• Wiskundeprestaties van leerlingen zijn hoger

naarmate:

– Leraren minder ervaringsjaren hebben– Leraren hogere cijfers haalden tijdens hun

vooropleiding– Ze tijdens hun vooropleiding meer uren wiskunde

hebben gehad– Ze meer uren wiskunde-instructie hebben gehad

Teachers Academy

Nog een voorbeeld

• Thomas Kane, Jonah Rockoff & Douglas Staiger (2008), ‘What does certification tell us about teacher effectiveness? Evidence from New York city’, Economics of Education Review 27, p. 615-631

• Leerlingen basisschool en onderbouw

• Wiskunde en leesvaardigheden

• 623.482 leerlingen en 18.856 leraren

Teachers Academy

Resultaten onderzoek Kane et. al naar effect kwaliteit leraar op leerprestaties• De wiskunde scores van leerlingen die les krijgen

van onderwijsassistenten (Teaching Fellow) of zij-instromers zijn 0.20 en 0.28 standaard deviatie lager dan wiskunde scores van leerlingen die een gekwalificeerde leraar hebben

• Leerlingen met een buitenlandse leraar en onbevoegde leraar scoren 0.48 en 0.13 standaard deviatie lager

• Vergelijkbare uitkomsten voor leesscores

Teachers Academy

• Postinitiële master• VO-docenten , master , 1e graads• 60 ECTS: 1680 uur• Master of Science• NVAO-accreditatie

Meer weten: MEBIT

Teachers Academy

Carrière maken binnen de klas

• Optimaal investeren in beroepsontwikkeling en loopbaanperspectief van docenten

• Professionele ontwikkeling van docenten• Imagoversterking van het beroep van leraar• Verbetering van de kwaliteit van het VO

‘Mensen die excelleren moeten niet ophoudenzich te ontwikkelen’

Teachers Academy

Leervraag

Probleemgestuurd onderwijs

(PGO)

Literatuur onderzoek

Review

Paper

Seminar

Project

Empirisch onderzoek

Rapport

Teachers Academy

Onderwijsontwerp

• PGO

Onderwijs-uitvoering

• PGO• Project

Onderwijs-evaluatie

• PGO• Project

Scriptie

Colleges / Vaardigheden / Coaching / Studiereis(2 dagen per maand)

MEBIT-structuur

Teachers Academy

Informatie:

• www.teachersacademy.nl• www.tierweb.nl