De Rubrics-app: de kunst van eenvoudig feedback geven en objectief beoordelen - Joris Remmers, Sonia...

61
De Rubrics app De kunst van eenvoudig feedback geven en objectief beoordelen Joris Remmers / Sonia Gómez Puente

description

Dinsdag 11 november 2014 Sessieronde 1 Titel: De Rubrics-app: de kunst van eenvoudig feedback geven en objectief beoordelen Sprekers: Joris Remmers (Technische Universiteit Eindhoven), Sonia Gomez (Technische Universiteit Eindhoven) Zaal: Leeuwen l

Transcript of De Rubrics-app: de kunst van eenvoudig feedback geven en objectief beoordelen - Joris Remmers, Sonia...

Page 1: De Rubrics-app: de kunst van eenvoudig feedback geven en objectief beoordelen - Joris Remmers, Sonia Gomez - OWD14

De Rubrics app

De kunst van eenvoudig

feedback geven en objectief

beoordelen

Joris Remmers / Sonia Gómez Puente

Page 2: De Rubrics-app: de kunst van eenvoudig feedback geven en objectief beoordelen - Joris Remmers, Sonia Gomez - OWD14

Even voorstellen

Sonia Gómez Puente

• Beleidsmedewerker onderwijsontwikkeling

Technische Natuurkunde en Electrotechniek

Joris Remmers

• Universitair Docent Werktuigbouwkunde

• O.a. verantwoordelijk docent 1e jaars OGO casus

OGO = Ontwerp Gericht Onderwijs

De Rubrics app

Page 3: De Rubrics-app: de kunst van eenvoudig feedback geven en objectief beoordelen - Joris Remmers, Sonia Gomez - OWD14

Professionele Vaardigheden

De Rubrics app

De ontwikkeling van de professionele vaardigheden

wordt bijgehouden in een studenten eDossier.

• Omgaan met informatie

• Presenteren

• Reflecteren

• Vergaderen

• Samenwerken

• Schrijven

Page 4: De Rubrics-app: de kunst van eenvoudig feedback geven en objectief beoordelen - Joris Remmers, Sonia Gomez - OWD14

Beoordeling professionele vaardigheden

De ontwikkeling van de professionele vaardigheden

wordt bijgehouden in een studenten eDossier.

• Hoe kunnen we de ontwikkeling van de professionele

vaardigheden op een objectieve manier meten?

• Hoe kunnen we die bevindingen op een eenvoudige

wijze vastleggen in het eDossier?

• Hoe kunnen we docenten motiveren (en faciliteren)

om de professionele vaardigheden op dezelfde

manier te meten en vast te leggen?

De Rubrics app

Page 5: De Rubrics-app: de kunst van eenvoudig feedback geven en objectief beoordelen - Joris Remmers, Sonia Gomez - OWD14

Beoordeling professionele vaardigheden

De ontwikkeling van de professionele vaardigheden

wordt bijgehouden in een studenten eDossier.

• Hoe gaan we beoordelen?

• Hoe vullen we het eDossier?

• Hoe motiveren en faciliteren we docenten?

De Rubrics app

Page 6: De Rubrics-app: de kunst van eenvoudig feedback geven en objectief beoordelen - Joris Remmers, Sonia Gomez - OWD14

Oplossing: rubrics

Een rubric is een standaard voor het beoordelen van

vaardigheden (moeilijk meetbare grootheden).

Eerste gebruik: 1970s (geestelijke gezondheidszorg).

Belangrijkste doel (voor ons): een objectieve

beoordeling van de vaardigheden van studenten.

Voorbeelden: het beoordelen van

• presentaties;

• verslagen, projecten.

De Rubrics app

Page 7: De Rubrics-app: de kunst van eenvoudig feedback geven en objectief beoordelen - Joris Remmers, Sonia Gomez - OWD14

Oorsprong van de term ‘Rubric’

• Uit het latijn: ‘Rubrica’

betekent ‘Rood kleuren’.

• Methode om in handschriften

nieuw onderdeel aan te geven.

• In onbruik geraakt met de

uitvinding van de boekdrukkunst.

• Moderne afleidingen:

• Rubriek (Nederlands)

• Rubric (Engels)

De Rubrics app

Page 8: De Rubrics-app: de kunst van eenvoudig feedback geven en objectief beoordelen - Joris Remmers, Sonia Gomez - OWD14

Een rubric is een verzameling rubrieken

De onderdelen van een rubric

• Criteria (rubrieken)

• Niveaus

• Beschrijvingen

Gebruikelijke notatie in matrix formaat

• De rijen zijn de criteria.

• De kolommen zijn de niveaus.

• De inhoud van de matrix wordt gevormd

door de beschrijvingen.

De Rubrics app

Page 9: De Rubrics-app: de kunst van eenvoudig feedback geven en objectief beoordelen - Joris Remmers, Sonia Gomez - OWD14

Voorbeeld: presentatie

Onvoldoende

< 5

Matig

6

Goed

7 / 8

Uitstekend

9 / 10

Vorm De slides zijn

rommelig, bevatten

veel fouten, geen

eenduidige lay-out.

De slides zijn

rommelig, zijn niet

mooi opgemaakt

De slides zien er

verzorgd uit, maar

bevatten wat foutjes

De slides zien er

verzorgd uit.

Inhoud Er zit geen structuur

in de presentatie.

De inleiding of het

slot ontbreekt of is

niet duidelijk.

De samenhang

tussen de inleiding,

kern en slot

ontbreekt.

De presentatie heeft

een duidelijke

inleiding, kern en slot.

Spreker Spreker is niet in

staat om het verhaal

te vertellen. Geeft

geen blijk van

voldoende kennis van

de materie.

De presentatie is

moeilijk te volgen.

Te veel details. De

grote lijn ontbreekt.

Uitleg is niet zo

helder. De spreker

laat af en toe een

steekje vallen.

Heldere uitleg. De

spreker heeft kennis

van zaken en weet

dat goed over te

brengen.

De Rubrics app

Criteria

Niveaus

Beschrijvingen

Page 10: De Rubrics-app: de kunst van eenvoudig feedback geven en objectief beoordelen - Joris Remmers, Sonia Gomez - OWD14

Onvoldoende

< 5

Matig

6

Goed

7 / 8

Uitstekend

9 / 10

Vorm De slides zijn

rommelig, bevatten

veel fouten, geen

eenduidige lay-out.

De slides zijn

rommelig, zijn niet

mooi opgemaakt

De slides zien er

verzorgd uit, maar

bevatten wat foutjes

De slides zien er

verzorgd uit.

Inhoud Er zit geen structuur

in de presentatie.

De inleiding of het

slot ontbreekt of is

niet duidelijk.

De samenhang

tussen de inleiding,

kern en slot

ontbreekt.

De presentatie heeft

een duidelijke

inleiding, kern en slot.

Spreker Spreker is niet in

staat om het verhaal

te vertellen. Geeft

geen blijk van

voldoende kennis van

de materie.

De presentatie is

moeilijk te volgen.

Te veel details. De

grote lijn ontbreekt.

Uitleg is niet zo

helder. De spreker

laat af en toe een

steekje vallen.

Heldere uitleg. De

spreker heeft kennis

van zaken en weet

dat goed over te

brengen.

Voorbeeld: presentatie

De Rubrics app

Page 11: De Rubrics-app: de kunst van eenvoudig feedback geven en objectief beoordelen - Joris Remmers, Sonia Gomez - OWD14

Rubrics

• Formalisatie van bestaande beoordelingen.

• Ontwerp vergt een aantal iteraties.

Het aantal criteria is belangrijk

• Te veel criteria:

• Eindeloze invul oefening

• Tijdrovend

• Te weinig criteria:

• Te veel ruimte voor eigen interpretatie

• Minder objectief

De Rubrics app

Page 12: De Rubrics-app: de kunst van eenvoudig feedback geven en objectief beoordelen - Joris Remmers, Sonia Gomez - OWD14

Andere voordelen

• Feedback van de beoordeling naar de studenten

• Studenten krijgen een kort en bondig overzicht van de

goede en slechte punten.

• Achteraf, maar ook tijdens het vak.

• Eventueel kan het dienen als checklist

• Studenten weten waar ze op beoordeeld worden.

• Hulpmiddel bij het schrijven van verslagen /

voorbereiden van presentaties (vooral eerste jaar).

De Rubrics app

Page 13: De Rubrics-app: de kunst van eenvoudig feedback geven en objectief beoordelen - Joris Remmers, Sonia Gomez - OWD14

Rubrics als input voor eDossier

• De beoordeling is objectief en volledig.

• De beoordeling bevat automatisch een toelichting /

feedback op de beoordeling.

• Echter, de hoeveelheid informatie kan

enorm groot worden.

De Rubrics app

Page 14: De Rubrics-app: de kunst van eenvoudig feedback geven en objectief beoordelen - Joris Remmers, Sonia Gomez - OWD14

Eigen ervaringen met Rubrics

• Nakijken van verslagen van een eerstejaars OGO

casus bij de faculteit W in oktober 2012.

• In totaal 224 studenten, opgesplitst in 112 koppeltjes

• De beoordeling zelf verliep uitstekend

• Objectiviteit is onderzocht door Sonia Gomez

• Echter, de verwerking van 112 handgeschreven

formulieren was een ramp…

De Rubrics app

Page 15: De Rubrics-app: de kunst van eenvoudig feedback geven en objectief beoordelen - Joris Remmers, Sonia Gomez - OWD14

De Rubrics app

Page 16: De Rubrics-app: de kunst van eenvoudig feedback geven en objectief beoordelen - Joris Remmers, Sonia Gomez - OWD14

De Rubrics app

Page 17: De Rubrics-app: de kunst van eenvoudig feedback geven en objectief beoordelen - Joris Remmers, Sonia Gomez - OWD14

De Rubrics app

Page 18: De Rubrics-app: de kunst van eenvoudig feedback geven en objectief beoordelen - Joris Remmers, Sonia Gomez - OWD14

De Rubrics app

Page 19: De Rubrics-app: de kunst van eenvoudig feedback geven en objectief beoordelen - Joris Remmers, Sonia Gomez - OWD14

De Rubrics app

Page 20: De Rubrics-app: de kunst van eenvoudig feedback geven en objectief beoordelen - Joris Remmers, Sonia Gomez - OWD14

De Rubrics app

Page 21: De Rubrics-app: de kunst van eenvoudig feedback geven en objectief beoordelen - Joris Remmers, Sonia Gomez - OWD14

/ PICTO: Project Rubrics

Page 22: De Rubrics-app: de kunst van eenvoudig feedback geven en objectief beoordelen - Joris Remmers, Sonia Gomez - OWD14

/ PICTO: Project Rubrics

Page 23: De Rubrics-app: de kunst van eenvoudig feedback geven en objectief beoordelen - Joris Remmers, Sonia Gomez - OWD14

De Rubrics app

De Rubrics app

Page 24: De Rubrics-app: de kunst van eenvoudig feedback geven en objectief beoordelen - Joris Remmers, Sonia Gomez - OWD14

De Rubrics app

• Beoordelen van

• Vergaderingen

• Presentaties

• Verslagen

• Projecten

• Eenvoudig in het gebruik

• Alles is digitaal

• Deelnemers importeren uit de

centrale studentenadministratie

• Resultaten exporteren naar

studentenadministratie

De Rubrics app

Page 25: De Rubrics-app: de kunst van eenvoudig feedback geven en objectief beoordelen - Joris Remmers, Sonia Gomez - OWD14

De ‘ForAllRubrics’ app / website

• Web gebaseerd.

• Platform onafhankelijk (html 5).

• Voldoet grotendeels aan onze wensen.

• Mogelijkheid om verzameling Rubrics aan te leggen.

• Inlezen van studentengegevens (als csv bestand).

• Exporteren van resultaten (als pdf).

• Amerikaans initiatief (Chicago, IL).

• Gratis te gebruiken voor individuele docenten.

• Verschillende licentie overeenkomsten mogelijk.

De Rubrics app

Page 26: De Rubrics-app: de kunst van eenvoudig feedback geven en objectief beoordelen - Joris Remmers, Sonia Gomez - OWD14

ForAllRubrics workflow

De Rubrics app

Stap 1: Het voorbereiden van de beoordeling

• Aanmaken / importeren van

een ‘Roster’ (groep studenten).

• Ophalen van bestaande

Rubric uit een bibliotheek.

• Aanpassen van de Rubric.

Page 27: De Rubrics-app: de kunst van eenvoudig feedback geven en objectief beoordelen - Joris Remmers, Sonia Gomez - OWD14

Synchronisatie

De Rubrics app

Synchronisatie

Page 28: De Rubrics-app: de kunst van eenvoudig feedback geven en objectief beoordelen - Joris Remmers, Sonia Gomez - OWD14

ForAllRubrics workflow

De Rubrics app

Stap 2: de beoordeling

• Geen internet verbinding nodig

• Verschillende studenten en

klassen kunnen door elkaar

beoordeeld worden.

• Verschillende docenten kunnen dezelfde groep

studenten beoordelen.

Page 29: De Rubrics-app: de kunst van eenvoudig feedback geven en objectief beoordelen - Joris Remmers, Sonia Gomez - OWD14

Synchronisatie

De Rubrics app

Synchronisatie

Page 30: De Rubrics-app: de kunst van eenvoudig feedback geven en objectief beoordelen - Joris Remmers, Sonia Gomez - OWD14

ForAllRubrics workflow

De Rubrics app

Stap 3: Verwerking van de resultaten

• Analyseren van resultaten

• Exporteren van cijfers

(als CVS bestand)

• Exporteren van Rubrics

(als PDF bestand)

Page 31: De Rubrics-app: de kunst van eenvoudig feedback geven en objectief beoordelen - Joris Remmers, Sonia Gomez - OWD14

Een oefening: een beoordeling

• Ga naar: www.forallrubrics.com

• Maak een account aan of,

• Log in als: [email protected]

Wachtwoord is: default

• Zet alles klaar voor de beoordeling van:

• Roster: Presentatie Rubrics App

• Rubric: Presenteren (kort)

• Beoordeel Sonia en Joris

De Rubrics app

Page 32: De Rubrics-app: de kunst van eenvoudig feedback geven en objectief beoordelen - Joris Remmers, Sonia Gomez - OWD14

/ PICTO: Project Rubrics

Page 33: De Rubrics-app: de kunst van eenvoudig feedback geven en objectief beoordelen - Joris Remmers, Sonia Gomez - OWD14

/ PICTO: Project Rubrics

Page 34: De Rubrics-app: de kunst van eenvoudig feedback geven en objectief beoordelen - Joris Remmers, Sonia Gomez - OWD14

/ PICTO: Project Rubrics

Page 35: De Rubrics-app: de kunst van eenvoudig feedback geven en objectief beoordelen - Joris Remmers, Sonia Gomez - OWD14

/ PICTO: Project Rubrics

Page 36: De Rubrics-app: de kunst van eenvoudig feedback geven en objectief beoordelen - Joris Remmers, Sonia Gomez - OWD14

/ PICTO: Project Rubrics

Page 37: De Rubrics-app: de kunst van eenvoudig feedback geven en objectief beoordelen - Joris Remmers, Sonia Gomez - OWD14

/ PICTO: Project Rubrics

Page 38: De Rubrics-app: de kunst van eenvoudig feedback geven en objectief beoordelen - Joris Remmers, Sonia Gomez - OWD14

/ PICTO: Project Rubrics

Page 39: De Rubrics-app: de kunst van eenvoudig feedback geven en objectief beoordelen - Joris Remmers, Sonia Gomez - OWD14

/ PICTO: Project Rubrics

Page 40: De Rubrics-app: de kunst van eenvoudig feedback geven en objectief beoordelen - Joris Remmers, Sonia Gomez - OWD14

/ PICTO: Project Rubrics

Page 41: De Rubrics-app: de kunst van eenvoudig feedback geven en objectief beoordelen - Joris Remmers, Sonia Gomez - OWD14

/ PICTO: Project Rubrics

Page 42: De Rubrics-app: de kunst van eenvoudig feedback geven en objectief beoordelen - Joris Remmers, Sonia Gomez - OWD14

/ PICTO: Project Rubrics

Page 43: De Rubrics-app: de kunst van eenvoudig feedback geven en objectief beoordelen - Joris Remmers, Sonia Gomez - OWD14

/ PICTO: Project Rubrics

Page 44: De Rubrics-app: de kunst van eenvoudig feedback geven en objectief beoordelen - Joris Remmers, Sonia Gomez - OWD14

/ PICTO: Project Rubrics

Presentatie Rubrics App

Page 45: De Rubrics-app: de kunst van eenvoudig feedback geven en objectief beoordelen - Joris Remmers, Sonia Gomez - OWD14

/ PICTO: Project Rubrics

Presentatie Rubrics App

Page 46: De Rubrics-app: de kunst van eenvoudig feedback geven en objectief beoordelen - Joris Remmers, Sonia Gomez - OWD14

/ PICTO: Project Rubrics

Presentatie Rubrics App

Page 47: De Rubrics-app: de kunst van eenvoudig feedback geven en objectief beoordelen - Joris Remmers, Sonia Gomez - OWD14

/ PICTO: Project Rubrics

Page 48: De Rubrics-app: de kunst van eenvoudig feedback geven en objectief beoordelen - Joris Remmers, Sonia Gomez - OWD14

/ PICTO: Project Rubrics

Presentatie Rubrics App

Page 49: De Rubrics-app: de kunst van eenvoudig feedback geven en objectief beoordelen - Joris Remmers, Sonia Gomez - OWD14

/ PICTO: Project Rubrics

Presentatie Rubrics App

Page 50: De Rubrics-app: de kunst van eenvoudig feedback geven en objectief beoordelen - Joris Remmers, Sonia Gomez - OWD14

/ PICTO: Project Rubrics

Page 51: De Rubrics-app: de kunst van eenvoudig feedback geven en objectief beoordelen - Joris Remmers, Sonia Gomez - OWD14

/ PICTO: Project Rubrics

Page 52: De Rubrics-app: de kunst van eenvoudig feedback geven en objectief beoordelen - Joris Remmers, Sonia Gomez - OWD14

/ PICTO: Project Rubrics

Page 53: De Rubrics-app: de kunst van eenvoudig feedback geven en objectief beoordelen - Joris Remmers, Sonia Gomez - OWD14

/ PICTO: Project Rubrics

Page 54: De Rubrics-app: de kunst van eenvoudig feedback geven en objectief beoordelen - Joris Remmers, Sonia Gomez - OWD14

/ PICTO: Project Rubrics

Presentatie Rubrics App

Page 55: De Rubrics-app: de kunst van eenvoudig feedback geven en objectief beoordelen - Joris Remmers, Sonia Gomez - OWD14

/ PICTO: Project Rubrics

Presentatie Rubrics App

Page 56: De Rubrics-app: de kunst van eenvoudig feedback geven en objectief beoordelen - Joris Remmers, Sonia Gomez - OWD14

/ PICTO: Project Rubrics

Presentatie Rubrics App

Page 57: De Rubrics-app: de kunst van eenvoudig feedback geven en objectief beoordelen - Joris Remmers, Sonia Gomez - OWD14

/ PICTO: Project Rubrics

Presentatie Rubrics App

Page 58: De Rubrics-app: de kunst van eenvoudig feedback geven en objectief beoordelen - Joris Remmers, Sonia Gomez - OWD14

Een oefening: een beoordeling

• Ga naar: www.forallrubrics.com

• Maak een account aan of,

• Log in als: [email protected]

Wachtwoord is: default

• Zet alles klaar voor de beoordeling van:

• Roster: Presentatie Rubrics App

• Rubric: Presenteren (kort)

• Beoordeel Sonia en Joris

De Rubrics app

Page 59: De Rubrics-app: de kunst van eenvoudig feedback geven en objectief beoordelen - Joris Remmers, Sonia Gomez - OWD14

Conclusie

• De app is uitermate geschikt voor het beoordelen

van grote groepen studenten.

• Meerdere docenten kunnen simultaan studenten

beoordelen.

• Een goede integratie met bestaande onderwijs

systemen is noodzakelijk.

• Informatie wordt opgeslagen op Amerikaanse

servers. Gevolgen voor privacy.

• Website niet altijd even goed bereikbaar.

• De ontwikkeling van een eigen platform heeft

wellicht de voorkeur.

De Rubrics app

Page 60: De Rubrics-app: de kunst van eenvoudig feedback geven en objectief beoordelen - Joris Remmers, Sonia Gomez - OWD14

Conclusie

• Veel docenten zijn onbekend met rubrics als

beoordelingstechniek

• Investeer eerst in de ontwikkeling van goede rubrics

en maak docenten hiermee vertrouwd.

• Het gebruik van de app is dan een logische

vervolgstap.

De Rubrics app

Page 61: De Rubrics-app: de kunst van eenvoudig feedback geven en objectief beoordelen - Joris Remmers, Sonia Gomez - OWD14

S

De Rubrics app

De Rubrics app

De kunst van eenvoudig feedback geven en

objectief beoordelen

Joris Remmers / Sonia Gómez Puente

e-mail: [email protected]

web: http://icto.tue.nl/