Hoe kunnen we zorgen dat zorgrobots de kwaliteit van zorg verbeteren

Hoe we kunnen zorgen dat robots de kwaliteit van zorg verbeteren

Matthijs Pontier

[email protected]

@Matthijs85

mailto:[email protected]

https://twitter.com/Matthijs85

Waar ik het over ga hebben

• Wat er mogelijk is:

• Moreel redeneren voor Robots

• Emotionele Intelligentie

• Emoties en Moraliteit combineren

• Mogelijke toepassingen, zoals Alice

• Hoe we kunnen zorgen dat dit de

kwaliteit van zorg verbetert

Hilversum, 01-10-2016 Hoe we kunnen zorgen dat robots de kwaliteit van zorg verbeteren 2

Zorg in Nederland

• Zorgvraag stijgt

• Hogere werkdruk voor zorgverleners

• We worden afhankelijker van onze naasten

• Verantwoordelijkheid voor onze zorg en

gezondheid komt meer bij onszelf te liggen

• Dat vergt best wel wat van ons en daar

kunnen we best wat hulp bij gebruiken!


SELEMCA• ‘Caredroids’ ontwikkelen: Robots of Computer Agents

die Patienten en Zorgverleners kunnen ondersteunen

4Hilversum, 01-10-2016 Hoe we kunnen zorgen dat robots de kwaliteit van zorg verbeteren

Applicaties: Zorg-agents


Applicaties: Zorgrobots


Mogelijke functies

• Zorgmakelaar:

Zoek zorg die past bij behoeften patient

• Vriendje: Wordt vriendjes met patient om

eenzaamheid te voorkomen en activeer de patient

• Coach: Assisteer de patient in het maken van

gezonde keuzes: Bewegen, Gezond eten, Medicijnen

nemen, etc.


Hoe ervaren mensen caredroids?

• Mensen kijken vooral naar deze 4 punten:

1. Wat kun je er mee? Affordances

2. Gedraagt het zich Ethisch goed of slecht?

3. Hoe ziet het eruit? Esthetiek

4. Is het realistisch? Realisme


Uiterlijk / realisme zorgrobots

• Uncanny valley: Te menselijk wordt een beetje eng

• We associeren bijna-menselijk met dood / zombies


Ontwerp robots waarvan realisme in uiterlijk

overeenstemt met realisme gedrag

Machine Ethics: Ethische Robots

• Machines worden steeds autonomer

Rosalind Picard (1997): ‘‘The greater the freedom of

a machine, the more it will need moral standards.’’

• Machines interacteren steeds meer met mensen

We moeten zorgen dat machines ons geen kwaad

doen, of onze autonomie bedreigen

• Machine ethics is belangrijk om te zorgen dat

mensen machines vertrouwen en willen gebruiken


Domein: Medische Ethiek

• Patienten zijn kwetsbaar. Moreel gedrag van de robot

is daarom extra belangrijk

• In zorg zijn er vaak conflicten tussen:

1.Autonomie

2.Weldoen

3.Niet-schaden

4.Gerechtigheid


Moral reasoning system

We hebben een moral reasoning system ontwikkeld

dat kan balanceren tussen verschillende morele doelen

Beslissingen kwamen overeen met medisch-ethische experts


Model autonomie

Hilversum, 01-10-2016 13Hoe we kunnen zorgen dat robots de kwaliteit van zorg verbeteren

Resultaten:

Mogelijk rechtszaken te

simuleren over o.a:

• Bemoeizorg

• Gedwongen opname na

zelfbindingsverklaring

Limitaties moral reasoning

• Alleen moral reasoning resulteert in ‘kille beslissingen’

14Hilversum, 01-10-2016

Probleem: Onmogelijk te simuleren:Trolley Dilemma vs Footbridge Dilemma

• Greene et al. (2001): morele dilemma’s varieren

systematisch varieren in hoeveel emotionele

verwerking ze oproepen, en dat deze variaties

morele beslissingen beinvloeden

• Hun studie was geinspireerd op twee verschillende

varianten van een ethisch dilemma

• Trolley dilemma (onpersoonlijk)

Footbridge dilemma (persoonlijk)

Asimov’s 3 wetten schieten hier tekort!


Oplossing: Voeg Emotionele Verwerking toe

• Eerder ontwikkelden we Silicon Coppelia, een

computermodel van emotionele intelligentie.

• Dit kan in anderen geprojecteerd worden voor een

Theory of Mind

• Het leert van ervaringen Personalisatie

Voeg Moral Reasoning toe aan Silicon Coppelia:

• Moral reasoning menselijker

• Personaliseer morele beslissingen en vooral ook

communicatie daarover


Silicon Coppelia


Speed-dating Experiment

Hilversum, 01-10-2016 Hoe we kunnen zorgen dat robots de kwaliteit van zorg verbeteren

Turing Test

• Turing Test was oorspronkelijk alleen met tekst

• Wij hebben uitgebreid met emotionele communicatie

• Emotionele gezichtsuitdrukkingen

• Menselijke spraak

• Achteraf vragenlijst: Wat denk je dat Tom van je vond?

En wat vond je van Tom?

Continue maat: komt meer uit dan simpelweg ja/nee


Resultaten

• Participanten zagen geen verschil in eigenschappen

• Participanten zagen geen verschil in cognitief-

affectieve structuur (relaties tussen eigenschappen)

• Model waarin condities (1: mens, 2: robot) als

hetzelfde waren aangenomen, verklaarde data beter

dan model waarin condities als verschillend waren

aangenomen


Conclusies Speed-Date

• We hebben zo’n goede simulatie van

menselijk emotioneel gedrag,

dat jonge vrouwen een man niet van

een computer konden onderscheiden

• Belangrijk voor:

• Het begrijpen van menselijk

emotioneel gedrag

• Het ontwikkelen van

menselijke robots / technologie


Silicon Coppelia + Moral Reasoning:

Beslissingen gebaseerd op:

1. Rationele invloeden

• Helpt deze actie me mijn doelen te bereiken?

2. Affectieve invloeden

• Reflecteert deze actie de betrokkenheid

die ik voel tegenover de gebruiker?

• Reflecteert deze actie de distantie

die ik voel tegenover de gebruiker?

3. Moral reasoning

• Is deze actie ethisch goed?

Hilversum, 01-10-2016 22Hoe we kunnen zorgen dat robots de kwaliteit van zorg verbeteren

Resultaten Moral Reasoning + Silicon Coppelia

1 dood; 5 gered Doe niets

Moral system

Trolley X

Footbridge X

Moral Coppelia

Trolley X

Footbridge X


Conclusies: Dit is nu al mogelijk

• Door behulp van theorieen uit (medische) ethiek

kunnen we robots bouwen die zorgtaken verlichten

en autonomie patienten kunnen stimuleren

• Emoties toevoegen aan rationeel moreel redeneren

is belangrijk als robots communiceren met mensen

• De combinatie van ratio en affect maakt robots

menselijker (bijvoorbeeld bij het verlenen van zorg, of

in entertainment)


Toepassingen: Een systeem met ‘6’ thema’s

Hoe we kunnen zorgen dat robots de kwaliteit van zorg verbeterenHilversum, 01-10-2016

Motivatie

Motiveer gebruiker om te

doen wat nodig is.

Bijvoorbeeld een game voor

mensen met een handicap om

deel te nemen aan het sociale

proces. Of elke dag bewegen.


Financieel

Ondersteuning bij het maken

van financiële beslissingen

Bijvoorbeeld welke

zorgverzekeraar? Moet je

sparen om straks een goed

verzorgingshuis te kunnen

betalen?


Connectiviteit

Ondersteuning in het

verbinden met netwerken

die voor jou relevant zijn.

Zo zouden eenzame

bejaarden gekoppeld kunnen

worden aan vrijwilligers of

gelijken in de buurt.

En kunnen diabetici elkaar

ontmoeten in communities

en kennis delen.

Fragment 59.39


Historie

Registreren van zorg /

gezondheidshistorie.

Dagelijks als er niets aan de

hand is of juist op momenten

dat je zorg nodig hebt. Zodat

dit, met jouw toestemming,

uitgewisseld kan worden

tussen verschillende

zorgverleners.


Voeding

Ondersteuning om

gezonde voeding te nemen.

Misschien heb je een speciaal

dieet of heb je tijdelijk

supplementen nodig.

Registreert wat je eet en geef

aan wat je nodig hebt.


Acute hulp

Alarm slaan als iets mis gaat.

Ben je gevallen in de

badkamer? Val je flauw omdat

je te weinig gegeten hebt?

Hartaanval? Dan alarm slaan!


Toepassingen: - Virtual Storytelling- (Serious) Games

32Hoe we kunnen zorgen dat robots de kwaliteit van zorg verbeterenHilversum, 01-10-2016

Virtual Coach

33Hoe we kunnen zorgen dat robots de kwaliteit van zorg verbeterenHilversum, 01-10-2016

Caredroids


‘Rijdende tablets’ die mensen ondersteunen

Hilversum, 01-10-2016

Hoe we kunnen zorgen dat robots de kwaliteit van zorg verbeteren Fragment 1.11.00 35

Robot huisdier


Huisdier, met ingebouwde spraak-synthesizer,

aangedreven door emotioneel intelligente software

Gezelschapsrobots


Zorgrobot Zora


Alice robot Fragment 36.08

40Hilversum, 01-10-2016

Huisrobots

41

Huisrobots


OS dat een relatie met je opbouwt en je begrijpt


‘Smart’ technology• Als technologie voor je denkt,

vertellen de programmeurs je dan wat je moet denken?

Matthijs Pontier, 22-03-2016 TU/e, How self-driving cars are going to change the future of mobility


Wanneer algoritmes ons controleren...

Voorkomen dat zorg gemonopoliseerd wordt

Hoe we kunnen zorgen dat robots de kwaliteit van zorg verbeteren

Techno-progressivisme

• Technologie democratiseren

• Kosten, risico’s en baten worden eerlijk gedeeld

• Gelijke toegang tot technologie

• Ontwikkel technologie zo dat het welzijn bevordert

Maak elk algoritme / AI open-soure• Controleer de programmeurs

• Good ideas are made to be copied:

Je creeert extra waarde zonder extra kosten

Discussie

• Technologie kan zorg verbeteren + efficienter maken

• Belangrijk om hierbij te bedenken wat al wel kan,

maar ook wat nog niet kan

• Privacy-schendingen liggen op de loer

Privacy by design

Laat gebruiker eigenaar eigen gegevens blijven

• Gevaar van gepaard laten gaan met bezuinigingen

• Hoe zorgen dat intelligente zorgtechnologie goed

uitpakt voor patienten en zorgverleners?


IkBenAlice.nl

Boek: Machine Medical Ethics


http://www.springer.com/engineering/robotics/book/978-

3-319-08107-6

• Hoe ethische zorgrobots ontwikkelen?

• Noodzaak Open Source

• Hoe zorgrobots ethisch inzetten?

• Veranderde arts-patient relatie

• Deep Brain Stimulation

• Inzet seks-robots

• Enz.

http://www.springer.com/engineering/robotics/book/978-3-319-08107-6

Piratenpartij over zorgtechnologie


• Zorgen dat technologische

ontwikkeling de samenleving

ook echt beter maakt

• Autonomie / Vrijheid

• Privacy

• Mensenrechten

• Transparantie

• Open source / Open data

• Evidence-based policy

Bedankt!

53

Matthijs Pontier

[email protected]

http://camera-vu.nl/matthijs

Matthijs Pontier

Matthijs85

15/16 oktober houdt Piratenpartij congres

Met prikkelende sprekers, kunst, muziek, ALV


mailto:[email protected]

http://camera-vu.nl/matthijs

http://www.linkedin.com/in/matthijspontier

https://twitter.com/Matthijs85

https://tk2017.piratenpartij.nl/agenda/piratencongres/

Hoe kunnen we zorgen dat zorgrobots de kwaliteit van zorg verbeteren

News & Politics

Transcript of Hoe kunnen we zorgen dat zorgrobots de kwaliteit van zorg verbeteren