21. Robots: met recht mensenwerk

Kees Stuurman'

In deze bijdrage wordt nader ingegaan op het juridisch kader rond (ICT-)robots ende mogelijke consequenties van nu zichtbaar wordende technische ontwikkelingenop het terrein van de robotica.

21.1 Het begrip 'robot'

Wat is eigenlijk een 'robot'J? Het begrip is voor het eerst gehanteerd door deTsjechische schrijver Karel Cabek in zijn toneelstuk R.U.R. (Rossum's UniverseleRobots) uit 1920, en is afgeleid van het Tsjechische woord 'robota', dat staat voor*werk'.

De menselijke fascinatie met 'automaton' gaat ver terug. Al voor het begin van dejaartelling bestonden daar ontwerpen voor. Rond het jaar 1206 is door de Arabischegeleerde Al-Jazari een apparaat gebouwd (een boot met daarop vier robotmuzikan-ten) dat wellicht kan worden beschouwd als de eerste programmeerbare humanoi'derobot. In het jaar 1495 maakte Leonardo da Vinci een ontwerp voor een robot meteen menselijk uiterlijk.2

Er blijkt veel discussie mogelijk over de vraag wanneer al of niet sprake is van een'echte' robot. Onder meer de omvang van de functionaliteit is daarbij punt.van dis-cussie. In de wereld van de robotica wordt veelal uitgegaan van een brede definitiewaarbij een robot ten minste twee of meer taken kan uitvoeren.3 Een definitie diedaarbij vaak wordt gevolgd is die welke is neergelegd in ISO-norm 83734 op grandwaarvan onder een robot wordt verstaan: 'An automatically controlled, reprogram-mable, multi-purpose, manipulator programmable in three or more axes, which maybe either fixed in place or mobile for use in industrial automation applications.' Dezedefinitie is met name gericht op industriele robots. De lat ligt hierbij vrij hoog (pro-grammeerbaar, multi-purpose, in drie dimensies). Op grand van deze definitie zijnbekende, en ook voor consumenten verkrijgbare, praktijkvoorbeelden (nu eens geenscience fiction) als stofzuigrobots of grasmaairobots, geen 'echte' robots omdat zijmaar een specifieke taak kunnen uitvoeren.

Prof. mr. drs. C. Stuurman is advocaat te Amsterdam en als hoogleraar verbonden aan deUniversiteit van Tilburg (TILT - Tilburg Institute for Law, Technology and Society).http://en.wikipedia.org/wiki/RobottfDefinitions, zoals geraadpleegd op 4 januari 2009.Vgl. ook de in Wikipedia (geraadpleegd op 4 januari 2009) opgenomen definitie: 'Eenrobot is een programmeerbare machine, die meerdere, verschillende taken uit kan voeren.'ISO, de International Organization for Standardization.

133

C. STUURMAN

Anderzijds ontbreken in deze definitie (althans expliciete verwijzingen naar) aspec-fen Se samenhangen met het autonoom kunnen functioneren van robots m eendynamische omgeving zoals autonomy, social ability, reactivity, pro-acUveness *.

Een echt breed gedragen definitie ontbreekt. De essentie van het begrip 'robot' is -dteinde lift - contextgebonden en heeft wellicht ook een persoonhjke lading. ZoalsJoseph Engelberger, een pionier op het terrein van de industnele robotica, he ken-

;: 'I can't define a robot, but I know one when I see one."

Op een wat hoger abstractieniveau wordt mijns inziens de kern van het begrip•robot' met name geraakt in bijvoorbeeld een definitie zoals d,e ,s opgenomen m deEncycloTaedia Britannica. Daarin wordt een robot omschreven als: 'any automat.c-Syopera ed machine that replaces human effort, though it may not resembk hurnanbefngs in appearance or perform functions in a humanhke manner In de kern gaahT£riT«n ^n apparaat ('machine') dat automatisch werkt en (potenttele)inspanningen van mensen vervangt. Dit ter onderscheid van onder meer het gebruikvan Sfonde, mechanische hulpmiddelen ter vervanging van (uitsluitend) men-

selijke arbeid en de inzet van dieren.

Deze definitie is mijns inziens voldoende ruim om niet op voorhand het onderwerpSthLs gevoeLatig te beperken. Daarbij ken ik overigens aan het begnp 'apparaateenSrSekenis toe en omvat dit met name ook software Nadeel van de eerderaangTalde definitie is overigens dat deze zo ruim is, dat ̂ f^"^onder vallen die buiten het - toch vooral door hteratuur en film bepaalde - beeldvan het b grip 'robots' vallen. Denk aan een bromfiets of een elektnsche grasmaa,-Tde voortbLging daarvan vervangt menselijke inspannmg, en het apparaat werktautomatisch zolang er brandstof dan wel stroom aanwezig is.

In Principe kan ook software onder het begrip 'robot' vallen. Voor het aanduiden vanSr softwarematige robots worden echter meestal andere begnppen gehanteerd,mTnam^Sgent agents' of softbots. Het verschil met de 'klass.eke' robot isvToml glgen in dc vonngeving; softwarecode in plaats van een fysieke verschy-nSvorm Hoewel vanuit juridisch perspectief met mmder mteressant, worden b r"ntelligent agents' of 'softbots' toch buiten beschouwmg gelaten Ook in de jund,-scSratuur is er al veel over dat onderwerp geschreven', terwijl fysieke robots tot

Ts^rTwelke centraal staan in de definitie van intelligent agents var , Woolridge ,*Jennings (M. Woolridge en N.R. Jennings, Intelligent agents: Theory and Pract,ce, Know-

How Stuff ^rks, zoa,s aangehaaM op: http://en.wi,-

pedia.org/wiki/Robot#cite_note-10, geraadpleegd op 4 januari 2009.http://www.britannica.com/EBchecked/topic/505818/robot, zoals geraadpleegd op 4 janu-

z e r meer: C. Stuurman en H.Wijnands, Intelligent agents: vloeke consument Consumentenbescherming In de nieuwe economic, Den Haag, Elsev.er,p 21-39 A. Oskamp,^- terecht, K.uwer, Deventer, 2002, oratie VU Amsterdam "B Schermer, Software agents, surveillance, and the right to privacy: A legislative fram

weorkfor agent enabled surveillance, Leiden University Press, 2007.

134

21- ROBOTS: MET RECHT MENSENWERK.

heden daarin minder zijn belicht. Veel van hetgeen hierna volgt is overigens ook opsoftwarerobots van toepassing.

In hoeverre overigens de in de verschillende beschrijvingen dan wel definitiesgemaakte onderscheidingen, zoals in de ISO-definitie (programmeerbaar, multi-purpose, in drie dimensies), ook juridisch relevant zijn valt nog te bezien. Vanuitjuridisch perspectief lijkt mij met name relevant of een apparaat autonoom of semi-autonoom taken kan verrichten.

21.2 Robots: van science fiction op weg naar realiteit

Op dit moment worden in de praktijk met name industriele robots ingezet, bijvoor-beeld voor het lassen of spuiten van auto's, terwijl andere (potentiele) zakelijke ofprive-toepassingen, zoals voor de zorg of het huishouden, althans buiten het labora-torium nog niet of nauwelijks voor handen zijn. Een uitzondering daarop vormen degrasmaairobot en de stofzuigrobot, ook voor consumenten commercieel verkrijgba-re toepassingen. Sinds een jaar of twee kijk ik met veel genoegen naar de gras-maaiautomaat die mij in de zomerperiode mijn zaterdagse tuinroutine uit handenneemt.

Voor wat betreft de ontwikkeling van de 'robotisering' kan onder meer wordenonderscheiden tussen de ontwikkeling van robots als nieuwe, nog niet bestaande,zelfstandige apparaten, en anderzijds de opkomst van robots door het 'upgraden'van bestaande machines die worden uitgerust met (verder) geautomatiseerde, ensoms zelfs intelligente, functionaliteit waardoor deze - al bestaande - apparatenmenselijke taken, althans gedeeltelijk, (verder) kunnen overnemen dan wel hen bijde uitoefening daarvan (verder) kunnen ondersteunen.9

Een in dit verband evenzeer relevante, maar wellicht minder direct herkenbare, ont-wikkeling is de toevoeging van geautomatiseerde systemen in auto's. Het toepassenvan ICT in auto's is niet nieuw meer; een gemiddelde auto bevat al snel enkele tien-tallen processoren. Wel (relatief) nieuw is dat auto's de laatste jaren steeds vakerworden uitgerust met automatisch werkende 'hulpjes' om met name de veiligheidvan het verkeer te bevorderen. Voorbeelden zijn onder meer anti-blokkeringssyste-men (ABS), stabiliteitssystemen en dergelijke. Sinds kort zijn er ook auto's op demarkt met automatisch werkende cruisecontrols en remsystemen (de auto houdt eengelijkmatige afstand tot de voorganger en remt indien nodig zelfstandig), apparatendie de auto binnen de op de weg aangebrachte lijnen moeten houden ('lane depar-ture warning'), de bestuurder waarschuwen als de oplettendheid afneemt ('driver

Deze ontwikkeling kan wellicht (ook) onder de noemer 'ambient intelligence' wordengeschaard, zij het dat bij de afbakening van dat onderwerp het accent meer lijkt te liggenop het verhogen van het comfort voor de mens (intelligente huizen etc.) dan op meerrobotspecifiek handelen. Zie voor een overzicht van (potentieel) relevante juridisch onder-werpen van 'ambient intelligence': S. van Esch, Juridische randvoorwaarden voor ont-wikkeling van Ambient Intelligence (afstudeerscriptie Universiteit van Tilburg), 2005(http://www.magisterjft.nl/elaw/ambient%20intelligence.pdf).

135

C. STUURMAN

alert control') en de mogelijkheidwordt veelal ingebouwd in de auto; eenfunctionaliteit door het "^"bredere tmnsportmfrastructuur

rf de wegen. of

proefmodellen vandaadwerkelijke toepassing

en software) van de

matigedieren'.

Een andere - »-. - «""*•*-organism); de iysieke

*'), r»p«la.r ...) on,

gelijkheden te vergroten.

.nen worden gedaan door Kevin WarwicK ^" ^ c , ject recent voor eenReading (VK). ̂ ^^^^SS Met behulp daarvan kan deaantal maanden een chip in ajn arm laten P d bestudeerd maar is vooruitwisseling van signalen met de her ̂ 'Se id Tgecreeerd tussen een menselijkheteerstookeendirectecormnunicatiemoge^ k ̂ ^brein en het Internet. Tijdens een recente presentee vert ^ ̂experiment nog verder heeft f^^~^ .̂ hersensignalen tus-8

beiden bleef verborgen.

«— *» •teit van Tilburg, 10 december 2008.

136

21. ROBOTS: MET RECHT MENSENWERK.

kan ontwijken.13 Veel van dit onderzoek staat (primair) in het teken van het hersen-onderzoek, onder meer gericht op epilepsie en de ziekte van Alzheimer.

Ondanks al deze ontwikkelingen blijft het onderwerp 'robots' vooralsnog een vrijhoog sciencefictiongehalte houden. De onderzoeksdoelen zijn in de meeste gevallennog (steeds) bakens ver aan de horizon. Voor zover er al toepassingen beschikbaarzijn dringen deze pas langzaam door tot de markt, zeker waar het toepassingen voorconsumenten betreft. Robottechnologie kan voor wat betreft diffusiesnelheid danook (nog?) niet worden vergeleken met de andere ICT-toepassingen zoals de mobie-le telefoon, de I-pod of het Internet. Daartegenover staat dat er voor de waarnemerdie afstand kan doen van het klassieke beeld van robots zoals dat vaak wordt neer-gezet in literatuur of films, op het terrein van de robotisering veel beweging valtwaar te nemen. Van science fiction derhalve langzaam maar zeker op weg naar'science' en daadwerkelijke ontwikkeling van robots.

21.3 ICT-robots: juridisch kader

Het juridisch kader voor robots is potentieel zeer breed en divers. De gehanteerdedefinitie is hiervoor uiteraard mede bepalend. Op basis van de hierboven gehan-teerde, meer generieke definities, wordt hieronder een overzicht gegeven vanbelangrijke elementen van het bestaande juridische kader waarbinnen de ontwikke-ling, bouw, distributie/'verkoop', maar ook onderhoud en recycling, van robots zalplaatsvinden. Daarbij zal de aandacht met name worden gericht op regelgeving ofandere normstellmg die (naar verwachting) meer specifiek is voor deze technologic.Volledigheid is in dit kader niet betracht.

De benadering is daarbij primair gericht op de robot als een (ICT)product. Juri-dische aspecten die met name samenhangen met de ontwikkeling van de 'cyborgs'of het terrein van de 'human enhancement' blijven hier buiten beschouwing. Datraakt onder meer vragen als de consequenties van dergelijke ontwikkelingen voorgrondrechten (bijv. of ouders wel het recht hebben hun kinderen te laten 'verbete-ren'?), persoonlijke identiteit en autonomie.

21.3.1 Robot als product: velligheids- en milieu-eisen

Algemeen

Als de zuiver softwarematige robots (intelligent agents) even buiten beschouwingworden gelaten, is een robot in de eerste plaats te beschouwen als een 'gewoon' elek-trisch of elektronisch apparaat. Voor deze categoric producten gelden tal van eisen.Het gaat daarbij niet alleen om productie en distributie (veiligheid, milieu, ...) maarook gebruik (zorgvuldigheidseisen, specifieke (verkeers)regels) en ook om bijvoor-beeld verwerking van afgedankte apparatuur (milieu).

13 Zie: http://www.newscientist.com/article/mgl9926696.100-rise-of-the-ratbrained-robots.html?full=true.

137

C. STUURMAN

Robots zullen onder meer moeten voldoen aan de .voortvloeiend uit de Europese Richtlijn Algemene Productve.ligheid (RAPV)zoals vastgelegd in de Warenwet en daarop gebaseerde nadere regelgeving (ondermeer voor eletoische apparatus neergelegd in het' Warenwetbes uit elektrotechn,-sche produkten'), en sectorspecifieke regelgeving voor byvoorbeeld medischhulp-middelen. Met deze regelgeving wordt beoogd een hoog mveau van productvei-

ligheid te waarborgen.

Voor het toepassen van industriele robots zijn in international verband veiligheids-normen opgesteld. NEN-EN-ISO norm 10218 gaat specifiek in op een inherent vei-™S, de constructie, de beveiligingsmaatregelen en de gebruiksmformatievfn industriele robots. In deze norm worden de basisgevaren verbonden aan hegebruik van dit type robots beschreven en wordt aangegeven aan weke eiser,, dentfe worden voldaan om deze risico's zo ver mogehjk te reduceren." Ook gaat denorm in op het veilig integreren van robots in de werkomgevmg respec .evehjk metandere apparatuur. Applicatieafhankelijk kunnen nog andere normen relevant zijn .

Met de regelgeving inzake productveiligheid wordt niet alleen beoogd de gezond-farid van mensen te waarborgen, maar het bereik strekt zich ook u,t tot de veihgheid

van zaken.

Daarnaast zijn bij het bouwen van robots ook de regels relevant inzake het gebruikvanTevaarli ke stoffen (RoHS-richtlijn", geimplementeerd met het Besluit beheerdekSe en elektronische apparatuur) en het beheer van afgedankte elektrische enelektranische apparatuur (WEEE-richtijn", geimplementeerd m de Regehng beheerelektrische en elektronische apparatuur).

Afhankelijk van de toepassing kan ook de specifieke veiligheidsregelgeving voormachines van toepassing zijn. Deze regelgeving, gebaseerd op de Europese Machi-

'« Richtlijn 2001/95/EG van het Europees Parlement en de Raad van 3 december 2001, inza-ke algemene productveiligheid. Pb EG 2002; L 11/4, NL: 15.1.2002.

15 httpV/www.aandrijvenenbesturen.nl/vakblad/index.php." Zoals- NEN-EN 619:2002 (stukgoedtransport), NEN-EN 12611:2001 (hydraul.sche kant-

nersen) of NEN-EN-ISO 11161:2007 (geintegreerde productiesystemen). N.W. de With,

Robotvelllgheid eindelijk genormallseerd!?, presentatie 28 mei 2008 •y^^tics.benelux.info/Branchesites/RAB/Downloads/Presentat.e%20Nick%20de%20With.

" Richtlijn 2002/95/EG van het Europees Parlement en de Raad van 27 januari 2003 be-treffende beperking van het gebruik van bepaalde gevaarlijke stoffen in elektnsche en

elektronische apparatuur, Pb EG 2003, L 37, p. 19 e.v.is Richtlijn 2002/96/EG van het Europees Parlement en de Raad van 27 januan 2003 be-

treffende afgedankte elektrische en elektronische apparatuur, Pb EG 2003, L 37, p. 24 ,zoals gewijzigd bij de Richtlijn 2003/108/EG van het Europees Parlement en de Raad van8 december 2003 tot wijziging van Richtlijn 2002/96/EG betreffende afgedankte elektri-sche en elektronische apparatuur (AEEA), Pb EG 2003 L 345, p. p. 106.

138

x-x-x-x-x-x-x-x-x-x-x-x-x-x-x-x-x-x-x-x-x-x-x-x-x-x-x-x-x-x-x-x-x-^

21. ROBOTS: MET RECHT MENSENWERK

nerichtlijn19, is in het bijzonder neergelegd in het Warenwetbesluit machines. Opgrond hiervan dient er onder meef sprake te zijn van een veilig ontwerp van eenmachine, waardoor de veiligheid en gezondheid van mens en (huis)dieren gewaar-borgd worden.

Zoals besproken is in veel gehanteerde definities van het begrip 'robot' de eis opge-nomen dat robots meer dan een taak moeten kunnen uitvoeren. Op grond van hetbovenstaande lijkt het vanuit juridisch perspectief, althans voor wat compliancedruken risicobeheersing betreft, eerder aan te bevelen de functionaliteit van een robotduidelijk te focussen en te beperken.

De 'intelligentie' van robots zal in belangrijke mate met behulp van software endatabanken worden gecreeerd. Dit betekent dat de belangen (economisch, juridisch,militair,...) bij het adequaat beschermen daarvan groot zijn. Intellectuele eigendomis dan ook voor het terrein van de robotica een belangrijk onderwerp. Vooralsnoglijkt er geen reden om aan te nemen dat er voor een adequate juridische beschermingvan de 'content' van robots aanvullende regels noodzakelijk zijn. Of dat ook geldtvoor de regels inzake de juridische bescherming van creaties gemaakt door robotsvalt nog te bezien. In het Verenigd Koninkrijk bestaat al sinds 1988 een specialeregeling voor de bescherming van 'computer generated works'.20 Diverse anderelanden kennen inmiddels een vergelijkbare regeling.

Specifieke toepassingen: verkeer en gezondheidszorgGezien het potentieel brede toepassingsgebied van robots kunnen voor specifieketoepassingen geldende nadere regels ook relevant zijn. Volledigheid is hier nietmogelijk, en ook niet zinvol. Ik volsta met een korte illustratie aan de hand van tweetoepassingsgebieden waarop de inzet van robots qua technische ontwikkeling(enigszins) binnen handbereik lijken te liggen: verkeer en gezondheidszorg.

Zodra een robot zich op straat begeeft is er sprake is van deelname aan het verkeerop de openbare weg en zijn onder meer de Wegenverkeerswet 1994 en hetReglement Verkeersregels en Verkeerstekens (RVV 1990) van toepassing. Als spra-ke zou zijn van een 'voertuig'21 (in elk geval als de robot een of meer personen ver-voert) is voorts het Voertuigreglement van toepassing. Deze regelgeving bevat onder

19 Richtlijn 98/37/EG van het Europees Parlement en Raad van 22 juni 1998 inzake de onder-linge aanpassing van de wetgevingen van de lidstaten betreffende machines, Pb EG 1998,L 207, p. 1 e.v.

20 Op grond van artikel 9 lid 3 van de UK Copyright, Designs and Patents Act 1988 geldt dat:'In the case of a literary, dramatic, musical or artistic work which is computer-generated,the author shall be taken to be the person by whom the arrangements necessary for thecreation of the work are undertaken.' Zie over deze, en mogelijke andere lE-aspecten na-der: Stuurman en Wijnands, a.w, p. 12 e.v.

21 Blijkens het Voertuigreglement artikel la sub bd, wordt daaronder verstaan: 'motorrijtuig,aanhangwagen, fiets, zijspanwagen, wagen of andere constructie, niet bestemd om langsspoorstaven te worden voortbewogen; (...)'. Voorzover er sprake is van het zich verplaat-sen van personen, met andere constructies dan een voertuig, is het RVV niettemin van toe-passing (art. 2 lid 2 RV).

139

,<<-:-:^-:-:-^:-:<-:<-:-:-:^<-:-^^

C. STUURMAN

meer typegoedkeuringseisen (technische eisen), eisen waaraan een voertuig moetvTldoen om de weg op te mogen (eenmalige goedkeuring), permanente eisen (eisenwaaraan moet worden'voldaan op de weg en tijdens de APK), en 8^™ voorvoertuigen. Het betreft dus niet alleen eisen aan het^echmsche^ontwe p maa^er kun-nen ook eisen worden gesteld aan uiterlijk (kenteken, verhchting etc.), gebruikers(minimumleeftijd) en het gebruik (bijv. verzekenngsphcht).

Op dit moment wordt wel al gebruik gemaakt van autonoom bewegende voertuigenop bedrijventerreinen, en wordt volop geexperimenteerd met het 8^ van d*ge-lijke voertuigen op de openbare weg. Robots op straat is nu nog een fictie maar opafzfenbare tfrmijn wordt dit realiteit. In Japan zijn al diverse expenmenten mtge-voerd, onder meer om na te gaan hoe de interactie met voetgangers ̂ anderekeersdeelnemers verloopt. In de stad Fukuoka zyn daartoe m de pubheke,speciale zones aangewezen voor het uitvoeren van expenmenten ̂ "de interactie tussen robots en andere gebruikers van de openbare ™*?"£deerd. Ook de lokale verkeersregelgeving is aangepast om robots volledig toegang

tot de straat te geven.22

De ontwikkeling naar een meer zelfstandig functionerende auto kan, naast de bovenJsigl^de ̂ agen naar het toepasselijk juridisch kader (welke regelgeving » vanfoepassing), tot allerlei andere juridische vragen aanleidmg geven^Er kan byvoor-3d en verschuiving optreden in de kwalificatie van de betrokkenen. Is degenedie in een intelligente auto stapt welke volledig automatisch de ™^™™^stemming bereikt, nog wel te beschouwen als een 'bestuurder', en in die hoedamg-heSe spoken hfgeval zich een ongeluk voordoet? Het zou wel eens meer voorde hand kunnen liggen deze persoon aan te spreken in zyn ̂ ^^ter (ex 6-173 lid 2 BW). En hoe zit dat bij niet-eigenaren, zoals de huurder van eenn emgen e al, of de passagier van een intelligente taxi?2' Het kan dan ook zekerntt worden uitgesloten dat de bestaande regels ten aanzien van met name(vracht)auto's in verband met de voortgaande 'robotisering' aanpassmg behoeven.

Voor zover naast intelligente auto's ook robots in andere vormen op straat verschij-nen, zullen tenminste alle nu met 'voertuigen' bekende Qundische) probljmen zichongetwijfeld gaan manifesteren, waaronder verkeersovertredmgen, schadevoorval-len8 2de afn de robot of andere robots dan wel aan andere objecten rf^aan per̂sonen, inclusief dodelijke slachtoffers), maar ook beschadiging er. diefstaU brand,'joyriding' en het 'omkatten' van robots, tot en met verzekenngsfraude. Drt leidtuiteraard automatisch tot de vraag of er specifieke regelgevmg noodzakelijk is of dakan worden volstaan met het scheppen van duidelijkheid over dejund.sche statusvan dergelijke robots onder bestaande regelgeving, waardoor bijvoorbeeld alleregels die gelden voor auto's of bromfietsen van toepassing worden.

23

Zie: AtsuoTakanishi, Humanoid Robot Research and Its Applications - Recent Updatespresentatie tijdens de 'Italy-Japan 2005 Workshop, The Man and The Robot: Italian andJapanese Approaches', www,obocasa.net/workshop/2005/Pdf/020204_Takamsh1.Pdf.

Zie T F.E Tjong Tjin Tai, Aansprakelijkheid voor intelligente zaken, Voordracht voor sym-

posium Magister, 22 april 2008, Universiteit van Tilburg.

140

21. ROBOTS: MET RECHT MENSENWERK

Ook voor toepassingen in de medische sfeer bestaan specifieke regels inzake pro-ductveiligheid, in het bijzonder neergelegd in de Wet op de medische hulpmiddelen.Zo valt een operatierobot24 onder de reikwijdte van deze wet, evenals kunstmatigeorganen en - in ontwikkeling zijnde - miniatuurrobots die zich kunnen verplaatsenin het menselijk lichaam. Opmerkelijk is dat in deze regelgeving expliciet is opge-nomen dat software welke onderdeel uitmaakt van een medisch hulpmiddel daaron-der mede wordt begrepen.25

21.3.2 Specifieke eisen voor IT-processen

Hierbij kan onder meer worden gewezen op eisen inzake beveiliging en privacy26.Een robot die in de priveomgeving, zakelijke omgeving of de openbare ruimte takenverricht ter ondersteuning van een of meer personen (huishoudelijke taken, surveil-lance, zorg, bewaking, receptiediensten etc.) zal vrijwel steeds persoonsgegevensopslaan of deze anderszins verwerken in de zin van de Wet bescherming persoons-gegevens. Daarbij valt onder meer te denken aan videowaarneming, gezichtsher-kenning, het vastleggen van transactie gegevens, de registratie van persoonlijkevoorkeuren van gebruikers, maar ook de - onbedoelde - waarneming van gebeurte-nissen in de omgeving van de robot. Dergelijke gegevensverwerking zal voor hetfunctioneren van de robot, en acceptatie door zijn omgeving, in veel gevallen ookeen voorwaarde zijn. De informatieprocessen in dergelijke robots (verzamelen,opslaan, bewerken, ...), inclusief de beveiliging daarvan, dienen uiteraard aan deeisen van met name de Wet bescherming persoonsgegevens te voldoen. Bij speci-fieke toepassingen, bijvoorbeeld in de zorg, zullen ook de betreffende nadere voor-schiften van toepassing zijn. Dit betreft onder meer de beveiligingsnormen NEN7510,7511 en 7512.

Relevant is mogelijk ook de vraag of een robot (op termijn) niet zelfstandig recht zalhebben op privacy. In die lijn passen ook vragen als die naar anonimiteit en pseu-donimiteit van robots, dan wel bij de huidige stand van zaken, nog van met name degebruikers daarvan. Bij het ontwerpen van robots zal daarmee rekening moeten wor-den gehouden. Een interessante vraag is of voor robots (op termijn?) een identifica-tieplicht zal gelden. Een identificatiemogelijkheid biedt op dit moment in elk gevaleen zekere waarborg voor gebruikers, bijvoorbeeld in gevallen waarin de robotdefect op straat wordt aangetroffen. Vanuit onder meer handhavingsperspectief lijkthet bevorderlijk dat een dergelijke mogelijkheid bestaat als bijvoorbeeld een robot

24 Nu nog handmatig bediende hulpmiddelen, op termijn (meer) zelfstandig functionerend.25 Wet op de medische hulpmiddelen, artikel 1 sub a: 'medisch hulpmiddel: elk instrument,

toestel of apparaat, elke stof of elk ander artikel dat of die alleen of in combinatie wordtgebruikt, met inbegrip van de software die voor de goede werking ervan benodigd is, endat of die door de fabrikant bestemd is om bij de mens voor de volgende doeleinden teworden aangewend:- diagnose, preventie, bewaking, behandeling of verlichting van ziekten,_ (.-.)'•

26 Zoals hieronder nader zal worden toegelicht zijn de eisen welke uit de e-commerce speci-fieke regelgeving kunnen worden afgeleid in dit overzicht niet meegenomen aangeziendeze meer voor software agents relevant lijken te zijn dan voor fysieke robots.

141

C. STUURMAN

amok maakt (er bestaat immers geen software zonder fouten ) betrokker,^aakt:Wjongevallen of zich niet aan de geldende (verkeers)regels houdt ( robot njdtte hard ).

Naast eisen ten aanzien van privacy en beveiliging kan hieronder meer• ook^nog wor-den gewezen op de mogelijke relevantie van de door Franken geformuleerdealge-menf beginselen van behoorlijk IT-gebruik' (beschikbaarheid, mtegnteit, authenti-citeit, vertrouwelijkheid, transparantie en flexibihteit).

21.3.3 Overige eisen

Bovenstaand overzicht is nog zeker niet compleet. Op het terrein ™*«V™£recht kan onder meer nog worden gedacht aan de eisen welke gelden indien eenrobot een transactie verricht (vooralsnog namens zijn 'pnncipaa ). Dit onderwerpkan in principe wel relevant zijn bij de inzet van robots maar hjkt, zeker gez^n hetsterk graeiende belang van de elektronische handel, meer relevant voor software-agents dan voor fysieke robots.2' Een interessante vraag daarbij kan ook zyn of debetrokkenheid van een robot dan wel software agent bij «r^^^^quenties zou (moeten?) hebben voor het effect van bijvoorbeeld ̂ redelykheid enbillijkheid (robot is beperkt in zijn vermogens en daarmee verdient (zijn gebru kerbescherming?) of de uitleg van overeenkomsten (ten nadele van de mtellectueel

superieure mens?).

Privaatrechtelijk is, in aanvulling op de eerder aangehaalde regels make product-veiligheid, de regeling inzake productenaansprakelijkheid ex artikel 6: 85 BW e*uUeraard nog relevant Over de betekenis van deze regelgevmg voor de IT-sector, enXSSta i vraag naar de status van software (wel of geen 'product' in de zmvan artikel 6:187 BW?), is veel gespraken en geschreven.2' Robots ̂ » «"*SEte beschouwen als een product in de zin van deze regelgevmg, hetgeen belangnjkegevolgen zalhebben voor het ontwerp, de bouw en prese ntatie daarvan. ̂ Op |̂ rondvan artikel 6-186 BW zal een robot immers onder meer de veihgheid moeten biedenT'l^n'mocht verwachten van een dergelijk apparaat. Daarbij speelt onder meernet redelijkerwijs te verwachten gebruik daarvan een rol. Onder meer ,n*ressantdaarbij lijkt mij welke invloed vorm, uiterlijk en gedrag van de robot op de ver-wachtingen vTn de gebruiker zullen hebben. Dat er een verband bestaat hjkt mij op

H Franken Overheid, informatietechnologie en recht - een gevarendriehoek? in: P.H.A.Frissen A W. Koers en I.Th. M. Snellen (red.) Orwell of Athene? Democratic en mforma-tiesamenleving, Sdu, 's-Gravenhage 1992 en H. Franken, Kanttekenlngen b^m^a-tiseren van beschikkingen, Pre-advies voor de Verenging voor Admimstrat.ef Recht (VAR),Alphen aan den Rijn, 1993.Ten aanzien van privaatrechtelijke aspecten van transacties met en door automates, z.eonder meer R E van Esch, Electronic Data Interchange en het vermogensrecht, Deventer,Tjeenk Willink, 1999, Stuurman en Wijnands, a.w., en M. Voulon, Elektronische verte-genwoordiging, CompMte/recfo 2002/6, p. 360-365.lie voor een overzicht en analyse: R.J.J. Westerdijk, Produktenaansprakehjkhetd voorsoftware. Beschouwingen over de aansprakelijkheid voor informaticaprodukten (diss.

VU), Deventer, 1995.

142

21. ROBOTS: MET RECHT MENSENWERK

wat verhger verlopen als een robot wordt ingezet. Moet dit welHch ooit et ve?zwarende omstandigheid voor straftoemeting vormen? Voorts s uiteraa d relevant

bLdenTe^en £ ̂ ™ C°mPUter™<^eit voldoende bescherming Senbieden tegen het wegnemen van gegevens uit robots of (andere) vormen van mani-

de,hierboven Senoemde eisen kan ook nog worden gewezen op de relevan-te andere algemene normen welke voortvloeien uit eisen ten aanzien van te betrach-ten maatschappelijke zorgvuldigheid (ex art. 6:162 BW) en mogelijk ook de alge-

b7sLveg' e" ̂ belTliJk bCStUUr (bij de inzet van der8eli*e machines bijbeslu.tvormmgsprocessen door de overheid). Ook dit laatste lijkt vooralsnog meerhet terrein van software agents dan van fysieke robots; de gedachte aan de robot alsambtenaar of rechter daarbij maar even achterwege latend (...).

21.4 De 'wetten' vsin Asimov

De sciencefictionliteratuur heeft mede de contouren bepaald van het wetenschappe-lyk onderzoek op het terrein van de robotica. De eerste - althans literaire - stap voor

het ontwikkelen van regels voor robots is gezet door de sciencefictionschrijver Isaac"" CSSay 'Runar°Und' (1942) form«^erde hij de volgende Three Laws

' 1 A robot may not injure a human being or, through inaction, allow a human beingto come to harm. 6

2' I1"0.?' T t°bey/)r1

ders 8jven to jt fey human beings, except where such orderswould conflict with the First Law.

3. A robot must protect its own existence as long as such protection does not con-flict with the First or the Second Law.'

Met het opstellen van deze wetten heeft Asimov vooral geprobeerd een nieuwe visieop robots te creeren, waann robots meer waren dan mechanische monsters of voor-al hennnenngen opnepen aan het monster van Frankenstein. Asimov's wetten heb-ben in de loop van de tijd tot veel reacties geleid." Niet in de laatste plaats van deauteur zelf, die heeft gewezen op onder meer een aantal inconsistenties. De regelsroepen ook veel vragen op. Betekent de 'First Law' bijvoorbeeld dat een robot geenmedISche mgrepen zou mogen verrichten of neemt toestemming van de patient deze

** Wikipedia, Three Laws of Robotics, geraadpleegd op 11 december 2008il Idem.

143

C. STUURMAN

belemmering weg? Moet voorts rekening worden gehouden met de tennis van derobot? Kunnen niet binnen het systeem alle regels worden gesc hondenas de ̂daar geen kennis van kan dragen? Moet rekening worden gehouden met een (ver-plicht?) bewustzijn van robots?

Andere schrijvers hebben de door Asimov ingeslagen weg verder verkend en nieu-we regels toegevoegd32:'4. A robot must establish its identity m all cases ;5. A robot must know it is a robot.'34

In zijn novelle 'Robots and Empire' is door Asimov zelf een 'Zeroth Law' toege-

Tfrabot must not merely act in the interest of individual humans, but of all

humanity.'

Welke betekenis moet aan deze 'wetten' worden gegeven? Vanuit juridisch oogpuntTer^ver Soud van de wetten het nodige op te rnerken Het lijkt ook^eerde,• omabstracte 'beginselen' te gaan, dan om wetten in gebruikehjke zm^ Zo wordt geenrekedng houden met de omstandigheden waaraan deze regels zouden moeten WOP-denZlepasfzoals betrokken actoren en kenmerken a,s leeftijd, g***""*capaciteiten etc. (voorzover deze relevant kunnen zijn b,j robots . ) jof met degevolgen van bijzondere omstandigheden als bijvoorbeeld dwang of dwalmg.

- betekenis van deze 'wetten van Asimov' lijkt mij dan ook vooral te liggen in de' dte dalrdoor wordt geleverd aan de door Asimov beoogde paradigmaver-

ten aanzien van robots. Geen (uitsluitend) monsterachtige creaties, maar' apparaten die bepaalde - mede op bescherming van de mens gerichte -

eedragsregels in acht kunnen nemen. Een paradigma dat mij nog steeds van belang£ en mede inspireert om na te denken over regels die sp~.fi* voor robots zou-den moeten worden ontworpen.

21.5 Op weg naar eieuwe eormen? Prioriteiten en vormgeving

27.5.1 Geen juridisch vacuum; wel invloed op normstelling?

Er heerst bepaald geen juridisch vacuum rond robots. Er zijn zelfs al zoveel regelsdat zoa opgemerkt, anders dan in de robotica wordt nagestreefd, vanuit jundischpe spectief de ontwikkeling van programmeerbare, multi-inzetbare automaton n,edirect lijkt aan te raden en een meer gefocuste functionahteit vooralsnog meer hjkt

aan te bevelen.

32 Idem.» Toegevoegd door Lyuben Dilov in zijn novelle Icarus (1974). , „ , . . • .* Toegevoegd door Nikola Kesarovski in een verhaal getiteld 'The Fifth Law of Robot.cs

(1983).35 Idem.

144

21. ROBOTS: MET RECHT MENSENWERK

Een invalshoek die ook aandacht verdient is dat de introductie van zelfstandig han-delende robots ook eftecten zou kunnen hebben op gedragingen van mensen, endaarmee wellicht op bestaande rechtsregels. Een vergelijkbare ontwikkeling kanworden waargenomen naar aanleiding van de opkomst van het Internet. Daar waaraanvankelijk werd uitgegaan van 'wat offline geldt, moet ook online gelden', heeftmmiddels een verschuiving plaatsgevonden naar de introductie van aparte, aanvul-lende regels voor de elektronische omgeving. Ook kan worden waargenomen dat opeen aantal punten de scheidslijn tussen online en offline minder scherp wordt ennormstelling elkaar over en weer lijkt te bei'nvloeden. Dit geldt bijvoorbeeld op hetterrein van de privacybescherming ten aanzien van de opvattingen over de (gewens-te) reikwijdte van de juridische bescherming. Een ander voorbeeld vormt de rege-ling inzake de bedenktijd bij aankopen. Deze is geintroduceerd in de online omge-ving maar nu ook meer en meer van toepassing op offline aankopen.

27.5.2 Welke prioriteiten?

Veel juridische vragen die met betrekking tot de toepassing van robotica gesteldkunnen worden lijken op dit moment nog louter theoretisch.36 Dat geldt zeker voorveel van de fundamentele juridische vragen die met betrekking tot de toepassing vanrobotica gesteld kunnen worden. Helaas, zou ik daaraan willen toevoegen; vanuitreguleringsperspectief zijn juist deze vergezichten, waaronder de vraag of robots(ooit) zelfstandige dragers worden van rechten en plichten, het meest interessant.37

Sharkey wijst er op dat veeleer dan voor deze vergezichten, met name nu aandachtnodig is voor ethische kwesties en veiligheidsaspecten van de ontwikkeling en inzetvan robots. Hij wijst onder meer op een aantal ethische risico's verbonden aan de(inmiddels vrij snelle) opmars van in het bijzonder 'zorgrobots' voor kinderen en

36 Zie het volgende citaat uit het eerder aangehaalde artikel uit The Guardian naar aanleidingvan het verschijnen van een rapport van het Britse Office of Science and Innovation'sHorizon Scanning Centre in December 2007 waarin er op werd gewezen dat indien kunst-matige intelligentie daadwerkelijk is ontwikkeld en wordt toegepast, ook de vraag naarmensenrechten voor robots aan de orde zou komen. 'But the scientists said true robot intel-ligence is so far in the future that it should not be treated as anything more than sciencefiction. "It's really premature I think to discuss robot rights," said Owen Holland, a com-puter scientist and expert on machine consciousness at Essex University. "[This report] iscertainly not based on science and it is not realistic. (...)." Noel Sharkey, a roboticist at theUniversity of Sheffield who is a regular contributor to the BBC's Robot Wars, agreed, buthe said there were more immediate concerns. "The idea of machine consciousness andrights is... a bit of a fairy tale as far as I'm concerned," he said. "My concern is about pub-lic safety. I think we need proper, informed, public debate about where we are going withrobotics at the moment. We need to tell the public about what's going on in robotics andask them what they want.'"

37 Zie onder meer: A. Matthias, Automaten als Trager von Rechten. Pladoyerjur eine Ge-setzesanderung (diss.), Logos, Berlin 2008 en B.J. Koops en D.O. Jaquet-Chiffelle, New(Identities and the Law: Perspectives on Legal Personhood for Non-Humans 2008FlDIS-rapportD17.2.

145

C. STUURMAN

ouderen en militaire toepassingen.38 Bij zorgrobots spelen vragen als het effect opbijvoorbeeld het gedrag van kinderen als ouders een robot langdurig inzetten alsoppas. Militaire toepassingen zijn al realiteit, bijvoorbeeld in Irak. Nu wordt debeslissing over het al of niet vernietigen van militaire doelen nog steeds door men-sen genomen maar meer autonomie voor deze robots lijkt slechts een kwestie vantijd. Sharkey merkt daarbij op dat een computerprogramma echter niet het onder-scheid kan maken tussen strijders en non-combattanten; de daarvoor vereiste helde-re definitie van dit laatste begrip ontbreekt.39 Hij pleit voor een brede internationa-le discussie als basis voor het opstellen van beleidslijnen inzake veilige en ethischverantwoorde toepassingen op het terrein van de robotica.40 Een ander interessantpunt dat hij onder de aandacht brengt is het mogelijk drempelverlagend effect vande inzet van robots op bijvoorbeeld de beslissing geweld toe te passen.41 Niemandrouwt immers om een robot.

Een interessante invalshoek is ook dat robots door het - tenminste vooralsnog - ont-breken van emoties of de noodzaak van zelfbescherming, meer rationeel beslissin-gen kunnen nemen dan mensen. Dit kan bijvoorbeeld betekenen dat de inzet vanmilitaire robots kan bijdragen aan het voorkomen van wraakacties of martelingen.Robots zouden zich daarin, ondanks het ontbreken van een bewustzijn, mogelijkmeer ethisch kunnen gedragen dan mensen.42

In Zuid-Korea is al in 2007 het voornemen geuit een 'code of ethics' op te stel-len ter voorkoming van misbruik van of door robots.43 In wetenschappelijke kringkomt het onderwerp regelmatig aan de orde.44

38 N. Sharkey, The Ethical Frontiers of Robotics, Science, 19 december 2008, Vol. 322, p.1800-1801.

39 Zie op dit terrein onder meer ook het werk van Ronald C. Arkin (http://www.cc.gatech.edu/ai/robot-lab/online-publications/formalizationv35.pdf).

40 Shareky wijst in dit verband ook op bijvoorbeeld de inzet van robots voor het bewaken vande naleving van huisarrest of het patrouilleren op straat door met videocamera's uitgerus-te robots. Een ander voorbeeld dat hij noemt is de inzet van robots bij het optreden tegenordeverstoringen.

41 'It would be great if all the military were robots and they could fight each other, but that'snot going to be the case,' he said. 'My biggest concern there is that it goes against the bodybag politics. If you don't have body bags coming home, you can start a war much moreeasily.', Uit: 'Forget robot rights, experts say, use them for public safety', James Rander-son, The Guardian, Tuesday 24 April 2007 (http://www.guardian.co.uk/science/2007/apr/24/frontpagenews.uknews).

42 'VS ontwikkelt robotsoldaten die geen oorlogsmisdaden kunnen begaan', W. de Moor<http://tweakers.net/plan/crew/239> , maandag 1 december 2008.'South Korea creates ethical code for righteous robots', New Scientist Tech and AFP, maart2007, http://www.newscientist.com/article/dnll334 zoals geraadpleegd op 4 januari2009).

44 Sinds 2004 onder meer in het kader van de IEEE-RAS Technical Committee on Robo-ethics. Zie: http://www.roboethics.org/ieee_ras_tc/.

43

146

21. ROBOTS: MET RECHT MENSENWERK

21.5.3 Op naar (zelf)regulering?

In de Nederlandse reguleringsaanpak geldt dat, indien de noodzaak van reguleringis vast komen te staan, in eerste instantie onderzocht dient te worden of als alterna-tief voor overheidsregulering andere oplossingen mogelijk zijn, waarbij vormen vanzelfregulering zo veel mogelijk moeten worden gestimuleerd.45 Als de ontwikkelin-gen op het terrein van de robotica zoals ik deze nu begrijp hieraan worden getoetst,dan lijkt mij dat de discussie in eerste instantie moeten worden geconcenrreerd opde vraag of er een noodzaak bestaat tot reguleren. Daar waar die vraag mogelijkpositief zou kunnen worden beantwoord (privacy, veiligheid? ....) dient vervolgensde focus te liggen op het verkennen van de mogelijkheden voor zelfregulering. Dooreen werkgroep van het Electronic Commerce Platform Nederland (ECP.NL) is ineen in 2005 uitgebracht rapport al eerder gewezen op de mogelijkheid van hetopstellen van gedragsregels voor bouwers van softwareagenten; wellicht als voorlo-per voor toekomstige regelgeving.46 In een later rapport (2006) is een concrete hand-reiking gedaan voor het opstellen van dergelijke gedragsregels, met als thema'sidentificatie, transparantie, integriteit, vertrouwelijkheid, continui'teit, toetsbaarheiden traceerbaarheid, en intellectuele eigendom.47

21.6 Slotopmerkingen

Lange tijd heb ik tijdens colleges studenten er op gewezen dat zij er rekening meemoesten houden dat binnen 10 jaar robots op straat zouden verschijnen. Voor veeltoepassingen lijkt die periode nog steeds een veilige buffer; voor andere, meergeavanceerde toepassingen, blijft het waarschijnlijk een te optimistisch tijdpad.Niettemin lijkt de periode van tien jaar nu toch ook voor een aantal toepassingen alte zijn ingevuld, en zijn er inderdaad robots op straat verschenen. Zoals eerder opge-merkt blijft dit uiteraard ook een kwestie van definities. Aangezien er geen breedgeaccepteerde definitie is, kan in principe ieder zijn gelijk halen. Niettemin zie ik,los van de industriele robots die al lang hun (soms gecompliceerde) werk doen enprive-toepassingen als grasmaairobots, met de opkomst van in het bijzonder deelsautonoom handelende auto's, de robots duidelijk ook hun intrede doen in de open-bare ruimte.

Een auto die zelfstandig afstand houdt en remt heeft onmiskenbaar 'robotfunctiona-liteit', zij het in een vorm die niet voldoet aan het door film en stripverhaal gescha-pen beeld van een 'mensachtige automaat', met, afhankelijk van de leeftijd van delezer, de stripheld Archie ('de man van staal'), Star Trek of de Terminator als model.De robot komt nu echter, zij het ten opzichte van dat beeld vermomd, toch steedsdichterbij.

45 Zie de Aanwijzingen voor de regelgeving (doorlopende tekst tot en met 7e wijziging)Stcrt. 2005, 87, onder meer nrs. 6,7 en 7a, en de Nota 'Wetgeving voor de elektronischesnelweg', Kamerstukken If, 1997/98, 25 880, nr. 2.

46 Juridische aspecten van autonome systemen, ECP.NL, 2005.47 Handreiking voor gedragsregels autonome systemen. Juridische aandachtspunten bij de

bouw en het gebruik van autonome systemen, ECP.NL, 2006.

147

C. STUURMAN

De robot kleedt zich dan wellicht wat anders dan door velen vermoed, de juridischevragen worden daardoor niet beinvloed. Zoals boven beschreven is er ten aanzienvan robots op dit moment beslist geen sprake van een juridisch vacuum, anders danwel is gesteld (naar later Week overigens deels ten onrechte) bij de opkomst van hetInternet. Daartegenover staat dat het zonder meer positief beantwoorden van devraag naar de toereikendheid van het huidige jurdische kader mijns inziens wel zougetuigen van te groot vertrouwen in de mate van 'technologieresistentie' van de hui-dige wet- en regelgeving. Ondanks sciencefictionfilms en literatuur laten de ont-wikkelingen op het terrein van de robotica zich toch moeilijk voorspellen. Zullen erooit werkelijk 'intelligente' machines worden ontwikkeld die autonoom aan onzesamenleving kunnen deelnemen? Zal de convergence tussen mens en machine hetonderscheid tussen beide ooit doen vervagen? Meer duidelijkheid over de (on)-mogelijkheden zal waarschijnlijk nog lang op zich laten wachten. Bij de huidige ont-wikkelingen lijkt het wel verstandig de door Sharkey bepleite discussie over veilig-heid en ethische aspecten van de inzet van robots te entameren. Mogelijk zal dit deopmaat vormen voor het, via althans initieel zelfregulering, realiseren van aanvul-lende normstelling.

148