Amsterdamse Intelligentie

Titel Magazine

2

AmsterdamseIntelligentie

3

Beste lezer,

Hoe gebouwen eruitzien, hoe mensen werk vinden, hoe vriend-schappen en liefdes ontstaan, hoe allerlei activiteiten worden on-dersteund, van werk tot online winkelen: Kunstmatige Intelligentie (of het vaker gebruikte Engelse Artificial Intelligence, AI) zal daar in de toekomst een rol in gaan spelen.

Artificial Intelligence heeft gevolgen voor ons dagelijks leven. Thuis én in de openbare ruimte. De gemeente gaat niet over thuis. Wél over de openbare ruimte. De snelle ontwikkeling en toepassing van AI in de openbare ruimte in Amsterdam vraagt om een duide-lijke rol van de gemeente: hoe stimuleren we ontwikkelingen, hoe lossen we ingewikkelde opgaven op en passen we regelgeving toe. Ik zet in op AI. Omdat ik denk dat het belangrijk is voor Amster-dammers en de stad Amsterdam. Daarnaast zetten wij ons als hoofdstad van Nederland graag in om de Nationale strategie op Artificial Intelligence mede vorm te geven.

Artificial Intelligence kan helpen bij de ambities die Amsterdam heeft: een vrije stad, een rechtvaardige stad, een duurzame stad. Artificial Intelligence kan helpen het leven van Amsterdammers aangenamer te maken. Dit magazine geeft geen uitputtend beeld, maar biedt inzicht in de staat van Artificial Intelligence in Amster-dam.

Ik wil AI in de stad stimuleren. Maar tegelijkertijd ook behoedzaam zijn.

AmsterdamseIntelligentie

5

Artificial Intelligence is een begrip met veel ladingen, veel uitingen. Waar hebben we het eigenlijk over? Wat zijn de positieve en nega-tieve gevolgen van deze technologie voor onze (digitale) stad? In dit magazine wordt een beeld geschetst hoe AI in Amsterdam een rol speelt.

Dit AI magazine is het resultaat van een reeks bijeenkomsten met wetenschap, bedrijfsleven, experts én Amsterdammers en is het startpunt voor verdere discussie met partijen die actief zijn op AI om het actieplan voor AI in Amsterdam verder vorm te geven. We willen als organisatie beter inschatten of en hoe we met bepaalde technologieën moeten omgaan. Dit is een eerste invulling van de ambitie van de agenda Digitale Stad om proactief in te schatten of kennis en kunde in huis nodig is op bepaalde technologie.

We wachten niet af. Ik wil dat de resultaten van Artificial Intelligen-ce ten gunste komen van iedereen in de stad. Binnen duidelijke kaders zoals (open source) transparantie, accountability en recht-matigheid.

We werken met het initiatief Tech-connect al aan het klaarstomen van talent op onder andere Artificial Intelligence, we gebruiken AI in enkele toepassingen voor de stad (zoals slimmer en sneller aan de slag gaan met meldingen over de openbare ruimte), we werken met andere steden in de wereldwijde coalitie van steden voor digi-tale rechten bijvoorbeeld aan het verbeteren van ons inkoopbeleid en het transparant maken van algoritmes in de stad (zoals het voor-komen dat algoritmes discrimineren of ongelijkheid bevorderen).

5

Amsterdam kiest voor Amsterdamse Intelligentie. Dat bekent heel concreet voor eerlijke technologie. Technologie die zorgt voor een inclusieve, vrije en creatieve stad.

Het is belangrijk dat we als gemeente Amsterdam, samen met an-dere overheden, wetenschap, bedrijfsleven, experts én Amster-dammers, actiever aan de slag gaan met Artificial Intelligence. Ik nodig experts en ieder ander die suggesties heeft voor kaders en activiteiten over AI graag uit om dit magazine te lezen en mee te werken aan de volgende stap.

Wethouder Touria Meliani

24.

20.

42.

Inhoudsopgave

08.AI in een notendop

10.AI in het dagelijkse Amsterdamse leven

14.Staalkaart

20.Meekijken naar de besluitvorming van een slimme laadpaal

24.Gezondheidszorg en AI

30.AI en de kaders

32.AI en verantwoordelijkheid

36.Behaal je AI diploma

38.‘Datawetenschappers moeten beleid vertalen, niet bepalen’

42.AI in de politiek

46.Artificial Intelligence en Am-sterdam: wetenschap, cultuur en economie

52.Amsterdamse Intelligentie en talenten

56.Voorbij de Hype, naar de urgentie

AI in een notendop

Artificial Intelligence kent vele definities, en het hangt er maar vanaf met wie je praat om de scope van deze kapstok aan tech-nieken te duiden. Andreas Kaplan en Michael Haenlein hebben de volgende definitie: “[AI is] het vermogen van een systeem om externe gegevens cor-rect te interpreteren, om te leren van deze gegevens, en om deze lessen te gebruiken om specifieke doelen en taken te verwezenlij-ken via flexibele aanpassing.”

Wellicht strookt dit niet direct met de doemscenario’s die Holly-wood verspreidt met films als The Terminator. Toch is deze defini-tie toe te passen op de basis van deze verhalen. Zij gaan echter uit van een totaal ander niveau van AI dan momenteel toepasbaar is.

AI kent drie niveaus:Zwakke AI (ook wel Weak AI en Narrow AI genoemd)Wanneer sprake is van zwakke AI, wordt AI gebruikt om één enkel pro-bleem op te lossen of een antwoord te geven op een vraag. Soms lijkt het wel alsof een systeem meerdere problemen oplost, zoals Siri op de iPhone, maar is het enkel een verzameling van systemen die een enkele vraag beantwoordt of een actie uitvoert. Schaakcomputers zijn ook een goed voorbeeld.

Sterke AI (ook wel Strong AI genoemd)Sterke AI kan het niveau van mensen evenaren en kan dus meerdere problemen of vraagstukken analyseren, beoordelen en van een antwoord voorzien.

8

9

SuperintelligentieWe spreken van superintelligen-tie als AI de menselijke intelli-gentie overstijgt of op zijn minst het niveau van de mens haalt. Uiteindelijk zijn de definities hier ook uiteenlopend omdat er ver-schillende ideeën over bestaan. Neem bijvoorbeeld het idee dat er met superintelligentie machi-nes gebouwd kunnen worden die zo slim zijn, dat ze zelf weer nieuwe slimme machines kunnen creëren. Hypothetisch zou het bouwen van die ene machine het laatste kunnen zijn wat de mens nog op technisch gebied hoeft te doen.

Waar we nu staan met AIEn waar staan we nu? Wat is nu het niveau van AI in de wereld? Simpel. We zitten nog aan de vooravond en gebruiken zwak-ke AI. Wellicht heeft zwak een te negatieve connotatie. Hoewel we systemen bouwen die gericht

zijn op het oplossen van een enkel probleem, zijn de mogelijkheden hier toch groot. Met algoritmes en machine learning kunnen we vraagstukken sneller beantwoor-den, en in de meeste gevallen ook beter.

Technische bedrijven en academi-ci spreken meestal over machine learning waarmee ze algoritmes bedoelen die door ervaring – het verwerken van grote hoeveelhe-den data – slimmer worden.

Decennialang zijn deze methoden stap voor stap beter geworden in het detecteren van patronen en het classificeren van informa-tie. Machine learning behaalde door de explosieve groei van de hoeveelheid data en rekenkracht spraakmakende resultaten, zoals het lezen van handschriften, het transcriberen van audio en het herkennen van objecten op beel-den.

Gecombineerd vormen deze resultaten dat wat men tegen-woordig onder artificial intel-ligence verstaat: zelfrijdende auto’s, digitale assistenten, on-verslaanbare spelers van bord-spelen, voorspellende medische diagnoses en autonoom rondlo-pende robots. Machine learning omvat de methoden die kunnen leiden tot artificial intelligence. De term artificial intelligence groeit zelf steeds mee met de aspiraties om computers steeds meer taken te laten overnemen van mensen.

AI in het dagelijkse Amsterdamse levenBij het opstaan controleren we de buienapp en baseren blinde-lings onze outfit en vervoersmiddel op de uitkomst daarvan. Bij het bestellen van eten krijgen we eerst restaurants te zien die het beste ‘bij ons passen’. Als de film op Netflix is afgelopen, krijgen we voorstellen voor andere films te zien waar we ook wel eens interesse in zouden kunnen hebben. Net voor het naar bed gaan een nieuwsbericht lezen en achter de schermen vechten de bits en bytes elkaar de tent uit, wie welke advertentie mag plaatsen op de website.

10

Artificial intelligence (AI). We worden er mee wakker en we gaan ermee naar bed, hoewel we ons daar niet altijd van bewust zijn. AI beïnvloedt onze beslui-ten, van nieuws tot social media, van een reis boeken tot muziek afspelen op Spotify. AI is al overal aanwezig.

Goed of slecht? Is dat erg? Moeten we bang zijn voor deze ontwikkelingen? Het lijkt alsof AI de laatste tijd alleen nog maar in het nieuws komt als de ethische kant ter discus-sie staat. Maar zoals altijd zijn er twee kanten aan de medaille. AI kan verschillende doelen dienen. Goede en slechte, waarbij de

laatste soms niet eens bewust slecht is.

Het doel waarvoor het wordt gebruikt en het toepassen van de kaders die AI vanuit wet- en regelgeving meekrijgt, zorgen voor potentie. Ziektes bestrijden, de kwaliteit van leven verbeteren, eerlijke handel stimuleren en zelfs boeven vangen. AI heeft potentie grote dingen te bereiken in het leven. Mits juist toegepast.

Huidige toepassingen van AIAI is wereldwijd doorgedrongen op de beurzen in de vorm van flitshandel of high-frequency trading. Handel waarbij in zeer korte tijd, minder dan een minuut,

11

12

zowel gekocht als verkocht wordt. AI wordt ook gebruikt door bedrijven om de kans van slagen te bepalen, bij het indienen van een offerte of zakelijk voorstel. Of om de meest efficiënte rou-te uit te rekenen voor de levering van diensten of producten. Een van de nieu-were trends is om ook AI te gebruiken in de werving van nieuwe talenten.

In het onderwijs zien we dat leerlingen profijt hebben van digitaal lesmateri-aal dat een leerling volgt en in beeld brengt welke leerstof de leerling ‘lastig’ vindt, en dat daarop anticipeert. Datingapps zijn gebaseerd op slagings-

kansen en besluiten om een profiel wel of niet te tonen aan iemand.

De Tesla en Google auto’s kunnen zon-der bestuurder rijden en nemen daarbij beslissingen in het verkeer. AI is ook hier al een wezenlijk onderdeel.

Met het uit handen geven van je beta-lingsgegevens (PSD2) kan er een analyse gemaakt worden van je uitgavepatroon, en kan er een advies volgen hoe je beter om kan gaan met je geld. Ondertussen ratelen de AI-radertjes ook in het belang van die partijen om een profiel van je op te stellen.

13

Balans vindenHet gebruik wordt steeds groter, de middelen voor het creëren van AI, voorheen nog duur, steeds goedko-per. Rekencapaciteit, opslag en data worden steeds beter en de moge-lijkheden en het aanbod daardoor (bijna) onbeperkt.

Dat AI al in ons leven actief is, kunnen we niet meer ontkennen. De vraag is: hoe zorgen we dat er een balans komt, dat het wordt ingezet voor het verbeteren van onze kwaliteit van leven en voor behoud van de aarde? Dat het niet discrimineert of

groepen uitsluit? Dat het niet alleen voorbehouden is aan diegenen die het kunnen betalen? Hoe maken we AI waardevol voor de samenleving en houden we toezicht op de andere kant van de medaille?

AI is de afgelopen jaren als een stille vriend en vijand ons leven binnen gekropen. Een leven zonder, kunnen we ons nauwelijks meer voorstellen.

Staalkaart

Categorisering van burgermeldingen met machine learning

Om een probleem in de openbare ruimte te melden hoeven Amsterdammers slechts de beschrijving er-van in te typen op de website van Gemeente Am-sterdam (meldingen.amsterdam.nl).

Een algoritme bepaalt op basis van specifieke woor-den in welke categorie de melding valt, wat ermee gedaan moet worden en door wie. Het melden en oplossen van een probleem gaat zo een stuk mak-kelijker en sneller.

Volwassenheid: in volwassen productie sinds juni 2018 Machine learning technieken: logistic regression, tf–idfOntwikkeling: in-houseOpen source: jaMeer info: Maarten Sukel

Toegang tot milieuzone met kentekendetectie op camera’s

Om luchtverontreiniging tegen te gaan heeft Ge-meente Amsterdam het gebied binnen de ring aan-gewezen als milieuzone. Vervuilende wagens mo-gen hier niet meer komen.

Slimme camera’s lezen het kenteken van passerende voertuigen, vragen gegevens ervan op en bepalen of het voertuig in de milieuzone mag komen. De fo-to’s en kentekens van overtreders gaan naar de po-litie en het Centraal Justitieel Incassobureau (CJIB). De overtreder krijgt enige tijd later een boete.

Volwassenheid: in volwassen productie sinds 2018Machine learning technieken: Automatic Number Plate Recognition ( ANPR )Ontwikkeling: van in-huis en externOpen source: combinatieMeer informatie: Arnan Oberski

1514

Afvaldetectie op beelden

Met machine learning technieken zoals neurale net-werken is het mogelijk geworden om computers te leren om bepaalde objecten te herkennen. Binnen de Gemeente is een model getraind om diverse ty-pen afval te herkennen; van afvalzakken tot karton-nen dozen.

Binnenkort gaan vuilniswagens met camera’s aan boord hiermee afval tellen op straat om zo een real time beeld te vormen van de netheid van Amster-damse straten.

Volwassenheid: kleinschalige praktijkproefMachine learning technieken: deep learning, ten-sorflow, ResNetOpen source: jaMeer informatie: Maarten Sukel

Digitale marktmeester voor taxi’s

1514

Amsterdam wil met slimme mobiliteit de stad leef-baar houden. Denk aan het autoluw maken van de binnenstad, de CO2-uitstoot verminderen of de verkeersveiligheid bevorderen. Hierin past ook het beter organiseren van de taximarkt in Amsterdam.

In samenwerking met vele partners ontwikkelt Ge-meente Amsterdam een digitale, data-gedreven marktmeester die in sommige gebieden alleen taxi-’s toelaat die voldoen aan bepaalde eisen. Bijvoor-beeld of de taxi die besteld iselektrisch rijdt en dat met camera’s en data ook controleert en handhaaft.

Volwassenheid: conceptOntwikkeling: –Open source: – Meer informatie: Ruben Polderman

Voorspellen van parkeerdrukte

Parkeerplaatsen in Amsterdam zijn schaars. De Ge-meente probeert met machine learning te voor-spellen waar parkeergelegenheid is om het beter te organiseren en uiteindelijk Amsterdammers sneller naar een parkeerplaats te begeleiden. Hiervoor wordt data gebruikt van de scanners op auto’s, parkeer-vergunningen, het wegennetwerk, parkeervakkaarten en diverse gebiedseigenschappen.

Volwassenheid: prototype in testomgeving Ontwikkeling: in-house en UVA studentenMachine learning technieken: statistische analyses, graph CNN, gradient boosted treesOpen source: nog nietMeer informatie: Bas Schotten

Fraudedetectie wonen

Woningen zijn schaars in Amsterdam. De gemeente doet er alles aan om illegaal gebruik van woningen – bijvoorbeeld dubbele inschrijvingen, fraude met huursubsidies of overmatige vakantieverhuur – tegen te gaan.

In toenemende mate worden handhavers hierbij geholpen door data-analyse en voorspelmodellen. Op basis van een groot aantal factoren wordt de kans op fraude per adres van tevoren berekend. Zo neemt de kans toe dat handhavers bij huisbezoeken inderdaad fraude aantreffen en kunnen optreden. Volwassenheid: prototype in testomgevingOntwikkeling: In-house en UVA studentenOpen source: nog nietMachine learning technieken: decision tree, random forestMeer informatie: Swaan Dekkers

16

Drukte in de stad

Gemeente Amsterdam is bezig om een model te ontwikkelen die de drukte op verschillende locaties in de stad kan voorspellen op basis van diverse da-tastromen waaronder openbare vervoersinformatie, telcamera’s en evenementen.

Dit maakt de kerntaken van de Gemeente zoals het schoonmaken en het veilig houden van stad gemak-kelijker.

Volwassenheid: prototypen in testomgevingOntwikkeling: In-house en UVA studenten Open source: jaMachine learning technieken: visualisaties,statistische analyseMeer informatie: Tom Knijf, Thomas Jongstra

Goochem Chatbot

Via Facebook Messenger geeft de Nederlandsta-lige Goochem je tips op maat voor culturele acti-viteiten in heel Amsterdam en omgeving, op basis van je persoonlijke voorkeuren. Hierdoor kun je nog makkelijker een keuze maken uit het grote aanbod. Goochem toont bovendien alternatieven en minder bekende voorstellingen, optredens of tentoonstel-lingen in Amsterdam.

Er is ook geëxperimenteerd met een chatbot voor de Gemeentelijke facilitaire dienst.

Volwassenheid: in productieOntwikkeling: extern door AxendoOpen source: neeMachine learning technieken: onbekendMeer informatie: I amsterdam

17

AI van de Toekomst

Toepassingen van AI waar in de Gemeente over na wordt gedacht:

Fraudedetectie AI om discriminatie in algoritmes of analyses te detecteren Automatisering van de administratie Sociale Sector Armoedebestrijding Terrorisme dreiging en voorbereiding Voorspellend onderhoud van openbare ruimte en vastgoed Slimme logistiek en plannen van beheer van openbare ruimte en vastgoed Simulaties van politieke keuzes op de stad: Bijvoorbeeld mobiliteitskeuzes, verkeer, energie en afval Administratieve begeleiding van aanbestedingen Detecteren van fouten in bouwprojecten Geavanceerd verkeersmanagement

Foto: Erwin van Eis

Meekijken naar de besluitvorming van een slimme laadpaal

elektriciteit. Omdat de vraag het aanbod gaat overstijgen is de roep om een slimme manier van het laden van je auto steeds harder geworden. Amsterdam is momenteel bezig met een proef om te kijken hoe we slimmer en efficiënter de elektrische auto op de weg houden.

Slim ladenMomenteel laden bijna vijfhon-derd van de laadpalen in Amster-dam ‘slim’ op. Hierbij beslist het algoritme van een slimme laad-paal hoe snel er geladen wordt. Dat gebeurt op basis van capaci-teit van het elektriciteitsnetwerk en beschikbare zonne-energie. Dat is nodig, omdat het elek-triciteitsnetwerk niet geschikt is om alle auto’s tegelijkertijd op te laden. Om de duurzaam-heidsdoelstellingen te halen is het goed om zonne-energie di-rect te gebruiken. Het algoritme is zo geprogrammeerd dat de paal sneller laadt buiten de piek op het stroomnetwerk en als er veel zonne-energie beschikbaar is. In deze test wordt ook een nieuw ‘slim’ aspect toegevoegd. Bij vier laadpalen wordt ook ge-

Het Transparante Laadpaal concept

De Transparante Laadpaal werd in 2017 ontworpen door The Incredible Machine in opdracht van ElaadNL en Liander, en won in 2018 een Dutch Design Award in de categorie Product. De Transparante Laadpaal is een gevolg van het groeiende belang van algoritmes in ons leven. Het maakt de onzichtba-re logica zichtbaar met een display waarin te zien is hoe de stroom verdeeld wordt tussen de ladende elektrische auto’s.

De Transparante Laadpaal krijgt een eerste praktijkproef in Amsterdam. In het najaar van 2019 start een test op het Raamplein in Amsterdam waarbij het slimme laadproces met algoritmes van laadpalen inzichtelijk gemaakt worden. Dat is wenselijk omdat elektrische auto’s hier flexibel en dus ‘slim’ geladen worden. Gedurende bepaalde uren van de dag krij-gen ze meer laadvermogen en op andere juist minder. Kennis- en innovatiecentrum ELaadNL, The Amsterdam Insti-tute for Advanced Metropolitan Solutions, TU Delft, design-bureau The Incredible Machine en gemeente Amsterdam wer-ken in de proef samen om meer transparantie te geven over het slimme laadproces van elektrische auto’s.Deze animatie legt het concept uit: https://www.youtube.com/watch?v=M32bzsBswAk <kader>((Zie ook: https://www.elaad.nl/news/transparante-laad-paal-winnaar-dutch-design-awards/ ))

De vraag naar elektrische auto’s is enorm gestegen de afgelo-pen tijd. Daarmee groeit ook de vraag naar laadpalen en dus naar

21

23

test met extra laadprioriteit voor deelauto’s.

Betekenisvol inzichtMomenteel is het voor gebrui-kers en burgers onduidelijk wat en waarom het algoritme beslist in dit laadproces. Met het User Interface for Smart Charging project proberen de partijen hier verandering in te brengen door inzicht te geven in het beslis-singsproces van het algoritme, via een visualisatie op straat. Het project richt zich op het ontwik-kelen van een visualisatie die betekenisvol inzicht verschaft, als daar behoefte aan is. Vaak is die behoefte er niet. Het leven is druk genoeg, het laden van de accu van je auto moet vanzelf gaan, zonder dat je erover na-denkt. Maar stel dat tijdens het laden iets gebeurt wat je niet verwacht (en dat valt nooit hele-maal uit te sluiten), dan moet je daar inzicht in kunnen krijgen, en weten wat je kunt doen om de situatie te verbeteren. Voor die momenten is de interface be-doeld. Een beetje vergelijkbaar met een bonnetje uit de kassa: dat vraag je ook alleen maar als je denkt dat er een artikel dub-

bel is aangeslagen, of een kor-ting niet goed is berekend.

Algoritmen in goede banenDe test speelt in op een gro-ter thema, namelijk de groei-ende rol van algoritmes in de stad. Algoritmes worden steeds complexer. Daarbij vindt er een verschuiving plaats van algorit-mes die beleidsondersteunend werken richting algoritmes die beslissingskracht hebben. Tege-lijkertijd werken de algoritmes steeds meer onderling samen in een groter ecosysteem. Hoe moet de overheid dit in goede banen leiden? Dat is een groot vraagstuk en op dit moment een hot topic.

Er zijn meerdere aanpakken denkbaar. Zo wordt gedacht aan: wet- en regelgeving het ontwikkelen van auditpro-cessen voor algoritmen het opstellen van betere aan-bestedingsvoorwaarden het opbouwen van eigen ont-wikkelcapaciteit bij overheden, om cruciale systemen niet langer in te hoeven kopen bij commer-ciële aanbieders

Deze aanpakken zijn niet concur-rerend, maar aanvullend: ze zijn allemaal nodig om te zorgen dat algoritmen op een juiste manier werken. Het User Interface for Smart Charging project is aan-vullend aan de aanpakken hier boven, omdat het zich richt op het informeren van de burger zelf. Ook is bewust gekozen voor een visualisatie bij de laadpaal in plaats van op een telefoon: om-dat de aandacht bij het laden juist begint bij de laadpaal. Zo heeft iedereen die bij de laad-paal staat, inzien hoe we efficient en slim omgaan met beschikba-re stroom.

22

23

Slimme laadpaalFoto: The Incredible Machine

24

2524

Gezondheidszorg en AI

De gezondheidszorg verbeteren met AI: kunstmati-ge intelligentieAmsterdam is een belangrijk centrum voor zowel kunstmatige intelligentie als levenswetenschappen (geneeskunde, biotechnologie). Dat maakt Amster-dam bij uitstek geschikt als dé plek voor het ontwik-kelen van AI-toepassingen voor de gezondheidszorg.

De gezondheidszorg transformeren met kunstmati-ge intelligentieIn Amsterdam zijn faculteiten gevestigd voor zowel kunstmatige intelligentie (oftewel artificial intelligen-ce: AI) als geneeskunde en biotechnologie. Het ligt dan ook voor de hand om in Amsterdam deze dis-ciplines samen te brengen. Dat kan door medici en data-analisten in de regio te laten samenwerken, om zo AI toe te passen in de dagelijkse praktijk van de gezondheidszorg.

De vroege impact van AI op de gezondheidszorg in AmsterdamAI’s zelflerende systemen bieden grote mogelijkhe-den voor de medische zorg. De combinatie van data met medische expertise en machine learning kan het stellen van een diagnose aanzienlijk vereenvoudi-gen, versnellen en verbeteren. De effectiviteit van

nieuwe behandelmethoden kan bijvoorbeeld veel beter gecontroleerd worden. Bovendien kan AI een belangrijke rol spelen bij ziektepreventie.

Kunstmatige intelligentie is van zichzelf natuurlijk geschikt voor toepassing op vrijwel elk gebied, maar in Amsterdam ligt een unieke kans op het ge-bied van gezondheidszorg. ‘AI is niet beperkt tot een bepaald domein’, zegt Cees Snoek, hoogleraar Intelligent Sensory Information Systems aan de Fa-culteit der Natuurwetenschappen, Wiskunde en In-formatica van de Universiteit van Amsterdam (UvA). ‘Maar’, zegt hij, ‘met name in de gezondheidszorg zie ik veel mogelijkheden, en er zijn niet zoveel plek-ken in de wereld waar je gebruik kunt maken van deze combinatie van AI en gezondheidszorg.’

Snoek is tevens hoofd van het QUVA Lab (een ge-meenschappelijk onderzoekslaboratorium dat is opgezet door Qualcomm en de UvA voor research naar deep learning en beeldanalyse). Daarnaast is hij mede-oprichter van het Innovation Center for Ar-tificial Intelligence (ICAI). Een gebied in de gezondheidszorg waar al grote vorderingen gemaakt worden met AI is de analyse van medical imaging: medische scans zoals MRI’s.

26

Nederland is al decennia een van de grootste pro-ducenten van AI-dataverwerkingstechnologie op dit gebied. Er zijn hier zelfs meer bedrijven in gespeci-aliseerd dan in de VS, China of waar ook in Europa.

‘Wat betreft medical imaging’, zegt Jeroen van Duf-felen, mede-oprichter en operationeel directeur van MedTech-koploper Aidence, ‘zijn we een groot land op een erg klein oppervlak.’ Cees Snoek en me-de-oprichter Marcel Worring van AI-innovatiebedrijf ICAI staan tevens aan het hoofd van het AIM Lab, waarbij AIM staat voor ‘AI for Medical Imaging’. Dit laboratorium is een gezamenlijk initiatief van het In-ception Institute of Artificial Intelligence (IIAI) in de Verenigde Arabische Emiraten en de Universiteit van Amsterdam. Het richt zich op het gebruik van artifi-ciële intelligentie voor beeldanalyse in de medische zorg.

De eerste golf van start-ups en academische sa-menwerkingenIn het Amsterdamse ecosysteem van bedrijven en startups komen AI en gezondheidszorg nu al samen. ‘Nederland is in Europa het nieuwe centrum van zorg op het gebied van data-analyse, gezondheidszorg en zorgsystemen’, zegt Van Duffelen van Aidence. Zijn bedrijf ontwikkelt door AI aangestuurde software die helpt bij de vroege opsporing van longkanker.

En dan is er nog BrainCreators, een AI-bedrijf dat sa-men met artsen een methode heeft ontwikkeld om de nauwkeurigheid bij de diagnose van beroertes te verbeteren. Het ‘deep learning neuraal netwerk in 3D’ dat BrainCreators heeft ontwikkeld, stelt de diagnose nauwkeuriger én sneller dan tot nu toe mogelijk was: van 6 minuten naar minder dan 30 se-conden. BrainCreators is ook een AI-model aan het trainen om de effectiviteit van kankerbehandelingen te voorspellen.

Een ander bedrijf, Pacmed, onderzoekt hoe AI ge-bruikt kan worden bij het ondersteunen van artsen in het aanbieden van de best mogelijke behan-deling. Meer dan honderd huisartsen hebben het

systeem van Pacmed al gebruikt tijdens een imple-mentatieonderzoek. Nu ontwikkelt deze start-up op basis hiervan algoritmen en software voor hulp bij de behandeling van diabetes, hoge bloeddruk en nierfalen.

Een ander goed voorbeeld is Kepler Vision Techno-logies, een van de winnaars van de in 2019 voor het eerst gehouden Academic Startup Competition. Dit bedrijf ontwikkelt software voor het herkennen van lichaamstaal, waarbij AI gebruikt wordt om vi-deobeelden te analyseren. Paradepaardje is de Ke-pler Man Down Detector, die kan waarnemen of ie-mand op de grond ligt en/of hulp nodig heeft. Een toepassing die bijvoorbeeld kan worden ingezet in verzorgingshuizen.

Onderzoekscentra in Nederland zoals het Neder-lands Kanker Instituut (NKI) en het Amsterdam UMC Imaging Center nemen ook een voorhoedepositie in wat betreft toepassingen in de gezondheidszorg. En het Amsterdam Skills Centre, een publiek-pri-vaat partnerschap van het Amsterdam UMC en het toonaangevende medische technologiebedrijf Stryker, is een baanbrekend trainingscentrum waar AI en virtual reality (VR) toegepast worden voor het trainen van de nieuwe generatie chirurgen.

Waar is AI in het ‘echte leven’?Gezien al deze ontwikkelingen rijst de vraag: hoe kom je op dit moment in aanraking met al deze baanbrekende innovaties als je geen onderzoeker of chirurg-in-opleiding bent, en niet bij een Med-Tech-bedrijf werkt?

De toepassing van AI in de gezondheidszorg staat nog in de kinderschoenen. Vele wetenschappelij-ke ontwikkelingen op het gebied van diagnose en behandeling hebben nog lang niet de medische praktijk van alledag bereikt. En deskundigen kijken wel uit om gewaagde prognoses rond te strooien. ‘Mensen hebben al bewezen dat ze niet goed zijn in het voorspellen hoe snel of hoe langzaam technolo-gie verandert’, zegt Snoek.

26 27

Niettemin zijn medische AI-applicaties een bron van speculatie geweest. ‘Er zijn veel grote beloften ge-daan door zowel grote bedrijven als kleine startups over wat AI allemaal wel niet kon klaarspelen, van het genezen van kanker tot het overbodig maken van radiologen binnen vijf jaar’, zegt Van Duffelen.

Die hype is nu wel over, maar het staat vast dat er in 2019 met AI en machine learning-technologie en -applicaties al gigantisch veel meer mogelijk is in de zorg ten opzichte van slechts een paar jaar geleden. ‘We kunnen nu werkelijk nieuwe dingen doen die we een decennium geleden niet konden. Nu begrij-pen we niet alleen wat er gebeurt, maar kunnen we het ook toepassen, en ervan leren. Dat is erg span-nend, zegt Worring van ICAI.

In feite is alles gestaag in beweging. Op dit moment wordt Aidence gebruikt op medische faculteiten in het Verenigd Koninkrijk, Zweden en Nederland, en is het gecertificeerd voor klinische toepassing in heel Europa. Amsterdam UMC en Pacmed hebben een samenwerkingscontract getekend voor de lan-ge termijn voor het ontwikkelen van verdere appli-caties voor medische data-analyse in een klinische omgeving. Het 11-jarige contract heeft als doel om de patiëntenzorg op de Intensive Care Unit (ICU) te verbeteren. Machine learning-algoritmen en AI-software moeten medische professionals gaan ondersteunen bij het behandelen van patiënten in kritieke toestand. Kepler Vision heeft ook een con-tract getekend met een zorginstelling.

Bouwen aan een gezondere toekomst met AI-ge-stuurde gezondheidszorgDe verwachtingen van wat AI kan betekenen voor patiënten en zorgprofessionals blijven hoogge-spannen. ‘Ik kan niet in de toekomst kijken’, zegt Snoek. ‘Maar ik hoop dat AI een aanvulling zal blij-ken voor artsen en zorgverleners, en dat het zal bij-dragen tot snellere dataverwerking. Tegenwoordig kijkt een arts vaak de hele dag naar een scherm, en ik hoop artsen weer terug te brengen naar hun patiën-ten. Als we algoritmen kunnen bedenken waardoor

artsen de vrijheid krijgen om weer hun eigenlijke werk te doen, zou dat een enorme vooruitgang zijn.’

Van Duffelen voegt toe: ‘We zien dat AI de gezond-heidszorg kan verbeteren. Door AI wordt de zorg beter, sneller en goedkoper. Maar AI kan geen me-dische professionals vervangen. We zijn nu - voorbij de startup hype - in een stadium beland waarin be-drijven technologie ontwikkelen die de samenleving dient.’

Snoek noemt het gebruik van AI bij het herkennen van tumoren of de ziekte van Alzheimer op scans. ‘In het beginstadium zijn kanker en Alzheimer nau-welijks zichtbaar voor het menselijk oog. We hopen dat deze minieme veranderingen op foto’s en in vi-deobeelden - want steeds vaker maken we gebruik van videobeelden – in de toekomst herkend kunnen worden, zodat we zorgverleners of artsen hier op kunnen wijzen. Op deze manier kunnen we vroeger signaleren dat er iets mis is, en de juiste zorg bieden. Dat is mijn droom.’

Emile Voest, medisch directeur van het Nederlands Kanker Instituut (NKI), dat al meer dan honderd jaar baanbrekend werk verricht in Nederland op het ge-bied van kankeronderzoek en -behandeling, zegt ook dat AI van grote betekenis zal zijn voor kanker-research. ‘Beelden van de reactie van een tumor op een behandeling, doorsneden van tumoren onder de microscoop, bloedmonsters met biomarkers: daarin kan AI allemaal een belangrijke rol spelen. En als je een erg grote database hebt, die je combineert met machine learning... Nu ja, we zijn nog in de be-gindagen, maar ik ben ervan overtuigd dat dit van grote invloed zal krijgen in de komende jaren. Com-bineer alle informatie die we hebben in datasets, en we kunnen grote stappen voorwaarts maken.’

Omgaan met de uitdagingen omtrent privacyge-voelige data Het analyseren van gegevens vormt niet alleen de ruggengraat van AI-innovatie, maar stelt ons ook voor een van de grootste uitdagingen in het veld,

28

namelijk het waarborgen van de privacy - zeker wan-neer het aankomt op medische data. ‘Alle recente vooruitgang in AI is gebaseerd op data’, zegt Snoek. ‘De algoritmen van AI worden gevoed door grote hoeveelheden data, dat biedt de garantie voor suc-ces. Dit vormt een uitdaging in het medische veld, waar niemand zijn gegevens wil delen.’

Voest is het echter op dat laatste punt niet met Snoek eens: ‘Uiteraard moet het gebruik van data van pati-enten op vrijwillige basis gebeuren, en privacy is een belangrijk onderwerp. Maar laat ik eerlijk zijn, als we patiënten vragen of we hun gegevens mogen ge-bruiken voor onderzoek, zegt vrijwel nooit iemand nee. Alle patiënten willen hun medeburgers helpen.’

Snoek geeft toe dat het vinden van een oplossing geen onmogelijke taak is. ‘Ik denk dat als we dit er-gens in de wereld op de juiste manier kunnen orga-niseren, dat dat in Nederland is, in Amsterdam’, zegt hij. ‘Ik denk dat wij een goede historie hebben van samenwerken en echt met elkaar praten – en ervoor zorgen dat dingen op een eerlijke en transparante manier gebeuren.’

Jeroen Maas, Health Challenge Lead bij de Amster-dam Economic Board, vestigt eveneens de aandacht op de sterke staat van dienst van de regio als het gaat om dataverzameling, onderzoek en ethiek. ‘Het gaat erom dat je een heel traject echt goed over-denkt, en dat je anticipeert op mogelijke problemen en vragen. Wanneer dat op de juiste manier gedaan wordt, krijg je intelligente, toepasbare en werkba-re uitkomsten. Uiteindelijk is de bedoeling van da-ta-analyse dat het de implementatie van op feiten gebaseerd beleid versterkt, wat in het voordeel is van alle burgers in Amsterdam.’

Er wordt al veel werk verricht in de regio om deze uit-daging het hoofd te bieden, door medische data te verzamelen op zo’n manier dat misbruik wordt voor-komen. Het Amsterdam UMC, bijvoorbeeld, biedt in samenwerking met de European Society of Intensive Care Medicine richtlijnen voor Europese intensive

care units om hun data op een verantwoorde ma-nier te delen. Amsterdam UMC heeft haar database al geanonimiseerd, en is van plan deze vrij te geven voor geïnteresseerde ICU’s. Ook zijn er gesprekken gaande tussen ziekenhuizen in de Amsterdamse re-gio over een plan van aanpak voor het onderling de-len van data.

Nieuw talent kweken en tegelijkertijd een brain drain tegengaanAmsterdam werkt er hard aan om een goede kweek-vijver te zijn voor AI-talent. Om de nieuwe generatie AI-experts op te leiden, biedt de Amsterdam School of Data meer dan 250 studieprogramma’s voor da-ta-analyse. Deze school is een samenwerkingsver-band tussen vier Amsterdamse faculteiten voor toe-gepaste wetenschappen en onderzoeksscholen. In 2017 heeft de Growth Tribe Academy, die gespecia-liseerd is in digitale groei, een nieuw AI- en machine learning-trainingsprogramma gelanceerd voor men-sen zonder technische achtergrond – een unicum in de wereld. De twee universiteiten van Amsterdam bieden ook een gezamenlijke Master in AI.

Toch waarschuwt Snoek dat talent ons voor een an-dere uitdaging kan stellen. ‘We hebben mensen no-dig met de capaciteiten om nieuwe, fundamentele AI-algoritmen te bedenken, die ook nog in staat zijn om deze toe te passen in de medische context.’Daar komt de zorg bij om teveel mensen die aan on-derzoek of op academische posten kunnen werken, te verliezen aan grote techbedrijven. De oprichting van ICAI was een manier om dit tegen te gaan, zegt hij. ‘Om talent het beste van twee werelden te bie-den, door samen te werken met de industrie.’ ICAI garandeert academische vrijheid door het recht van onderzoekers te beschermen om hun onderzoek te publiceren, en garandeert tegelijkertijd dat bedrij-ven die betrokken zijn bij het onderzoek het eerste recht hebben intellectueel eigendom te kopen van uitkomsten van het onderzoek.Over de toekomst van Amsterdam als koploper bij AI in de gezondheidszorg is Snoek optimistisch: ‘We hebben de mindset, we hebben de motivatie,

28

we hebben de skills. We hebben uitstekende medi-sche kennis, we hebben uitstekende AI-kennis, en we hebben de data die in alle ziekenhuizen liggen opgeslagen. We hebben ook de technologie, en het talent. Nu moeten we alleen nog alles samen-brengen.’

Meer over AI en Health in Amsterdam : www.smarthealthamsterdam.com

30

AI en de Kaders

Artificial intelligence, door velen inmiddels al ge-woon AI genoemd. Het roept veel vragen op. Wie zet het in? Waar en waarvoor wordt het ingezet en mag dat? Hebben we er profijt van? Is het schadelijk? Kortom: wat zijn eigenlijk de kaders en regels?

AI wordt als een haast mythisch wondermiddel ge-zien die de mens zal vervangen en alles op kan los-sen. Zo mythisch als het lijkt, is AI niet. We weten van AI dat het bestaat. We weten hoe het werkt en we weten dat er een maker is. AI lijkt daarnaast op ons. Dat is ook logisch, het gaat om kunstmatige intelligentie. Met AI maken we ons brein kunstma-tig na. Wat AI bijzonder maakt is dat het zelflerend is. Het begint bijna een ‘eigen leven’ te leiden, maar wel binnen de beperking die de maker het geeft. Als mens hebben we kaders.

Regels opstellen voor AIWe leggen onszelf regels op. Dat doen we soms als individu, maar gelukkig spreken we ook regels met elkaar af. Soms zijn dit ongeschreven regels, soms zijn dit harde regels in de wet. De regels die we aanleren, zitten ook in de gebruiken of geloven die we meekrijgen van onze ouders.

Als maker van AI is het niet anders, we kunnen de systemen leren hoe te handelen in een bepaal-de context. De vergelijking tussen AI en mensen gaat niet helemaal op. Ja, een simpele AI met nog weinig leervermogen, heeft net als een opgroei-ende kleuter nog veel hulp nodig. Maar door de rekenkracht en de snelheid van computers is de impact op de taak exponentieel veel groter, zelfs bij simpele AI. Verschillen in volwassenheid en ver-schillen in impact, vraagt dan ook om eigen kaders en regelgeving voor AI. We kunnen niet de regels die bestaan voor mensen, één op één toepassen op AI. Die eigen regels en kaders voor AI, beteke-nen ook weer dat we verschillende maatregelen moeten nemen.

De afgelopen jaren zijn veel organisaties bezig ge-gaan met het uitwerken van principes voor eerlijk en veilig gebruik van AI. Ook in Europees verband zijn er al veel principes in uitwerking (zie “Ethical AI guidelines” van de Europese Commissie). In de Algemene Verordening Gegevensbescherming

30

(AVG) wordt AI al beperkt zodat er niet zomaar met persoonsgegevens volledig geautomatiseerde besluiten worden genomen. Uit ontmoetingen die we de afgelopen tijd met collega’s, inwoners en experts hebben gehad, blijkt dat de roep om meer duidelijkheid en regelgeving rondom AI wel steeds groter is geworden.

Ethisch gebruik van AI in AmsterdamDe komende maanden zullen we als Amsterdam dan ook een vertaalslag maken van diverse richtlij-nen voor ethisch gebruik van AI. Zo komen we tot richtlijnen en principes die aansluiten bij de eigen Amsterdamse waarden. Deze principes zullen we hanteren voor AI die we binnen de gemeente gebruiken en ontwikkelen. In het coalitieakkoord hebben we beschreven dat bedrijven in de stad mensen niet mogen volgen met bijvoorbeeld wifi. Bovendien toetsen we onze richtlijnen samen met KPMG. Omdat data bepaalt hoe goed AI ‘leert’, leggen we in een datastrategie vast wat we als gemeente met onze data willen en mogen.

Gemeente als waakhondNaast principes, beleid en toetsing van onze eigen AI, zullen we ook onderzoek doen naar metho-des om AI van andere partijen te monitoren en te screenen. We richten ons daarbij vooral op AI die impact heeft in de openbare ruimte, of die duide-lijk specifieke groepen mensen raken in onze stad. We willen ‘eerlijke AI’ in de stad die past binnen de Amsterdamse waarden en die zich aan de wet houdt. Hieraan gaan we werken samen met inwo-ners, ondernemers en kennisinstellingen. We zullen de uitkomsten uit deze onderzoeken in samenwer-king met andere steden vertalen naar standaarden en keurmerken die breed worden gedragen.

Bewust en verantwoord omgaan met AITegelijkertijd stelt AI-expert Eddie Copeland dat

de oplossing niet alleen gevonden kan worden in kaders en richtlijnen, maar juist ook in de bewust-wording en organisatieverandering. Zo is hij op zijn website (https://eddiecopeland.me) gekomen met tien principes voor data- en AI-gedreven besluit-vorming binnen de overheid. Daarin spreekt hij over transparantie naar burgers toe over geauto-matiseerde besluitvorming en noemt hij het publi-ceren van details over de gebruikte data, maar het gaat ook over zaken zoals het nemen van verant-woordelijkheid. Verder stelt hij dat iemand in een senior positie bij een betrokken afdeling formeel de verantwoordelijkheid zou moeten dragen voor acties die voortkomen uit een AI-gestuurde beslis-sing, en komt ook een verzekeringsstelsel aan bod. Door dit soort acties wordt het bewustzijn over verantwoord omgaan met AI groter. Wij moeten afwegen of dit voor Amsterdam wellicht een vol-gende stap zou kunnen zijn.

AI beweegt, AI maakt impact en we zullen de ko-mende jaren onze aandacht richten op waarde-ge-dreven inzet en ontwikkeling van AI. Samen gaan we zorgen voor een vrije, inclusieve en creatieve stad, waarin AI en mensen samen het verschil maken.

31

32

32

AI enverantwoordelijkheidHet kan zelfs de beste chauffeurs in deze wereld overkomen: je maakt een verkeerde inschat-ting bij het inparkeren en raakt per ongeluk de auto van je achterbuurman. Maar hoe zit dit bijvoorbeeld met zelfrijdende auto’s? Hoe verandert het begrip verantwoordelijkheid als je te maken hebt met Artificial Intelligence?

Of het nou komt omdat het glad was op de weg of omdat je niet goed in je spiegel kon kijken, als je zelf een auto bestuurt is het wel gewoon jouw verantwoordelijkheid. Balen, maar jij bent dus ook aansprakelijk voor de schade.

Maar wat nu als een zelfrijdende auto schade of een ongeval veroorzaakt? Technisch gezien zit er niemand met zijn handen aan het stuur en be-weegt het voertuig zich voort door een getraind algoritme. Dit zou in feite dus betekenen dat het algoritme aansprakelijk is, maar is dat ook wel zo? Achter de beslissingen die het algoritme maakt, zit ook weer een grote stroom aan data waarmee het is getraind en natuurlijk een maker van dit algoritme.

Grijs gebiedVerantwoordelijkheid lijkt in het eerste voor-beeld en in het dagelijkse leven eigenlijk vanzelf-sprekend te zijn. Een individu is verantwoorde-lijk voor zijn of haar eigen acties. De gemeente en overheid hebben hun verantwoordelijkheden naar de burger en maatschappij toe en zo heb-ben bedrijven ook een verantwoordelijkheid naar bijvoorbeeld werknemers en klanten. Hoe verantwoordelijkheden geregeld zijn is weer vastgesteld in onze wet- en regelgeving, maar is

het allemaal wel zo zwart/wit? Het tweede voor-beeld van de zelfrijdende auto laat zien dat het niet zo eenvoudig ligt, dat dit nu nog een grijs gebied is. Kunnen we wel vanuit de huidige wet- en regelgeving oordelen over gevallen waarvan we misschien eigenlijk niet zo goed weten hoe het werkt?

Begrijpen wat we makenHet is ook belangrijk om zicht te blijven houden op wat wij maken, en te kunnen begrijpen wat wij maken. Welke beslissingslagen liggen ten grondslag aan de output waar het algoritme mee komt? En met welke data wordt het algorit-me als het ware gevoed? Daarnaast moeten we ook af durven stappen van het grote toekomsti-ge scenario-denken en AI juist zoveel mogelijk concreet en behapbaar maken. Alleen zo kun-nen we er ook voor zorgen dat we er niet alleen over praten, maar we ook echt tot actie komen. Op 18 maart 2018 stierf in Amerika de eerste voetganger door een aanrijding met een zelf-rijdende auto. Het onderzoek naar de oorzaak duurde lang en werd gekenmerkt door veel ana-lyse van technische componenten. Het zorgde ervoor dat in enkele staten Uber (de maker van de betreffende auto) haar activiteiten met zelfrij-dende auto’s moest staken.

3333

34

De ruimte om door te ontwikkelen en te experimen-teren met AI mag echter niet weggenomen worden door het toevoegen van meer en meer controleor-ganen en nog meer wet- en regelgeving. Dat zou er namelijk voor kunnen zorgen dat we een kennis- of expertise-achterstand oplopen, en dat we daarmee straks niet meer mee kunnen doen met alle grote spelers in de wereld, met alle gevolgen van dien.

Het algoritme ‘opvoeden’Tegelijkertijd kan ook gesteld worden dat bij algo-ritmes hetzelfde komt kijken als bij het opvoeden van een kind of huisdier. Wij hebben namelijk alle-maal normen en waarden meegekregen vanuit huis en bepalen zo wat goed en slecht is. Bij het opvoe-den van een puppy geldt hetzelfde: als hij iets goed doet, krijgt hij een beloning en doet hij iets fout dan krijgt hij straf. Op deze manier leert het puppy wat wel en niet mag en past dit dan toe. In feite geldt dit ook voor een algoritme, dat beslissingen neemt op basis van data waarmee het getraind wordt. Als deze data bijvoorbeeld al een vooroordeel in zich heeft, dan gaan de uitkomsten die door een algorit-me gegenereerd worden ook bevooroordeeld zijn. Een algoritme is eigenlijk ook niks meer dan een formule die op basis van input output genereert, en als je er iets positiefs instopt dan zal de output ook positief zijn.

Dit betekent dat de makers dus de verantwoorde-lijkheid hebben om het algoritme te trainen met data die klopt en dat zij daarnaast ook kennis moe-ten hebben over de verschillende beslissingslagen in het algoritme, zodat ze snappen waar het fout gaat of waar de risico’s liggen, en het corrigeren.

Maar dan nog, als blijkt dat een algoritme of het doel ervan niet aan te passen zijn, moet het ook net zo makkelijk zijn om een project te stoppen voordat het meer kwaad doet.

Menselijke maatHet is de menselijke maat die belangrijk wordt in de besluitvorming. Dus het feit dat een algoritme

nooit de doorslaggevende factor is, maar er altijd een mens betrokken is bij of het evalueren van de beslissing of het laatste woord heeft.

En wat dit dan betekent voor Amsterdam? Om te beginnen moeten wij op deze manier de dialoog blijven voeren vanuit alle perspectieven. Dit bete-kent dat wij aan tafel moeten met de auto-industrie, de juristen, de mensen van de openbare ruimte, de techneuten en natuurlijk de gebruikers. Als er één ding naar voren is gekomen uit onze bijeenkomst, dan is het dat we juist door het samenbrengen van deze belanghebbenden en door dit onderwerp be-spreekbaar te maken, naar een passende oplossing toe kunnen werken. En misschien komt hier dan weer uit dat er toch wel meer regels nodig zijn om een goede ‘opvoeding’ van algoritmes te kunnen garanderen.

35

Het is de menselijke maat die belangrijk wordt in de

besluitvorming.

35

36

Behaal je AI Diploma

Jim StolzeFoto: Boom Uitgevers

37

Hallo Amsterdam!

Hier een kort briefje van Jim. Ik werk op het Amsterdam Science Park. Niet toevallig de plek waar studenten zich massaal inschrij-ven voor de studie Kunstmatige Intelligentie (AI). En terecht! Na elektriciteit, het internet en de introductie van de smartphone is “slimme dingen doen met data” de volgende technologi-sche revolutie.

Daarom hebben we deze nieuwsgierige jongens en mei-den hard nodig. Jammer eigen-lijk dat er een plafond zit aan het aantal studenten dat hiervoor in aanmerking komt.

Maar er is ook goed nieuws. Met steun van onder meer de UvA en de VU is er nu een gratis online cursus Kunstmatige Intelligen-tie! Dat levert je geen master of bachelor-titel op, maar wel een

diploma (leuk voor op LinkedIn)! En nog belangrijker: basiskennis over AI. Want -even tussen jou en mij- hier bestaan nogal wat misverstanden over....

Tijdens deze cursus (het is ge-woon een app) krijg je door mid-del van video, tekst en quizjes vrij snel antwoord op prangende vragen. Hoe kan een machine leren? Wat voor data is daarvoor nodig? Wat voor ethische dilem-ma’s levert dit op? Aan welke re-gels is een overheid gebonden? En natuurlijk: wat betekent dit voor de arbeidsmarkt?

Het is even een investering van zo’n 7-8 uur, maar zeker de moeite waard. Al meer dan 12.000 mensen gingen je voor.

Ik hoop je snel te zien op www.ai-cursus.nl !

Tot dan.

“slimme dingen doen met data”

38

Foto: Hans KleijnAuteur: Tessel Renzenbrink

39

‘Datawetenschappers moeten beleid vertalen, niet

bepalen’

Interview met Cathy O'Neil

“Het toepassen van algoritmen kan beslissings-processen beter en eerlijker maken dan ze ooit zijn geweest”, zegt Cathy O’Neil. Zo’n positieve kijk op datagedreven besluitvorming, is niet het eerste wat je van haar verwacht. De data-analist schreef Weapons of Math Destruction. Het boek waarschuwt voor de schadelijke gevolgen die in-zet van algoritmen kan hebben voor individuen en de maatschappij. Ze benadrukt dan ook dat er nog veel moet gebeuren: “We moeten nog veel werk verzetten, maar het gaat ons lukken. En Amster-dam loopt daarin voorop en wijst de weg.”

O’Neil was in Amsterdam op uitnodiging van audit-bureau KPMG en de gemeente Amsterdam om ons te adviseren over het gebruik van algoritmen. In één van de sessies ging ze met ‘de Tada-waarden’ (data gerelateerde waarden die zouden moeten gelden in een digitaal verantwoorde stad) aan de slag.

Zo’n twintig dataprofessionals gingen in Stadsar-chief De Bazel met O’Neil in gesprek. De vraag die centraal stond, is hoe je de ethische waarden uit het Tada-manifest omzet in vereisten (requirements). Dat wil zeggen, concrete technische vereisten die systeemontwerpers en bouwers praktisch kunnen toepassen.

Beleid vertalen, niet bepalenUit het gesprek bleek dat datawetenschappers hier

grote behoefte aan hebben. Want eigenlijk is ieder-een het wel eens over ethische waarden. Natuurlijk wil iedereen dat de waarden inclusief en transparant in systemen worden ingebakken. Maar zodra je dat in de praktijk gaat toepassen, komen er moeilijke vragen. Als twee waarden conflicteren bijvoorbeeld, welke laat je dan zwaarder wegen? Veel van dat soort moeilijke beslissingen komen nu op het bord van da-taprofessionals terecht.

O’Neil zei daarover: “Op dit moment zijn dataweten-schappers de facto beleidsmakers. Dat is niet juist. Daarom hebben we Tada zo hard nodig. Dataweten-schappers zouden niet verantwoordelijk moeten zijn voor het nemen van een besluit maar voor het imple-menteren van een besluit. Het beleid moet bepaald worden in het publieke debat. Datawetenschappers moeten beleid vertalen, niet bepalen.”

Hoe maak je Tada-principes concreet?Over hoe dat moet, geeft O’Neil advies: “Als je een Tada-principe concreet wilt maken, heb je een specifiek scenario nodig. Anders praat je over al-les tegelijk.” Als je een casusstudie doet is het dus niet voldoende om te zeggen: implementeer de Tada-waarden in een algoritme dat woonfraude detecteert. Je moet een specifieke context geven. Bijvoorbeeld: illegale vakantieverhuur via Airbnb. O’Neil: “Je kan niet gewoon zeggen: hier is een al-goritme. Je moet daaraan toevoegen hoe het wordt

40

gebruikt. Wat zijn de consequenties voor mensen die vals worden beschuldigd? Wat gebeurt er over twintig jaar als gevolg van het algoritme? Je moet echt de hele context doordenken, voordat je kan zeggen hoe je de waarden gaat toepassen. Dat is het grootste hiaat in hoe mensen algoritmen begrij-pen. Ze denken dat je een algoritme kan evalueren. Dat kan niet. Je kan een algoritme alleen evalueren binnen een context.”

Langzaam en frustrerend procesEvalueren binnen een context klinkt als een hoop werk. Het zou betekenen dat élk algoritme dat wordt toegepast grondig onder de loep moet wor-den genomen, of ten minste die met sociale con-sequenties. Na afloop van de werksessie vraag ik O’Neil tijdens een interview of zij dat inderdaad be-doelt. “Ja, dat is wat er moet gebeuren”, antwoordt ze. “Het is een lastige, langzame en frustrerende conversatie die we absoluut moeten voeren. Tada is precies datgene wat we moeten doen. We moeten er voor zorgen dat onze waarden in algoritmen wor-den geïmplementeerd. En dat is een moeilijke op-gave. We hebben veel werk te verzetten maar het gaat ons lukken. Het is spannend en enerverend. En Amsterdam loopt daarin voorop en wijst de weg.”

Betere beslissingsprocessenHet inzetten van algoritmen zou beslissingsproces-sen zelfs eerlijker kunnen maken dan ze ooit zijn ge-weest, zegt O’Neil. Ze illustreert haar punt met een voorbeeld. “Amazons algoritme voor sollicitatie-procedures bleek seksistisch te zijn. Ze besloten het daarom niet te gebruiken. Ik ben blij dat ze het ge-controleerd hebben en het nooit hebben ingezet. Dat is vooruitgang. Maar je zou meer kunnen doen. Want wat betekent het als je een menselijk proces codificeert en er dan achter komt dat het seksistisch is? Het betekent dat het menselijke proces seksis-tisch is. Wat ik graag had gezien is dat Amazon had gezegd: ‘we hebben dit algoritme, het is seksistisch en we gaan het verbeteren. En dan gaan we het gebruiken want het is minder seksistisch dan het menselijke proces dat het vervangt.’ Helaas zijn we

nog niet in deze fase. Maar idealiter komen we daar. Dan ga je daadwerkelijk de fouten die wij mensen maken opruimen, in plaats van simpelweg reprodu-ceren en propageren.”

“Zodra we beslissingsprocessen nauwkeurig gaan onderzoeken, worden ze veel transparanter, veel meer geladen met waarden”, besluit O’Neil. “Als we kunnen bereiken wat we vandaag hebben ge-zien [tijdens de Tada-sessie]. Als we deze waarden kunnen omzetten in regels die datawetenschappers kunnen vertalen in code. En als we kunnen monito-ren dat die waarden blijvend worden ondersteund. En ik blijf benadrukken dat dat moeilijk is. Maar het zou heel enerverend zijn als we daadwerkelijk de gesprekken voeren over het proactief implemen-teren van waarden in algoritmen. Dat is het beste waar we op kunnen hopen: dat algoritmen onze waarden reflecteren.”

Volg Cathy O’Neil op haar blog Mathbabe.org

4141

Dè plek waar je als Amsterdammer, collega, student, of een andere vorm

van intelligentie met al je vragen over AI in Amsterdam terecht kan.

Met goede ideeën, interessante samenwerk ingen of mogel i jke

stage-opdrachten ben je hier ook aan het juiste adres. En mocht je eigenlijk

gewoon iets kwijt willen, iets wat je opvalt of waar je kansen ziet?

Mail vooral!

AI in de politiek

“De Tweede Kamer heeft op dinsdag 2 juli ingestemd met het voorstel voor een tijdelijke com-missie digitale toekomst. Kamer-breed wordt de noodzaak ge-voeld om meer grip te krijgen op ontwikkelingen in de digitalise-ring. Digitale systemen en data nemen een steeds prominentere plek in het dagelijks verkeer in. Kunstmatige intelligentie (KI), cloud-opslag, sociale media, ro-botica, het internet der dingen (IoT) en big data zorgen voor een enorme hoeveelheid aan data en snelle bewerking met tal van toepassingen in alle domei-nen en sectoren. Technologieën raken de hele samenleving en onze huidige en toekomstige welvaart en werkgelegenheid. De digitalisering kan producten, systemen en diensten beter ma-ken, maar het kan ook verkeerd uitpakken en leiden tot schade. Er kunnen veiligheidsrisico’s zijn en ongewenste uitkomsten, zo-als discriminatie, ongelijkheid en beperking van autonomie”. Aldus de Tweede Kamer1

Het gebruik van algoritmes leidt tot vragen in de politiek. Binnen de EU zijn er diverse ontwikkelingen waaronder het Coordinated Plan on Artificial

Intelligence. De EU heeft o.a. de volgende ambitie:

“Overall, the ambition is for Europe to become the wor-ld-leading region for developing and deploying cutting-edge, ethical and secure AI, promo-ting a human-centric approach in the global context.

Op landelijk niveau maar ook in gemeenteraden rijzen steeds meer vragen op over het gebruik van algoritmes. Het is juist goed om deze vragen in alle transpa-rantie te beantwoorden om te leren van de fouten die gemaakt worden, en om ervoor te zorgen dat ook de focus blijft op de po-sitieve kanten van algoritmes”.

Gezinnen die geheel terecht kin-deropvangtoeslag ontvingen, werden door de belastingdienst beoordeeld als eventuele frau-degevallen. In sommige geval-len leidde dit tot het geauto-matiseerd stopzetten van de toeslag en terugvorderingen. Het bleek een fout te zijn. Een fout in een algoritme? Fout in de data? In dit voorbeeld gaat het om het onterecht toevoegen van nationaliteit aan de data, wat tot etnisch profileren heeft geleid.

Mahir Alkaya (SP) uitte zijn zor-gen tijdens het vragenuur op 4 december 2018 over het gebruik van data: “Het is cruciaal – ik benadruk: echt cruciaal – dat onze overheid niet op dezelfde manier met onze persoonsgege-vens, met onze data omgaat als Facebook en Google, want er zit geen rem op wat dat soort be-drijven, dat soort techgiganten met onze gegevens doet.”

Automatische besluitvorming door middel van algoritmes heeft ook de aandacht van de Raad van State. In een onge-vraagd advies van 31 augustus [2] over de effecten van de digi-talisering voor de rechtsstatelijke verhoudingen staat o.a. te lezen:

“De inzet van algoritmen voor besluitvorming kan enorm effi-ciënt zijn; de computer kan vele malen sneller en nauwkeuriger gegevens verwerken dan de mens. Overheidsorganisaties die grote aantallen besluiten moeten nemen voor min of meer exact te omschrijven situaties (ook wel oneerbiedig aangeduid als “be-schikkingenfabrieken”) kunnen niet om algoritmen heen. Toch is het gebruik van algoritmen niet zonder problemen.”

42

4342

Raadszaal Gemeente Amsterdam Foto: Edwin van Eis

44

Er worden een tweetal proble-men onderkend: De omzetting van programmeer-taal naar machinetaal is moeilijk te controleren. Regels in natuurlijke taal zijn niet altijd een op een te vertalen in een algoritme.

Amsterdam heeft bekend ge-maakt samen te werken met part-ners om de algoritmes in haar eigen organisatie te toetsen volgens een te ontwikkelen methodiek. Toch speelt er veel binnen de stad. Zo heeft Simi-on Blom in juni 2019 nog vra-gen gesteld naar aanleiding van het artikel van de NOS over het gebruik van algorit-mes door gemeenten en het risico op discriminatie.3

Zo vraagt hij onder andere:

“Kan het college iets zeggen over de wijze waarop de ver-antwoordelijkheid is belegd als algoritmes tot een verkeerde uitkomst leiden en waar bur-gers die slachtoffer zijn gewor-den hun recht kunnen halen?”

En

“Is het college bereid om een bijdrage te leveren in het verste-vigen van onafhankelijk toezicht en meer mogelijkheden voor burgers en organisaties waarin zij zich kunnen verenigen om ge-meentelijke besluitvorming op basis van big data-processen te bevragen?”

Het is belangrijk om deze zorg

niet alleen weg te nemen, maar ook concreet een oplossing te bieden die voor alle Amsterdam-mers zorgt voor transparante, niet bevooroordeelde besluit-vorming middels machine learn-ing en algoritmes. Hier wordt hard aan gewerkt, maar het blijft goed als de politiek zich blijft verdiepen in het onderwerp.

De mate waarmee machine

learning en algoritmes momen-teel worden toegepast door gemeenten is lastig te meten, maar de mate waarmee dit ge-beurt door bedrijven buiten de invloedssfeer van de gemeente is nog vele malen groter.

Een goede focus op de positie-ve kant, maar ook zorgen voor vertrouwen in technologie die

niet meer weg te denken is. Fou-ten zullen gemaakt worden, de politiek zal hierdoor meer en be-tere kaders bieden om fouten te voorkomen.

“De digitalisering kan producten, systemen en diensten beter ma-ken, maar het kan ook verkeerd uitpakken en leiden tot scha-de. Er kunnen veiligheidsrisico’s zijn en ongewenste uitkomsten,

zoals discriminatie, ongelijk-heid en beperking van auto-nomie. Bij het toepassen van nieuwe mogelijkheden gaat het om de menselijke maat, ethiek, normen en waarden, maar ook om vraagstukken als: van wie zijn de data, wat mag er mee gebeuren en wie bewaakt de spelregels, hoe gaan we om met privacy, wie bezit kennis om besluiten te nemen en wie bepaalt wie de kennis bezit?”. Aldus de Tweede Kamer4

1https://www.tweedekamer.nl/

nieuws/persberichten/tweede-ka-

mer-stemt-met-tijdelijke-commis-

sie-digitale-toekomst2h t t p s : / / w w w. r a a d v a n s t a t e .

nl/@112661/w04-18-0230/3 h t t p s : / / n o s . n l / a r t i -

k e l / 2 2 8 6 8 4 8 - o v e r h e i d - g e -

bruikt-op-grote-schaal-voorspel-

lende-algoritmes-risico-op-discrimi-

natie.html 4h t t p s : / / w w w. t w e e d e k a m e r. n l /

nieuws/persberichten/tweede-ka-

mer-stemt-met-tijdelijke-commis-

sie-digitale-toekomst

4544

47

Caroline Nevejan is Chief Science Officer bij de Gemeente Amsterdam.Foto: Dirk Gillissen

Artificial Intelligence en Amsterdam:wetenschap, cultuur en economie

Caroline Nevejan

AI en Amsterdam

AI, artificial intelligence, wordt gezien als een wereldwijde tech-nologische ontwikkeling die niet lijkt te stoppen. Zowel in de Ver-enigde Staten als in China wordt er veel in geïnvesteerd. Gevol-gen van AI kunnen zeer ingrij-pend zijn voor onze samenleving op het gebied van bijvoorbeeld de gezondheidszorg, het verkeer ende economie. Hoewel AI een onvermijdelijk proces lijkt, is AI wel degelijk gebaseerd op keu-zes. Daarom is het mogelijk AI mede vorm te geven, accenten aan te leggen, voorwaarden te scheppen en grenzen te bewa-ken.

46

47

Artificial Intelligence en Amsterdam:wetenschap, cultuur en economie

46

In Amsterdam hebben we goede beta faculteiten bij de UvA en de VU die AI onderzoek doen. We hebben het Innovation Center for Artificial Intelligence (ICAI), het nationale wetenschappelijke instituut voor AI, op Amsterdam Science Park. Als gemeente en als over-heid hebben we twee grote verantwoordelijkheden. Enerzijds is het van belang dat we de wetenschap-pers ondersteunen en dat onze beta mensen kunnen accelereren en dat we ‘start ups’ and ‘scale ups’ de ruimte kunnen geven om mee te spelen in deze nieu-we global industry. Anderzijds is het van groot belang dat we als overheid de rechtsstaat borgen in deze snelle ontwikkelingen. Dat zowel bij een Europese, een nationale en een lokale opdracht.

Amsterdam stond mede aan de wieg van zowel de technische als de maatschappelijke ontwikkeling van het Internet. “Virgin Internet” kwam uit de VS aan in de Watergraafsmeer in de jaren 80 en was een direct resultaat van samenwerking tussen de wetenschap, de telecom industrie en de overheid. De eerste Digi-tale Stad was Amsterdam. Deze is opgericht in 1993 en was het resultaat van een samenwerking tussen gemeente, cultuurinstelling de Balie en de start up XS4ALL. Het is van belang om AI zowel technisch als maatschappelijk in samenhang met elkaar verder vorm te geven. Het Nederlands succes destijds was gebaseerd op het feit dat overheid, cultuur, weten-schap, onderwijs en bedrijfsleven intensief samen-werkten. Ook nu is dit weer mogelijk, al denk ik dat veel spelers de kracht van de culturele bijdrage des-tijds en ook nu weer onderschatten.

Ethiek: De rechtstaat borgenMet name in die culturele bijdrage ontstaat het ge-sprek over de kwaliteit en de potentiële maatschap-pelijke ervaring van een nieuwe technologie. Een ethische discussie vereist toegankelijkheid en begrip van de technologie zodat mensen ook kunnen weten waar men over spreekt. Te snel worden dergelijke ge-sprekken anders gedomineerd door angst voor het onbekende.

Ethiek is van persoonlijk belang voor onderzoekers. Men zou hier meer in kunnen investeren. Hoe kan je als wiskundige nadenken over de ethiek van je vak?

Welke ‘waarden’ zijn van belang en hoe kunnen deze worden geborgd in een ontwerp? Hoe weet je als ingenieur waar je werk terecht komt en kan je daar invloed op uitoefenen? De uitvinding van de atoom-bom heeft de wetenschappers die er destijds aan werkten veel verwarring opgeleverd ondanks dat men overtuigd was van het feit dat men heeft bijge-dragen aan het einde van WOII1.

Technologieontwikkelingen zijn niet neutraal en waardevrij. Een hamer kan gebruikt worden om een huis te bouwen, maar ook om iemand de kop mee in te slaan. Dat ligt niet aan de hamer, zegt men dan. Een hamer is echter een werktuig dat we allemaal kunnen begrijpen en als het nodig is ook hanteren. Een auto is al ingewikkelder. De snelheid en com-plexiteit van de machine is door de industrie ont-wikkeld en veel mensen genieten van het gebruik van de auto. Maatschappelijk bleek het nodig om verkeersregels te maken, om een rijbewijs in te voe-ren, om opleidingen voor het repareren van auto’s te creëren, snelwegen aan te leggen en een jaarlijkse verplichte technische keuring in te voeren met een bijbehorend boetesysteem. Nog minder mensen begrijpen de softwareprogramma’s die onze levens ook ingrijpend hebben veranderd. Het functioneren van de mobiele telefoon, de computer, de game, de afwasmachine, de energieleverancier, het zieken-huis en het verkeerslicht zijn allemaal afhankelijk van software. Informatie- en communicatietechnologie is diep verweven in de maatschappelijke processen die het dagelijks leven in de stad bepalen en waar-van de ‘ethiek’ zeer ondoorzichtig is. In de auto-in-dustrie wordt nu na 100 jaar eindelijk de elektrische auto groot omarmd omdat de klimaatcrisis niet meer te ontkennen valt. De auto-industrie investeert nu op grote schaal in de elektrische toekomst van het ver-keer. Maatschappelijke verantwoordelijkheid van een bedrijf wordt vaak gedragen door een combinatie van nieuwe marktontwikkelingen en de persoonlijke ethiek van medewerkers.

Voor een gemeente gaat het wat mij betreft niet zo-zeer om ethiek als we denken over beleid voor AI, als wel om het borgen van de rechtsstaat in deze ontwik-kelingen. Ethiek is persoonlijk, en ook voor politici in

48 49

tijden van campagne voeren makkelijk om een be-roep op te doen. Maar ethiek kan ook kan vrijblijvend worden gebruikt. Ook in snelle en ongekende ont-wikkelingen in de wetenschap, het bedrijfsleven of de cultuur, heeft de overheid de plicht om de rechts-staat te borgen. Dat is een evenwicht tussen laten gebeuren en bijsturen.

Om de wettelijke context voor AI veilig te stellen is het van groot belang dat duidelijk wordt wat men onder AI verstaat. Welke verschillende vormen men kan herkennen, welke maatschappelijke vragen van belang zullen worden, welke maatregelen moge-lijk nodig zijn. Hiervoor zijn bestuurlijk engagement en moed nodig om dit aan te gaan. Net als met de klimaat ontwikkelingen, vraagt AI van politici zich te engageren met een toekomst die verder weg ligt dan de eerste 4 jaar van een bestuurstermijn. De juridische en maatschappelijke implicaties kunnen niet door wetenschappers alleen worden bedacht en we kunnen hen ook niet alleen laten met deze grote maatschappelijke vragen. Het is van belang om het maatschappelijke debat op zo een manier te voeren dat het ook consequenties voor wetenschappelijke ontwikkelingen kan hebben. Dit is bijvoorbeeld ook gebeurd in de auto-industrie en in de kernfysica.

De juridische en maat-schappelijke implica-ties kunnen niet door wetenschappers al-leen worden bedacht en we kunnen hen ook niet alleen laten met deze grote maat-schappelijke vragen.

Voor de gemeentelijke dienstverlening kan AI veel betekenen. Bijvoorbeeld hebben wetenschappers op het sciencepark een applicatie gemaakt waardoor ambulances 5 minuten kortere aanrijtijd kunnen heb-ben.a Het AI-algoritme heeft geleerd van wanneer en waar ongelukken gebeurden in de afgelopen 25 jaar en voorspelt op basis daarvan waar een volgend ongeluk verwacht kan worden. Op basis van die verwachtingen herpositioneren de ambulances zich voortdurend in de stad. Als er ergens een ongeluk gebeurt, gaat er een ambulance heen en verande-ren alle andere ambulances van positie opdat zij dan sneller bij een volgend te verwachten ongeluk zullen zijn.

Uiteraard is het van groot belang dat de gemeen-te ook in het tijdperk van AI zeer zorgvuldig met de vele persoonlijke data van burgers zal omgaan. Transparantie bieden over waar en hoe en voor wie AI wordt gebruikt is cruciaal voor de rechtsstaat. Het is goed dat de vele ambtenaren zich realiseren dat AI-toepassingen in infrastructuur en de gemeentelij-ke dienstverlening openbaar zijn. ‘The Right to Infor-mation’ is in steeds meer landen geborgd in de wet. In Nederland is de Wet Openbaarheid van Bestuur (WOB) daar een voorbeeld van. Vanwege de geo-politiek verhoudingen op dit moment tussen USA en China, is het voor Europa van groot belang voort te bouwen op General Data Protection Regulation (GDPR) en haar eigen weg te vinden om AI ook in wettelijke context te verankeren (en dit ook snel te doen om niet binnen korte tijd buiten spel te staan).

Zonder data kan AI niet ontstaan. Wie de data heeft kan met AI technisch accelereren en daarmee com-mercieel en op geopolitiek niveau veel invloed en effect hebben. In de westerse wereld zijn grote mo-nopolies als Google en Amazon leidend in AI omdat zij de data hebben van miljoenen mensen, inclusief van veel Europeanen. In China zijn de data voorna-melijk van de overheid en is de overheid ook leidend in AI. Europa wil niet geregeerd worden door com-merciële monopolies en wil ook niet dat de staat lei-dend is. Zeker in Nederland wil men de samenleving vormgeven door- en met een goed georganiseerde markt. Daarom zijn initiatieven die gedistribueerde

4949

data markten mogelijk maken van groot belang. Op initiatief van de Amsterdam Economic Board heeft een samenwerking tussen verschillende grote be-drijven, de kennisinstellingen en de gemeente het voorstel voor de Amsterdam Data Exchange (AM-DEX) gemaakt. Dit is een data serviceprovider die helpt de markt te organiseren2. Met dit initiatief en met andere gedistribueerde data serviceproviders is de gemeente in gesprek met de Europese Commis-sie over hoe deze markt gestimuleerd kan worden en weerbaar kan worden vormgegeven. Het gaat er om voor onderwijs, wetenschap, cultuur, bedrijfsleven en maatschappelijke partners een ecologie te maken waarin men elkaar op het juiste moment kan vinden en in staat is om transacties met elkaar te doen.

Wat kan een gemeente doenVoor de overheid is transparantie van broncodes van software belangrijk om te weten wat de gemeente zelf doet, maar ook om te weten wat anderen doen die in de stad opereren en de stad beïnvloeden.

Burgers hebben het recht om te weten hoe de ge-meente software gebruikt bij de uitvoering van haar dienstverlening. Uit een studentenonderzoek van 2018 bleek dat wij als gemeente Amsterdam verschil-lende modellen gebruiken waarvan de broncode vaak niet toegankelijk is voor ons. Een student van TU Delft, opgeleid om modellen te deconstrueren, heeft samen met Economische Zaken van de gemeente Amsterdam het model waarmee de gemeente leeg-staande kantoorruimtes berekend, gedeconstrueerd. Dit blijkt uit een compilatie van verschillende model-len te bestaan waarvan er slechts 2 zijn gevalideerd en waarvan de andere modellen een ontoegankelijke broncode blijken te hebben vanwege bedrijfseigen-dom.

Kennis van AI is ook belangrijk om te weten wat er in de stad gebeurt en hoe de markt zich ontwikkelt. Zo is het voor de gemeente bijvoorbeeld onduidelijk of de financiële markten, waar AI een groot onderdeel van is, conform onze rechtsstaat opereren in Amster-dam. Getuige de Amsterdamse Aanpak Ondermij-ning is dit niet het geval3. Men ziet wel de effecten van miljoenen euro’s die de stad in- en uitstromen,

maar de oorzaak is ondoorzichtig. Echter, net als bij juristen, gaat het hier om specialistische kennis waar-voor op lokaal, nationaal en Europees verband voor-zieningen zullen moeten worden getroffen.

Het gekke is dat je bij AI vaak niet meer weet wat je ziet. Een interessant experiment is gedaan door Frederic Kaplan bij Sony Research. Hij was één van de mensen die AIBO, een robothondje, heeft ontwik-keld. Vervolgens heeft hij van het lab dit hondje als huisdier gekregen. Hij vertelt hoe hij binnen 3 maan-den allerlei gevoelens voor de robot had ontwikkeld. Ondanks dat hij als geen ander wist hoe de AI in el-kaar zat, waren de processen ‘attribution, synchroni-sation en adaptation’ zo groot dat hij AIBO emotio-neel omarmde4. In de fysieke en natuurlijke wereld werken verschillende vormen van intelligentie samen en is AI een nieuwe menselijke ervaring aan het wor-den waar ook een overheid rekening mee zal moeten gaan houden op allerlei manieren.

Voor een gemeente als Amsterdam is het van groot belang om zich te verbinden met andere overheden, bedrijven, wetenschappers en kunst en cultuur om beter te begrijpen hoe we AI in onze samenleving willen vormgeven. Dat kan niet even tussendoor. Ik denk dat meer mensen, met meer creativiteit en in grotere diversiteit, hierover moeten nadenken. Net als Internet destijds, zal AI ingrijpende gevolgen hebben voor hoe cultuur wordt gedeeld en beleefd. Het is net als toen een ‘slow growing animal’, dat pas zichtbaar wordt wanneer het zijn ‘tipping point’ heeft bereikt. Daarom is de bijdrage van kunstenaars hier ook zo belangrijk. Zij kunnen de mogelijkheden en gevolgen van AI verkennen waardoor zij het grote publiek in staat stellen deze technologie zelf te on-derzoeken.

De gemeente Amsterdam besteed veel aandacht aan de opbouw van de interne informatiearchitectuur. Data zijn ‘open tenzij’ en er is een data platform waar-op vele datasets van de gemeente Amsterdam zijn te vinden via Internet sinds 2015. Broncode is ‘open source tenzij’, en ook deze wordt gepubliceerd in de open source platforms. Er wordt gewerkt aan het transparant maken van modellen die de gemeente

50

gebruikt. Toch heeft de gemeente nu nog een achter-stand op het gebied van AI. De expertise en ook veel data zijn niet aanwezig. Je zou kunnen zeggen dat GDPR 15 jaar te laat is vormgegeven want alle data van Amsterdammers die sociale netwerken hebben gebruikt (Facebook startte in 2005) zijn verdwenen in Amerikaanse bedrijven waar de gemeente geen toe-gang toe heeft. Deze bedrijven kunnen AI gebruiken met deze data en op een gegeven moment weten zij dan meer over Amsterdam dan de gemeente of Amsterdammers zelf. Ontwikkelingen als deze zijn heel voelbaar in de stad, maar er is alleen maar mee om te gaan in grotere verbanden. Nationale en inter-nationale overeenkomsten en handelsverdragen zijn nodig om data en AI te beschermen.

Over data spreken we als ‘dingen’ en als eigendom. AI is geen ding, het geeft een proces vorm. En daar-mee zal het op een andere manier geborgd moeten worden. Een ouder, maar nog steeds zeer actueel idee is ’The Right to Redress’. Dit is een concept dat haar oorsprong vindt in de tijd van de grote media-tisering begin jaren 80 vorige eeuw: dat mensen het recht op terugsp reken hebben tegen de media, de computers, de grote industrie. Dit leidde tot ‘The Right to Information Act’ in verschillende landen en bij ons tot de Wet Openbaarheid van Bestuur, waar-door je als burger informatieverzoeken kan doen die de overheid niet mag weigeren. Een dergelijk ’Right to Redress’ zou op AI-applicaties van toepassing kun-nen zijn.

Een andere maatregel die de gemeente kan treffen gaat over het documenteren van AI. Het is mogelijk nu te bepalen hoe AI wordt gedocumenteerd en ei-sen te stellen aan deze documentatie. Soms is het van groot belang dat bestuurders en burgers kun-nen begrijpen wat er gebeurt, soms kan het aan ex-perts worden overgelaten. Dergelijke transparantie is ontstaan in de medische wetenschap onder andere door de introductie van Internet. Als AI deel wordt van vitale processen van het dagelijks leven, dan is het voor de democratie van groot belang dat veel mensen, in ieder geval in concept, kunnen begrijpen wat er gebeurt.

Ik zou graag willen dat we een conceptuele en visu-ele taal ontwikkelen waarin de relatie tussen algorit-mes, broncode en betekenisgeving kan worden uit-gedrukt. Een dergelijke taal is onontbeerlijk voor de netwerksamenleving waarin de kloof tussen degenen die de kennis hebben en zij die de kennis niet heb-ben, steeds groter wordt. Als mensen de technologie van hun samenleving niet begrijpen, dan kunnen zij niet volwaardig participeren in de democratie5.

Caroline Nevejan is de Chief Science Offcier van Am-sterdam. Als CSO heeft zij de opdracht om synergie tussen wetenschap en beleid te inspireren. Zij is ook bijzonder hoogleraar ‘Desiging Urban Experience’ bij de Universiteit van Amsterdam.

1 Heinar Kipphardt, De zaak Oppenheimer, UItegeve-rij Contact, 19652 www.amsterdameconomicboard.com/amdex3 Inthe Gloerich et al. Flying Money 2018: investiga-ting illicit financial flows. 2019. Te bestellen via net-workcultures.org/publications4 Caroline Nevejan, Presence and the design of Trust, 2007. Te downloaden via www.nevejan.org 5 Arthur Keostler, Nacht in de middag, 1940. Heruit-gegeven door Uitgeverij Papieren Tijger in 2012.

a Deze applicatie is ontwikkeld door het Centrum voor Wiskunde en Informatica (www.cwi.nl) en wordt nu in de markt gezet door de start up Stokhos (www.stokhos.eu)

51

52

Amsterdamse Intelligentie en talentenTalent op het gebied van specialisten in AI is schaars. Alle techbe-drijven schreeuwen om nieuwe talenten, maar velen ervan zijn nog bezig met hun opleiding. Het wordt met de dag moeilijker om de juiste talenten te vinden, en te behouden. In het bedrijfsleven is het makkelijker gunstige arbeidsvoorwaarden te bieden en een uitdagen werkklimaat. Gemeenten hebben een lastige klus om een net zo aantrekkelijke werkgever te zijn als te grote techbedrijven.

Het is wellicht een doemgedachte dat alle AI-experts straks werken in het bedrijfsleven en hun kennis inzitten voor geavanceerde recla-me of highspeed trading en niet bij de gemeente komen werken. Toch zijn er signalen dat we te veel talent verliezen aan buitenlandse techbedrijven.2

Het gevaar schuilt in het niet zelf kunnen ontwikkelen van applica-ties, maar dat de gemeenten afhankelijk worden van externe partijen die voor veel geld worden ingehuurd om algoritmes te maken. Kan dan verwacht worden dat de ingekochte algoritmen transparant, onbevooroordeeld en herbruikbaar zijn? Of moet voor die controle weer een ander bedrijf ingehuurd worden.

Binnen de overheid worden voor data-projecten (en met name voor AI) nog vaak externe partij-en ingehuurd. En hoewel niet de enige verklaring, bij het misluk-ken van een IT-project (wat nog-al vaak gebeurt) wordt steevast door iemand verklaard: Experti-se has left the building.

Overheid en AIDe overheid is nog niet klaar voor de algehele omarming van AI. Talent is schaars en bedrijven weten snel deze jonge nieuwe spelers in het veld op te pikken. Deze capabele multidisciplinai-re bedrijven weten met hun da-ta-analyses, technische tools en enorm gefocuste visie op hun bedrijf de maatschappelijke sys-temen beter te bespelen dan de overheid. Neem een Cambridge Analytica die met Facebook data verkiezingen in Amerika kan be-invloeden.

Een kwart procentNatuurlijk: er zijn bij de ge-meente Amsterdam vorderin-gen gemaakt op het gebied van draagvlak, begrip, organisatie, infrastructuur en technische ca-paciteit. Maar op een gemid-delde dag zijn er naar schatting slechts ongeveer veertig vas-te data-wetenschappers, soft-ware-ingenieurs, architecten, onderzoekers en projectmana-gers binnen de gemeente die in staat zijn om in teams de nodige expertise bijeen te brengen voor ambitieuze data-wetenschap en AI.

Op basis van ongeveer 14.000

53

werknemers3 een kwart procent. De verhalen van de gemeente op conferenties over complexe maatschappelijke vraagstukken met ongekende maatschap-pelijke impact, trekken terecht talent aan. De werkelijkheid is echter dat met een dusdanige kleine groep specialisten, de maatschappelijke doelstellingen moeilijk te behalen zijn.

Brain drainDe digitalisering is een feit en dit vraagt ook om verandering in een organisatie die anders steeds meer moeite gaat krijgen om mee te komen.

Voorkom dat data-specialisten en software-ingenieurs bij de gemeente vertrekken naar me-dische startups, banken en gro-te techbedrijven. Het salaris is hierin niet de beslissende factor. Werkcondities, groeikansen en respect voor de potentie van het vak, zijn even grote, of zelfs gro-tere motivaties om talent binnen de organisatie te houden.

Een overheid zonder IT- en AI-expertise is heel reëel, de ge-volgen ervan ook.

Informatie gedreven organisa-tieNieuwe technologische ontwik-kelingen vragen om een nieuwe informatie gedreven organisatie met software- en dataexpertise aan de top. Een scherpe visie op publieke technologische ont-wikkelingen zoals artificial intelli-gence.

Laten we daarom samenwerken aan een echte informatie gedre-ven organisatie met software- en data-expertise aan de top, met gedeelde kernwaarden en een scherpe visie op publieke technologische ontwikkelingen zoals AI. Een organisatie met de wil om processen en een in-frastructuur neer te zetten die dienend zijn aan deze ambities en het waarmaken ervan. Diver-se, horizontale teams in prettige werkomgevingen, waarin ieder individu zijn eigen expertise in-brengt. AI begint bij de experts die er dagelijks aan werken. Sa-menwerking met (semi-)publieke partners als universiteiten en be-drijven die de waarden als trans-parantie, open knowledge en open source met de stad delen.

Technologie en AI hebben vele gevaren én kansen voor de stad en het publieke belang; dat de stad hier de regie moet nemen, is evident.

2 https://www.nrc.nl/

nieuws/2018/08/27/nederland-kampt-

met-ai-braindrain-a16143933 https://www.at5.nl/artikelen/93634/

g e m e e n t e - g r o o t s t e - w e r k g e -

ver-van-de-stad

54

5554

manier van vertrouwen in een or-ganisatie en vertrouwen op een techniek. Door te experimente-ren ‘weten’ voordat er iets inge-voerd wordt in de stad, in plaats van dat iets wordt ‘gedacht’. Fouten maken kan op deze ma-nier weer leergeld worden.

Dit magazine is ontwikkeld als onderdeel van de agenda Digi-tale Stad. Het is het vervolg op de verkenning ‘Voorbij de hype, waardevolle technologie in Am-sterdam’ uit het voorjaar van 2019. Dat was de start van een continue dialoog over toepas-sing van technologie in de stad

De gesprekken met experts en collega’s, analyse van relevante documenten en open bijeen-komsten met Amsterdammers over artificial intelligence in Amsterdam hebben het inzicht van urgentie opgeleverd. Am-sterdam vormt een stedelijke

Met de Coalition of Digital Rights zorgt Gemeente Amsterdam er-voor dat de digitale (mensen)rechten worden bewaakt. De uit-gangspunten hieruit moeten on-derdeel worden van de bewust-wording over het gebruik van data en over het effect hiervan op de Amsterdammer, zeker bij het ge-bruik van AI. Ook de General Data Protection Regulation (GDPR, in het Nederlands de AVG) is een lei-draad waaraan techniek zich dient te houden. Techniek mag volgens deze wetgeving nooit volledig zonder tussenkomst van menselijk handelen, een oordeel met gevol-gen vellen over een persoon.

Kaders zijn er genoeg, kansen ook. Door secuur en integer om te gaan met zowel maatschappe-lijke vraagstukken als beschikbare data, moet het mogelijk zijn om AI steeds meer van betekenis te laten zijn voor de Amsterdammer. Niet alleen meer bij de grote

techbedrijven, maar in de stad, door de stad, voor de stad. Het profijt moet bij de Amsterdam-mer liggen.

Talenten vinden en behoudenHiervoor moeten wel talenten gevonden worden met de bes-te kennis op het gebied van AI. Het behouden van talent is cru-ciaal. Voor Gemeente Amster-dam, voor kennisinstellingen en bedrijven. Te veel AI-specialisten kiezen voor commerciële bedrij-ven in het buitenland. Het speel-veld voor de AI-specialisten moet gestoeld zijn op uitdagin-gen oplossen, en niet omringd zijn door terughoudendheid.

De werkcultuur focussen op het uitvoeren van experimenten, waarbij het gebruik van een ro-buuste infrastructuur en toegang tot de juiste data onmisbaar zijn. Snel inspringen op vraag-stukken, vraagt ook een andere

Voorbij de hype, naar de urgentie

Artificial intelligence is geen hype meer. Het is de drijvende kracht achter zoveel zaken die inmiddels nor-maal zijn, dat het van belang is dat de urgentie van AI wordt gezien. Op meerdere vlakken vraagt AI om aandacht. Om de kaders te bewaken, maar voornamelijk om de kansen te gaan benutten.

AI-team welke zich de komende tijd richt op het actieplan ‘AI: Amsterdamse Intelligentie’. Dit AI-team richt zich op het stimu-leren en ontwikkelen van activi-teiten voor: Toepassingen voor Amsterdam en Amsterdammers Positioneren en stimuleren van Amsterdam Menselijke artificial intelligence in een Digitale Stad Randvoorwaarden om te excel-leren met AI in Amsterdam

Deze doelen hangen nauw met

elkaar samen. Toepassingen van artificial intelligence voor Amsterdam en Amsterdammers moeten ontwikkeld worden van-uit Amsterdamse publieke waar-den en worden beter bij een sterke positionering van Amster-dam als AI stad.

Wellicht had Amsterdam bij de intrede van het internet meer re-gie moeten nemen. Nu het gaat om AI, gaat de stad proactiever aan de slag. Met een Informa-tie-visie met een afwegingska-der, een Tech-Roadmap met

nieuwe technieken en bewezen producten in productie, en een AI-actieplan mag duidelijk zijn dat afwachtend toekijken naar AI voor Amsterdam geen optie is.

We zijn voorbij de hype.

Stadsaanzicht Amsterdam Foto: Edwin van Eis

59

Colofon

Redactie:Paul Bontenbal

Aik van EemerenMark van der Net

Safia AkkusAlma RasidkadicSiham El Yassini

Met dank aan:Tamas Erkelens

Ger Baron

Caroline Nevejan

Swaan Dekkers

Judith van Laarhoven

Maarten Sukel

Sjam Jokhan

Jim Stolze

Victor Plat

Vormgeving: Kars en Boom

60