Overdruk uit ÒWetenschap in een veranderende wereldÓ Ð ...luc.deraedt/AI.pdf · haast...

Overdruk uit “Wetenschap in een veranderende wereld” – ISBN 978 94 6270 195 3 – © Universitaire Pers Leuven, 2020

Wetenschap in een veranderende wereld

XXILessen voor de

eenentwintigste eeuw

RedactiePieter d’Hoine en Bart Pattyn

Universitaire Pers Leuven2020


Wetenschap in een veranderende wereld. Lessen voor de eenentwintigste eeuw, volume 26

© 2020 Pieter d’Hoine, Bart Pattyn en Universitaire Pers Leuven / Leuven University Press / Presses Universitaires de Louvain, Minderbroeders-straat 4, B-3000 Leuven.

Alle rechten voorbehouden. Behoudens de uitdrukkelijk bij wet bepaalde uitzonderingen mag niets uit deze uitgave worden verveelvoudigd, opge-slagen in een geautomatiseerd gegevensbestand of openbaar gemaakt, op welke wijze ook, zonder de uitdrukkelijke voorafgaande en schriftelijke toestemming van de uitgevers.

D/2020/1869/20ISBN 978 94 6270 195 3NUR: 740


inhoud 5

Inhoud

INLEIDING 9

KLIMAATVERANDERING IN DE CONTEXT VAN DE LAATSTE DUIZEND JAAR 11

Wat we weten vanuit dendrochronologieValerie Trouet

Wat is dendrochronologie? 11Waarom bestuderen we het klimaat van het verleden? 16Variabiliteit van de straalstroom 20Uitbreiding van de tropen 23Bosbranden in Californië 27Conclusie 32

MALARIA, EEN WERELDWIJD PROBLEEM 35

Philippe Van den Steen

Feiten en aantallen 35De biologie van een wereldkampioen 36De rijke geschiedenis van antimalariamiddelen 43Voorkomen is beter dan genezen 46Conclusie 49


6 inhoud

DE EERSTE EUROPEANEN 51

Philip Van Peer

Archeologische resten 53Het Mediterrane ‘Oude’ Europa 57Noordelijk ‘Jong’ Europa 58

MEERTALIGHEID KINDERSPEL? HOE LEREN WE EEN NIEUWE TAAL 67

Elke Peters

Inleiding 67Hoe jonger, hoe beter 68Taalcontact 74Engels is gemakkelijker dan Frans. De rol van taalafstand 83Een usage-based benadering van taal 85Conclusie 88

WAAROM WE BANG ZIJN 91

Bram Vervliet

Wat is bang zijn? 92Wie is bang? 97Hoe leren we bang te zijn? 98Waarvoor zijn we bang? 104Worden we banger? 110Conclusie 115

PLATO VOOR DE EENENTWINTIGSTE EEUW 117

Gerd Van Riel

Probleemstelling. Het belang van Plato 118De twintigste eeuw: Plato onder vuur 127De aristoteliserende achtergronden van deze interpretatie 130Een alternatieve lezing: open metafysica 132Consequenties van de open metafysica 135


inhoud 7

SOLIDARITEIT IN EUROPA 141

Wetenschappelijk inzicht en politiek meningsverschilFrank Vandenbroucke

Solidariteit in welvaartsstaten: verzekering en herverdeling 144Welvaartsstaten in een muntunie: evoluerend inzicht 149Argumenten voor grensoverschrijdende solidariteit en herverzekering van werkloosheidsstelsels 156Wat denken de mensen? 161Conclusie. Wie mensen laat redeneren, krijgt een waaier aan redelijke standpunten 165

ALONE TOGETHER 169

Over eenzaamheid en alleen zijnLuc Goossens en Marlies Maes

Is eenzaamheid een probleem? 170Is eenzaamheid door de jaren heen toegenomen? 172Is eenzaamheid een individueel of een sociaal probleem? 177Conclusie 182

UITDAGINGEN VOOR HET VERDUURZAMEN VAN HET MONDIALE VOEDSELSYSTEEM 185

Olivier Honnay

De context 185Perspectieven voor 2050 bij business as usual 186Naar een duurzaam voedselsysteem 193Conclusie 206

VROUWEN EN EMANCIPATIE: PERSPECTIEVEN UIT DE ‘DONKERE’ MIDDELEEUWEN 209

Andrea Bardyn, Jelle Haemers en Chanelle Delameillieure

Inleiding: waarom de geschiedenis van vrouwen als Katlijne belangrijk is 209Vrouwen in teksten, teksten van vrouwen 212


8 inhoud

Vrouwenrechten in de middeleeuwse stad 218Ondernemende vrouwen: het verhaal van Janne Schuts 228Besluit 231

DIGITALE CULTUUR IN AFRIKA 235

Katrien Pype

Digitale cultuur: naar een antropologische definitie 235‘Intelligente steden’ 236De digitale kloof 241Globaal Afrika 247De digitale ondernemer 250Conclusie 256

WETENSCHAPPELIJKE INTEGRITEIT 259

Wat weerhoudt wetenschappers van fraude?Bart Pattyn

Algemene vragen over morele verantwoordelijkheid 260Wetenschappelijke verantwoordelijkheid 274Aanbevelingen inzake fraudepreventie 277

DE ARTIFICIËLE-INTELLIGENTIEREVOLUTIE EN DE IMPACT ERVAN 285

Luc De Raedt

Wat is Artificiële Intelligentie? 285Vijf scholen in machinaal leren 288Doorbraken in AI 292Wat brengt AI voor de toekomst? 295Conclusie 302

LIJST VAN DE AUTEURS 305


Inleiding

Mensen kunnen zich bijzonder goed aanpassen aan hun veranderende omgeving. Dat talent was cruciaal voor de evolutie van onze menselijke soort en stelt ons ook vandaag in staat om allerlei actuele problemen het hoofd te bieden. De veranderingen waarmee we anno 2020 worden geconfronteerd zijn immers niet min. De klimaatverandering, de digitale en technologische revoluties en de demografische evolutie doen ons haast dagelijks ontwaken in een nieuwe wereld. Inzichten uit de dendrochronologie laten ons toe om de snelheid waar-mee ons klimaat aan het veranderen is in een ruimer tijdskader te plaatsen. Die inzichten zijn weinig rooskleurig. Zeker nu de consequenties van de opwarming van het klimaat stilaan voelbaar worden. In een tijd waarin de wereldbevolking blijft toenemen en de draagkracht van onze planeet haar grenzen bereikt, is het een absolute must om onze voedselproductie te verduurzamen. Maatschappelijke en mondiale evoluties zetten ook de welvaartsstaat onder druk. Een wereld waarin economische en politieke ontwikkelingen de landsgrenzen overstijgen, daagt ons uit om ook na te denken over solidariteit en sociaal beleid op een ruimere schaal. Het ver-breden van onze solidariteit van nationaal naar Europees niveau kan het actuele verzekeringssysteem immers robuuster maken. Ook technische innovaties kennen geen landsgrenzen. De communi-catietechnologie maakt van de wereld een dorp. Via websites, blogs en sociale media kunnen zich allerlei politieke, sociale en religieuze opvat-tingen in een oogwenk verspreiden. Hoewel communicatietechnologieën en sociale media beloven om ons dichter bij elkaar te brengen, werpen ze ook een schaduw van eenzaamheid. De mogelijkheden van artificiële intelligentie lijken schier onbeperkt, maar roepen tegelijk ethische vragen


10 inleiding

op. Ook bij ons boezemt het tempo waarmee al deze veranderingen zich voltrekken veel mensen angst in. Wetenschap tracht niet alleen inzicht te bieden in de aard en de draag-wijdte van dergelijke ontwikkelingen, maar is er ook vaak de motor van. Heel wat mensen koesteren de terechte hoop dat wetenschappelijk onder-zoek zal bijdragen tot de oplossingen voor allerlei maatschappelijke en mondiale problemen. Wetenschap biedt echter zelden pasklare of één-duidige antwoorden op complexe problemen. Van academici wordt ver-wacht dat ze zich integer opstellen en dat ze nauwgezet en eerlijk zoeken naar waarheidsgetrouwe kennis en dat ze zich daarbij laten leiden door methodes die in hun vakgebied als betrouwbaar gelden. De organisatie van wetenschappelijk onderzoek heeft de afgelopen decennia een metamor-fose ondergaan. Het onderzoek heeft zich geprofessionaliseerd en is meer resultaatsgericht geworden, maar dat heeft het wellicht ook meer kwets-baar gemaakt voor fraude. Verandering zit soms ook in de wijziging van ons perspectief ten aanzien van datgene wat we al meenden te kennen. De metafysica van Plato is al verschillende keren dood verklaard, maar kan bij nader inzien verrassend actuele inzichten leveren in culturele ontwikkelingen die zich bij aanvang van de eenentwintigste eeuw voltrekken. Onderzoek naar de maatschap-pelijke positie van vrouwen in de middeleeuwen kan de vinger leggen op onze vooroordelen ten aanzien van het verleden en op onze blinde vlekken van vandaag. Evolutie is onvermijdelijk en eens de weerstand voor het nieuwe is over-wonnen brengt verandering in de regel niet alleen de verhoopte, maar vaak ook onverwachte winst. Toch is veranderen om te veranderen zelden een goed idee. De formule van de Lessen voor de eenentwintigste eeuw is om die reden sinds zesentwintig jaar nauwelijks gewijzigd. Toegegeven, de manier van lesgeven is geëvolueerd door de introductie van allerlei educatieve tech-nologieën. We hebben nauwelijks nog sprekers die verzaken aan het gebruik van digitale presentatietechnieken. En akkoord, ook de onderwerpen die in de Lessen de revue passeren bieden vaak een teken des tijds en surfen mee op maatschappelijke evoluties. Toch heeft de essentie van de Lessen in al die jaren goed stand gehouden. Een interessante spreker, een boeiend thema, een min of meer functionerende microfoon en een periode van twee uur om haast oneigentijds lang en diep op een onderwerp in te gaan voor een breed publiek. Het recordaantal studenten dat zich dit jaar registreerde voor onze interfacultaire lessenreeks toont aan dat daar ook – en misschien vooral – in een snel veranderende wereld meer dan ooit nood aan is.


De artificiële-intelligentie-revolutie en de impact ervanLuc De Raedt

Recente doorbraken in de artificiële intelligentie (AI) en het machinaal leren liggen aan de basis van tal van nieuwe technologieën, zoals zelfrij-dende auto’s, snellere en nauwkeurigere systemen voor medische diagnose en intelligente virtuele assistenten in de huiskamer of op je smartphone. De media besteden terecht veel aandacht aan deze nieuwe ontwikkelin-gen. Artificiële intelligentie valt niet meer weg te denken uit onze maat-schappij. Tegelijkertijd rijzen er veel vragen op over AI, soms rond actuele toepassingen, soms ook meer fundamentele vragen: Wat zijn de mogelijk-heden en de beperkingen van AI? Welke implicaties zijn er voor mens en maatschappij? Wat brengt AI in de toekomst? Dit hoofdstuk wil antwoorden formuleren op een aantal van deze vra-gen, het wil inzicht bieden in wat artificiële intelligentie is, en wat we al dan niet mogen verwachten. De antwoorden worden geformuleerd vanuit het perspectief van een computerwetenschapper en AI-onderzoeker die niet alleen AI-technieken ontwikkelt, maar ook het lopende debat over AI volgt en er zelf actief aan deelneemt.

WAT IS ARTIFICIËLE INTELLIGENTIE?

Artificiële intelligentie (AI) is interdisciplinair en wordt dus vanuit verschil-lende invalshoeken bestudeerd. Er zijn dan ook heel wat verschillende defi-


286 luc de raedt

nities. Een eerste definitie is die van de Nobelprijswinnaar Herbert Simon, die stelt dat AI gaat over ‘machines die gedrag vertonen dat als intelligent zou worden beschouwd als het door mensen zou worden vertoond.’ Een tweede definitie, die nu dominant is in de technische AI-literatuur (zie Russell en Norvig), stelt dat AI gaat over het ontwikkelen van agenten of machines die rationeel werken, dat wil zeggen dat ze het juiste doen: beslissingen of acties nemen die optimaal zijn. Deze visie is populair in de technische AI-litera-tuur, omdat ze geformaliseerd kan worden. De machine is uitgerust met een nutsfunctie en moet die acties selecteren die het (verwachte) nut maximali-seren. Belangrijke uitdagingen bij de ontwikkeling van AI-systemen zijn het definiëren van die nutsfunctie en het vastleggen van de beschikbare acties. Artificiële intelligentie heeft, net als menselijke intelligentie, veel facet-ten. Nuttig voor AI is het onderscheid tussen leren en redeneren, dat ook soms als data- versus kennisgebaseerd, subsymbolisch versus symbolisch, of als Systeem I versus Systeem II gekarakteriseerd wordt (zie Kahne-man). Redeneren maakt het mogelijk om nieuwe conclusies af te leiden uit beschikbare kennis, terwijl leren een proces is waarbij nieuwe kennis wordt geleerd uit ervaring (vaak in de vorm van data). Redeneren maakt gebruik van kennis om complexe problemen op te lossen en de juiste con-clusies te trekken, bijvoorbeeld het plannen van een reis of het oplossen van een wiskundig vraagstuk, terwijl leren eerdere observaties, ervaringen of gegevens generaliseert in algemene modellen. Hoewel AI zich aanvankelijk op het redeneren heeft gericht, situeren de recente doorbraken in AI zich allemaal op het gebied van machinaal leren. Die doorbraken liggen aan de basis van tal van nieuwe technolo-gieën, zoals zelfrijdende auto’s, snellere en nauwkeurigere systemen voor medische diagnose, en intelligente virtuele assistenten, zoals Siri en Alexa. Het is interessant om in wiskundige termen te definiëren wat machinaal leren is en daarbij het verband met AI als de optimalisatie van het ver-wachte nut aan te geven. Problemen van machinaal leren bestaan uit drie elementen: 1) een onbekend doelmodel, dat geleerd moet worden, 2) gege-vens, en 3) een verliesfunctie, die aangeeft hoe goed (of slecht) een bepaald model presteert met betrekking tot de beschikbare gegevens. De bedoeling is om het beste model te vinden volgens die verliesfunctie. De verliesfunctie bepaalt dus het nut (hoe groter het verlies, hoe kleiner het nut). Klassieke voorbeelden van toepassingen van het machinaal leren zijn: het classificeren van e-mail als gewenst of ongewenst (‘ham’ of ‘spam’), het herkennen van voetgangers in beelden, het vertalen van zinnen uit het Engels naar het Nederlands, het stellen van een medische diagnose op basis van de symptomen van een patiënt, het aanbevelen van een product aan een potentiële klant, et cetera. Machinaal leren moet worden beschouwd


de artificiële-intelligentierevolutie en de impact ervan 287

als een vorm van automatisch programmeren. In plaats van computerpro-gramma’s handmatig te schrijven, kunnen (elementen van) computerpro-gramma’s geleerd worden op basis van gegevens. Bovendien kunnen som-mige taken, zoals het classificeren van e-mails als gewenst of ongewenst, of het identificeren van uitgezaaide kanker in medische beelden, of voetgan-gers in straatbeelden, niet met de hand worden geprogrammeerd, omdat de nodige kennis niet beschikbaar is of omdat het programma aangepast moet worden aan de persoonlijke voorkeuren van de gebruikers. Een eenvoudig voorbeeld van een leerprobleem vindt men in tabel 1. Elke rij beschrijft een voorbeeld of observatie, en elke kolom een kenmerk. Bij gesuperviseerd leren is er typisch ook een te voorspellen doelkenmerk dat aanwezig is in de data. Dat kan een klasse zijn (zoals of e-mail al dan niet gewenst is) of een getal (zoals de temperatuur op een bepaald tijdstip). De bedoeling is dan om een functie of model te leren die elk voorbeeld afbeeldt op de juiste waarde van dat kenmerk, bijvoorbeeld een e-mail wordt afgebeeld op ‘ham’ of ‘spam’. De verliesfunctie, die de kwaliteit van een model bepaalt, zal in de eerste plaats rekening houden met de correct-heid van het model op de data en daarnaast ook vaak met de complexiteit van het model. Dit noemt men regularisatie. Het is bedoeld om overfitting tegen te gaan. Overfitting treedt op wanneer het model weliswaar correcte voorspellingen geeft op de beschikbare data, maar slecht presteert wanneer het nieuwe voorspellingen voor ongeziene voorbeelden moet maken. De oorzaak van overfitting is dat het model te complex is en te veel rekening houdt met de specificiteit van de trainingsdata (de data die gebruikt wor-den door het leersysteem). Men leert als het ware de ruis die in data zit.

D R B Knee nee nee neenee nee ja neeja nee nee ja

nee ja ja jaja ja nee nee

nee ja nee neenee ja ja jaja nee ja ja

nee nee ja neeTabel 1: Een tabel met gegevens. Elke rij stelt een voorbeeld voor dat beschreven is door een aantal kenmerken. De kenmerken duiden of een bepaald boek al dan niet gekocht werd door de klant (D is het boek van Domingos, R van Russell, B van Bostrom en K van Kahneman). Het doel is een model te leren dat op basis van de gege-vens voor D, R en B zal aangeven of de klant ook het boek van K zal aankopen. K is dus het doelkenmerk. De waarde van zo’n kenmerk (ja of nee) wordt ook label genoemd.


288 luc de raedt

VIJF SCHOLEN IN MACHINAAL LEREN

Volgens Pedro Domingos zijn er vijf verschillende scholen of paradigma’s in machinaal leren (hij spreekt over tribes). Ruwweg komt elk paradigma over-een met een bepaalde klasse van modellen. In wat volgt, wordt het basisidee voor elk paradigma geïllustreerd aan de hand van een erg eenvoudig model. Uiteraard zijn de modellen en algoritmes die in machinaal leren gebruikt worden vaak ingewikkelder en worden ook de wiskundige en algoritmische aspecten ervan uitvoerig bestudeerd (zie ook Russell & Norvig). De eerste school is de symbolische school. Ze is gebaseerd op logica. Voor het leerprobleem uit tabel 1 kan volgend model geleerd worden.

ALS R = ja EN B = ja DAN K = jaALS R = nee EN D = ja DAN K = ja

Het model bestaat uit een aantal regels. Elke regel geeft condities aan die voldaan moeten zijn om het boek van K aan te kopen. In dit voorbeeld wordt ook aangenomen dat als geen enkel van de regels voldoet, de klasse K=nee voorspeld wordt. Voor de data in tabel 1 is het mogelijk om een model te leren dat alle voorbeelden in de leerverzameling correct voor-spelt. Dit is niet altijd mogelijk, bijvoorbeeld als de klasse van het laatste voorbeeld veranderd zou zijn in K=ja. In zulke gevallen moet men genoe-gen nemen met benaderende modellen. Een tweede school is de bayesiaanse school. Ze maakt gebruik van pro-babilistische en statistische modellen. Naast bekende statistische modellen zoals lineaire of logistische regressie, is een basistechniek uit die school het zogenoemde naive Bayes-model. Dat model kent aan elk voorbeeld en mogelijke classificatie een kans toe. Voor tabel 1 kan de idee als volgt geïl-lustreerd worden. Stel dat we voor het voorbeeld D=ja en R=ja en B=ja de kans willen bepalen dat K=ja. Wiskundig komt dat overeen met het bepa-len van de voorwaardelijke kans (die voorwaardelijke kans stelt de kans voor dat K=ja als we weten dat de conditie D=ja en R=ja en B=ja geldig is). De voorwaardelijke kans kan als volgt herschreven worden

P K = ja D = ja, R = ja, B = ja = P D = ja, R = ja, B = ja K = ja P K = ja

( | )( | ) (× ))

( )P D = ja, R = ja, B = ja

waarbij de regel van Bayes werd toegepast. Verder wordt in het model aan-genomen dat de kenmerken voorwaardelijk onafhankelijk zijn gegeven de klasse:



P (D = ja, R = ja, B = ja | K = ja) = P (D = ja | K = ja)×P (R = ja | K = ja) × P (B = ja| K = ja)

Die assumptie beperkt het aantal parameters dat geschat moet worden. De nodige parameters voor het bepalen van de teller van de breuk kunnen dan geschat worden uit de gegevens in tabel 1 door elke voorwaardelijke kans te schatten door het aantal voorkomens van de condities in de dataset te bepalen via

P B = P

P B=

aantalaantal B

AA EN B A EN B

( | )( )

( )( )

( )

Dit geeft dan P (D = ja, R = ja, B = ja | K = ja) = P (D = ja | K = ja) × P (R = ja | K = ja) × P (B = ja | K = ja); P (D = ja | K = ja) = aantal(D = ja EN K = ja) / aantal(K = ja) = 2/4; P (R = ja | K = ja) = 2/4; P (B = ja | K = ja) = 3/4; en P (K = ja) = aantal(K = ja) / aantal(K = ja OF K = nee) = 4/9, wat betekent dat P (D = ja, R = ja, B = ja | K = ja) × P (K = ja) = 2/4 × 2/4 × 3/4 × 4/9 = 1/12.

Dezelfde uitwerking kan gemaakt worden voor P (K = nee | D = ja, R = ja, B = ja) wat resulteert in P (D = ja, R = ja, B = ja | K = nee) × P (K = nee) = 1/5 × 2/5 × 2/5 × 5/9 = 4/225.

De noemer van de breuk is in beide gevallen hetzelfde (P (D = ja, R = ja, B = ja)), dus is K=ja de waarschijnlijkste klasse, omdat 1/12 > 4/225. Er bestaan uitbreidingen voor naive Bayes, bijvoorbeeld om te vermijden dat een voorwaardelijke kans P (A | B) als 0 ingeschat wordt wanneer bepaalde condities niet voorkomen in de data. Naive Bayes kan gebruikt worden om e-mail als gewenst of ongewenst te classificeren. Een derde school zijn de analogizers, ze redeneren via analogieën of cases. Een van de basistechnieken is het k-NN algoritme, waarbij NN staat voor ‘nearest neighbor’ en k een klein natuurlijk getal is (voor binaire clas-sificatie een oneven getal). Als het voor een nieuw voorbeeld de klasse moet voorspellen, bepaalt het eerst de k voorbeelden die het dichtst bij het nieuwe voorbeeld liggen en er dus het meest op lijken. De klasse die het vaakst voorkomt bij die k voorbeelden wordt dan als voorspelling gebruikt voor de klasse van het nieuwe voorbeeld. We nemen hier aan dat de afstand tussen twee voorbeelden bepaald wordt door het aantal waarden waarin de twee voorbeelden verschillen, bijvoorbeeld

afstand (D = ja en R = ja en B = ja, D = ja en R = ja en B = ja) = 0afstand (D = nee en R = ja en B = ja, D = ja en R = ja en B = ja) = 1afstand (D = ja en R = nee en B = nee, D = ja en R = ja en B = ja) = 2


290 luc de raedt

Dan kunnen we de k=3 dichtste buren van ons voorbeeld D=ja en R=ja en B=ja in tabel 1 selecteren. Dat zijn het vierde, vijfde en zevende voorbeeld, waarvoor de afstand telkens 1 is. Voor twee van die drie voorbeelden is de klasse K=ja; dat is meteen ook die klasse die het meest voorkomt bij de k=3 dichtste buren, end dus ook de klasse die k-NN voorspelt. De vierde school is die van de neurale netwerken, momenteel de popu-lairste school in AI. Een mogelijk neuraal net geleerd uit tabel 1 is afgebeeld in figuur 1. Het stelt de waarden voor de kenmerken D, R en B voor door een 0 of een 1 (1=ja, 0=nee). Het model ziet er als volgt uit

H1 = logistic(-11,2*D - 8,1*R - 4,5*B + 8,2)H2 = logistic(1,6*D - 6,1*R + 8,1*B + 1,7)K = logistic(-15,1*H1 + 15,6*H2 - 7,9)

waarbij

logistic(x) = 1 / (1 + exp(-x))

de logistische functie is. De invoerlaag van het netwerk bestaat uit knopen voor de kenmerken D, R en B. Er zijn ook twee verborgen knopen H1 en H2 (‘hidden’), die verbonden zijn met de invoerlaag van het neurale net-werk, en die op hun beurt de invoer bepalen voor de uitvoerlaag die alleen uit de knoop K bestaat. Elke knoop in de verborgen of de uitvoerlaag is dan gedefinieerd via de toepassing van de logistische functie op een lineaire combinatie van zijn invoer. De uitvoer van het model is een waarde tussen 0 en 1, die dan na afronding een classificatie oplevert. Optimalisatie-algo-ritmen kunnen de parameters (de waarden zoals -11,2 en -8,1 die aan elk kenmerk een gewicht geven) bepalen uitgaande van de data. Populair van-daag is deep learning, waarbij een groot aantal verborgen lagen gebruikt wordt. Neurale netwerken worden vaak toegepast op subsymbolische data, bijvoorbeeld beelden, die voorgesteld worden door de waarden van de verschillende pixels. Ze kunnen ook grote hoeveelheden data verwerken, maar de modellen zijn moeilijk te interpreteren voor de mens.



-11.2

1.65

D

-8.1

-6R

-4.5

8.1B

-15.1

H1

15.6H2 K

-7.9

1

1.7

8.2

1

Figuur 1: Een neuraal netwerk geleerd uit de data in tabel 1. Knopen zijn aangeduid door letters. De invoerlaag bestaat uit de knopen D, R en B, de verborgen laag uit de knopen H1 en H2, en de uitvoer uit de knoop K. De verbindingen geven de gewichten aan die geleerd werden. De knopen H1, H2 en K worden berekend door het toepassen van de logistische functie op een gewogen som van hun invoerknopen.

De laatste school is de evolutionaire; ze is geïnspireerd op een parallel met de biologie. Evolutionaire algoritmen zijn optimalisatie-algoritmen die een fitness- of nutsfunctie optimaliseren. Ze maken daarbij gebruik van een populatie van individuen die evolueert in de tijd. Elke populatie gaat, net als in de natuur, over in een andere populatie door recombinatie van indi-viduen en mutaties. Daarbij wordt rekening gehouden met het principe van ‘survival of the fittest’, wat wil zeggen dat meer aangepaste individuen meer kans hebben op recombinatie en overleven dan minder aangepaste. Dat levert vaak nieuwe populaties op die gemiddeld genomen meer aange-past zijn dan de vorige. Op die manier wil men convergeren naar optima. De individuen zelf worden door primitieve codes voorgesteld. Voor het leerprobleem uit tabel 1 kan men als fitnessfunctie de nauwkeurigheid nemen en individuen, die bestaan uit twee regels, coderen met zes symbo-len. Bijvoorbeeld het model met de twee regels die hoger beschreven staan kan men voorstellen als

D R B D R B

2 1 1 1 0 2


292 luc de raedt

waarbij de code 0 gebruikt wordt als het kenmerk de waarde nee heeft, de code 1 als het kenmerk de waarde ja heeft, en de code 2 als het kenmerk niet voorkomt in de regel. Een mogelijke mutatieoperator kan een willekeurige waarde op een willekeurige positie in de code vervangen door een andere waarde, wat bijvoorbeeld de code 2 1 0 1 0 2 kan opleveren. Recombinatie combineert twee individuen. Dit kan bijvoorbeeld door eerst een bepaalde plaats uit te kiezen om de codes te splitsen en dan de codes te mengen. Het recombineren van 2 1 1 1 0 2 en 1 0 0 2 1 2 kan 2 1 0 2 1 2 en 1 0 1 1 0 2 als resultaat geven na splitsing tussen de tweede en de derde positie. Er zijn veel verschillende varianten van die operatoren en ook verschillende manieren om de individuen te selecteren om naar de volgende populatie te gaan (of te laten muteren of recombineren).

DOORBRAKEN IN AI

De term AI wordt toegeschreven aan John McCarthy, die ook de allereer-ste meeting rond AI in de zomer van 1956 organiseerde in Dartmouth. Vandaag zijn veel ideeën die in de financieringsaanvraag voor die meeting beschreven staan, werkelijkheid geworden, wat aantoont hoe visionair de pioniers van AI waren. Voorbeelden daaruit zijn onder andere natuurlijke taalverwerking, machinaal leren, neurale netwerken, hogere program-meertalen en inzicht in computationele complexiteit (die de efficiëntie van algoritmen en algoritmische problemen bestudeert). Shakey de robot, ont-wikkeld door het Stanford Research Institute, is een voorbeeld van zo’n vroege doorbraak. De onderzoekers in het Shakey-project introduceerden planning in AI en robotica, wat gebruikt werd om de acties te selecteren die de robot moest uitvoeren op basis van logische regels. Shakey bevond zich in een omgeving bestaande uit meerdere kamers, verbonden door deuren en gangen en met schakelaars en dozen. Het Shakey-project droeg ook belangrijke algoritmen bij voor computervisie en perceptie, voor het waarnemen van zijn omgeving, en voor het plannen van routes in grafen. Ondertussen is er een hele reeks van doorbraken. Ten eerste bestaat er, in de geest van Herbert Simons definitie van AI, een lange interesse in com-petities tussen mens en machine. Het domein bij uitstek voor dit soort van competities zijn spellen, zoals dammen, schaken, backgammon, go, poker en videogames. De nieuwste doorbraken zijn DeepMinds AlphaGo-pro-gramma (en zijn opvolger AlphaZero), die de topspeler Lee Sedol versloeg in 2016. AlphaGo (zie ook Silver) leert een functie om te evalueren hoe



goed een bepaalde spelsituatie is, en het gebruikt zoektechnieken (Monte-Carlo Tree Search) om verschillende zetten vooruit te kijken en dan de beste actie te selecteren. AlphaGo werd getraind in talloze spellen op computers met enorm veel rekenkracht. Voor de doorbraak met AlphaGo verwachtten AI-onderzoekers dat het verslaan van een topspeler in Go minstens twin-tig jaar meer zou kosten, dus het werk is zeker baanbrekend. Indrukwek-kende resultaten zijn ook verkregen in poker (met het Libratus-systeem), het spelen van Atari-videogames en StarCraft. Kenmerkend voor dit soort van systemen is dat ze getraind en verfijnd worden met behulp van enorme datasets, en dat dit proces miljoenen uren computertijd gebruikt. Ten tweede zijn er de zelfrijdende auto’s waarvan beloofd wordt dat ze menselijke bestuurders in de nabije toekomst zullen vervangen. Ook de interesse in zelfrijdende voertuigen is niet nieuw, het gaat in ieder geval terug naar het Alvinn-project van Dean Pommerleau, dat in het begin van de jaren negentig neurale netwerken gebruikte om voertuigen te leren sturen langs snelwegen. Onderzoek naar zelfrijdende auto’s werd populair dankzij de Darpa Grand Challenges en Stanley, de autonome auto gecre-eerd door Sebastian Thrun en zijn team in Stanford, die de race in 2005 won door ongeveer 200 mijl autonoom door een van de woestijnen in de VS te rijden. Stanley steunde sterk op machinaal leren, onder andere om te bepalen waar men hoe snel kan rijden. Tegenwoordig is het een wereldwijde competitie tussen autofabrikanten en hightechbedrijven om betrouwbare zelfrijdende auto’s voor het brede publiek te produceren. Hoewel er veel vooruitgang is geboekt, zal het waarschijnlijk nog een tijdje duren voor deze technologie op grote schaal beschikbaar zal zijn. Een belangrijke uit-daging is om te kunnen omgaan met het brede type van soms onvoorspel-bare gebeurtenissen waarop bestuurders moeten reageren. Ten derde zijn de mogelijkheden van AI om natuurlijke taal te begrijpen en te interpreteren, zowel schriftelijk als in spraakvorm, enorm toegenomen tij-dens de laatste jaren. De prestaties van de persoonlijke assistenten van Apple en Amazon, Siri en Alexa, en van automatische vertaling bevestigen dit. Ten vierde heeft AI het potentieel om onze gezondheidszorg radicaal te veranderen. Naarmate er meer gegevens beschikbaar komen, kunnen er meer nauwkeurige modellen en richtlijnen worden geleerd uit medische afbeeldin-gen of volledige EHR (‘Electronic Health Records’). Het doel daarbij is niet om artsen te vervangen, maar om hen te assisteren bij hun routinetaken. Ten vijfde heeft AI bedrijven als Facebook, Google en Amazon de moge-lijkheid gegeven om ons gedrag op sociale netwerken te analyseren en die analyses te gebruiken voor marketing en beïnvloeding. Dit zijn slechts enkele voorbeelden van hedendaagse toepassingen van AI-technologie, maar er zijn er duidelijk nog veel meer.


294 luc de raedt

Het hoeft dan ook niet te verwonderen dat AI enorm veel aandacht krijgt van de media, de industrie, de overheid en de maatschappij in het algemeen. Gezien de huidige doorbraken en mogelijkheden van AI is die aandacht zeker op zijn plaats. Maar het leidt ook tot onrealistisch hoge ver-wachtingen en enorm veel hype. AI wordt vaak gezien als een wondermid-del en er worden oplossingen beloofd voor tal van technische problemen, zeker als er gegevens beschikbaar zijn. Men vergeet daarbij niet alleen dat men toegang moet hebben tot de juiste data (liefst ook zoveel mogelijk), maar ook tot de nodige AI-expertise om adequate oplossingen te kunnen uitwerken. Bovendien zijn er nog altijd veel meer problemen die AI niet kan oplossen dan wel. De geschiedenis van AI dreigt zich te herhalen. Sinds zijn ontstaan kende AI verschillende zogenoemde zomers en winters. Zomers waren de hoogdagen van AI, vaak naar aanleiding van grote doorbraken, net als de hoogzomer die we nu kennen door de doorbraken in machinaal leren en deep learning. Tijdens de AI-zomers was het optimisme groot en werden vaak ontwikkelingen beloofd die nadien niet waargemaakt konden wor-den. Zo beloofde Herbert Simon al in 1957 dat een AI-programma binnen tien jaar de wereldkampioen schaken zou verslaan. Het heeft uiteindelijk veertig jaar geduurd. De ontgoocheling die volgde op de niet-ingeloste beloften, gaf dan weer aanleiding tot periodes met veel minder AI-activi-teit en financiering, de zogenoemde AI-winters. Het bedrijf Gartner publiceert elke jaar verschillende ‘hype-cycles’ voor heel wat technologieën (zie ook Frey en Osborne). Een hype-cycle biedt inzicht in de maturiteit van een technologie, die typisch vijf verschillende fasen doorloopt, hier kort geparafraseerd als 1) een innovatie of doorbraak, 2) te hoge verwachtingen, 3) desillusie, 4) inzicht, en 5) productiviteit. De vierde fase is een fase waarin inzicht verworven wordt in de mogelijkheden en beperkingen van de technologie vaak door een aantal trendsetters, wat dan leidt tot een fase waarin de technologie en de verwachtingen matuur genoeg zijn om de technologie productief te kunnen inzetten. Nu al waarschuwen heel wat AI-experten voor een nieuwe AI-winter. Dit is niet verwonderlijk gezien de soms wel zeer optimistische berichtge-ving en framing van sommige bedrijven, media en onderzoekers rond hun nieuwste resultaten in AI. Commerciële belangen prevaleren daarbij vaak op objectieve berichtgeving. AlphaGo is zonder enige twijfel een van de grootste doorbraken in AI van de laatste tien jaar. Maar het is ook interes-sant om te zien hoe dit alles geframed wordt. Zo is er de documentaire rond AlphaGo waarin duidelijk wordt met hoeveel inzet van middelen, reken-kracht en toponderzoekers die doorbraak tot stand gekomen is. En de winst van AlphaGo wordt geframed als de ultieme match, waarbij de mens ver-



liest van de machine. Men lijkt daarbij te vergeten dat het om het bordspel Go gaat en dat Lee Sedol zoveel meer kan dan alleen Go spelen. Bovendien zijn de technieken van AlphaGo gebaseerd op het werk dat Arthur Samuel verrichtte in de jaren vijftig en zestig rond het damspel. Uiteraard zijn die technieken verder ontwikkeld en is er nu veel meer inzicht in machinaal leren. Maar ook in de jaren zestig, toen Samuels damprogramma het haalde van een topspeler in de VS, ging het aandeel van IBM de hoogte in. Ook lijkt er een nieuwe goudkoorts te ontstaan waarbij de nieuwe goudzoekers hun geluk willen uitproberen met AI of door AI toe te passen.

WAT BRENGT AI VOOR DE TOEKOMST?

AI heeft nu al een invloed op heel wat aspecten van ons leven en het heeft een enorme impact op onze samenleving. Andrew Ng ziet AI als de nieuwe elektriciteit en voorspelt dat, net als de opkomst van elektriciteit die onge-veer honderd jaar geleden begon, AI een revolutie teweeg zal brengen in zowat elke belangrijke industrie. AI is dus de sleutel in de zogenoemde vierde Industriële Revolutie. Net als eerdere industriële revoluties zal ze onze samenleving radicaal beïnvloeden en misschien zelfs verstoren. Er is dus enerzijds een enorm potentieel om AI in te zetten voor doelen die de mensheid ten goede komen, waaronder betere productiefaciliteiten en werkomstandigheden, verbeterde gezondheids- en ouderenzorg, effici-enter transport, robottechnologie voor thuis en op het werk, meer toegan-kelijke en gepersonaliseerde onderwijsprogramma’s, verhoogde openbare veiligheid en beveiliging en intelligente gepersonaliseerde assistenten. AI oefent nu al een grote invloed uit op deze domeinen, hoewel er nog een lange weg te gaan is. Anderzijds bestaan er ook bezorgdheden, die heel wat aandacht krijgen in de media. Zo waarschuwden Elon Musk, Stephen Hawking en Bill Gates allemaal voor de mogelijke gevaren van AI in ongewoon sterke bewoor-dingen. Vaak wordt bij die waarschuwingen verwezen naar superintelli-gentie (zie ook Bostrom). Superintelligente systemen zijn veel intelligenter dan de mens op zowat alle domeinen. Het scenario dat dan vaak geschetst wordt, is dat zodra machines zouden bestaan met een vergelijkbare of gro-tere intelligentie dan mensen, deze hun gedrag recursief zouden kunnen verbeteren, wat zou resulteren in superintelligente systemen die de mens zouden overtreffen in zowat alle cognitieve aspecten.


296 luc de raedt

Het is niet duidelijk of superintelligente systemen een zegen dan wel een bedreiging voor de mensheid vormen. Enerzijds zouden ze ons leven beter en makkelijker kunnen maken (door o.a. ziektes de wereld uit te krijgen, en werk over te nemen), anderzijds zouden zouden ze ook hun doelstel-lingen kunnen bereiken via ongewenste en vanuit menselijk opzicht onge-oorloofde middelen. Een voorbeeld dat soms gegeven wordt, is het doel om ongewenste e-mail (de zogenoemde spam) te elimineren. Dat kan natuurlijk gerealiseerd worden door alle e-mail te bannen, wat uiteraard niet de bedoe-ling kan zijn. Het probleem met superintelligentie is dat niemand weet hoe men de controle over zulke superintelligente machines kan behouden. Er bestaat geen consensus over de vraag of superintelligente systemen ooit werkelijkheid zullen worden. Ook over het tijdstip waarop dit zou kunnen gebeuren, is men het niet eens. De antwoorden variëren sterk. Volgens onderzoek van Bostrom denken bevraagde experten dat er een kans van 50% is dat men tegen 2040 machines kan ontwikkelen die even intelligent zijn als mensen, en van 90% tegen 2075. De stap van intelligen-tie op menselijk niveau naar superintelligentie zou dan uiteraard ook nog tijd vergen; 75% van de bevraagden denkt dat dit binnen de dertig jaar later verwezenlijkt kan worden. Wat vaststaat, is dat er in het afgelopen decennium een groeiende aandacht naar deze problematiek gegaan is en dat ze nu door de AI-gemeenschap serieus wordt genomen. Een van de redenen is dat het erg moeilijk in te schatten is of en wanneer superintelli-gentie realiteit zal zijn. In die context verwijst Stuart Russell naar de kern-wetenschappen, waar in 1933 Lord Rutherford in een voordracht kern-energie onmogelijk acht, en een dag erna, Leo Szilard geïnspireerd door een krantenbericht over Rutherfords voordracht, er de wetenschappelijke basis voor legde met zijn inzichten rond kernreacties. Wat op een dag in felle bewoordingen onmogelijk werd geacht, werd de dag erna opeens realiteit. Stuart Russell wil hiermee aantonen dat we maar beter rekening kunnen houden met alle mogelijkheden. Er bestaat veel onderzoek rond de uitdagingen met de toekomst van AI en de stappen die gezet kunnen worden om ervoor te zorgen dat AI-tech-nologie gunstig is voor de maatschappij, alhoewel je ook hier weer belie-vers en non-believers hebt. In ieder geval is superintelligentie niet direct voor morgen, en dus een bekommernis op de lange termijn. Maar op de korte termijn zijn er ook enkele belangrijke bezorgdheden en technologi-sche uitdagingen die voortvloeien uit de manier waarop AI gebruikt wordt en waarop mensen op AI vertrouwen.



Misbruik

AI kan, net als elke andere technologie, misbruikt worden. Er zijn tal van voorbeelden waarin AI of machinaal leren gebruikt werd voor bedenke-lijke toepassingen. Zo gebruikte Cambridge Analytica profielen van Face-book die verkregen werden zonder instemming van de personen in kwes-tie, dus op illegale wijze. Die werden dan gebruikt om politiek campagne te voeren en mensen politiek te beïnvloeden. Het schandaal leidde tot publieke verontwaardiging, droeg bij tot meer regulering rond het gebruik van persoonlijke data (zoals de Algemene Gegevensverordening (AVG), of General Data Protection Regulation (GDPR), zie ook hieronder), en tot een sterke terugval van het aandeel van Facebook. Het volgende voorbeeld is toe te schrijven aan Tom Mitchell. Compu-tervirussen die uitgerust zijn met AI-technologie kunnen veel schade aan-brengen. Stel je voor dat je smartphone besmet raakt met zo’n virus, en dit virus als doel heeft jou zoveel mogelijk schade toe te brengen. Zo’n virus kan dan op slimme manieren combinaties van onder andere je contacten, camera en microfoon gebruiken om jou te analyseren en/of te imiteren. Het is gemakkelijk in te zien dat voor zo’n virus een internetverbinding volstaat om schade toe te brengen. Als men zelfrijdende wagens kan ontwikkelen, dan is het niet moeilijk om met diezelfde technologie personen aan te rijden of schade aan te brengen. Het verklaart meteen ook de interesse van militaire mogendheden in AI, die AI-technologie voor tal van doeleinden inzetten of willen inzetten. Opnieuw is AI als technologie in dit opzicht niet uniek, maar wat wel uniek is, is het potentieel om ‘autonome wapens’ te ontwikkelen. Met de term ‘lethal auto-nomous weapons’ (LAWS), ook wel ‘killer robots’ genoemd, wordt verwe-zen naar wapens die autonoom hun doelen uitkiezen. Zulke wapens worden momenteel in verschillende landen ontwikkeld, het gaat onder andere om tanks, drones en onderzeeboten. Autonome wapens zijn bijzonder contro-versieel. Er bestaan verschillende open brieven en oproepen, vaak op initia-tief van AI-onderzoekers en humanitaire organisaties, om dit soort wapens uit de wereld te bannen. Een mogelijk verdrag rond een ban en de modali-teiten ervan worden druk besproken in commissies van de Verenigde Naties. Voorstanders van autonome wapens stellen dat ze veel effectiever en gerich-ter opereren dan mensen, en dat er daardoor minder slachtoffers zouden vallen. Tegenstanders stellen dat beslissingen over leven en dood niet door machines gemaakt mogen worden, aangezien dit strijdig is met de mense-lijke waardigheid. Autonome wapens zouden ook de drempel verlagen om oorlog te voeren (aangezien er minder risico zou zijn voor burgerslachtof-fers), een nieuwe wapenwedloop teweeg kunnen brengen en catastrofale gevolgen kunnen hebben als ze in handen van terroristen vallen.


298 luc de raedt

Automatisatie en jobs

Automatisatie en AI worden op grote schaal gebruikt om werk en werk-omstandigheden te vereenvoudigen en te optimaliseren. Dit leidt tot het verlies van jobs die makkelijk te automatiseren zijn. De voorspellingen variëren, maar een studie uit 2015 van Osborne en Frey schat dat zowat 35% van de jobs binnen twintig jaar geautomatiseerd kan worden. De trend is al duidelijk wanneer men heel wat lokale bankkantoren ziet verdwijnen omdat klanten hun bankverrichtingen online doen. Als je bedenkt dat er alleen al in de VS 4 miljoen taxi- en vrachtwagenchauffeurs zijn, dan is het duidelijk dat de invoering van zelfrijdende voertuigen een grote impact zal hebben op de tewerkstelling in die sector. Maar automatisatie leidt ook tot nieuwe jobs en tot nieuwe invullingen van jobs. Het lijkt evident dat er meer nood zal zijn aan IT-specialisten. Maar ook met dit soort voorspellingen moet men voorzichtig omgaan. In een opiniestuk met de titel ‘Will AI replace radiologists?’ waarschuwt Langlotz voor het extreme optimisme over AI naar aanleiding van de stelling van een aantal radiologen en toponderzoekers in AI, die stelden dat de vooruitgang in beeldherkenning op vrij korte termijn radiologen zal verdringen. Langlotz argumenteert dat er heel wat hinderpalen zijn bij de toepassing van AI in radiologie, zoals het gebrek aan data en de strenge regulering rond medische data en toepassingen. Bovendien omvat radiologie heel wat meer dan het herkennen van patronen in beelden, het gaat om de interpretatie van die patronen binnen de specifieke context en voorgeschiedenis van die patient. Verder stelt Langlotz dat er een toename te verwachten valt van het gebruik van radiologie als dat goedkoper en betrouwbaarder wordt. Stellen dat AI de radiologen zal verdringen, is dus niet alleen foutief, maar ook contraproductief. Het extreme optimisme heeft namelijk een directe invloed op het aantal studenten dat voor dit beroep kiest, en dat kan dan weer leiden tot een knelpuntberoep. Een ander effect van het automatiseren van industriële processen op grote schaal is dat er een toenemende ongelijkheid is tussen de inkomsten uit arbeid en uit kapitaal, en tussen de inkomsten van hoog- en van laagge-schoolden. Dit staven Brynjolfsson en McAfee aan de hand van veel cijfer-materiaal en grafieken over de afgelopen vijftig jaar. Er zijn ook veel paral-lellen met eerdere industriële revoluties. Volgens Brynjolfsson en McAfee toont dit aan dat economische en technologische groei en vooruitgang niet automatisch iedereen ten goede komt en dat daarom een maatschappelijk en politiek debat noodzakelijk is. Ze pleiten dan ook voor een basisinkomen.



Technische uitdagingen

Naast uitdagingen die meer met het gebruik en de impact van AI te maken hebben, zijn er ook tal van technische uitdagingen rond AI en machinaal leren.

De juiste dataAI en machinaal leren maken gebruik van data om modellen te leren of te verfijnen. Nu kan het verkrijgen van toegang tot en het selecteren van de juiste gegevens erg moeilijk zijn. Technologieën zoals deep learning heb-ben grote hoeveelheden data nodig, en bij gesuperviseerd leren moeten die gegevens ook nog van een label voorzien zijn. Het labelen van datapunten kan tijdsintensief zijn (als het handmatig gebeurt), de data kunnen priva-cygevoelig zijn waardoor de verwerking de gangbare ethische normen en regelgeving moet respecteren (zie ook AVG hieronder), voor bepaalde toe-passingen zijn de relevante kenmerken ook niet beschikbaar in de data, … Verder kunnen datasets vertekend zijn (men noemt dit ‘bias’). Zo geeft Kate Crawford voorbeelden van zoekopdrachten naar beelden van CEO’s in Google, die quasi alleen maar beelden van blanke mannen opleverden, en van beelden van personen met Afrikaanse roots die als gorilla’s geclas-sificeerd werden door software. Dit is uiteraard onaanvaardbaar. De reden voor deze fouten is dat de data die gebruikt werden in het leerproces een sterke bias vertoont, omdat ze nauwelijks vrouwelijke CEO’s of personen met Afrikaanse roots bevatte. Er zijn ook controversiële AI-toepassingen waarbij mensen met een andere huidskleur oneerlijk behandeld worden bij een beslissing over hun lening, of hun vrijstelling op borg. Er bestaat dan ook heel wat onderzoek rond het vermijden van bias.

Het verklaren van beslissingen Deep learning levert black-box-modellen op, dat zijn modellen die niet te interpreteren zijn en geen verklaring kunnen geven voor de beslissing of classificatie die ze voorstellen. Bovendien blijkt dat geleerde modellen erg grillig kunnen zijn. Zo zijn er analyses bij beeldherkenning waaruit blijkt dat het wijzigen van een pixel in een beeld kan volstaan om een andere classificatie te bekomen (bijv. hond in plaats van vliegtuig). Dit kan dui-delijk leiden tot problemen. Stel je voor dat er een sticker op een verkeers-bord wordt geplakt waardoor de interpretatie van het verkeersbord door de zelfrijdende auto verandert. Het is ook moeilijk om in te schatten welke kenmerken bijdragen tot een voorspelling, en om de voorspellingen van black-box-modellen te vertrouwen. Bovendien voorziet de wet (bij wijze van de AVG) dat men recht heeft op een verklaring wanneer een com-putersysteem een beslissing neemt dat een significant effect heeft op een


300 luc de raedt

persoon, zoals een financiële of wettelijke beslissing. Er is dan ook heel wat onderzoek rond ‘explainability’ in AI. Dat onderzoek focust vooral op neurale netwerken, omdat probabilistische of logische modellen veel beter te interpreteren zijn.

Garanties voor AI- en ML-systemenBij de ontwikkeling van klassieke software gaat er veel aandacht naar veri-ficatie en validatie met de bedoeling om garanties over die software te bieden. Door verificatie en validatie van software wil men nagaan of de software aan de gestelde specificaties (verificatie) en aan de verwachtingen van de gebruiker voldoet (validatie). Wanneer het echter gaat om AAI-software, dan kan die software zichzelf aanpassen door rekening te houden met zijn omgeving en zijn observaties als het een leercomponent heeft. Dat bemoeilijkt natuurlijk het bieden van sterke garanties. Het verklaart waarom zelfrijdende auto’s nog steeds fouten maken en ongevallen veroor-zaken. De ingebouwde leertechnieken kunnen nooit 100% nauwkeurig-heid bieden. Ook dit is een actief thema van onderzoek.

Integratie van leren en redenerenTerwijl bij de begindagen van AI het accent vooral op de automatisatie van redeneren lag, ligt het nu vooral op leren. Er is een toenemend besef binnen de AI-wereld dat beide noodzakelijk zijn, meer nog, dat ze geïnte-greerd moeten worden. Bij automatisch redeneren wordt vaak gebruikge-maakt van probabilistische of logische modellen. Zulke modellen kunnen bijvoorbeeld gebruikt worden om (elementen van) het verkeersreglement of medische richtlijnen voor te stellen. De nood aan zowel redeneren als leren kan opnieuw geïllustreerd worden met zelfrijdende auto’s. Deep lear-ning is nodig om beelden te analyseren en te kunnen inschatten welke tegenliggers, voetgangers en verkeersborden er zijn en waar die zich bevin-den. Maar met deep learning op basis van beelden alleen zal men niet in staat zijn om met de verkeersregels rekening te houden. Dat vergt andere technieken, technieken voor het redeneren. Het verschil is duidelijk in sommige recente wagens die een AI-component bevatten om de toege-laten snelheid aan te geven. Ze doen dit door snelheidsborden te herken-nen, en ze kunnen die borden herkennen met hoge nauwkeurigheid. Maar ze maken nog veel fouten als ze niet redeneren over de context waarin de wagen zich bevindt. Een snelheidslimiet van 50 km/u die aangegeven wordt op een bord op een afrit, heeft geen effect op de toegelaten snelheid op de snelweg zelf.



Het aligneren van de nutsfunctie Het voorbeeld met de snelheidslimiet kan ook gebruikt worden om een ander technisch probleem te illustreren, dat van het aligneren van de nutsfunctie (‘value alignment’). De nutsfunctie die door het leersysteem gebruikt werd, houdt alleen (of vooral) rekening met de nauwkeurigheid waarmee de verkeersborden herkend worden, terwijl dit natuurlijk alleen maar een benadering is van wat er echt gewenst is, namelijk de maximaal toegelaten snelheid voor de auto aanduiden. Ook het probleem met het elimineren van alle ongewenste e-mail, dat eerder vermeld werd, is een illustratie waarbij opnieuw de foute nutsfunctie geoptimaliseerd wordt. Het probleem is om de nutsfunctie van het AI-systeem te aligneren met de nutsfunctie van de menselijke gebruiker. Zeker wanneer AI-systemen zelf ook nutsfuncties leren, bestaat er gevaar voor een discrepantie tus-sen beide. Het alignatieprobleem staat vrij centraal in de huidige discussie rond AI, omdat elk AI-systeem uitgerust is met zo een nutsfunctie. Dat betekent ook dat die nutsfunctie formeel gedefinieerd moet worden door de ontwikkelaars van het systeem en dat die nutsfunctie het gedrag van het AI-systeem bepaalt. Foute keuzes kunnen onverwachte en ongewenste neveneffecten veroorzaken. Dat is te vergelijken met de invoering van nieuwe medicijnen. Daar blijken zelfs goedgekeurde medicijnen, die dus aan hoge kwaliteitseisen rond veiligheid en werkzaamheid voldoen, toch nog soms ongewenste neveneffecten te vertonen. Er gaan dan ook stem-men op om aan autonome AI-systemen, afhankelijk van de context waarin ze opereren, ook strenge kwaliteitseisen te stellen.

Betrouwbare AI De ethische, legale en technische uitdagingen rond AI zijn de afgelopen jaren onderwerp geweest van heel wat debatten, zowel in de AI-wereld zelf, als daarbuiten. Verschillende initiatieven werden genomen om richtlijnen rond AI te ontwikkelen. Zo werd in Asilomar, niet toevallig de plaats waar onderzoekers afspraken maakten rond de regulering van gentechnologie en genetische manipulatie in 1975, een conferentie georganiseerd in 2017 waar 23 principes voor AI werden voorgesteld. Het eerste artikel stelt dat het doel van AI-onderzoek de ontwikkeling van ‘beneficial’ AI zou moeten zijn, dus AI die positief is voor mens en maatschappij. De Europese Unie heeft een groep van een vijftigtal experts samengeroe-pen met de bedoeling om aanbevelingen rond betrouwbare AI te ontwikke-len. Ze wil daarmee internationaal ook het voortouw nemen in de ethische discussie rond AI. In het rapport van die groep van experts worden zeven voorwaarden gesteld aan AI, die kort samengevat kunnen worden als:


302 luc de raedt

1. AI-systemen moeten mensen ondersteunen in hun beslissingsproces, maar de menselijk autonomie en controle over de AI-systemen moet bewaard blijven.

2. AI-systemen moeten technisch robuust zijn, dat wil zeggen dat ze cor-rect moeten functioneren, veilig moeten zijn in gebruik en schadelijke effecten moeten vermijden.

3. AI-systemen moeten gegevens op adequate manier bijhouden en ver-werken, en daarbij de privacy respecteren.

4. Het gebruik van een AI-systeem moeten transparent zijn, dat wil zeg-gen dat het duidelijk moet zijn wanneer AI gebruikt wordt, en dat de acties en beslissingen van AI-systemen verklaarbaar en traceerbaar moeten zijn.

5. AI-systemen moeten inclusief zijn en mogen niet discrimineren, of (historische) vooroordelen vertonen, wat inhoudt dat AI-systemen rekening moeten houden met alle types van gebruikers.

6. AI moet bijdragen tot maatschappelijk en ecologisch welzijn.7. De verantwoordelijkheden bij het gebruik van AI-systemen moeten

vastliggen. Is het de gebruiker die verantwoordelijk is, de producent van het AI-systeem, of de AI-ontwikkelaar?

Het derde punt is ook het thema van de Algemene Verordening Gegevens-bescherming die sinds 2018 in Europa van kracht is, en die het gebruik en de verwerking van persoonsgegevens standaardiseert en reguleert.

CONCLUSIE

De krant De Morgen stelt dat 2010-2020 het decennium van de AI was. Er is dan ook een enorme vooruitgang geboekt, vooral in het domein van het machinaal leren. Alhoewel er veel hype bestaat rond AI, is het duidelijk dat de recente doorbraken tal van nieuwe opportuniteiten creëren. Het is belangrijk om op een verantwoorde manier om te gaan met die opportu-niteiten en in te zetten op betrouwbare AI, waarin de mens centraal blijft staan. In ieder geval oefent AI nu al een belangrijke invloed uit op onze samenleving en zal het belang ervan nog groeien.



NOOT

De auteur wil Stuart Russell bedanken voor zijn vele bijdragen aan het AI-debat die de auteur sterk beïnvloed hebben, en wil ook zijn team bedanken voor de vele feedback.

LITERATUUR

Bostrom, N. Superintelligence: Paths, Dangers, Strategies, Oxford University Press, 2014.Brynjolfsson, E en McAfee, A. The Second Machine Age: Work, Progress, and Prosperity

in a Time of Brilliant Technologies, W. W. Norton & Company, 2016.Domingos, P. The Master Algorithm. How the quest for the ultimate learning machine

will remake our world, Basic Books, 2015.Fenn, J. en Blosch, M., Understanding Gartner Hype Cycles, Gartner Research, 2018

(beschikbaar via https://www.gartner.com/en/documents/3887767)Frey, C.B. en Osborne, M. The Future of Employment: How Susceptible Are Jobs to Com-

puterization, Oxford Martin Programme on Technology and Employment, 2013.Kahneman, D. Thinking, Fast and Slow, Farrar, Straus and Giroux, 2013. Langlotz, C.P. Will Artificial Intelligence replace Radiologists, Radiology: Artificial

Intelligence, 1:3, 2019McCarthy, J., Minsky, M., Rochester, N. en Shannon, C.E., A Proposal for the Summer

Research Project on Artificial Intelligence, 1956 (beschikbaar via http://raysolomo-noff.com/dartmouth/boxa/dart564props.pdf)

Russell, S. en Norvig, P. Artificial Intelligence: a Modern Approach, 3de editie, Prentice Hall,2009 (Een nieuwe editie wordt verwacht in 2020. Dit is het meest gebruikte en volledige handboek in AI.)

Russell, S. Human Compatible. AI and the problem of human control, Penguin Random House, 2019. (Uitstekend overzicht van het huidige AI debat in al zijn facetten).

Silver, D. et al. Mastering the Game of Go with Deep Neural Networks and Tree Search, Nature, 529:484-489, 2016.

Algemene Verordening Gegevensbescherming, zie https://www.gegevensbescher-mingsautoriteit.be/de-algemene-verordening-gegevensbescherming-avg#overlay-context=gegevensbeschermingsautoriteit

Asilomar AI Principles, zie https://futureoflife.org/ai-principles/Campaign to Stop Killer Robots (Lethal Autonomous Weapons), zie https://www.stop-

killerrobots.org/Requirements for Trustworthy AI door de High Level Expert Group van de EU, zie https://

ec.europa.eu/futurium/en/ai-alliance-consultation/guidelines/1#Human%20agency


Overdruk uit ÒWetenschap in een veranderende wereldÓ Ð ...luc.deraedt/AI.pdf · haast...

Documents

Transcript of Overdruk uit ÒWetenschap in een veranderende wereldÓ Ð ...luc.deraedt/AI.pdf · haast...