Wij krijgt controle overonze Big Data? Matthijs Pontier, Ph.D.

Vrij delen van informatie, kunst en cultuur

Evidence-based policy met een lange-termijn visie

Zelfbeschikking stimuleren zonder dat dit ten koste gaat van rechten

Vertrouwen in goedheid mensen vs Wantrouwen machtsstructuren

Enthousiast over mogelijkhede tech, maar alert op risico’s

Tech to empower people; niet om te onderdrukken

Basis principes PPNL

Matthijs Pontier, Ph.D, 24-11-2017, Inholland Diemen, Wie krijgt controle over onze Big Data?

Monopolization

Matthijs Pontier, Ph.D, 24-11-2017, Inholland Diemen, Wie krijgt controle over onze Big Data?

Hoe groter het bedrijf

Hoe groter het machtscentrum

Hoe groter de kans dat een bedrijf deze macht op een verkeerde manier gaat gebruiken

Matthijs Pontier, Ph.D, 24-11-2017, Inholland Diemen, Wie krijgt controle over onze Big Data?

Corporate surveillance: ‘Smart TV’

Matthijs Pontier, Ph.D, 24-11-2017, Inholland Diemen, Wie krijgt controle over onze Big Data?

Smart TV hackers filmen mensendie seks hebben op hun banken plaatsen het op porno sites!

Matthijs Pontier, Ph.D, 24-11-2017, Inholland Diemen, Wie krijgt controle over onze Big Data?

Matthijs Pontier, Ph.D, 24-11-2017, Inholland Diemen, Wie krijgt controle over onze Big Data?

Wie wordt de baas in jouw ‘slimme’ huis?

Hackers? Virussen? Terroristen?

Bedrijven die eigenlijk je apparaat bezitten in praktijk?

De AI die vertelt wat je moet doen?

Of krijgen ze een eigen wil?

Matthijs Pontier, Ph.D, 24-11-2017, Inholland Diemen, Wie krijgt controle over onze Big Data?

Verkapte privatisering publieke diensten?

Wie beheert AI in ‘slimme’ stad?

Wie beheert de data die we samen produceren?

Wie profiteert van de voordelen?

Wie kampt met de nadelen?

Matthijs Pontier, Ph.D, 24-11-2017, Inholland Diemen, Wie krijgt controle over onze Big Data?

Matthijs Pontier, Ph.D, 24-11-2017, Inholland Diemen, Wie krijgt controle over onze Big Data?

Responsible Digital CitiesBewoners bepalen wat er met hun data gebeurt: Privacy = Ownership

Bewoners bepalen hoe digitale stad zich ontwikkelt Democratie

Verzamelde data is gemeenschapsgoed: Commons

Openheid over dataverzameling en verwerking Transparantie

Iedereen kan meedoen: Inclusie

Menselijke maat staat centraal in alles wat we doen Empathie

Matthijs Pontier, Ph.D, 24-11-2017, Inholland Diemen, Wie krijgt controle over onze Big Data?

Matthijs Pontier, Ph.D, 24-11-2017, Inholland Diemen, Wie krijgt controle over onze Big Data?

Privacy inperken voor veiligheid?

1. Niet effectief

2. Leidt tot ongezonde machtsverhouding

3. Privacy juist voorwaarde voor veiligheid

4. Er bestaan prima alternatieven

Niets te verbergen?

Iedereen heeft wel wat te verbergen

Functie in sociale relaties

Als je niks te verbergen hebt, mogen anderen dan ook niks te verbergen hebben?

Snowden: “Ik vind privacy niet belangrijk, want ik heb toch niets te verbergen”

“Ik vind vrijheid meningsuiting niet belangrijk,

want ik heb toch niets te melden”Matthijs Pontier, Ph.D, 24-11-2017, Inholland Diemen, Wie krijgt controle over onze Big Data?

Scheve Machtsverhouding Burger - Overheid

Reisgedrag en function creep

Bespieden telefoon- en computergebruik

Internet of Things

Matthijs Pontier, Ph.D, 24-11-2017, Inholland Diemen, Wie krijgt controle over onze Big Data?

Overheid niet altijd betrouwbaar

Overheid laat gegevens slingeren

WRR: Overheid onbetrouwbaar met gegevens. Informatie wordt gemanipuleerd.

Ook overheid kan misdadig gedrag vertonen:

Profiling

Big Data algoritmes krijgen dezelfde bias als hun makers en/of trainingsdata

Dit versterkt discriminatie van gestigmatiseerde groepen

(en sommigen zullen het zelfs gebruiken ter rechtvaardiging)

Matthijs Pontier, Ph.D, 24-11-2017, Wie krijgt controle over onze Big Data?

Als technologie voor je denkt

Vertellen programmeurs dan wat je moet denken?

Matthijs Pontier, Ph.D, 24-11-2017, Inholland Diemen

Wie krijgt controle over onze Big Data?

Matthijs Pontier, Ph.D, 24-11-2017, Inholland Diemen, Wie krijgt controle over onze Big Data?

Big Data algoritmes krijgen dezelfde bias als hun makers en/of hun trainingsdata

Matthijs Pontier, Ph.D, Wie krijgt controle over onze Big Data?

Slachtoffers van Profiling

Slachtoffers van Profiling

Dat ze mijn afvalhoeveelheden controleren is bizar!

Mijn dochter en ik proberen onze ecologische voetafdruk zo klein mogelijk te houden.

Als dit geen inbreuk is op de privacy, dan weet ik het niet meer..

Slachtoffers van Profiling

Slachtoffers van Profiling

Massa surveillance: voor 1 doel, worden tienduizenden bespied

Info delen met dubieuze regimes

Lekken laten zitten om ons te kunnen hacken

Matthijs Pontier, Ph.D, 24-11-2017, Inholland Diemen, Wie krijgt controle over onze Big Data?

Matthijs Pontier, Ph.D, 24-11-2017, Inholland Diemen, Wie krijgt controle over onze Big Data?

Gebruik alternatieven voor Big Tech (Google, Facebook, Microsoft, Amazon)

Enrypt e-mail Protonmail

Encrypt phone Signal

Encrypt messaging Signal

Iets van het Internet afhalen bestaat niet.

Betaal zoveel mogelijk contant

Weiger slimme meter; Wees kritisch over ‘smart’

Toolbox.BoF.nl

Gebruik Tor, VPN, DoNotTrack, uBlock, AdNauseam

Laat je niet meeslepen in het Big Data net

Matthijs Pontier, Ph.D, 24-11-2017, Inholland Diemen, Wie krijgt controle over onze Big Data?

Tech in de commonsDemocratiseer de ontwikkeling van technologie

Kosten, risico’s en opbrengsten worden eerlijk gedeeld

Ontwikkel technologie op zo’n manier dat het welzijn bevordert

Matthijs Pontier, Ph.D, Wie krijgt controle over onze Big Data?

Stop corporate surveillance

Zet goede standaard voor Privacy by Design / Data-ownership

Meer vrijheid voor kleine startups en cooperaties

en reguleer Big Business

Matthijs Pontier, Ph.D, 24-11-2017, Inholland Diemen, Wie krijgt controle over onze Big Data?

Wordt AI een nieuwe supermacht?

Matthijs Pontier, Ph.D, 24-11-2017, Inholland Diemen, Wie krijgt controle over onze Big Data?

Matthijs Pontier, Ph.D, 24-11-2017, Inholland Diemen, Wie krijgt controle over onze Big Data?

Matthijs Pontier, Ph.D, 24-11-2017, Inholland Diemen, Wie krijgt controle over onze Big Data?

Why we should have mandatory Machine Ethics

Matthijs Pontier, Ph.D, 24-11-2017, Inholland Diemen, Wie krijgt controle over onze Big Data?

Matthijs Pontier, Ph.D, 24-11-2017, Inholland Diemen, Wie krijgt controle over onze Big Data?

Paperclip machine

5G + IoT + AI = Superrobot

“With the Internet of Things, we’re building a world-size robot. How are we going to control it?”

Click here to kill everyoneby Bruce Schneier

Matthijs Pontier, Ph.D, 24-11-2017, Inholland Diemen, Wie krijgt controle over onze Big Data?

Matthijs Pontier, Ph.D, 24-11-2017, Inholland Diemen, Wie krijgt controle over onze Big Data?

Matthijs Pontier, Ph.D, 24-11-2017, Inholland Diemen, Wie krijgt controle over onze Big Data?

Machine EthicsMachines worden steeds autonomer

Machines interacteren steeds meer met mensen

We moeten ervoor zorgen dat machines ons, en onze autonomie niet bedreigen

49Matthijs Pontier, Ph.D, 24-11-2017, Inholland Diemen, Wie krijgt controle over onze Big Data?

Moral reasoning systemWe hebben een moral reasoning system ontwikkelddat balanceert tussen verschillende morele doelen

Beslissingen kwamen overeen met medisch-ethische experts

50Matthijs Pontier, Ph.D, 24-11-2017, Inholland Diemen, Wie krijgt controle over onze Big Data?

Autonomy

51

Resultaten:

Kon juridische beslissingen simuleren over:

- Bemoeizorg

- Gedwongen opname na zelfbindingsverklaring

Matthijs Pontier, Ph.D, 24-11-2017, Inholland Diemen, Wie krijgt controle over onze Big Data?

Cars that make ethical decisions

Matthijs Pontier, Ph.D, 24-11-2017, Inholland Diemen, Wie krijgt controle over onze Big Data?

Why every AIshould have Machine Ethics

Machine Ethics = AI-Safety

Make sure the intelligence explosion benefits us

Matthijs Pontier, Ph.D, Inholland Diemen, Wie krijgt controle over onze Big Data?

Waarom elke AIopen-source zou moeten zijn

Algorithmes en robots zullen onze levens steeds meer beinvloeden

Wie controleert de programmeurs?

Goede ideeen zijn gemaakt om gekopieerd te worden

Extra waarde creerenzonder kosten

Matthijs Pontier, Ph.D, 24-11-2017, Inholland Diemen, Wie krijgt controle over onze Big Data?

e-Democracy• Laagdrempelig participeren in een democratisch proces

• Stemmen op ideeen; niet op partijen of personen

• Power of Ideas replace the idea of power

Matthijs Pontier, Ph.D, 24-11-2017, Inholland Diemen, Wie krijgt controle over onze Big Data?

citizens.is

Better Alamance

Matthijs Pontier, Ph.D, 24-11-2017, Inholland Diemen, Wie krijgt controle over onze Big Data?

• Everybody can add ideas

• Everybody can add arguments

• Best ideas and arguments automatically come up

How does it work?

Matthijs Pontier, Ph.D, 24-11-2017, Inholland Diemen, Wie krijgt controle over onze Big Data?

• Niet eens in de paar jaar stemmen, maar altijd stem kunnen aanpassen

• Vertegenwoordiging kan verschillen per onderwerp

• Vertegenwoordiging is altijd vrijwillig

• Maakt vertegenwoordiging persoonlijk; impliceert vertrouwen

Representation in an e-Democracy

<slide e-democracy>

Matthijs Pontier, Ph.D, 24-11-2017, Inholland Diemen, Wie krijgt controle over onze Big Data?

Could there be a symbiosis between AI and e-democracy?

Matthijs Pontier, Ph.D, 24-11-2017, Inholland Diemen, Wie krijgt controle over onze Big Data?

Book: Machine Medical Ethics

62

• How to develop robots with human-like ethics?

• Need for Open Source

• How to use healthcare tech in a way that improves well-being

• Changed doctor-patient relation

• Deep Brain Stimulation

• Sex-robots

• Etc.

Matthijs Pontier, Ph.D, 24-11-2017, Inholland Diemen, Wie krijgt controle over onze Big Data?

Thanks!

• @Matthijs85

• Matthijs Pontier

• matthijs@piratenpartij.nl

• http://www.piratenpartij.nl/

• @Piratenpartij

• @PP_Amsterdam

• Schrijf mee aan ons programma:deagendavanamsterdam.nl

• Actief worden?

• vrijwilligers@piratenpartij.nl

• amsterdam@piratenpartij.nl9 december 2017 ALV over o.a kieslijst en programma vaststellen

More reading and watching

Intelligent cars could boost highway capacity by 273%

Autonomous Car Platoons

How to hack a car

Zelfrijdende auto's moeten leren wie ze dood willen rijden

Vrij van controledrift, bureaucratie en armoede met een basisinkomen

Boek: Machine Medical Ethics

Zorgrobots, maar geen botte zorg

Crowdsource EU: People's Constitution

De toekomst van democratie volgens Matthijs Pontier van de Piratenpartij

Matthijs Pontier, Ph.D, 24-11-2017, Inholland Diemen, Wie krijgt controle over onze Big Data?