Nederland Ontsloten! OSGeo.nl Dag 2014

83
Nederland Ontsloten! Just van den Broecke OSGeo.nl Dag - Den Bosch - 25 nov 2014 [email protected]

Transcript of Nederland Ontsloten! OSGeo.nl Dag 2014

Page 1: Nederland Ontsloten! OSGeo.nl Dag 2014

Nederland Ontsloten!

Just van den Broecke OSGeo.nl Dag - Den Bosch - 25 nov 2014

[email protected]

Page 2: Nederland Ontsloten! OSGeo.nl Dag 2014

DRIE PETTEN

Onafhankelijk Open Geo-ICT Professional

justobjects.nl

Lid van de OpenGeoGroep (NL) www.opengeogroep.nl

Secretaris OSGeo.nl

1.  Intro

Page 3: Nederland Ontsloten! OSGeo.nl Dag 2014

Nederland Ontsloten ?

Page 4: Nederland Ontsloten! OSGeo.nl Dag 2014

Van Bron Naar Toepassing

met Open Geo Data

Page 5: Nederland Ontsloten! OSGeo.nl Dag 2014

Nuttige Dingen Doen Met Open Geo Data

Page 6: Nederland Ontsloten! OSGeo.nl Dag 2014
Page 7: Nederland Ontsloten! OSGeo.nl Dag 2014

1/1/2012 Basisregistraties

Worden Open Data!

Page 8: Nederland Ontsloten! OSGeo.nl Dag 2014

We kunnen Downloaden bij

PDOK!!

Page 9: Nederland Ontsloten! OSGeo.nl Dag 2014

Bijvoorbeeld Top10 NL en BAG

Binnenhalen....

Page 10: Nederland Ontsloten! OSGeo.nl Dag 2014

Maar Wat Dan?

Page 11: Nederland Ontsloten! OSGeo.nl Dag 2014

Bakken met XML/GML......

Page 12: Nederland Ontsloten! OSGeo.nl Dag 2014

?GML

XML

Hoe maken we daar een kaart mee?

Page 13: Nederland Ontsloten! OSGeo.nl Dag 2014

?

Of bijv een adres-zoeker?

GML

XML

Page 14: Nederland Ontsloten! OSGeo.nl Dag 2014

?

Eerst inlezen in PostGIS....

GML

XML

Page 15: Nederland Ontsloten! OSGeo.nl Dag 2014

GML

XML

NLExtract

Met NLExtract Dus!!

Page 16: Nederland Ontsloten! OSGeo.nl Dag 2014

Wat is NLExtract ?

Page 17: Nederland Ontsloten! OSGeo.nl Dag 2014

Tools  om  vrije  Nederlandse  

overheids-geodata  te  converteren  en  te  visualiseren

Open  Source

Page 18: Nederland Ontsloten! OSGeo.nl Dag 2014

NLExtract - Welke Datasets ?

BAG  -  Basis  Registratie  Adressen  en  Gebouwen

BRT/Top10NL  -  Topografische  Kaart

BGT  -  Grootschalige  Topografie

AHN - Hoogtebestand

Bonnebladen  (historische  kaarten)

Top10NL3D !!!

Page 19: Nederland Ontsloten! OSGeo.nl Dag 2014

NLExtract Praktijk

Voorbeelden

Page 20: Nederland Ontsloten! OSGeo.nl Dag 2014
Page 21: Nederland Ontsloten! OSGeo.nl Dag 2014
Page 22: Nederland Ontsloten! OSGeo.nl Dag 2014

NLExtract: BAG + Top10NL

+WMS/Tiling + App

Page 23: Nederland Ontsloten! OSGeo.nl Dag 2014

BAG in CitySDK

Page 24: Nederland Ontsloten! OSGeo.nl Dag 2014

BGT in QGIS

Page 25: Nederland Ontsloten! OSGeo.nl Dag 2014

Georefereren + aansluiten Bonnebladen

Page 26: Nederland Ontsloten! OSGeo.nl Dag 2014

NLExtract Technologie

ogr2ogrwww.gdal.org Python

QGIS

Stetl

Page 27: Nederland Ontsloten! OSGeo.nl Dag 2014

Meer weten, meedoen en/of

sponsoren ?

Page 28: Nederland Ontsloten! OSGeo.nl Dag 2014

www.nlextract.nl

Page 29: Nederland Ontsloten! OSGeo.nl Dag 2014
Page 30: Nederland Ontsloten! OSGeo.nl Dag 2014

NLExtract Plannen

Downloads!Services!

Apps!3D!!

Page 31: Nederland Ontsloten! OSGeo.nl Dag 2014

http://data.nlextract.nl

Downloads

Page 32: Nederland Ontsloten! OSGeo.nl Dag 2014

NLExtract Plannen

Downloads Services!

Apps!3D!

Page 33: Nederland Ontsloten! OSGeo.nl Dag 2014

OpenTopo Tiles (TMS/WMTS) in Leaflet App

http://app.nlextract.nl

Page 34: Nederland Ontsloten! OSGeo.nl Dag 2014

NLExtract Plannen

Downloads Services

Apps

3D!!

Page 35: Nederland Ontsloten! OSGeo.nl Dag 2014
Page 36: Nederland Ontsloten! OSGeo.nl Dag 2014
Page 37: Nederland Ontsloten! OSGeo.nl Dag 2014

What the…FGDB?!

Page 38: Nederland Ontsloten! OSGeo.nl Dag 2014
Page 39: Nederland Ontsloten! OSGeo.nl Dag 2014

FGDB naar GeoJSON en GML met ogr2ogr

Page 40: Nederland Ontsloten! OSGeo.nl Dag 2014

Visualiseren met CesiumJS

Page 41: Nederland Ontsloten! OSGeo.nl Dag 2014

Cesium is Cool!

Page 42: Nederland Ontsloten! OSGeo.nl Dag 2014

Cesium is Cool (hier letterlijk) !

Page 43: Nederland Ontsloten! OSGeo.nl Dag 2014

CesiumJS - SantaTracker

Page 44: Nederland Ontsloten! OSGeo.nl Dag 2014

OpenTopo in CesiumJS

Page 45: Nederland Ontsloten! OSGeo.nl Dag 2014

Zon in de Zee zien zakken in …

Page 46: Nederland Ontsloten! OSGeo.nl Dag 2014

Top103D Gebouwen

Page 47: Nederland Ontsloten! OSGeo.nl Dag 2014

Cesium - OpenLayers3 Integratie

Page 48: Nederland Ontsloten! OSGeo.nl Dag 2014

Doorbraak 3D? Er kan nog veel meer met

3D Open Source en NL Open Geo-Data

Vector3D Tiles?

AHN2 Terrain Server?

Page 49: Nederland Ontsloten! OSGeo.nl Dag 2014

Samengevat

• Ruwe data verwerking met NLExtract (en Stetl)

• Opslaan in PostGIS (vector) en GeoTIFF (raster)

• Serveren met GeoServer/MapServer/Tiling etc

• Visualiseren: QGIS, Leaflet, OpenLayers, CesiumJS etc

• 3D mogelijkheden te over!

Page 50: Nederland Ontsloten! OSGeo.nl Dag 2014

Dank U

Page 51: Nederland Ontsloten! OSGeo.nl Dag 2014

Stetl Indien tijd over ;-)

Page 52: Nederland Ontsloten! OSGeo.nl Dag 2014

Programma per Dataset?

Page 53: Nederland Ontsloten! OSGeo.nl Dag 2014

Inlezen

Omzetten

Wegschrijven

Page 54: Nederland Ontsloten! OSGeo.nl Dag 2014

Extract

Transform

Load

Page 55: Nederland Ontsloten! OSGeo.nl Dag 2014

ETL

Page 56: Nederland Ontsloten! OSGeo.nl Dag 2014

FOSS ETL - High Level

Page 57: Nederland Ontsloten! OSGeo.nl Dag 2014

FOSS ETL - Lower Level

Individueel krachtig maar kan vaak slechts deel van ETL uitvoeren

ogr2ogr

Page 58: Nederland Ontsloten! OSGeo.nl Dag 2014

FOSS ETL - Hoe Combineren?

=+ + ?ogr2ogr

Page 59: Nederland Ontsloten! OSGeo.nl Dag 2014

FOSS ETL - Add Python to Equation

=+ + ?( )ogr2ogr

Page 60: Nederland Ontsloten! OSGeo.nl Dag 2014

=+ +

Stetl

( )ogr2ogr

Page 61: Nederland Ontsloten! OSGeo.nl Dag 2014

Stetl =

Simple Streaming

Spatial Speedy

ETL

Page 62: Nederland Ontsloten! OSGeo.nl Dag 2014

http://www.stetl.org

Page 63: Nederland Ontsloten! OSGeo.nl Dag 2014

Stetl Concepten

Page 64: Nederland Ontsloten! OSGeo.nl Dag 2014

Processing Keten

Input Filter OutputFilter

Stetl concepten

Bron Doel

Page 65: Nederland Ontsloten! OSGeo.nl Dag 2014

Input Filter Outputgml

Filter

Processing Keten

Stetl concepten

Page 66: Nederland Ontsloten! OSGeo.nl Dag 2014

XML Input

XSLT Filter

ogr2ogr Output

Voorbeeld - XML naar Shapefile

XML GML

Page 67: Nederland Ontsloten! OSGeo.nl Dag 2014

Any Input

My!Filter

Any Output

Voorbeeld - Eigen Component

Page 68: Nederland Ontsloten! OSGeo.nl Dag 2014

Stetl Configuratie File

Process Chain

XML InputXSLT

Filter

ogr2ogr Output

Voorbeeld - XML naar Shapefile

Page 69: Nederland Ontsloten! OSGeo.nl Dag 2014

Example Components

Input Filters Output

Stetl concepten

File (XML, GML, CSV) XSLT (Multi)File (GML, GeoJSON,..)GDAL/OGR XMLAssembler GDAL/OGRLineStream XMLValidator WFS-TSQLite FormatConverter HTTPWFS FeatureExtractor SOS-TPostGIS Jinja2Filter PostGISYourInput YourFilter YourOutput

Page 70: Nederland Ontsloten! OSGeo.nl Dag 2014

Speed: Streaming

Input Filter Output

gml

Stetl concepts

Page 71: Nederland Ontsloten! OSGeo.nl Dag 2014

Speed: Going Native

Input Filter Output

gml

ogr2ogr StetlStetl

Native C Libs/Progs

Calls

Stetl concepts

Page 72: Nederland Ontsloten! OSGeo.nl Dag 2014

Stetl Uitvoeren

stetl -c etl.cfg

Page 73: Nederland Ontsloten! OSGeo.nl Dag 2014

Stetl Installeren

via PyPi

Deps •GDAL+Python bindings!•lxml (xml proc)!•psycopg2 (Postgres)

sudo pip install stetl

Page 74: Nederland Ontsloten! OSGeo.nl Dag 2014

Stetl - Praktijk!

• Basisregistraties GML to PostGIS: Top10NL, BGT • INSPIRE transformatie BAG naar Addresses • RIVM Luchtmetingen naar WMS-Time en SOS EU Air Quality/INSPIRE Reporting • UK Ordance Survey Mastermap

Page 75: Nederland Ontsloten! OSGeo.nl Dag 2014

BGT - Dutch Large Scale Topo

Page 76: Nederland Ontsloten! OSGeo.nl Dag 2014

2.  Data  Transformation  (ETL)

Stetl

RIVM AQ

Stetl

Stetl

Stetl

Page 77: Nederland Ontsloten! OSGeo.nl Dag 2014

RIVM Luchtkwaliteit via WMS-Time

4.  Clients

Page 78: Nederland Ontsloten! OSGeo.nl Dag 2014

Clients - SOS - SOS.js - 52N

4.  Clients

Page 79: Nederland Ontsloten! OSGeo.nl Dag 2014

Samengevat

• Ruwe data verwerking met NLExtract en Stetl

• Opslaan in PostGIS (vector) en GeoTIFF (raster)

• Serveren met GeoServer/MapServer/Tiling etc

• Visualiseren met QGIS en Heron

Page 80: Nederland Ontsloten! OSGeo.nl Dag 2014

Dank U

Page 81: Nederland Ontsloten! OSGeo.nl Dag 2014

NLExtract Artikel Geo-info 2013 - 8/9

Page 82: Nederland Ontsloten! OSGeo.nl Dag 2014

!

www.nlextract.nl !

bezoek ook de OpenGeoGroep Stand

Page 83: Nederland Ontsloten! OSGeo.nl Dag 2014

Stetl

http://www.stetl.org