SIPE - Syllabus Signaalanalyse

SIGNAALANALYSE

Ton van Lunteren Jenny Dankelman

July 6, 2005

Inhoud

1 Inleiding 1

2 Systeemidentificatie met deterministische ingangssignalen 52.1 Beschrijving van lineaire systemen . . . . . . . . . . . . . . . . . . . . 5

2.1.1 Het bodediagram . . . . . . . . . . . . . . . . . . . . . . . . . 62.2 Identificatie van lineaire systemen zonder ruis . . . . . . . . . . . . . 82.3 Identificatie van systemen met ruis . . . . . . . . . . . . . . . . . . . 112.4 Niet-lineaire systemen zonder ruis . . . . . . . . . . . . . . . . . . . . 182.5 Grenzen aan de mogelijkheden . . . . . . . . . . . . . . . . . . . . . . 24

3 Bemonsterde signalen in het frequentiedomein 273.1 De diracfunktie en de kam van dirac . . . . . . . . . . . . . . . . . . 27

3.1.1 De diracfunktie . . . . . . . . . . . . . . . . . . . . . . . . . . 283.1.2 De kam van dirac . . . . . . . . . . . . . . . . . . . . . . . . . 28

3.2 Bemonsterde signalen . . . . . . . . . . . . . . . . . . . . . . . . . . . 303.2.1 Transformatie van bemonsterde signalen naar het frequen-

tiedomein . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 303.2.2 Het theorema van Shannon . . . . . . . . . . . . . . . . . . . 323.2.3 Recapitulatie bemonsterde signalen . . . . . . . . . . . . . . . 34

3.3 De Fourier Transformatie . . . . . . . . . . . . . . . . . . . . . . . . . 363.3.1 De diskrete fouriertransformatie (DFT) . . . . . . . . . . . . . 363.3.2 De Fast Fourier Transform . . . . . . . . . . . . . . . . . . . . 393.3.3 Stelling van Parseval . . . . . . . . . . . . . . . . . . . . . . . 433.3.4 Recapitulatie DFT en FFT . . . . . . . . . . . . . . . . . . . 43

4 Discrete tijd lineaire systemen 454.1 De z-transformatie . . . . . . . . . . . . . . . . . . . . . . . . . . . . 45

4.1.1 Afleiding van de z-transformatie uitgaande van de laplace-transformatie . . . . . . . . . . . . . . . . . . . . . . . . . . . 45

4.1.2 Enkele eigenschappen van de z-transformatie . . . . . . . . . . 474.1.3 De z-transformatie voor het beschrijven van diskrete systemen 49

4.2 Relatie tussen transformaties en vormen van systeembeschrijvingen . 494.2.1 Van z-transformatie naar DFT . . . . . . . . . . . . . . . . . 494.2.2 Overzicht van transformaties . . . . . . . . . . . . . . . . . . . 514.2.3 Systemen, transformatievariabelen en operatoren . . . . . . . 53

vi Inhoud

4.3 Bodediagram . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 554.3.1 Continue systemen . . . . . . . . . . . . . . . . . . . . . . . . 554.3.2 Discrete systemen . . . . . . . . . . . . . . . . . . . . . . . . . 56

5 Waarschijnlijkheidsrekening 595.1 Kans . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 595.2 Random variabele . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 60

5.2.1 Verdelingsfunktie en verdelingsdichtheidsfunktie . . . . . . . . 605.2.2 Verwachtingswaarde . . . . . . . . . . . . . . . . . . . . . . . 615.2.3 Enkele kansverdelingen . . . . . . . . . . . . . . . . . . . . . . 63

5.3 De ongelijkheid van Tschebycheff . . . . . . . . . . . . . . . . . . . . 675.4 Funkties van twee random variabelen . . . . . . . . . . . . . . . . . . 68

5.4.1 De tweedimensionale verdelingsfunktie en verdelingsdichtheids-funktie . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 68

5.4.2 Gemiddeld produkt, covariantie en correlatie . . . . . . . . . . 745.5 Meerdimensionale verdelingen . . . . . . . . . . . . . . . . . . . . . . 78

6 Schattingstheorie 836.1 Eigenschappen van schatters . . . . . . . . . . . . . . . . . . . . . . . 846.2 Schatter voor de gemiddelde waarde en de variantie . . . . . . . . . . 88

7 Stochastische processen 937.1 Stochastische processen en hun kenmerkende grootheden . . . . . . . 937.2 Continue tijd stochastische processen . . . . . . . . . . . . . . . . . . 94

7.2.1 Verdelingsfunkties en verdelingsdichtheidsfunkties . . . . . . . 947.2.2 Gemiddelde produktfunkties, covariantiefunkties en correlatiefunc-

ties . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 987.3 Discrete tijd stochastische processen . . . . . . . . . . . . . . . . . . . 1067.4 Diskrete ruis . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1087.5 Ergodiciteit . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 117

8 Stochastische processen in het frequentie-domein 1218.1 Spectrale dichtheden . . . . . . . . . . . . . . . . . . . . . . . . . . . 1218.2 Een gemodificeerde fouriertransformatie . . . . . . . . . . . . . . . . 1268.3 De coherentie . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 128

9 Identificatie van systemen met stochastische ingangen 1319.1 Identificatie van lineaire systemen . . . . . . . . . . . . . . . . . . . . 132

9.1.1 Bepaling van overdrachtsfunkties en andere relaties uit spec-trale dichtheden via het tijdsdomein . . . . . . . . . . . . . . . 132

9.1.2 Bepaling van overdrachtsfunkties uit spectrale dichtheden viadirecte relaties in het frequentiedomein. . . . . . . . . . . . . . 134

9.1.3 Schatten in een gesloten keten. Wat kan er mis gaan? . . . . . 1359.2 Identificatie van niet-lineaire systemen . . . . . . . . . . . . . . . . . 137

9.2.1 Coherentie . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 140

Inhoud vii

10 Schatten van spectrale dichtheden en overdrachtsfunkties 14310.1 Schatten van gemiddelde produkt-, covariantie- en correlatiefunkties . 144

10.1.1 Uitdrukkingen voor de schatters . . . . . . . . . . . . . . . . . 14410.1.2 Eigenschappen van de beschouwde schatters . . . . . . . . . . 145

10.2 Schatten van spectrale dichtheden . . . . . . . . . . . . . . . . . . . . 14710.2.1 Schatten van spectrale dichtheden via de covariantiefunktie . . 14910.2.2 Transformatievensters (windowing) . . . . . . . . . . . . . . . 15110.2.3 Schatten van spectrale dichtheden via transformatie van signalen157

10.3 Eigenschappen van schatters in het frequentiedomein. . . . . . . . . . 16210.3.1 Schatter voor spectrale dichtheid . . . . . . . . . . . . . . . . 16210.3.2 Schatter voor de coherentiefunctie . . . . . . . . . . . . . . . . 16410.3.3 Schatter voor de overdrachtsfunktie in open keten. . . . . . . . 16610.3.4 Schatter voor de overdrachtsfunctie in een gesloten keten. . . . 168

Hoofdstuk 1

Inleiding

Het college ”Signaalanalyse” houdt zich bezig met dynamische verschijnselen. Opzich zijn onderwerpen als systemen en signalen al naar voren gekomen in de tweede-jaars vakken systeemtheorie en inleiding regeltechniek. De signalen die hier beschouwdwerden, waren steeds deterministisch, d.w.z. ze zijn exact bekend als funktie vande tijd. Voorbeelden van dit soort signalen zijn stapfunkties en sinussen, maar ookingewikkelder funkties van de tijd. In de praktijk hebben we veelal te maken metsignalen die een ruisvormig karakter hebben, dat wil zeggen met signalen die nietexact voorspelbaar zijn. De theorie die zich met dit soort signalen bezighoudt staatbekend als de stochastiek.

Waarom stochastiek?Het belang van de stochastiek in de opleiding komt naar voren bij het beschouwenvan de werktuigbouwkunde, zoals blijkt uit het binnen de afdeling verrichte, danwel lopende onderzoek.

Het gedrag van bijvoorbeeld voertuigen wordt mede bepaald door de oneffen-heden van het wegdek waarop het voertuig rijdt. Deze oneffenheden leveren eenruisvormig ingangssignaal op het voertuig. Zowel voor de bestuurbaarheid als voorhet rijcomfort is het van belang het voertuig zodanig te ontwerpen dat de invloedvan de wegdekoneffenheden zo klein mogelijk is. Bij het onderzoek op het gebiedvan de voertuigdynamica speelt de stochastiek dan ook een belangrijke rol, zowel bijde theoretische modelvorming als bij de experimentele verificatie van deze modellen.

Bij verspanende bewerkingen wil men de oppervlakteruwheid zo goed mogelijkbeheersen. Dit vraagt enerzijds een classificatie van deze ruwheden, waarin nietalleen de verdeling van de hoogten van de oneffenheden van belang is, maar ook deverdeling van de golflengten. Anderzijds wil men weten, waardoor de eigenschappenvan deze oneffenheden kunnen worden beınvloed, zodat bepaalde gewenste specifi-caties op de meest economische wijze kunnen worden bereikt.

Bij het onderzoek aan turbulentieverschijnselen in stromingen heeft men eveneenste maken met fluktuaties die niet meer met deterministische beschrijvingswijzen tekarakteriseren zijn. Bij transport van vloeistoffen, of mengsels van vaste stoffenmet vloeistoffen of gassen in een leiding meet men soms snelheden door op tweeplaatsen in de leiding de fluctuaties in dichtheid of temperatuur te meten. Door deze

2 1 Inleiding

ruissignalen met een computer te bewerken kan de informatie over de gemiddeldesnelheid uit deze schijnbaar ongeordende gegevens worden verkregen.

Op overeenkomstige wijze is het mogelijk om wiskundige modellen te maken vande dynamica van processen in bijvoorbeeld de chemische industrie. Dergelijke mod-ellen worden gebruikt om een regeling te ontwerpen. Omdat veelal gewerkt wordtmet gelineariseerde modellen van niet-lineaire systemen, moeten deze modellen wor-den bepaald onder bedrijfsomstandigheden. Alle informatie moet dan verkregenworden uit een aantal signalen met een ruisvormig karakter. Deze problematiektreft men overal aan waar een regelsysteem moet worden ontworpen. Voorbeeldenzijn het walsen van staalplaat, de produktie van stoom in een electrische centrale,elektriciteitsproduktie met behulp van windmolens, maar ook bij onderzoek aan sys-temen die door een mens bestuurd moeten worden, zoals vliegtuigen, voertuigen envaartuigen.

Doel van het collegeHet college ”Signaalanalyse” heeft als doel om de student werktuigbouwkunde eenzodanige hoeveelheid basiskennis te geven, dat hij enig inzicht heeft in de mogeli-jkheden van de thans ter beschikking staande signaalverwerkingstechnieken. Eenverdere uitwerking van deze basis, wordt gegeven in de colleges ”Systeemidentifi-catie A (wb2301)” en ”Systeemidentificatie B (wb2403)”.

Het dictaat sluit aan bij de stof van de vakken ”Systeemtheorie (wb2203)” en”Inleiding Regeltechniek (wb2204)”. Beide vakken vormen de basis voor de tweepoten van de meet- en regeltechniek, namelijk de analyse (meten) en de synthese(regelen). De stof van de vakken wb2203 en wb2204 wordt dan ook bekend veron-dersteld (b.v begrippen als convolutie en fouriertransformatie), evenals de stof vanhet vak ”Kansrekening en Statistiek (wi380)”. In het volgende hoofdstuk wordt hetBodediagram nog een keer behandeld en wel omdat dit nu wordt gehanteerd vanuitde vraagstelling: Gegeven het bodediagram, hoe ziet de overdrachtsfunktie van hetsysteem er uit? Dit als onderdeel van de centrale vraagstelling van het gehele college.Deze luidt als volgt:

3

Gegeven een onbekend systeem, waarvan het ingangssignaal en het uit-gangssignaal gemeten kunnen worden. Verder is bekend, dat het uit-gangssignaal verstoord is door een onbekend ruissignaal.Gevraagd een lineaire beschrijving die het verband tussen de gemeteningangs- en uitgangssignalen zo goed mogelijk weergeeft.

Opbouw van het dictaatIn de praktijk zal steeds eerst gekeken moeten worden of deze vraag op een een-voudige manier te beantwoorden is. Wanneer het gaat om een systeem of deelsys-teem waaraan men zelf een testsignaal naar keuze kan toevoeren kan men vaak metbetrekkelijk eenvoudige en doorzichtige methoden te werk gaan. Het gebruik vandeterministische signalen als stapfunkties en sinussen biedt de mogelijkheid om deinvloed van de ruis goeddeels te elimineren. Hoofdstuk 2 is dan ook geheel gewijdaan deze methoden, die nog geen groot beroep doen op kennis van de stochastiek.In hfst. 3 en 4 wordt de overgang gemaakt van continu naar diskreet, omdat bij depraktische toepassing uiteindelijk de gemeten signalen worden omgezet in getallen-reeksen die verder verwerkt worden met behulp van een computer.

Indien men niet in staat is zelf een eenvoudig deterministisch testsignaal te intro-duceren, zal men een beroep moeten doen op zwaarder mathematisch gereedschap.Dit is het geval als zowel het ingangssignaal als de verstoring een ruisvormig karakterhebben. Het gemeten uitgangssignaal is dan niet meer op eenvoudige wijze te split-sen in een responsie op het ingangssignaal en een verstoring. Om deze reden wordt destochastiek geıntroduceerd. De stochastiek berust enerzijds op de waarschijnlijkhei-dsrekening, anderzijds op de deterministische signaaltheorie. In hfst. 5 wordt daaromeerst een recapitulatie gegeven van de benodigde basisbegrippen uit de waarschijn-lijkheidsrekening. In hfst. 7 worden de basisbegrippen van de stochastiek behandeldin hun relatie tot het systeemidentificatieprobleem. In hfst. 8 wordt aangegeven hoespectrale dichtheden kunnen worden bepaald. In hfst. 9 wordt aangegeven hoe metbehulp van deze spectrale dichtheden overdrachtsfuncties kunnen worden afgeleid.In hfst. 10 wordt het schatten van de in hfst. 9 behandelde grootheden uit gemetensignalen behandeld. Hiervoor zal in hfst. 6 een overzicht gegeven van het relevantedeel van de schattingstheorie.

De tot hier toe behandelde technieken veronderstellen geen voorkennis omtrentde struktuur van het te identificeren systeem. De resultaten komen beschikbaar inde vorm van bodediagrammen. Zodra men op grond van deze bodediagrammen destruktuur van het systeem kan vastleggen in de vorm van een overdrachtsfunktie, kanmen het systeemidentificatieprobleem omzetten naar een parameterschattingsprob-leem. Dit vormt dan ook het onderwerp van het college ”Systeemidentificatie B”.

LiteratuurHet schatten van spectrale dichtheden van stochastische processen en het daaruitweer schatten van overdrachtfunkties is een techniek die in de vijftiger jaren totontwikkeling gekomen is (Blackman en Tukey, 1958). In de zestiger jaren werd metname aandacht geschonken aan het afleiden van betrouwbaarheidsintervallen voorde verkregen schattingen (Jenkins en Watts, 1969). Werk dat vooral gericht is op

4 1 Inleiding

toepassingen in diskrete tijd is dat van Priestley (1981). Enkele meer recentereboeken zijn: Fante (1988), Therrien (1992), Soderstrom (1994) en Zelniker en Tay-lor (1994). Ten aanzien van het onderwerp parameterschatting is Ljung (1987) eengoed boek.

- Blackman, R.B. and Tukey, J.W. (1958). The Measurement of Power spectra.Dover, New York, 190 p.- Jenkins, G.M. and Watts, D.G. (1969). Spectral Analysis and its applications.Holden Day, San Francisco, 525 p.- Priestley, M.B. (1981). Spectral Analysis and Time Series. Academic Press, Lon-don- Ljung, L. (1987) System Identification: Theory for the User. Prentice Hall, Engle-wood Cliffs, 519 p.- Fante, R.L. (1988) Signal Analysis and Estimation - An Introduction. John Wileyand Sons, 448p- Therrien C.W. (1992) Discrete Random Signals and Statistical Signal Processing,Prentice Hall, 727 p.- Soderstrom T. (1994) Discrete-Time Stochastic Systems - Estimation and Control,Prentice Hall, 335 p.- Zelniker G., Taylor F.J. (1994) Advanced Digital Signal Processing - Theory andAplications, Marcel Dekker Inc. 666 p.

Hoofdstuk 2

Systeemidentificatie metdeterministische ingangssignalen

In dit hoofdstuk wordt ingegaan op de vraag op welke wijze een beschrijving te krij-gen is van een systeem op grond van een gemeten responsie op een bekend ingangssig-naal. De behandeling wordt beperkt tot lineaire beschrijvingswijzen. Daarom wordtbegonnen met de bespreking van de beschrijving van lineaire systemen met behulpvan de overdrachtsfunktie en de weergave daarvan in een bodediagram. Vervolgenswordt ingegaan op de identificatie van lineaire systemen met behulp van determin-istische ingangssignalen voor het geval er geen ruis is.

In par. 2.3 wordt besproken welke technieken er toegepast kunnen worden alshet uitgangssignaal van het systeem, als responsie op een deterministisch ingangssig-naal, door ruis verstoord wordt. In par. 2.4 wordt het lineariseren van niet-lineairesystemen besproken. Aan het eind worden de grenzen van de mogelijkheden van debehandelde methoden aangegeven en de noodzaak voor een andere benadering voordeze gevallen wordt gesignaleerd.

2.1 Beschrijving van lineaire systemen

Een van de meest voor de hand liggende beschrijvingswijzen van een systeem is dedifferentiaalvergelijking die het gedrag van het systeem karakteriseert. Deze differ-entiaalvergelijking is veelal af te leiden door toepassing van fysische wetten, meestalin de vorm van een balansvergelijking, zoals een krachtenbalans, massabalans, en-ergiebalans.

Door gebruik te maken van de fouriertransformatie kan deze differentiaalverge-lijking in het tijdsdomein omgezet worden in een algebraısche vergelijking in hetfrequentiedomein: Y (ω) = H(ω)U(ω), met

H(ω) = F{h(t)} =∫ ∞

−∞h(t)e−jωtdt [2.1]

De grootheid h(t) staat bekend als als de impulsresponsie van het systeem. De

6 2 Systeemidentificatie met deterministische ingangssignalen

grootheid H(ω)1 staat bekend als de overdrachtsfunktie van het systeem. vergeli-jking Y (ω) = H(ω)U(ω) kan teruggetransformeerd worden naar het tijdsdomeinmet

h(t) = F−1{H(ω)} =1

2π

∫ ∞

−∞H(ω)ejωtdω [2.2]

Aangezien een produkt in het frequentiedomein een convolutie in het tijdsdomeinoplevert wordt de vergelijking dan

y(t) = h(t) ∗ u(t) =∫ ∞

−∞h(τ)u(t− τ)dτ =

∫ ∞

−∞h(t− τ)u(τ)dτ [2.3]

Gezien de eenvoud van de beschrijvingswijze in het frequentiedomein wordt dezezeer veel gebruikt. Dit komt met name naar voren bij het beschrijven van systemendie opgebouwd zijn uit een combinatie van deelsystemen.

2.1.1 Het bodediagram

De overdrachtsfunktie H(ω) is een complexe funktie, d.w.z. voor een bepaaldewaarde van ω wordt hij gekarakteriseerd door 2 getallen, hetzij het reele en imag-inaire deel: H(ω) = ReH(ω) + jImH(ω), hetzij modulus en argument: H(ω) =

|H(ω)|ej 6 H(ω), met |H(ω)| =√

Re(H(ω)2 + Im(H(ω)2 en 6 H(ω) = arctan(

ImH(ω)ReH(ω)

)

.In het bodediagram worden modulus en argument, ook vaak amplitude en fase

genoemd, van de funktie H(ω) afgebeeld. Hierbij zijn de amplitude en de frequentieop een logarithmische schaal uitgezet, de fase op een lineaire schaal. Het voordeelhiervan wordt duidelijk als we kijken naar de overdrachtsfunktie van systemen inserie. Hiervoor geldt:

H(ω) =n∏

k=1

Hk(ω) [2.4]

of uitgedrukt in amplitude en fase:

log |H(ω)| =n∑

k=1

log |Hk(ω)| [2.5]

6 H(ω) =n∑

k=1

6 Hk(ω)

Dit betekent dat het bodediagram van H(ω) eenvoudig op te bouwen is uit de bode-diagrammen van de systemen afzonderlijk. Hiervoor is het nodig dat men die vaneen aantal eenvoudige typen kent. In het vak ”Systeemtheorie” zijn de bodedia-grammen van enkele eenvoudige systemen afgeleid (b.v versterker: K, integrator 1

jω,

differentiator: jω, PD-regleaar: (1+jωτ), 1e orde systeem: 11+jωτ

, 2e orde systeem).

1In deze notatie is H(ω) een functie van de radiaalfrequentie ω in [rad/s]. Soms wordt dezefunktie weergegeven als funktie van de frequentie f in [Hz], waarbij ω = 2πf . Bij het gebruik vanω moet men zich realiseren dat bijvoorbeeld

∫

. . . df overgaat in 1

2π

∫

. . . dω.

2.1 Beschrijving van lineaire systemen 7

10−2 10−1 100 101 102100

101

102

Mag

nitu

de

10−2 10−1 100 101 102

−90

0

90

Frequency (rad/sec)

Pha

se d

eg

Figuur 2.1: Bodediagram van een systeem met overdrachtsfunktie: H(ω) =K(1+jωτ1)

(1+jωτ2)(1+jωτ3)voor het geval dat τ1 > τ2 > τ3.

Voorbeeld

Aan de hand van een voorbeeld wordt toegelicht hoe een wat ingewikkelder bodediagramkan worden opgebouwd. Gegeven een systeem gekarakteriseerd door de overdrachtsfunk-tie:

H(ω) =K(1 + jωτ1)

(1 + jωτ2)(1 + jωτ3)[2.6]

Deze overdrachtsfunktie bestaat uit 4 termen waarvan er voor wat de vorm betreft 3 ver-

schillend zijn. De parameter K bepaalt alleen de plaats van de schaal langs de verticale

as in de amplitudekarakteristiek, maar heeft geen enkele invloed op de fasekarakteristiek.

De waarden van de tijdconstanten τ1, τ2 en τ3 bepalen wel de uiteindelijke vorm van zowel

de amplitudekarakteristiek als de fasekarakteristiek. De tijdconstanten τ2 en τ3 zijn on-

derling verwisselbaar zonder dat dit invloed heeft op de vorm. Van belang is, de grootte

van de tijdkonstante τ1 ten opzichte van τ2 en τ3. In fig. 2.1 is een geval afgebeeld, nl.:

τ1 > τ2 > τ3. Als τ1 = τ2 dan is het systeem vereenvoudigd tot een eerste orde systeem

doordat een tellerterm en een noemerterm tegen elkaar wegvallen. Wat alle mogelijkhe-

den met elkaar gemeen hebben is, dat in het laagfrequente gebied het bodediagram het

karakter heeft van een versterker met versterkingsfactor K; in het hoogfrequente gebied

het karakter van een integrator. Dit volgt ook uit de overdrachtsfunktie H(ω) door te

kijken naar het geval ωτ � 1 waarbij τ de grootste tijdconstante is, en naar het geval

ωτ � 1, waarbij τ de kleinste tijdconstante is.

Het figuur uit het voorbeeld illustreert, dat voor een combinatie van de genoemdesimpele elementen het bodediagram vrij eenvoudig te construeren is. Omgekeerdkan uit het bodediagram de struktuur van de overdrachtsfunktie met de numerieke


waarden van de parameters teruggevonden worden. Deze informatie is voornamelijkte halen uit de asymptoten van de amplitudekarakteristiek. De juistheid is dan teverifieren door het tekenen van de bijbehorende fasekarakteristiek. De overdrachts-funktie is te reconstrueren door het bodediagram van laagfrequent naar hoogfrequentte analyseren. De helling k van de eerste asymptoot geeft namelijk aan dat er eenterm aanwezig is van de macht (jω)k, bijvoorbeeld k = 1 (differentiator), k = 0 (ver-sterker), k = −1 (integrator), k = −2 (dubbele integrator), enz. Naar rechtsgaandin de amplitudekarakteristiek geeft de verandering van de helling in een knikpuntaan of er een term (1+jωτ) in de teller dan wel in de noemer aanwezig is. Verandertde helling van k naar k+1 dan is er een tellerterm, verandert hij van k naar k−1 danis er een noemerterm. Het snijpunt van de twee opeenvolgende asymptoten geeftdan de waarde van τ . Deze volgt namelijk uit ω = 1

τ. Aldus naar rechts gaand langs

de frequentieas kan men de verschillende termen vinden voor het frequentiegebiedwaarin het bodediagram getekend is.

2.2 Identificatie van lineaire systemen zonder ruis

Zoals blijkt uit het voorgaande kan men uit de amplitudeen fasekarakteristiekenvan het bodediagram de overdrachtsfunktie van het systeem in principe volledigbepalen, d.w.z. zowel de structuur als de parameters. Praktisch kan het wel moeil-ijkheden opleveren om bijvoorbeeld de ligging van de verschillende asymptoten inde amplitudekarakteristiek te bepalen. Dit houdt dan echter alleen in dat het danniet meer met grafische technieken moet gebeuren maar analytisch. Als we er echtervan uitgaan dat we het bodediagram exact bepaald hebben, kunnen we in principede overdrachtsfunktie H(ω) in formulevorm bepalen. Exacte kennis van het bode-diagram betekent dat we dit diagram, of althans een aantal punten van dit dia-gram, ruisvrij hebben kunnen meten. Praktisch meten we nooit exact ruisvrij, maaralvorens de invloed van de ruis in onze beschouwing mee te nemen in par. 2.3 zullenwe eerst het geval zonder ruis behandelen. Om met behulp van een of meer ex-perimenten een bodediagram te bepalen hebben we een ingangssignaal nodig. Wezullen daarom de toepassingsmogelijkheden van een aantal ingangssignalen naderonderzoeken.

De eenheidsstap als ingangssignaalOm voor een bepaald frequentiegebied het bodediagram van een systeem te bepalenmoet men in principe voor elke frequentie in dit gebied het systeem aanstoten. Menkan daarvoor een ingangssignaal kiezen dat alle frequenties bevat. Een signaal waar-bij dit het geval is, is de eenheidsimpuls of diracfunktie δ(t− t0) op het tijdstip t0,of met t0 = 0 de diracfunktie δ(t). Deze funktie bevat alle frequenties en wel ineven sterke mate, zoals volgt uit de fouriertransformatie van deze funktie. Gebruikmakend van de integraaleigenschap van de diracfunktie volgt namelijk dat:

F{δ(t)} =∫ ∞

−∞δ(t)e−jωtdt = 1 [2.7]

2.2 Identificatie van lineaire systemen zonder ruis 9

Dit is echter een praktisch niet realiseerbare funktie omdat dit een oneindig hoge,oneindig smalle puls moet zijn met een oppervlak onder de puls gelijk aan 1. Boven-dien is er geen enkel systeem dat heel blijft bij een dergelijk ingangssignaal. Prak-tische benaderingen met een puls van eindige hoogte en eindige breedte zijn terealiseren, maar in hoeverre de responsie op een dergelijk signaal te beschouwen isals een goede benadering van de impulsresponsie is twijfelachtig. Hoewel de impul-sresponsie alle informatie omtrent het systeem bevat, is het slechts in eenvoudigegevallen mogelijk om de informatie omtrent structuur en parameters van het systeemuit de impulsresponsie te halen. Eenvoudige voorbeelden hiervan zijn: het eersteorde systeem het tweede orde systeem en de voortplantingstijd. Voor systemen meteen hogere orde is dit echter veel moeilijker.

Een grootheid, die in principe dezelfde informatie bevat, maar veel gemakkelijkerte meten is, is de stapresponsie. Aangezien de impulsresponsie de afgeleide is van destapresponsie, biedt dit een eenvoudige mogelijkheid om de impulsresponsie toch tebepalen uit een meting in het tijdsdomein. De eenheidsstap op het tijdstip t=0 is tebeschouwen als de responsie van een integrator met als ingangssignaal een diracpulsδ(t).

Men doet er echter verstandig aan om niet naar de stapresponsie of impulsres-ponsie in het tijdsdomein te kijken maar naar de overdrachtsfunktie in het frequen-tiedomein. De overdrachtsfunktie is te bepalen door differentiatie van de staprespon-sie gevolgd door fouriertransformatie. Deze weg heeft het voordeel van de eenvoudvan het experiment, maar vraagt wat rekenwerk achteraf. Bij zeer eenvoudige sys-temen kan men wel een directe interpretatie aan de stapresponsie verbinden. Menkan ook aan de stapresponsie zien of het systeem van hogere orde dan twee is en ofer sprake is van een voortplantingstijd.

In het frequentiedomein geldt dat de fouriergetransformeerde van de eenheidsstapgelijk is aan Y (ω) = H(ω)U(ω), met U(ω) = 1 en H(ω) = 1

jω, zodat Y (ω) = 1

jω.

In het stapvormige signaal zitten dus alle frequenties, zij het met een amplitude dieafneemt bij toenemende frequentie. Het is dus vooral een laagfrequent testsignaal.Voor het ruisvrije geval, zoals beschouwd in deze paragraaf, maakt dat in principeniet veel uit. In de praktijk meet men echter altijd met ruis, hoe klein ook. Ditbetekent dan ook dat als regel de signaal/ruis-verhouding bij toenemende frequentieafneemt.

Periodieke ingangssignalenEen geheel ander testsignaal is de sinus. Dit testsignaal bevat maar een frequentieen met een sinus vinden we dan ook maar een punt van de amplitudeen fasekarak-teristiek in het bodediagram. Voor de berekening hiervan geven we eerst de fourier-getransformeerden van de sinus en de cosinus (Fig. 2.2):

F{sinω1t} = −πj (δ(ω − ω1) − δ(ω + ω1)) [2.8]

F{cosω1t} = π (δ(ω − ω1) + δ(ω + ω1))

De relatie F{ejω1t} = 2πδ(ω− ω1) is niet eenvoudig af te leiden. Deze afleiding zalhier achterwege gelaten worden. De terugtransformatie is wel vrij simpel. Gebruik


Figuur 2.2: De fouriergetransformeerden van de sinus en de cosinus.

makend van de definitie van de diracpuls als integraaleigenschap volgt direct:

F−1{δ(ω − ω1)} =1

2π

∫ ∞

−∞δ(ω − ω1)e

jωtdω =1

2πejω1t [2.9]

We kunnen nu direct aangeven hoe met een sinusvormig ingangssignaal een puntvan de overdrachtsfunktie bepaald wordt. Stel het in- en uitgangssignaal is:

u(t) = a1 cosω1t+ b1 sinω1t = A1 cos(ω1t+ φ1)y(t) = c1 cosω1t+ d1 sinω1t = B1 cos(ω1t+ ψ1)

[2.10]

dan geldt:

U(ω) = a1π(δ(ω − ω1) + δ(ω + ω1)) − jb1π(δ(ω − ω1) − δ(ω + ω1))Y (ω) = c1π(δ(ω − ω1) + δ(ω + ω1)) − jd1π(δ(ω − ω1) − δ(ω + ω1))

Voor de overdrachtsfunktie H(ω) bij de frequentie ω = ω1 geldt:

H(ω1) =Y (ω1)

U(ω1)=c1 − jd1

a1 − jb1[2.11]

Hieruitvolgt:

|H(ω1)| =

√

c21+d21a21+b21

= B1

A1

6 H(ω1) = arctan −d1c1

− arctan −b1a1

= ψ1 − φ1

[2.12]

De grootheden A1, B1 en ψ1 − φ1 zijn uit een gemeten registratie van de signalente bepalen. De fasehoek ψ1 − φ1, die meestal negatief is, kan het meest nauwkeurigworden bepaald uit de plaatsen van de nuldoorgangen van u(t) en y(t).

Om het hele bodediagram te krijgen, moet men het experiment een aantal kerenherhalen, met steeds een sinus van een andere frequentie. Het aantal frequentiesmoet zodanig worden gekozen, dat een redelijk vloeiende amplitudekarakteristiek enfasekarakteristiek bepaald kunnen worden, waaruit de overdrachtsfunktie te recon-strueren is. Hoe ingewikkelder het systeem, hoe meer punten van het bodediagramnodig zijn. Elk experiment met een sinus levert in principe twee gegevens: een am-plitudeverhouding en een faseverschuiving. Theoretisch kan men in principe met nfrequenties 2n onbekende parameters bepalen, mits de frequenties van de sinussenverstandig gekozen zijn, dat wil zeggen, goed verdeeld over het frequentiegebied dat

2.3 Identificatie van systemen met ruis 11

van belang is. Het stelsel vergelijkingen waaruit de parameters opgelost moeten wor-den is als regel wel niet-lineair. Een uitzondering hierop zijn de heel simpele gevallen.

Voorbeeld 1e orde systeem

Stel dat bekend is, dat het te identificeren systeem een eerste orde systeem is. De over-

drachtsfunktie is dus H(ω) = K1+jωτ en |H(ω)| = K√

1+ω2τ2; 6 H(ω) = − arctanωτ . Voor

een gegeven frequentie ω1 kunnen we nu uit de gemeten waarde van 6 H(ω1) de waarde

van τ berekenen. Uit de waarden van ω1, τ en|H(ω1)| is tenslotte de waarde van K te

berekenen. Voorwaarde is wel dat de frequentie ω1 niet te ver van de frequentie ω = 1τ

ligt, daar anders kleine meetonnauwkeurigheden grote fouten kunnen veroorzaken in de

waarde van τ en daardoor wellicht ook in de waarde van K.

Voorbeeld 2e orde systeem

Beschouw een systeem met overdrachtsfunktie H(ω) = K(1+jωτ1)(1+jωτ2) . Voor de am-

plitude en fase van dit systeem geldt: |H(ω)| = K√(1−ω2τ1τ2)2+ω2(τ1+τ2)2

en 6 H(ω) =

− arctanωτ1 − arctanωτ2. Het systeem heeft 3 onbekende parameters K, τ1 en τ2. In

principe zijn 2 sinussen dus voldoende om de parameters te bepalen. Dit levert 4 vergeli-

jkingen namelijk de uitdrukkingen voor |H(ω1)|, |H(ω2)|, 6 H(ω1) en 6 H(ω2). Hieruit kun-

nen 3 vergelijkingen worden gekozen voor het oplossen van de onbekende parameters. De

vierde vergelijking kan daarna als controle gebruikt worden. Het oplossen van het vergeli-

jkingenstelsel is echter vrij lastig, omdat het stelsel niet-lineair is. Een mogelijkheid is het

gebruik van een numerieke iteratieprocedure.

Wanneer men te maken heeft met vrij trage systemen kan het bepalen van eenbodediagram via het achtereenvolgens aanbieden van een sinus met een gegeven fre-quentie zeer tijdrovend zijn. Men kan de procedure versnellen door de sinussen vanverschillende frequenties gelijktijdig aan te bieden. Men moet de frequenties danzodanig kiezen, dat er een zekere observatietijd T is, die voor elk van de sinusseneen veelvoud is van de periodetijd. De frequenties zullen verder als regel zodaniggekozen worden, dat ze, op een logarithmische schaal, gelijkmatig verdeeld zijn overeen frequentiegebied.

2.3 Identificatie van systemen met ruis

De tot nog toe beschouwde situatie is een geidealiseerd geval. In de praktijk heeftmen altijd te maken met ruis. Deze ruis kan ontstaan in het systeem zelf. Menspreekt dan van systeemruis. Als voorbeeld van systeemruis beschouwen we een vatwaarin een warme en een koude vloeistof gemengd worden. Uit het vat stroomteen vloeistofmengsel dat een bepaalde voorgeschreven temperatuur moet hebben.Wanneer we de temperatuur van de uitstromende vloeistof meten, zullen we ziendat deze rond een zekere waarde fluktueert. Deze fluktuaties zijn een gevolg van hetfeit dat de menging niet ideaal is. De oorzaak van de fluktuaties ligt in het systeemzelf.

De ruis kan ook ontstaan in het meetsysteem. Men spreekt dan van meetruis. Bi-


a:-

u(t)lineairsysteem -

y(t)e+

+ ?

n3(t)

-

- m1 - e -?

n1(t)

++

- m2 - e -?

n2(t)

++

b:-

u(t)lineairsysteem -

y(t)e+

+ ?

n(t)

-

Figuur 2.3: a: Blokschema van de praktische situatie van een meting van in- enuitgangssignaal van een lineair systeem. b: Het blokschema voor het geval dat deinvloed van de dynamica van de meetopnemers te verwaarlozen is en waarbij zelfhet ingangssignaal u(t) kan worden bepaald.

jvoorbeeld een temperatuurverschil wordt met behulp van een thermokoppel omgezetin een elektrische spanning van enkele millivolts. Dit signaal wordt versterkt naarenkele volts. De versterker introduceert in principe een zekere ruis. Wanneer mengeınteresseerd is in een temperatuurschommeling van enkele graden is deze meetruiste verwaarlozen. Is men echter geınteresseerd in variaties van enkele honderdstenvan graden, dan zal de meetruis goed merkbaar zijn.

Fig. 2.3a is een mogelijke weergave van een systeem, verstoord door ruis, waar-van het ingangssignaal en het uitgangssignaal gemeten worden. De systeemruiskomt ergens het systeem binnen. In het blokschema is deze ruis gemodelleerd alseen additieve ruis n3(t) op de uitgang van het lineaire systeem. Met evenveel rechthad de ruis gemodelleerd kunnen worden als een additief signaal n′

3(t) op de ingangvan het systeem. Het verband tussen n′

3(t) en n3(t) wordt in het frequentiedomeinbepaald door de overdrachtsfunktie van het systeem N3(ω) = H(ω)N ′

3(ω). Verderhebben we de meetopnemers in het blokschema vervangen door een lineair systeemm1 respectievelijk m2 met een additieve ruis aan de uitgang n1(t) respectievelijkn2(t). Omwille van de eenvoud veronderstellen we dat de meetopnemers in hetbeschouwde amplitudeen frequentiebereik beschreven kunnen worden als een pro-portioneel systeem met K = 1. In de context van dit hoofdstuk gaan we er verdervan uit dat we het signaal u(t) zelf genereren en dus niet apart hoeven te meten,zodat n1(t) = 0 en u′(t) = u(t). Uit het gemeten signaal y′(t) kunnen we nietzien wat de afzonderlijke bijdragen van n2(t) en n3(t) zijn omdat we y(t) niet ken-nen. Daarom zullen we in het vervolg de meetruis en de systeemruis samen nementot een ruisterm n(t). Uiteindelijk krijgen we dan de vereenvoudigde voorstellingvan fig. 2.3b, waarin nu y(t) het gemeten uitgangssignaal is. De configuratie vanfig. 2.3b zullen we in het vervolg steeds als uitgangspunt nemen voor de behandelingvan systeemidentificatietechnieken.

Het algemene probleem bij het identificeren is het verkrijgen van een systeem-beschrijving uit signalen die door ruis overdekt zijn. In de context van dit hoofdstukbeperken we ons tot het geval dat het ingangssignaal deterministisch is en exact bek-


Figuur 2.4: Een door ruis ver-stoorde responsie y(t) op een si-nusvormig ingangssignaal u(t).

10−1 100 10110−2

10−1

100

101

Mag

nitu

de

10−1 100 101

−90

−180

0

Frequency (rad/sec)

Pha

se d

eg

Figuur 2.5: Bodedia-gram van een tweede-ordelaagdoorlaatfilter met eendempingsfactor β = 0.5.

end. Alleen het uitgangssignaal bevat ruis. In de komende paragrafen zullen we eenaantal methoden behandelen om de ruis zo goed mogelijk te elimineren, althans deinvloed van de ruis te verkleinen. Als eerste mogelijkheid zullen we het gebruik vanfilters behandelen.

Gebruik van filtersWanneer de ruis in een ander frequentiegebied ligt dan het signaal, kunnen we deruis voor een groot deel wegfilteren, door het signaal door een systeem te sturen meteen zodanige frequentiekarakteristiek dat het signaal wel wordt doorgelaten, maarde ruis sterk wordt verzwakt. De signalen zien er bijvoorbeeld uit zoals weergegevenin fig. 2.4. We sturen het signaal y(t) nu door een filter dat de responsie op u(t)zo weinig mogelijk verzwakt, maar de amplitude van de ruis, die bij de hogere fre-quenties ligt, zo veel mogelijk verkleint. We kunnen hiervoor een laagdoorlaatfilterkiezen van een bepaalde orde. De orde van het filter bepaalt hoe steil de ampli-tudekarakteristiek afvalt voor de hoge frequenties. Voor een n−de orde systeemis de helling van de asymptoot in de amplitudekarakteristiek van het bodediagram−n. Figuur 2.5 geeft een voorbeeld van een tweede-orde laagdoorlaatfilter met demp-ingsfactor β = 0.5. Bij een frequentie |ω| < ω0 is de amplitude van het signaal nietveranderd door het filter, maar de amplitude van een sinus bij ω = 10ω0 wordt eenfaktor 100 verzwakt. Willen we een filterkarakteristiek die sterker afvalt dan zettenwe bijvoorbeeld twee identieke tweede-orde filters in serie. We moeten ons wel re-aliseren dat een filter ook een fasedraaiing geeft. Zoals te zien is in fig. 2.5 geeft het


-u(t)

systeem -y(t)

e+

+ ?

n(t)

- filter -z(t)

Figuur 2.6: De configuratie waarin een door ruis verstoord systeem kan wordengeıdentificeerd, als de ruis in een ander frequentiegebied ligt dan het signaal.

gekozen filter bij de frequentie ω = ω0 een faseachterstand van 900. De maximalefaseachterstand van het filter is 1800. Willen we een filter dat twee keer zo steilafvalt, dan krijgen we ook een twee keer zo grote faseverschuiving van het signaal.Als we een systeem op deze manier willen identificeren, moeten we dus rekeninghouden met het feit, dat we de situatie hebben van fig. 2.6. Bij een frequentie ω1

van de sinus bepalen we dan ook niet de waarde Hs(ω1) van het systeem, maar:

Z(ω1)

U(ω1)= Hs(ω1)Hf (ω1) [2.13]

waarin Hf (ω1) de waarde van de overdrachtsfunktie van het filter is bij de frequentieω1. De uitkomst moet hiervoor dus gecorrigeerd worden. Het is dan ook verstandigom een meting te doen aan alleen het filter bij de gekozen instelling van β en ω0 bijde frequentie ω1 van het ingangssignaal.

Voor sinusvormige signalen is het dus vrij simpel om in het frequentiedomeinvoor de invloed van het filter te corrigeren. Voor niet-sinusvormige signalen, bi-jvoorbeeld stapresponsies is dit moeilijker, zij het niet onoverkomelijk. We nemennog steeds aan dat het signaal, in dit geval de stapresponsie, laagfrequent is en de ruishoogfrequent. Stel dat we het filter van fig. 2.5 gebruiken en dat de stapresponsie eenfrequentie-inhoud heeft tot de frequentie ω0 en de ruis alleen frequenties bevat boven10ω0. De ruis wordt dan goed weggefilterd. Hoewel de amplitudekarakteristiek in hetfrequentiegebied dat relevant is voor de stapresponsie nagenoeg ideaal is, ontstaatwel een vervorming ten gevolge van de fasekarakteristiek. Om toch de onvervormdestapresponsie te verkrijgen moet men de gefilterde stapresponsie achteraf trans-formeren naar het frequentiedomein, deze delen door de overdrachtsfunktie van hetfilter in het frequentiegebied ω < ω0 en vervolgens het resultaat terugtransformerennaar het tijdsdomein. Er hebben dan dus vier bewerkingen plaatsgevonden te weten:analoog filteren in het tijdsdomein tijdens de meting, gevolgd door drie digitale be-werkingen achteraf, namelijk fouriertransformatie, correctie en terugtransformatie.Dit alles omdat het toegepaste filter eigenlijk niet ideaal is.

Ideaal filterDe overdrachtsfunktie van het ideale laagdoorlaatfilter zou men als volgt kunnenkarakteriseren:

H(ω) = 1 voor |ω| ≤ ω0

= 0 voor |ω| > ω0[2.14]


Figuur 2.7: Impulsresponsie h(t)en overdrachtsfunktie H(ω) vaneen ideaal laagdoorlaatfilter opeen lineaire schaal.

d.w.z. een filter dat niets doorlaat boven de frequentie ω0 en alles onvervormddoorlaat onder de frequentie ω0. Het is dus een filter zonder fasedraaiing. De vraagrijst in hoeverre een dergelijk filter te realiseren is. Om deze vraag te beantwoordenzullen we de impulsresponsie van dit filter bepalen. Deze is gelijk aan:

h(t) = F−1{H(ω)} =1

2π

∫ ∞

−∞H(ω)ejωtdω =

1

2π

∫ ω0

−ω0

ejωtdω =ω0

π

sinω0t

ω0t

Zowel de impulsresponsie h(t) als de overdrachtsfunktie H(ω) van het ideale laag-doorfilter zijn afgebeeld in fig. 10.7 op een lineaire schaal. Uit de afbeelding van deimpulsresponsie blijkt dat h(t) 6= 0 voor t < 0, d.w.z. het ideale bandfilter is nietcausaal. Deze eigenschap volgt uit de eis dat het filter geen fasedraaiing mag intro-duceren. Voor een willekeurige overdrachtsfunktie geldt dat ReH(−ω) = ReH(ω) enImH(−ω) = −ImH(ω). Een fasedraaiing nul betekent ImH(ω) = 0 ∀ω, dus H(ω)is reeel en symmetrisch. Hieruit volgt dat h(t) eveneens symmetrisch is. Een tweedeeigenschap van de impulsresponsie is, dat hij pas naar nul uitdempt voor t = −∞en t = ∞. Dit houdt verband met het feit dat de filterkarakteristiek een hoekigevorm heeft.

Een niet-causaal filter voor on-line signaalverwerking is fysisch niet realiseerbaar.Wanneer het echter om het achteraf filteren van reeds gemeten signalen gaat, biedteen computer daarvoor de mogelijkheid. Het gemeten signaal wordt bemonsterden fouriergetransformeerd. In het frequentiedomein worden vervolgens de waardenvoor frequenties |ω| > ω0 nul gemaakt, het resultaat wordt teruggetransformeerd.

Voor de opkomst van de computer is veel aandacht besteed aan het ontwerpen vananaloge filters die een benadering geven van de rechthoekige amplitudekarakteristiek.Een bekend voorbeeld hiervan is de klasse van Butterworth-filters. Een n-de ordeButterworth-filter wordt gekarakteriseerd door de vergelijking: |H(ω)|2 = 1

1+(ω/ω0)2n .Hoe groter de orde n van het filter, hoe beter de rechthoekige amplitudekarakter-istiek wordt benaderd, maar ook hoe groter de fasedraaiing van het filter. Bij verw-erking achteraf (off-line) van een gemeten signaal kan de fase-draaiing geelimineerdworden door het signaal na de eerste bewerking nog eens te filteren, maar dan vanachteren naar voren. In de huidige off-line digitale signaalverwerkingspakketten zijndergelijke filtertechnieken eveneens weer opgenomen. Dit is overigens een interessantvoorbeeld van het gebruiken van moderne middelen om de beperkingen van oudetechnieken te simuleren, terwijl het eigenlijk met die middelen eenvoudiger en beterkan.


Middelen in het tijdsdomeinBovenstaande filtertechniek is alleen bruikbaar voor het wegfilteren van ruis diebuiten het frequentiegebied van de niet verstoorde responsie ligt. Voor ruis die in hetzelfde frequentiegebied ligt als het signaal kan de methode van uitmiddelen wordengebruikt. Deze ”gemiddelde responsie techniek” is bruikbaar voor ingangssignalenmet een pulsachtig, stapvormig of blokvormig karakter. Stel dat we een ingangssig-naal u(t) hebben, dat een responsie x(t) oplevert, die in een zeker tijdsinterval Tuitgedempt is. De meetbare responsie y(t) = x(t)+n(t), waarin n(t) een ruissignaalis.

Men herhaalt nu het experimentN keer, meet de responsies yi(t) over een intervalT vanaf het begin van de stimulus u(t) en middelt de resultaten. Als N groot genoegis, levert dit weer een benadering xN(t) op van de onverstoorde responsie x(t). Wekrijgen dus: xN(t) = 1

N

∑Ni=1 yi(t) voor 0 ≤ t ≤ T . Voor de responsie yi(t) is het

niet verstoorde deel van de responsie is steeds hetzelfde, alleen de ruis ni(t) steedsverschillend, dus yi(t) = x(t) + ni(t). We krijgen dus:

xN(t) =1

N

N∑

i=1

xi(t) +1

N

N∑

i=1

ni(t) = x(t) +1

N

N∑

i=1

ni(t) [2.15]

De bijdrage van de ruis zal uitgemiddeld worden. Als we aannemen dat de ruis eengemiddelde waarde nul heeft zal het verschil tussen xN(t) en x(t) dus steeds kleinerworden bij toenemende N .

Voorbeeld

De methode wordt bijvoorbeeld veelvuldig toegepast bij onderzoek naar de elektrische ac-

tiviteit van de hersenen (Fig: 2.8). Wanneer men iemand een lichtflits in de ogen toedient,

kan men in principe een electrische aktiviteit meten van de hersenen met behulp van een

op het achterhoofd geplakte elektrode. Deze responsie ligt in de orde van grootte van 5 µV.

Deze responsie is echter niet zichtbaar in het EEG (ElectroEncephaloGram) als gevolg van

de voortdurend aanwezige elektrische aktiviteit die in de orde van grootte van 100 µV ligt

en die dus de responsie verstoort. Na 100 (x100(t)) keer uitmiddelen wordt deze responsie

echter wel zichtbaar en geeft de neuroloog informatie over eventuele afwijkingen in het

functioneren van de hersenen. Het interval tussen twee opeenvolgende lichtflitsen wordt

als regel onregelmatig gekozen tussen bepaalde grenzen. Dit om anticipatie te voorkomen

en ook om te voorkomen, dat bepaalde periodieke storingen, bijvoorbeeld de 50 Hz van

het lichtnet, eveneens systematisch in de responsie terecht komen.


Figuur 2.8: Voorbeeld van toepassing van de gemiddelde-responsietechniek voorhet geval dat het signaal verdronken is in de ruis.

FourieranalyseVoor het bepalen van een bodediagram met behulp van periodieke testsignalen, metruis in hetzelfde frequentiegebied als het testsignaal, is de filtertechniek niet meerbruikbaar. Een methode die in dat geval te gebruiken is, is de fourieranalyse. Stelhet in- en uitgangssignaal:

u(t) = a cosωt+ b sinωty(t) = c cosωt+ d sinωt+ n(t)

[2.16]

Wanneer we de signalen over een tijd kT observeren, waarin k een geheel getal is enT = 2π

ωde periodetijd van het signaal, dan kunnen we de coefficienten a en b zonder

meer bepalen volgens:

a =2

kT

∫ kT

0u(t) cosωtdt en b =

2

kT

∫ kT

0u(t) sinωtdt [2.17]

De coefficienten c en d kunnen we benaderen volgens:

c =2

kT

∫ kT

0y(t) cosωtdt en d =

2

kT

∫ kT

0y(t) sinωtdt [2.18]

De grootte van de fout t.g.v. de benadering volgt door invullen van de uitdrukkingvoor y(t):

c =2

kT

∫ kT

0(c cosωt+ d sinωt+ n(t)) cosωtdt [2.19]

= c+2

kT

∫ kT

0n(t) cosωtdt [2.20]

Evenzo voor d. De benaderingsfout is dus gelijk aan:

c− c =2

kT

∫ kT

0n(t) cosωtdt en d− d =

2

kT

∫ kT

0n(t) sinωtdt [2.21]

We nemen aan dat de ruis n(t) een signaal is dat willekeurig fluctueert rond eengemiddelde waarde nul. Beide tijdsfunkties worden met elkaar vermenigvuldigd en


vervolgens over een aantal perioden geıntegreerd. In het algemeen zal hier een kleine,van nul afwijkende, waarde uitkomen omdat de kans dat deze waarde positief is, evengroot als de kans dat hij negatief is. De waarde wordt dan nog vermenigvuldigd met2kT

. Door het aantal perioden k willekeurig groot te maken kan de fout in de bepalingvan c en d willekeurig klein gemaakt worden.

In plaats van een enkele sinus als ingangssignaal, kunnen we ook een som vansinussen nemen zoals boven werd beschreven. Het berekenen van de overdrachts-funktie via de bepaling van de fouriercoefficienten van in- en uitgangssignaal is infeite een methode die al helemaal gericht is op periodieke signalen opgebouwd uitmeer dan een sinusvormige component.

2.4 Niet-lineaire systemen zonder ruis

Hoewel de regeltechniek voornamelijk gericht is op het gebruik van theorieen diealleen gelden voor lineaire systemen, zijn veel systemen uit de praktijk niet altijdals lineair te beschouwen. Met name in de robotica en in de procesindustrie zijnde te regelen systemen als regel niet-lineair. Niet-lineaire systemen zijn zeer moei-lijk in het algemeen te behandelen. Immers, ze worden niet gekarakteriseerd dooreen bepaalde gemeenschappelijke eigenschap, maar juist door het ontbreken van eengemeenschappelijke eigenschap, namelijk de lineariteitseigenschap. Niet-lineaire sys-temen zijn systemen waarvoor het superpositiebeginsel niet geldt. Signaalontbindingen de daaruit voortvloeiende laplace- en fouriertransformaties zijn voor deze syste-men niet toepasbaar.

Lineariseren van niet-lineaire systemenEen veel toegepaste aanpak bestaat uit het lineariseren rond een werkpunt. Voorkleine variaties rond het werkpunt kan het systeem worden benaderd door een li-neair systeem. Kiest men een ander werkpunt, dan zal voor de benadering een anderlineair systeem moeten worden gekozen. De benadering in een bepaald werkpunt zalnooit exact zijn. Het niet exact gelijk zijn van het gelineariseerde systeem aan hetoorspronkelijk niet-lineaire systeem wordt verdisconteerd door het toevoegen van eenresidu of restsignaal r(t) aan de uitgang x(t) van het gelineariseerde systeem en welzodanig, dat deze signalen samen weer het uitgangssignaal y(t) van het niet-lineairesysteem opleveren (Fig. 2.9). De vraag is nu om, uitgaande van een beschrijvingvan het niet-lineaire systeem, te komen tot een lineaire benadering. We zullen ditin eerste instantie behandelen voor een statisch systeem.

Stel we hebben een statisch niet-lineair systeem met een ingangssignaal u(t). Degemiddelde waarde van het ingangssignaal is u0 en de variaties ten opzichte vandeze gemiddelde waarden zijn u1(t), dus: u(t) = u0 + u1(t). De relatie tussen hetingangssignaal u(t) en het bijbehorende uitgangssignaal y(t) wordt gegeven door de,niet-lineaire, statische vergelijking: y = f(u) = f(u0 + u1). Ontwikkeling in eenTaylor-reeks in y = f(u) levert:

y = f(u0) +f ′(uo)

1!u1 +

f ′′(u0)

2!u2

1 + · · · [2.22]

2.4 Niet-lineaire systemen zonder ruis 19

-u(t)

NL -y(t)

-u(t)

lineairsysteem -

x(t) y(t)e+

+ ?

r(t)

-

Figuur 2.9: Een niet-lineair systeem en het bijbehorende vervangingsschema nalinearisatie.

Figuur 2.10: Niet-lineaire karakteristiek van het statische systeem uit het voor-beeld met ingangssignaal u(t) = a + b sinωt en het uitgangssignaal y(t) van hetgelineariseerde systeem.

Stel de waarde y0 behoort bij de waarde u0 van het ingangssignaal en stel vervolgenshet verschil y1 = y−y0 = y−f(u0). We kunnen nu de lineaire versterkingsfaktor Kbepalen door afbreken na de eerste term, dus y1 ≈ f ′(u0)u1. De versterkingsfaktorK is dus te bepalen uit:

K = f ′(u0) =df(u)

du

∣

∣

∣

∣

∣

u0

= u0 [2.23]

Voorbeeld

Gegeven een statisch niet-lineair systeem, gekarakteriseerd door de relatie y = u3, meteen ingangssignaal u(t) = a + b sinωt. Gevraagd, de versterkingsfaktor K van het gelin-eariseerde systeem, alsmede de waarden van y0, y1(t) en r(t). In Fig. 2.10 is de niet-lineairekarakteristiek van het systeem gegeven met het ingangssignaal en het uitgangssignaal vanhet gelineariseerde systeem.

De versterkingsfaktor komt in feite overeen met de helling van de raaklijn in het

werkpunt u = u0. Voor het gegeven ingangssignaal geldt: u0 = a en u1(t) = b sinωt, dus

K = du3

du |u=a = 3a2. Voor de waarde y0 in het werkpunt geldt: y0 = u30 = a3. Het signaal

y1(t) is gelijk aan y1(t) = Ku1(t) = 3a2b sinωt. Voor het berekenen van het restsignaal r(t)

moeten we eerst de waarde van y(t) berekenen. Deze is gelijk aan: y(t) = (a+ b sinωt)3 =

a3+3a2b sinωt+3ab2 sin2 ωt+b3 sin3 ωt of y(t) = y0+y1(t)+3ab2sin2ωt+b3 sinω t, waaruit


-u(t)

NL -y(t)

- K -y(t)

e-+? ε(t)

�6

V (ε)

Figuur 2.11: Blokschema van het bepalen van de equivalente versterkingsfactor Kvan een statisch niet-lineair systeem door minimaliseren van de benaderingsfout ε(t).

volgt: r(t) = 3ab2 sin2 ωt+ b3 sin3 ωt.

Het gekozen voorbeeld illustreert dat de versterkingsfaktor K een funktie is vande gemiddelde waarde van het ingangssignaal. Uit de relatie K = 3a2 volgt, datde versterkingsfaktor nul is als de gemiddelde waarde van het ingangssignaal nul is.Dit blijkt ook uit Fig. 2.10, waarin te zien is dat de raaklijn aan de karakteristiekhorizontaal loopt in het punt u = 0. Voor zeer kleine amplitudes is dit een goedebeschrijving. Voor wat grotere amplitudes is dit echter geen realistische benadering.In de toegepaste wijze van lineariseren via een Taylorreeksontwikkeling wordt de ver-sterkingsfaktor uitsluitend bepaald door de helling van de raaklijn in het werkpunt.Hij is echter onafhankelijk van de amplitude van het ingangssignaal. Voor het ver-krijgen van een betere benadering zou ook rekening moeten worden gehouden met deamplitude van het ingangssignaal, met andere woorden een gewogen linearisatie.

Hierboven werd het niet-lineaire systeem vervangen door een lineair systeemen een restsignaal r(t) dat bij de uitgang van x(t) van het lineaire systeem moetworden opgeteld, om weer de responsie y(t) van het niet-lineaire systeem op hetingangssignaal u(t) te krijgen. De gedachtengang van de volgende methode is nu:Kies het lineaire systeem zodanig dat het restsignaal r(t) zo klein mogelijk wordt. Depraktische uitwerking van deze gedachtengang is voor een statische niet-lineariteitweergegeven in Fig. 2.11.

Het uitgangssignaal y(t) = f(u0 +u1(t)) wordt benaderd door een statisch modelmet uitgang y = y0 +Ku1(t). Het verschilsignaal ε(t) = y(t)− (y0 +Ku1(t)) wordtnu geminimaliseerd volgens een kwadratisch kriterium:

V =1

T

∫ T

0ε(t)2dt [2.24]

Behalve de versterkingsfactor K wordt nu echter ook de waarde y0 op deze wijzebepaald. We krijgen nu twee vergelijkingen:

∂V

∂K=

2

T

∫ T

0ε(t)

∂ε(t)

∂Kdt = 0 [2.25]

∂V

∂y0

=2

T

∫ T

0ε(t)

∂ε(t)

∂yodt = 0

Uit ε(t) = y(t) − y0 − Ku1(t) volgt: ∂ε(t)∂K

= −u1(t) en ∂ε(t)∂y0

= −1. Ingevuld levert


dit:

− 2

T

∫ T

0y(t)u1(t)dt+ y0

2

T

∫ T

0u1(t)dt+K

2

T

∫ T

0(u1(t))

2dt = 0 [2.26]

− 2

T

∫ T

0y(t)dt+ y0

2

T

∫ T

0dt+K

2

T

∫ T

0u1(t)dt = 0

Wanneer de tijd T gekozen wordt als een geheel veelvoud voor de periodetijd van hetsignaal u1(t), geldt dat

∫ T0 u1(t) = 0 Hierdoor kan het stelsel vereenvoudigd worden.

Hieruit volgt:

y0 =1

T

∫ T

0y(t)dt

K =2T

∫ T0 u1(t)y(t)dt

2T

∫ T0 (u1(t))2dt

=2T

∫ T0 u1(t)y1(t)dt

2T

∫ T0 (u1(t))2dt

met y1(t) = y(t) − y0, d.w.z. y0 is de gemiddelde waarde van het uitgangssignaaly(t) en K kan berekend worden uit de signalen u1(t) en y1(t), die de variaties t.o.v.de gemiddelde waarden beschrijven.

Voorbeeld

We passen deze wijze van lineariseren toe op het systeem van het vorige voorbeeld methet ingangssignaal u(t) = a + b sinωt en het uitgangssignaal y(t) bepaald door de sys-teemvergelijking y(t) = u(t)3, zodat y(t) = a3 + 3a2b sinωt+ 3ab2 sin2 ωt+ b3 sin3 ωt. Deversterkingsfaktor K heeft betrekking op fluctuaties t.o.v. de gemiddelde waarde. Voorde gemiddelde waarden u0 van het ingangssignaal geldt u0 = a dus u1(t) = b sinωt. Dekeuze y0 = u3

0 = a3 levert echter niet de gemiddelde waarde van y(t), omdat de termsin2 ωt nog een bijdrage levert. Mede in verband met het vereenvoudigen van verderrekenwerk zullen we daarom eerst y(t) herschrijven door gebruik van de substituties:sin3 ωt = 3

4 sinωt − 14 sin 3ωt en sin2 ωt = 1

2 − 12 cos 2ωt. Het uitgangssignaal kan dan

worden geschreven als een fourierreeks:

y(t) = (a3 +3

2ab2) + (3a2b+

3

4b3) sinωt− 3

2ab2 cos 2ωt− 1

4b3 sin 3ωt [2.27]

Zodat y0 = a3 + 32ab

2 en het signaal y1(t) = y(t) − y0 is dan gelijk aan:

y1(t) = (3a2b+3

4b3) sinωt− 3

2ab2 cos 2ωt− 1

4b3 sin 3ωt [2.28]

Hieruit volgt dan dat:

2

T

∫ T

0u1(t)y1(t)dt = [2.29]

(3a2b+ 34b

3)b 2T

∫ T0 sin2 ωtdt− 3

2ab3∫ T0 sinωt cos 2ωtdt− 1

4b4∫ T0 sinωt sin 3ωtdt

Uit de orthogonaliteitseigenschappen van sinussen en cosinussen volgt dat de laatste tweeintegralen nul zijn, zodat:

2

T

∫ T

0u1(t)y1(t)dt = b(3a2b+

3

4b3)

2

T

∫ T

0sin2 ωtdt = b2(3a2 +

3

4b2) [2.30]


Figuur 2.12: Vergelijking tussen lin-eariseren zonder en met weging van deamplitude van het ingangssignaal.

Verder is 2T

∫ T0 u1(t)

2dt = b2 2T

∫ T0 sin2 ωtdt = b2 De versterkingsfactor K is dus gelijk aan:

K = 3a2 +3

4b2 [2.31]

Het restsignaal r(t) = ε(t) is gelijk aan:

r(t) = y1(t) −Ku1(t) = −3

2ab2 cos 2ωt− 1

4b3 sin 3ωt [2.32]

Bij de linearisering door afbreken na de eerste term van een Taylorreeks (vorige voorbeeld)was het restsignaal:

r(t) =3

2ab2 +

3

4b3 sinωt− 3

2ab2 cos 2ωt− 1

4b3 sin 3ωt [2.33]

De term 32ab

2 is verdwenen door een andere keuze van de waarde van y0. De term 34b

3 sinωt

is verdwenen door de versterkingsfactor K afhankelijk te maken van de amplitude van het

ingangssignaal. De verschillen worden geıllustreerd in fig. 2.12, waarin achtereenvolgens

voor het zelfde ingangssignaal u(t) het werkelijke uitgangssignaal van het niet-lineaire

systeem en de gelineariseerde uitgangssignalen zijn gegeven volgens de twee behandelde

lineariseringsmethoden.

Bij de gewogen linearisatie bestaat het restsignaal r(t) nog uitsluitend uit de hogereharmonischen van het ingangssignaal. De factor K geeft in feite het verband weertussen het ingangssignaal en de grondharmonische van het uitgangssignaal. Dit re-sultaat vormt in feite de oplossing van het minimaliseringsprobleem. Er bestaatnamelijk geen andere waarde voor K die het restsignaal r(t) kleiner kan maken.


Hiervan uitgaande kan de waarde van K ook direct worden berekend door de ampli-tuden van de componenten van sinωt in uitgangssignaal en ingangssignaal op elkaarte delen, dus:

K =3a2b+ 3

4b3

b= 3a2 +

3

4b2 [2.34]

Volgens deze gedachtegang is deze methode van lineariseren ook toe te passen voordynamische systemen. Stel dat bij een gegeven ingangssignaal: u(t) = a0+a cosωt+b sinωt het uitgangssignaal van een niet-lineair systeem wordt gevonden gelijk aan:y(t) = c0 +

∑∞k=1(ck cos kωt + dk sin kωt) dan geldt voor de overdrachtsfunktie van

het gelineariseerde systeem bij de frequentie ω:

|H(u, ω)| =

√

c21 + d21

a2 + b2[2.35]

6 H(u, ω) = arctanb

a− arctan

d1

c1

Deze methode van lineariseren staat ook bekend als de methode van de harmonis-che balans, omdat de balans voor de vergelijking van het niet-lineaire systeem enhet gelineariseerde systeem klopt voor de grondharmonische.

De gevonden overdrachtsfunktie van het gelineariseerde systeem is nu niet alleeneen funktie van de frequentie ω maar ook een funktie van het ingangssignaal u(t).De grootheid H(u, ω) staat bekend als de beschrijvende funktie van het niet-lineaire systeem. Men kan de beschrijvende funktie zien als een zeer algemene lin-eaire benaderingswijze van een systeembeschrijving. Lineaire systemen zijn dan tebeschouwen als een bijzonder geval, dat gekenmerkt wordt door twee eigenschappen:

• De beschrijvende funktie H(u, ω) is niet langer een funktie van het ingangssig-naal u maar alleen van de frequentie ω.

• De restterm r(t) = 0.

Niet-lineaire systemen met ruisVolledigheidshalve zullen we deze situatie ook beschouwen, zij het slechts kort, om-dat deze op te vatten is als een combinatie van hetgeen al is behandeld. We beperkenons weer tot het geval van een systeem waarvan het ingangssignaal periodiek isen tevens exact bekend. De ruis bestaat weer uit systeemruis en meetruis op hetuitgangssignaal. We gaan er weer van uit dat de effecten van deze ruisbronnenbeschreven kunnen worden door een additieve ruis op de uitgang (fig. 2.13a). Hetniet-lineaire systeem (NL) kunnen we lineariseren en aldus vervangen door een lin-eair model en een restsignaal r′(t), opgeteld bij de uitgang van dit lineaire model(fig. 2.13b). Het restsignaal r′(t) bestaat, als we uitgaan van een sinusvormig in-gangssignaal en toepassing van de methode van de harmonische balans, uit hogereharmonischen van het ingangssignaal. Praktisch kunnen we nooit meten tussen deoptelpunten van r′(t) en n(t) in. We kunnen alleen y(t) meten. Dit betekent dat wer′(t) en n(t) ook nooit afzonderlijk kunnen bepalen. Daarom nemen we ze samentot een restsignaal r(t) (fig. 2.13c).


a -u(t)

NL -y(t)

e+

+ ?

n(t)

-

b -u(t)

lineairmodel

-y(t)

e+

+ ?

r′(t)

- e+

+ ?

n(t)

-

c -u(t)

lineairmodel

-y(t)

e+

+ ?

r(t)

-

Figuur 2.13: a) Niet-lineair systeem met een additieve ruis op de uitgang. b)Vervanging van het niet-lineaire systeem door een lineair model met restsignaal r ′(t).c) Combinatie van het restsignaal r′(t) en de ruis n(t) tot een nieuw restsignaal r(t)in het uiteindelijk toe te passen vervangingsschema.

-u(t)

lineairsysteem -

y(t)

Figuur 2.14: Een lineair systeem met ingangssignaal u(t) en uitgangssignaal y(t)zonder verstoring.

2.5 Grenzen aan de mogelijkheden

We beschouwen nogmaals het geval van een lineair systeem met ingangssignaal u(t)en uitgangssignaal y(t) en wel in de situatie dat we geen systeemruis en geen meetruishebben (fig. 2.14). Tot nog toe hebben we het geval bekeken dat we zelf vrij warenhet ingangssignaal u(t) te kiezen, bijvoorbeeld als een stap, een sinus of een somvan sinussen. In de praktijk is het te identificeren systeem vaak een deelsysteemin een complexer geheel. Het ingangssignaal u(t) is dan een van nature aanwezigfluktuerend signaal, dat op zich weer een uitgangssignaal is van een ander deelsys-teem. Het is vaak niet mogelijk om het deelsysteem te isoleren van de rest van hetgeheel om dit met een zelf gekozen testsignaal te identificeren. Men zal dan gebruikmoeten maken van de aanwezige signalen u(t) en y(t). Als we aannemen dat wedeze grootheden praktisch ruisvrij kunnen meten over een zekere tijd, kunnen we inprincipe de overdrachtsfunktie van het systeem als volgt bepalen.

Transformeer de gemeten signalen naar het frequentiedomein en bereken danH(ω) uit:

H(ω) =Y (ω)

U(ω)[2.36]

Aan de gemeten, en dus bekende, signalen hoeft alleen de eis gesteld te worden dat

2.5 Grenzen aan de mogelijkheden 25

a -U(ω)

H(ω) - e+

+ ?

N(ω)

-Y (ω)

b -U(ω)

H ′(ω) -Y (ω)

Figuur 2.15: Systeem met ruisvormig ingangssignaal, verstoord door ruis (a), datgeidentificeerd wordt alsof er geen ruis is (b).

hun fouriergetransformeerden bestaan. Een voldoende voorwaarde voor het bestaanvan de fouriergetransformeerde van een signaal x(t) is, dat moet gelden:

∫ ∞

−∞|x(t)| < M [2.37]

Waarbij M een willekeurig hoog, maar eindig getal moet zijn. Hieraan wordt inieder geval voldaan als x(t) voor elke waarde van t een eindige waarde heeft enals verder geldt dat x(t) = 0 voor t = −∞ en t = ∞. Bij een praktische metingwordt zeker aan deze voorwaarden voldaan. Hier zit dan ook niet het probleem. Hetprobleem zit in het feit dat de relatie alleen geldt voor systemen zonder verstoring.In de praktijk zal namelijk de situatie dat de verstoring te verwaarlozen is zeldenvoorkomen. Als het ingangssignaal een ruisvormig karakter heeft, kunnen we echteraan het uitgangssignaal nooit zien, of er nog een ruisbijdrage van de verstoring isbijgekomen. Wat de consequenties hiervan zijn volgt uit fig. 2.15.

Voor het werkelijke systeem (Fig. 2.15a) geldt: Y (ω) = H(ω)U(ω) + N(ω).Wanneer we dit identificeren in de veronderstelling dat er geen verstoring aanwezigis (Fig. 2.15b) vinden we

H ′(ω) =Y (ω)

U(ω)=H(ω)U(ω) +N(ω)

U(ω)= H(ω) +

N(ω)

U(ω)[2.38]

Alleen wanneer de ruis in een ander frequentiegebied ligt dan het ingangssignaal is defout nul. Het probleem is echter vaak juist dat de ruis in hetzelfde frequentiegebiedligt als het ingangssignaal en bovendien onbekend is. Dit probleem is met de totnog toe behandelde, op deterministische beschouwingen gebaseerde, theorie nietmeer oplosbaar.

Aangezien de beschreven situatie wel van groot praktisch belang is, zijn er echtermethoden ontwikkeld om ook in dit geval de overdrachtsfunktie H(ω) te kunnenbepalen. Deze methoden zijn gebaseerd op de theorie van stochastische processen.Deze theorie is in feite een uitbreiding van de waarschijnlijkheidsrekening met hettijdsaspekt (Hfst. 5). Daarna worden dan de basisconcepten van de stochastis-che processen en hun eigenschappen besproken in relatie tot het systeemidentifi-catieprobleem.

Hoofdstuk 3

Bemonsterde signalen in hetfrequentiedomein

Bij de praktische toepassing van identificatietechnieken in het frequentiedomein wor-den gemeten signalen verwerkt met behulp van computers. Dit betekent dat deze sig-nalen moeten worden bemonsterd en met behulp van een analoog-digitaal-omzettervoor verdere verwerking worden omgezet in een getallenreeks. Hierbij rijzen vragenals:

• Wat is de relatie tussen het continue signaal en de daaruit afgeleide getallen-reeks?

• Kan het continue signaal hier weer uit gereconstrueerd worden? Zo ja, aanwelke voorwaarden moet dan worden voldaan?

• Hoe kan er voor gezorgd worden dat enerzijds geen informatie verloren gaat,anderzijds niet onnodig veel getallen verwerkt moeten worden?

• Met welke ongedachte neveneffecten van diskretisatie in tijds- en frequen-tiedomein moet rekening worden gehouden?

Om deze vragen te kunnen beantwoorden, wordt in par. 3.1 eerst aandacht geschonkenaan een wiskundig hulpmiddel, namelijk de kam van dirac. De toepassing voor hettransformeren van bemonsterde signalen komt naar voren in par. 3.2. Hier wordtook de voorwaarde gegeven waarij het oorspronkelijke continue signaal weer gerecon-strueerd kan worden uit een bemonsterd signaal. De Diskrete Fourier Transformatiewordt besproken in par. 3.3. Voor de praktische toepassing hiervan wordt gebruikgemaakt van een handig algorithme, de zogenaamde Fast Fourier Transform. Hier-bij is de volgorde van de bewerkingen zodanig georganiseerd, dat dubbel rekenwerkvermeden wordt.

3.1 De diracfunktie en de kam van dirac

Een belangrijke funktie die als hulpmiddel gebruikt wordt bij het beschrijven vanbemonsterde signalen in het frequentiedomein is de kam van dirac. Alvorens deze

28 3 Bemonsterde signalen in het frequentiedomein

0

6

x0

δ(x− x0)

Figuur 3.1: Symbolische weer-gave van een diracfunktie.

te behandelen zal eerst de enkele diracfunktie, zoals deze ontstaat na fouriertrans-formatie van een sinusvormig signaal, nader worden beschouwd.

3.1.1 De diracfunktie

In het vak Systeemtheorie is naar voren gekomen dat de diracfunctie de fourierge-transformeerde is van een e-macht met een imaginaire exponent. De diracfunctie isals zodanig niet gedefinieerd. Er zijn verschillende vormen van funkties te bedenken,die in het limietgeval naar een diracfunktie convergeren. Daarom is de diracfunktiealleen gedefinieerd op zijn integraal-eigenschappen, namelijk

∫ ∞

−∞δ(x− x0)g(x)dx = g(x0), [3.1]

waarbij g(x) een willekeurig funktie is op het interval [−∞,∞] met als enige eisdat hij continu is in x = x0. Voor de grootheid x kan men bijvoorbeeld een tijd tof een frequentie ω invullen. De diracfunktie wordt als regel symbolisch afgebeeldvolgens fig. 3.1. Deze wijze van weergeven in combinatie met de definitie leidt totde volgende intuitieve interpretatie:

δ(x− x0) = ∞ voor x = x0

δ(x− x0) = 0 voor x 6= x0[3.2]

en∫ ∞

−∞δ(x− x0)dx = 1 [3.3]

Een diracfunktie is eigenlijk geen funktie in de zin dat het verloop hiervan vollediggedefinieerd is. Het is eerder een klasse van funkties die een integraaleigenschapgemeen hebben. Een aantal typen diracfunkties voldoet weliswaar aan de intuıtieveeigenschap van een funktie die overal nul is met uitzondering van een punt waar hijde waarde oneindig heeft, maar er zijn ook diracfunkties die niet deze eigenschaphebben, maar uitsluitend aan de integraaleigenschap voldoen. Diracfunkties van dittype ontstaan bijvoorbeeld bij de fouriertransformatie van een sinusvormig signaal.

3.1.2 De kam van dirac

De diracfunktie, en de daarvan afgeleide kam van dirac, spelen een belangrijke rol bijde wiskundige afleidingen van de relaties tussen continue en bemonsterde signalen.Dit soort diracfunkties ontstaat ook wanneer een oneindig voortlopende reeks van

3.1 De diracfunktie en de kam van dirac 29

diracfunkties, een zogenaamde kam van dirac met oneindige lengte, wordt getrans-formeerd. Het blijkt dat de funktie die hieruit ontstaat, in het frequentiedomeineveneens te beschrijven is als een kam van dirac van oneindige lengte.

Beschouw een funktie bestaande uit oneindig aantal diracpulsen op onderlinggelijke afstand ∆t, zodanig gelegen dat de funktie symmetrisch is ten opzichte vant = 0 (zie figuur 3.2). Een dergelijke funktie staat bekend als een oneindige kam van

0

6 6 6 6 6 6 6 6 6 6 6

−k∆t k∆t- t

Figuur 3.2: Een (eindige) kam van dirac.

dirac. De beschouwde funktie is te schrijven als:

x(t) =∞∑

k=−∞δ(t− k∆t) [3.4]

Dit is een periodieke functie met periode ωs = 2π∆t

. Deze periodieke functie kangeschreven worden als som van sinusvormige signalen die een frequentie hebben dieeen veelvoud is van de grondfrequentie. Berekening van de Fourier coefficienten voorbovenstaande kam van diracpulsen op het interval (−∆t

2, ∆t

2) levert:

x(t) =∞∑

k=−∞ake

−jkωst [3.5]

met

ak =1

∆t

∫ ∆t/2

−∆t/2δ(t)e−jkωstdt =

1

∆t∀k [3.6]

Met gebruikmaking van F{ejω0t} = 2πδ(ω − ω0), (zie Systeemtheorie), levert deFouriertransformatie van x(t):

X(ω) =2π

∆t

∞∑

n=−∞δ(ω − nωs) [3.7]

Hieruit blijkt dat de Fourier getransformeerde van een serie van diracpulsen ook weereen serie van diracpulsen oplevert in het frequentiedomein. Met ωs = 2π

∆tkrijgen we

dus het transformatiepaar

f(t) =∞∑

k=−∞δ(t− k∆t) ; F (ω) = ωs

∞∑

n=−∞δ(ω − nωs) [3.8]

Zoals nog zal blijken in de volgende paragraaf is de kam van dirac een belangrijkhulpmiddel voor het rekenen met bemonsterde signalen.


-x(t)

r�� -x(k∆t)

∆tsampler

-x(t)

j× -xs(t)?

∆t∞∑

k=−∞δ(t− k∆t)

Figuur 3.3: Links: Bemonstering (sampling) van een continu signaal. Rechts:Impuls bemonstering.

3.2 Bemonsterde signalen

Bij de transformatie van betrekkelijk simpele funkties, die in het tijdsdomein be-monsterd worden, kunnen in het frequentiedomein afbeeldingen ontstaan die andersuitvallen dan men in eerste instantie verwacht. Dit is een gevolg van het feit datniet altijd kan worden voldaan aan de eisen voor geldigheid van het theorema vanShannon dat in deze paragraaf wordt behandeld.

3.2.1 Transformatie van bemonsterde signalen naar het fre-quentiedomein

Beschouw de funktie x(t) met fouriergetransformeerde X(ω). Deze tijdsfunktiewordt bemonsterd met een interval ∆t en levert dan een reeks getallen:

x(k∆t) = ...x(−2∆t), x(−∆t), x(0), x(∆t), x(2∆t), ...

Wil men nu het bemonsterde signaal fouriertransformeren, dan moet men zich re-aliseren dat bij integratie over de tijd de funktie geen breedte heeft, dus voor elkewaarde van ω geldt X(ω) = 0. Om dit probleem op te lossen beschouwen we hetprodukt van het signaal x(t) met de dirackam ∆t

∑∞k=−∞ δ(t− k∆t) (fig 3.3):

xs(t) = x(t)∆t∞∑

k=−∞δ(t− k∆t)

Het signaal xs(t) is nu een continu signaal dat alleen waarden ongelijk nul heeft voort = k∆t.

De funkties x(t), x(k∆t), de dirackam en xs(t) zijn weergegeven in fig. 3.4.Fouriertransformatie van het produkt van x(t) met een kam van dirac levert:

Xs(ω) =∫ ∞

−∞x(t)∆t

∞∑

k=−∞δ(t− k∆t)e−jωtdt [3.9]

= ∆t∞∑

k=−∞

∫ ∞

−∞x(t)e−jωtδ(t− k∆t)dt = ∆t

∞∑

k=−∞x(k∆t)e−jωk∆t

Het gebruik van de dirackam heeft nog een ander belangrijk voordeel. Het wordtnu namelijk mogelijk om een verband te leggen tussen de fouriergetransformeerde

3.2 Bemonsterde signalen 31

0 1 2 3 4 5 6 7 8 9 10−2

0

2

0 1 2 3 4 5 6 7 8 9 10−2

0

2

tijd [s]

0 1 2 3 4 5 6 7 8 9 10−2

0

20 1 2 3 4 5 6 7 8 9 10

−2

0

2

D

C

B

A

Figuur 3.4:

A: Het continue signaal x(t).B: De getallenreeks x(k∆t).C: De dirackam ∆t

∑∞k=−∞ δ(t− k∆t).

D: Het produkt xs(t) van het continue signaal met een dirackam.

Xs(ω) van het bemonsterde signaal en de fouriergetransformeerde X(ω) van hetoorspronkelijke signaal. Immers, met gebruikmaking van vgl. [3.8] geldt:

Xs(ω) = F{x(t)∆t∞∑

k=−∞δ(t− k∆t)}

= F{x(t)} ∗ F{∆t∞∑

k=−∞δ(t− k∆t)}

=1

2π

∫ ∞

−∞X(ω − ω′)∆t ωs

∞∑

n=−∞δ(ω′ − nωs)dω

′

=∞∑

n=−∞X(ω − nωs) [3.10]

Indien we uitgaan van een funktie X(ω) die voldoet aan X(ω) = 0 voor |ω| ≥ ωs/2dan bevat deze reeks maar een term 6= 0, namelijk de term waarvoor geldt −ωs/2 <ω − nωs < ωs/2. Dit is dan de term met X ′(ω) = X(ω − nωs). Voor elke waardevan n is er steeds een term, maar ook niet meer dan een term, te vinden zoals wordtgeıllustreerd in fig. 3.5 voor het geval dat n = 2. Het spectrum van X(ω) herhaalt


−10 −8 −6 −4 −2 0 2 4 6 8 100

1

2

−10 −8 −6 −4 −2 0 2 4 6 8 100

1

2

frequentie [2π rad/s]

ωs

ω1+2ω

sω

1 ω

1+ω

s

Figuur 3.5: Bepaling van de fouriergetransformeerde Xs(ω) van een bemonsterd sig-naal uit de fouriergetransformeerde X(ω) van een continu signaal bij een frequentieω > ωs, getekend voor een bemonsterfrequentie ωs = 8π rad/s.

−10 −8 −6 −4 −2 0 2 4 6 8 100

1

2

Het continue signaal in het frequentie domein

−10 −8 −6 −4 −2 0 2 4 6 8 100

1

2

Het bemonsterde signaal


ωs

Figuur 3.6: Amplitudespectra van een continu signaal x(t) en van het bemonsterdesignaal xs(t) voor een bemonsterfrequentie van ωs = 8π rad/s.

zich dus steeds langs de frequentieas met een interval ωs, zoals afgebeeld in fig. 3.6.De figuur illustreert dat het signaal xs(t) energie bevat bij oneindig hoge frequenties.Dit moet ook wel voor een funktie met oneindig steile hellingen in het tijdsdomein.

3.2.2 Het theorema van Shannon

Uit fig. 3.6 blijkt dat er voor een gegeven bemonsterfrequentie ωs zodanig datX(ω) = 0 voor |ω| ≥ ωs/2 een een-eenduidig verband bestaat tussen X(ω) enXs(ω). Dit suggereert dat het bemonsterde signaal nog steeds alle informatie bevatover het oorspronkelijke continue signaal. Het continue signaal moet dus uit hetbemonsterde signaal gereconstrueerd kunnen worden. Dit is inderdaad het geval.


−10 −8 −6 −4 −2 0 2 4 6 8 100

1

2

Bemonsterd signaal met ωs=8π rad/s

−10 −8 −6 −4 −2 0 2 4 6 8 100

0.5

1

1.5

2

De funktie W(ω)

−10 −8 −6 −4 −2 0 2 4 6 8 100

1

2Het continue signaal X(ω)


ωs

Figuur 3.7: Reconstructie van X(ω) uit Xs(ω).

Als we in het frequentiedomein de funktie Xs(ω) vermenigvuldigen met de funktie

W (ω) = 1 voor |ω| < ωs/2= 0.5 voor |ω| = ωs/2= 0 voor |ω| > ωs/2

[3.11]

ontstaat weer de funktie X(ω), zoals wordt geıllustreerd in fig. 3.7. Er geldt dus datX(ω) = W (ω)Xs(ω). Terugtransformatie naar het tijdsdomein levert:

x(t) = F−1{W (ω)Xs(ω)} = w(t) ∗ xs(t) =∫ ∞

−∞w(t− τ)xs(τ)dτ [3.12]

waarbij voor w(t) geldt:

w(t) =ωs2π

sin ωs

2t

ωs

2t

=ωs2π

sinc(ωs2t)

met de functie sinc(t) gedefinieerd als sinc(t) = sin tt

. Hieruit volgt dat:

x(t) =ωs2π

∫ ∞

−∞sinc(

ωs2

(t− τ))x(τ)∆t∞∑

k=−∞δ(τ − k∆t)dτ

=ωs2π

∆t∞∑

k=−∞

∫ ∞

−∞sinc(

ωs2

(t− τ))x(τ)δ(τ − k∆t)dτ

=∞∑

k=−∞sinc(

ωs2

(t− k∆t))x(k∆t) [3.13]

Deze relatie laat zien dat x(t) precies weer berekend kan worden uit de bemonsterdewaarden x(k∆t) van het oorspronkelijke continue signaal. Deze uitdrukking staat


−5 −4 −3 −2 −1 0 1 2 3 4 50

1

2Het continue signaal in het frequentie domein

−5 −4 −3 −2 −1 0 1 2 3 4 50

1

2De componenten van het bemonsterde signaal

−5 −4 −3 −2 −1 0 1 2 3 4 50

1

2Het bemonsterd signaal met ω

s=6π rad/s

−5 −4 −3 −2 −1 0 1 2 3 4 50

1

2De funktie W(ω)

−5 −4 −3 −2 −1 0 1 2 3 4 50

1

2Het gereconstrueerde continue signaal


Figuur 3.8: Het effect van een te lage bemonsterfrequentie, gezien in het frequen-tiedomein.

bekend als het theorema van Shannon. Hij geldt alleen voor het geval datX(ω) =0 voor |ω| > ωs/2 (zie fig. 3.5). Wat er gebeurt als niet aan deze eis wordt voldaanis te zien in fig. 3.8. Er is hier een zeker frequentiegebied waarvoor de reeks Xs(ω) =∑∞k=−∞X(ω− kωs) twee termen bevat die ongelijk aan nul zijn. Vermenigvuldiging

van Xs(ω) met de funktie W (ω) geeft nu niet meer de oorspronkelijke funktie X(ω)terug. De bemonsterfrequentie ωs = 2π

∆tmoet dus altijd zodanig worden gekozen

dat:

ωs > 2ωmax [3.14]

waarbij ωmax de hoogste frequentie is waarbij het signaal nog energie bevat.

Aliasing. Fig. 3.9 laat zien wat er gebeurt, als een sinus met een te lage fre-quentie wordt bemonsterd. Er ontstaat een schijnbaar laag-frequente sinus. Diteffekt dat (in het Engels) aliasing wordt genoemd staat ook bekend als het stro-boscoopeffekt. Dit wordt soms bewust toegepast om snelle periodieke verschijnselenvertraagd te kunnen bekijken, bijvoorbeeld bij het balanceren van autowielen. Bijde signaalverwerking dient dit effekt echter vermeden te worden. In het vervolg zaler dan ook steeds van uitgegaan worden dat de bemonsterfrequentie zodanig wordtgekozen, dat aan deze eis voldaan is. Dit wil echter niet zeggen dat overlap in hetfrequentiedomein altijd te vermijden is.

3.2.3 Recapitulatie bemonsterde signalen

Enkele belangrijke conclusies uit deze paragraaf zijn de volgende:


0 1 2 3 4 5 6 7 8 9 10−1

−0.5

0

0.5

1

0 1 2 3 4 5 6 7 8 9 10−1

−0.5

0

0.5

1

Tijd [s]

−1.5 −1 −0.5 0 0.5 1 1.50

0.5

1

Frequentie [2π rad/s]

Xs(ω) X(ω)

π∆ t

2π∆ t

ω1

ω2 −ω

2 −ω

1

x(t) = cosω1t

xs(t) = cosω2t

ω2 = 2π∆t − ω1

Figuur 3.9: Het effect van een te lage bemonsterfrequentie voor een sinusvormigsignaal.

• Bij een goed gekozen bemonsterfrequentie gaat er geen informatie verloren bijhet bemonsteren van een continu signaal.

• Bij het bemonsteren van een continu signaal in het tijdsdomein ontstaat eenperiodiek signaal in het frequentiedomein.

Indien niet aan de eisen voor geldigheid van het theorema van Shannon wordtvoldaan kunnen afbeeldingen van transformaties in het frequentiedomein van be-monsterde signalen er anders uitzien dan men in eerste instantie verwacht. De con-clusie m.b.t. de periodiciteit in het frequentiedomein kan nog verder gegeneraliseerdworden, in die zin dat bemonsteren in het frequentiedomein een periodiek signaal inhet tijdsdomein oplevert. In feite was deze eigenschap al bekend. Een periodiek sig-naal in het tijdsdomein leverde een lijnenspectrum op in het frequentiedomein, datde fourierreeks beschrijft. Bij een amplitudespectrum zijn dit de amplituden van deafzonderlijke componenten. Bij een fouriertransformatie van een periodiek signaalontstaat een gewogen dirackam, waarvan de weegfaktoren weer overeenkomen met decoefficienten van de fourierreeks. Nog een stap verder gaat de transformatie van eenbemonsterd periodiek signaal in het tijdsdomein. Dit levert in het frequentiedomeineen afbeelding die periodiek en bemonsterd is. Anders gezegd: bemonsteren in hetene domein levert periodiciteit in het andere domein en omgekeerd. Een en anderis in beeld gebracht in fig. 3.10. Gemakshalve is hier uitgegaan van een funktie diesymmetrisch is in de tijd en dus ook reeel en symmetrisch in het frequentiedomein.Voor een willekeurige funktie komt er nog een imaginair, keersymmetrisch, deel bijin het frequentiedomein. De eigenschappen blijven in principe echter gelden.


Figuur 3.10: Bemonsteren en periodiciteit in tijdsdomein en frequentiedomein.

Met de periodiciteitseigenschappen in tijds- en frequentiedomein in samenhangmet bemonsteren in frequentieen tijdsdomein is in feite de basis gelegd voor de inde volgende paragraaf te behandelen diskrete fouriertransformatie.

3.3 De Fourier Transformatie

In het vak Systeemtheorie is de continue Fouriertransformatie behandeld. Deze wasals volgt gedefinieerd. De Fouriertransformatie van een continue signaal x(t)wordt gegeven door:

X(ω) = F{x(t)} =∫ ∞

−∞x(t)e−jωtdt [3.15]

en de terugtransformatie levert:

x(t) = F−1{X(ω)} =1

2π

∫ ∞

−∞X(ω)ejωtdω [3.16]

In deze paragraaf zullen overeenkomstige definities worden gegeven voor gediscre-tiseerde signalen.

3.3.1 De diskrete fouriertransformatie (DFT)

In de praktijk worden signalen altijd over een eindige tijd, gemeten, bemonsterden ingelezen in een computer voor verdere verwerking. Is deze verdere verwerk-ing een fouriertransformatie, dan zal de fouriergetransformeerde eveneens voor eeneindig aantal frequenties worden berekend. Het komt er in feite op neer dat een

3.3 De Fourier Transformatie 37

Figuur 3.11: Een continu signaal x(t) en zijn fouriergetransformeerde X(ω).

eindige reeks getallen in het tijdsdomein wordt afgebeeld op een, eveneens eindige,getallenreeks in het frequentiedomein.

We zullen de gevolgde procedure nader onderzoeken uitgaande van de bijbeho-rende continue funkties. Beschouw een signaal x(t) gemeten over een eindig interval[0, T ]. De frequentieinhoud van het signaal is eveneens begrensd en wel op het fre-quentieinterval [−ωs

2, ωs

2]. Het signaal en zijn fouriergetransformeerde zijn afgebeeld

in fig. 3.11. Het signaal wordt nu bemonsterd met een interval ∆t = 2πωs

. Bij eenobservatietijd T = N∆t wordt het signaal dus beschreven door N reele getallen.Dit aantal is noodzakelijk en voldoende om het oorspronkelijke continue signaal tereconstrueren. Bij fouriertransformatie van het bemonsterde signaal is het eveneensnoodzakelijk en voldoende om de getransformeerde voor N frequenties op het in-terval [−ωs

2, ωs

2] te berekenen. Dit levert N complexe getallen. Door de symmetrie-

eigenschappen van X(ω) zijn er dan echter maar N2

complexe getallen onderlingonafhankelijk, zodat de funktie uiteindelijk weer op N onafhankelijke getallen wordtafgebeeld. Als frequentieinterval kiezen we dus ∆ω = ωs

N= 2π

N∆t= 2π

T.

Door het bemonsteren in het tijdsdomein is de afbeelding in het frequentiedomeinnu periodiek geworden met periode ωs. Doordat we ook in het frequentiedomein be-monsteren is het bemonsterde signaal in het tijdsdomein eveneens periodiek gewor-den met periode T . Bij de transformatie beperken we ons tot het afbeelden vaneen periode in het tijdsdomein op een periode in het frequentiedomein. Als in-terval kiezen we dan [0, ωs]. Het plaatje van fig. 3.11 gaat dan over in fig. 3.12.De fouriergetransformeerde van het bemonsterde signaal in het tijdsdomein wordtverkregen door fouriertransformatie van het produkt van het continue signaal x(t)en de eindige kam van dirac: ∆t

∑Nk=0 δ(t − k∆t). De fouriergetransformeerde van

het bemonsterde signaal bij een frequentie ω = n∆ω = 2πnN∆t

wordt nu:

X(n∆ω) =∫ ∞

−∞x(t)∆t

N−1∑

k=0

δ(t− k∆t)e−j2πntN∆t dt

= ∆tN−1∑

k=0

x(k∆t)e−j2πnk

N voor n = 0, 1, . . . , N − 1 [3.17]


Figuur 3.12: Een periode van de uit vorige figuur afkomstige bemonsterde signalenx(k∆t) in het tijdsdomein en van X(n∆ω) in het frequentiedomein.

Terugtransformatie levert op overeenkomstige wijze:

x(k∆t) =∆ω

2π

N−1∑

n=0

X(n∆ω)ej2πnk

N voor k = 0, 1, . . . , N − 1 [3.18]

Hiervan uitgaande is een nieuwe transformatie gedefinieerd, namelijk de Diskre-te Fourier Transformatie (DFT). Deze transformatie geeft het verband tussen eengetallenrij xk in het tijdsdomein en een getallenrij Xn in het frequentiedomein:

Xn = F{xk} = ∆t∑N−1k=0 x(k∆t)e

−j 2πknN voor n = 0, 1, . . . , N − 1

xk = F−1{Xn} = 1N∆t

∑N−1n=0 X(n∆ω)ej

2πknN voor k = 0, 1, . . . , N − 1

waarbij 1N∆t

= ∆ω2π

. De constanten ∆t en ∆ω2π

zorgen er voor dat de schalen langs detijdas en de frequentieas zijn vastgelegd en dat de bewerkingDFT−1{DFT{xk}} de eenheidsoperatie oplevert. Bij de hier gekozen definitie vande DFT is ∆t meegenomen. Soms wordt ∆t = 1 genomen, dan wordt ∆ω = 2π

N.

Weer anderen stellen ∆ω = 2π, zodat ∆t = 2πN∆ω

= 1N

. Bij het praktisch toepassenvan elders geschreven DFT- subroutines is het dus van belang na te gaan welkedefinitie gehanteerd is, ten einde de juiste schaling te krijgen.

Ter verkorting van de schrijfwijze wordt vaak de volgende grootheid gedefinieerd:

W = e−j2πN [3.19]

zodat dan

Xn = ∆t∑N−1k=0 xkW

nk voor n = 0, 1, . . . , N − 1

xk = 1N∆t

∑N−1n=0 XnW

−nk voor k = 0, 1, . . . , N − 1[3.20]


3.3.2 De Fast Fourier Transform

Voor het transformeren van N getallen in het tijdsdomein naar N getallen in hetfrequentiedomein zijn in principe N 2 vermenigvuldigen met de complexe grootheidW kn nodig, als we er van uitgaan dat van te voren een tabel gemaakt is met allegewenste waarden van W kn.

Een algorithme waarmee de DFT op een wat snellere manier kan worden uitgevo-erd staat bekend als de Fast Fourier Transform (FFT). Hiermee kan het aantalbewerkingen aanzienlijk teruggebracht worden. Voor het geval N = 2m wordt ditaantal m2m in plaats van 22m bij de klassieke methode. Voor het geval m = 10, dusN = 1024 is de FFT dus al een faktor 2m

m≈ 100 sneller.

De werking berust op het herhaaldelijk splitsen van een grote reeks in tweeonderling verschoven kleinere reeksen, zoals zal blijken uit de volgende afleiding.Wanneer uitgegaan wordt van een even waarde van N is Xn ook te schrijven als:

Xn = ∆t

N2−1∑

k=0

x2kW2kn + ∆t

N2−1∑

k=0

x2k+1W(2k+1)n [3.21]

= 2∆t

N2−1∑

k=0

x2k

2W 2kn +W n2∆t

N2−1∑

k=0

x2k+1

2W 2kn [3.22]

reeks even monsters oneven monsters

De reeks is nu gesplitst in twee nieuwe reeksen (zie figuur 3.13) met het dubbelebemonsterinterval namelijk de even reeks met elementen: yk = x2k

2, en de oneven

reeks met elementen: zk = x2k+1

2, k = 0, 1, . . . , N

2− 1. De DFT van de y- en z- reeks

met tijdsintervallen 2∆t wordt:

Yn = 2∆t

N2−1∑

k=0

ykW2kn n = 0, 1, . . . ,

N

2− 1 [3.23]

Zn = 2∆t

N2−1∑

k=0

zkW2kn n = 0, 1, . . . ,

N

2− 1

Hieruit volgt, dat Xn ook te schrijven is als:

Xn = Yn +W nZn met n = 0, 1, . . . , N2− 1 [3.24]

De term W n geeft aan dat de funktie z(t) over een bemonsterinterval naar rechtsmoet worden geschoven in de tijd t.o.v. de funktie y(t) om als som weer de funk-tie x(t) op te leveren. Uit de verdubbeling van het bemonsterinterval en uit denummering van n blijkt, dat nog maar de helft van de frequentieband, en wel delaagfrequente helft, te berekenen is. Met behulp van de periodiciteitseigenschapin het frequentiedomein is echter ook de andere helft weer te bepalen (zie figuur3.14). Immers, voor N

2monsters per periode N

2van Y (ω) en Z(ω) volgt uit deze

periodiciteit dat: Yn+ N2

= Yn en Zn+ N2

= Yn zodat

Xn+ N2

= Yn +W n+ N2 Zn [3.25]


Figuur 3.13: Splitsing van de reeks x(k∆t) in twee nieuwe reeksen y(k∆t′) enz(k∆t′).

Figuur 3.14: De moduli van de funkties X(ω), Y (ω) en Z(ω) behorende bij defunkties x(t), y(t) en z(t) uit het vorige figuur.

en aangezien: W n+ N2 = W nW

N2 = W ne−jπ = −W n

geldt ook Xn+ N2

= Yn−W nZn zodat toch weer elk punt van het frequentiespektrum

te berekenen is. Om dit te bereiken zijn nu 2(N2)2+N

2= N(N+1)

2vermenigvuldigingen

nodig in plaats van N 2. Wanneer N2

ook even is, kunnen de reeksen yk en zk ookweer in tweeen gesplitst worden. In het algemeen kan voor een getal N = 2m dereeks net zo lang telkens in tweeen worden gesplitst tot slechts reeksen bestaandeuit 1 punt overblijven.


Figuur 3.15: Links: Signaalstroomdiagram dat aangeeft hoe de grootheden Xn uitde grootheden Yn en Zn te bepalen zijn door de operatie Xn = Yn +W nZn. Rechts:Signaalstroomdiagram voor de transformatie van een reeks van 8 punten.

Als voorbeeld is in figuur 3.15 aangegeven, met behulp van een signaalstroom-diagram hoe voor N = 8 de waarden van xn tot stand komen uit die voor yn en zn.De voor de grootheden yn en zn geplaatste getallen geven de nummering aan van depulsreeks waaruit deze grootheden bepaald zijn.

Dezelfde procedure die geleid heeft tot het bepalen van de grootheden xn uitdie van 2 reeksen van de halve lengte wordt vervolgens ook op deze halve reeksentoegepast en zo verder tot alleen reeksen van 1 punt overblijven, zoals weergegevenin het signaalstroomdiagram van fig. 3.15 (rechts).

Voor een reeks met een punt geldt N = 1, zodat:

Xn = ∆tN−1∑

k=0

xkWnk met n = 0, 1, . . . , N − 1 [3.26]

waaruit volgt: X0 = x0∆t.Bij alle reeksen wordt steeds weer de nummering gegeven van de punten uit

de oorspronkelijke xk-reeks. In het frequentiedomein gezien geldt dan Xk = xk∆t.Aangezien W 0 = 1 zijn deze waarden weggelaten in de figuur. Er blijkt dat telkens 2getallen in een gegeven kolom voldoende informatie leveren voor de twee getallen opdezelfde plaatsen in de volgende kolom. Dit houdt in dat de hele operatie achtereen-volgens kan gebeuren in een rekenmachine door bewerkingen op getallen die na dezebewerking weer op dezelfde geheugenplaatsen gezet kunnen worden. Om de resul-taten in de juiste volgorde te krijgen, dienen in de oorspronkelijke rij enkele getalleneerst van plaats te verwisselen. Hiervoor blijkt een eenvoudige regel te bestaan nl.:Schrijf het nummer van het monster in het tijdsdomein binair, keer vervolgens devolgorde van de nullen en enen om (”bit reversal”). Het getal dat nu ontstaat, geeftde plaats aan waar het monster moet komen. Ook hier weer blijkt dat telkens maar


2 getallen onderling verwisseld moeten worden.

Voorbeeld: 310 = 0112 wordt 1102 = 6; ook het omgekeerde geldt, dus x3 en x6 moetenvan plaats verwisselen. Uit het signaalstroomdiagram van fig. 3.15 is direkt af te lezenhoe een bepaalde Xn tot stand gekomen is.

X7 = (x0 −W 3x1 −W 2x2 +W 5x3 − x4 +W 3x5 +W 2x6 −W 5x7)∆t [3.27]

Rekening houdend met het feit dat W = e−2πj/8 zodat W4=-1 is dit ook te schrijven als:

X7 = (x0 −W 3x1 −W 2x2 −Wx3 − x4 +W 3x5 +W 2x6 +Wx7)∆t [3.28]

Uit de oorspronkelijke definitie volgde:

X7 = (W 0x0 +W 7x1 +W 14x2 +W 21x3 +W 28x4 +W 35x5 +W 42x6 +W 49x7)∆t[3.29]

hetgeen met W 4 = −1 ook te schrijven is als vgl. [3.28] en dus in overeenstemming met

de resultaten uit het signaalstroomdiagram.

Tot slot kunnen nog enkele opmerkingen over de FFT gemaakt worden.

• Bij het behandelde algorithme werd een splitsing uitgevoerd in even en onevenmonsters. Een van de reeksen werd over 1 monster in de tijd verschoven. Inhet frequentiedomein leverde dit twee reeksen, die elk de helft van de frequen-tieband bestrijken. Door de elementen van de ene reeks te vermenigvuldigenmet W n, hetgeen neerkomt op een voor elke frequentie verschillende verschuiv-ing langs de ω-as, bleek het mogelijk te zijn het spectrum over de hele bandweer op te bouwen.

• Het schema dat in het voorgaande is behandeld is niet de enige mogelijk-heid om tot een FFT te komen. De rangschikking van de monsters m.b.v.”bit reversal” wordt bij de behandelde algorithme uitgevoerd voor de trans-formatie. Men kan ook eerst transformeren en daarna in het frequentiedomeinrangschikken. Dit komt hierop neer, dat operaties op de getallenreeks, diebij de beschreven methode in het tijdsdomein uitgevoerd werden, nu in hetfrequentiedomein plaatsvinden en omgekeerd. Ook allerlei mengvormen zijnmogelijk. Het begrip Fast Fourier Transform zit dus niet aan een bepaald bew-erkingsschema gebonden, maar omvat een verzameling van mogelijkheden, dieberusten op het herhaald uitvoeren van 2 operaties nl. splitsen en verplaatsen.

• Voor de terugtransformatie bestaan overeenkomstige procedures, hetgeen lo-gisch is omdat de rollen van ω en t in de formules voor de fouriertransformatieniet principieel verschillen.


3.3.3 Stelling van Parseval

In vorige sectie is de Fouriertransformatie voor discrete signalen gegeven. Voorconvergentie van de Fouriertransformatie is een voldoende conditie dat het signaaleindige energie heeft. Ofwel:

∞∑

k=−∞|x(k)|2 [3.30]

is begrensd. De stelling van Parseval relateert de energie in het tijdsdomein aande energie in het frequentiedomein en deze luidt voor een continu signaal:

∫ ∞

−∞|x(t)|2dt =

1

2π

∫ ∞

−∞|X(ω)|2dω [3.31]

Hierbij wordt |X(ω)|2 ook wel het energiedichtheidspectrum van x(t) genoemd.Voor een bemonsterd signaal over eindige tijd gemeten, en waarbij de frequen-

tie-inhoud begrensd is kan een overeenkomstige relatie worden afgeleid. De stellingvan Parseval luidt dan:

N−1∑

k=0

|x(k)|2∆t =1

2π

N−1∑

n=0

|X(n)|2∆ω =1

N∆t

N−1∑

n=0

|X(n)|2 [3.32]

Deze relatie geeft aan dat om de energie in het tijdsdomein te berekenen ook deenergie in het frequentiedomein berekend kan worden.

3.3.4 Recapitulatie DFT en FFT

De fouriertransformatie is voor continue funkties een belangrijk hulpmiddel geblekenom rekenwerk te vereenvoudigen. Convolutieintegralen in het tijdsdomein wor-den omgezet in vermenigvuldigingen in het frequentiedomein; lineaire differenti-aalvergelijkingen worden getransformeerd naar algebraısche vergelijkingen in hetfrequentiedomein. Het gedrag van lineaire systemen wordt dan ook veelal in ditdomein beschreven. Om die reden is het aantrekkelijk om ook een dergelijke trans-formatie te kunnen gebruiken voor bemonsterde tijdsfunkties.

Uitgaande van de onder par. 3.3 afgeleide relaties wordt een definitie van deDiskrete Fourier Transformatie (DFT) gegeven. Hierbij moet opgemerkt worden dater meerdere definities mogelijk zijn, die niet wezenlijk van elkaar verschillen, maarwel met een verschillende schaalfaktor werken. Bij het gebruiken van routines uitsignaalverwerkingspakketten is het zaak hiermee rekening te houden en na te gaanwelke definitie wordt gehanteerd. De eigenschappen van de DFT corresponderenmet die van de fouriertransformatie voor continue signalen, waarvan er hiervoorenkele genoemd zijn. Een belangrijk verschil als gevolg van het bemonsteren is, datde getallenreeksen zowel in het frequentiedomein als in het tijdsdomein periodiekgeworden zijn.

De DFT beeldt N getallen in het ene domein af op N getallen in het anderedomein. Dit vraagt, uitgaande van de gegeven definities, N 2 bewerkingen, bestaandeuit een optelling en een vermenigvuldiging. Door de bewerkingsvolgorde op een


handige manier te reorganiseren, gebaseerd op het herhaaldelijk in tweeen splitsenvan reeksen, ontstaat een algorithme, de Fast Fourier Transform (FFT) waarin ditrekenwerk drastisch omlaag gebracht wordt bij lange reeksen. Voor een reeks van1024 getallen scheelt dit bijvoorbeeld een faktor 100 in rekentijd. Hoe langer dereeks, hoe groter de tijdwinst.

Hoofdstuk 4

Discrete tijd lineaire systemen

In dit hoofdstuk zullen beschrijvingswijzen worden gehanteerd voor in de tijd gediskre-tiseerde systemen en signalen. Aangegeven zal worden wat hun onderlinge relatie is.Verder zal worden aangegeven welke beschrijvingswijze hoort bij welke toepassing.

In par. 4.1 wordt in het kort aandacht geschonken aan de z- transformatie, uit-gaande van de laplace-transformatie van een bemonsterde tijdfunktie. In par. 4.2wordt aangegeven wat de relatie is tussen de z-transformatie en de Diskrete Fouri-ertransformatie. In deze paragraaf wordt tevens een overzicht gegeven van de eerdergenoemde transformaties met hun toepassingsgebieden. Verder worden in par. 4.3verschillende beschrijvingswijzen van systemen met elkaar vergeleken.

4.1 De z-transformatie

4.1.1 Afleiding van de z-transformatie uitgaande van de laplace-transformatie

De diskrete fouriertransformatie en het daarbij toegepaste FFT-algoritme wordentegenwoordig overal gebruikt in signaalverwerkingsprogramma’s. Deze transfor-matie geeft het verband tussen een getallenrij in het tijdsdomein en een getallenrij inhet frequentiedomein en vormt de discrete tegenhanger van de op continue funktiesgedefinieerde fouriertransformatie. Behalve de fouriertransformatie speelt ook delaplacetransformatie een belangrijke rol in de regeltechniek en wel bij het onderzoeknaar stabiliteit van systemen. Een systeem is stabiel als alle polen van de over-drachtsfunktie in het s-domein in de linkerhelft van het complexe vlak liggen. Voorhet beschrijven van diskrete systemen is de z-transformatie gedefinieerd. Deze is afte leiden via de laplacetransformatie van bemonsterde funkties in het tijdsdomeinen wel op de volgende manier.

Beschouw een funktie x(t) waarvoor geldt: x(t) = 0 voor t < 0. Deze funktiewordt bemonsterd. De laplacetransformatie van de bemonsterde funktie verlooptgeheel analoog aan de werkwijze bij de fouriertransformatie van bemonsterde sig-nalen door het produkt van de oorspronkelijke continue funktie met een kam van

46 4 Discrete tijd lineaire systemen

dirac te beschouwen. De laplacetransformatie hiervoor wordt:

Xs(s) = L{x(t)∞∑

k=−∞δ(t− k∆t)} =

∫ ∞

0x(t)

∞∑

k=−∞δ(t− k∆t)e−stdt

=∞∑

k=−∞

∫ ∞

0x(t)δ(t− k∆t)e−stdt met Re{s} > 0 [4.1]

Hetgeen ook te schrijven is als:

Xs(s) =∞∑

k=0

∫ ∞

−∞x(t)δ(t− k∆t)e−stdt =

∞∑

k=0

x(k∆t)e−sk∆t [4.2]

We voeren nu een nieuwe variabele z in, gedefinieerd als z = es∆t. De laplacetrans-formatie van het bemonsterde signaal gaat nu over in de z-transformatie:

X(z) =∞∑

k=0

x(k∆t)z−k [4.3]

Door de definitie van de nieuwe variabele z is een nieuw domein ontstaan het z-domein. Punten en lijnen in het s-domein kunnen afgebeeld worden in het z-domein.Met s = λ+ jω wordt de bijbehorende z gelijk aan:

z = es∆t = eλ∆tejω∆t [4.4]

Met ρ = eλ∆t en ψ = ω∆t is z ook te beschrijven in termen van poolcoordinaten inhet complexe vlak met z = ρejψ.

Stabiliteit. Een rechte lijn Re{s} = λ in het s-vlak wordt afgebeeld op een cirkelmet straal ρ = eλ∆t in het z-vlak. De imaginaire as, gegeven door de beschrijvingRe{s} = 0 wordt in het z-vlak gegeven door de vergelijking ρ = 1, m.a.w. dooreen cirkel met straal 1 en het middelpunt in de oorsprong, verder aangeduid als deeenheidscirkel. Voor waarden λ < 0 geldt ρ < 1, m.a.w. de linkerhelft van hets-vlak wordt afgebeeld op het deel van het z-vlak dat binnen de eenheidscirkel ligt(fig. 4.1).

Zoals bekend geldt als stabiliteitseis voor een systeem, dat de polen van deoverdrachtsfunktie in het s-vlak in het linkerhalfvlak moeten liggen. Vertaald naardiskrete systemen betekent dit, dat de polen van de overdrachtsfunktie in het z-vlakbinnen de eenheidscirkel moeten liggen.

Inverse z-transformatie. De inverse laplacetransformatie was gedefinieerd als

x(t) = L−1{X(s)} =1

2πj

∫ λ+j∞

λ−j∞X(s)e−stds [4.5]

waarbij λ een zodanige waarde λ1 moet hebben dat alle polen in het s-vlak linksvan de lijn s = λ1 liggen. Zonder nadere afleiding wordt hierbij de uitdrukking voorde terugtransformatie vanuit het z-vlak gegeven namelijk

x(k∆t) = Z−1{X(z)} =1

2πj

∮

cX(z)zk−1dz [4.6]

4.1 De z-transformatie 47

Figuur 4.1: De linkerhelft van het s-vlak wordt afgebeeld op het gebied binnen deeenheidscirkel in het z-vlak.

Het integratiesymbool dat hier gebruikt wordt geeft een contourintegraal aan. Ditis een integratie langs een gesloten contour in het complexe vlak. De hier toegepastecontour moet zodanig zijn dat deze alle polen van de funktie X(z) omvat. Op grondvan de hiervoor besproken relatie tussen verticale lijnen in het s-vlak en cirkels inhet z-vlak kan gesteld worden dat een cirkel met straal ρ ≥ eλ1∆t en middelpunt inde oorsprong als een geschikte contour te beschouwen is.

4.1.2 Enkele eigenschappen van de z-transformatie

In analogie met de fouriertransformatie en de laplacetransformatie bezit ook de z-transformatie een aantal eigenschappen die het rekenen in het z-domein aantrekkelijkmaken. Zonder nader bewijs noemen we er hier enkele.

• De z-transformatie is een lineaire operatie.

Z{c1x1(k∆t) + c2x2(k∆t)} = c1Z{x1(k∆t)} + c2Z{x2(k∆t)} [4.7]

• Een convolutie in het tijdsdomein gaat over in een vermenigvuldiging in hetz-domein.

Z{∞∑

k=0

x1(k∆t)x2((n− k))∆t)} = Z{x1(k∆t)}Z{x2(k∆t)} [4.8]

• Een produkt in het tijdsdomein komt overeen met een convolutie in het z-domein.

Zoals continue systemen in het algemeen worden gekarakteriseerd door een differ-entiaalvergelijking, worden discrete systemen gekarakteriseerd door een differentiev-ergelijking. In een differentiaalvergelijking is de kenmerkende operatie de differen-tiatie. Bij de differentievergelijking is dit de verschuiving. Vandaar dat het vanbelang is aandacht te schenken aan de z-transformatie van een verschoven signaal.


We beschouwen daartoe de relatie tussen de z-getransformeerden van de getallen-reeksen x(k∆t) en x((k + 1)∆t). Uitgaande van de definitie van de z-transformatiekan gesteld worden dat:

Z{x((k + 1)∆t)} =∞∑

k=0

x((k + 1)∆t)z−k = z∞∑

k=0

x((k + 1)∆t)z−(k+1)

= z∞∑

k=1

x(k∆t)z−k = z

( ∞∑

k=0

x(k∆t)z−k − x(0)

)

[4.9]

Z{x((k + 1)∆t)} = z(Z{x(k∆t)} − x(0)) [4.10]

Het is interessant om dit resultaat te vergelijken met de uitdrukking voor delaplacegetransformeerde van de afgeleide van een signaal:

L{x(t)} = s(X(s)) − x(0) [4.11]

Er is een verschil, doordat de term x(0) in het geval van de z-transformatie binnende haakjes staat en in het geval van de laplacetransformatie daarbuiten. Voor hetgeval dat x(0) = 0 zijn de operaties echter volledig vergelijkbaar.

Nogmaals toepassen van een verschuiving in positieve richting levert uitein-delijk de uitdrukking voor de z-getransformeerde van een over 2 monsters vooruitgeschoven reeks:

Z{x(k+2)∆t} = z2X(z)−z2x(0)−zx(k∆t) = z2

X(z) −1∑

j=0

x(j∆t)z−j

[4.12]

Voor een positieve verschuiving over m monsters levert dit de algemene uitdrukking

Z{x((k +m)∆t)} = zm

X(z) −m−1∑

j=0

x(j∆t)z−j

[4.13]

Voor een verschuiving in achterwaartse richting loopt de afleiding als volgt:

Z{x((k − 1)∆t)} =∞∑

k=0

x((k − 1)∆t)z−k = z−1∞∑

k=0

x((k − 1)∆t)z−(k−1)

= z−1∞∑

k=−1

x(k∆t)z−k = z−1∞∑

k=0

x(k∆t)z−k + x(−∆t)

Aangezien het uitgangspunt was dat x(t) = 0 voor t < 0 geldt: x(−∆t) = 0, zodatvoor de z-getransformeerde van een achterwaarts verschoven signaal geldt:

Z{x((k − 1)∆t)} = z−1∞∑

k=−1

x(k∆t)z−k = z−1X(z) [4.14]

Voor een achterwaartse verschuiving over m tijdstappen geldt dan

Z{x((k −m)∆t)} = z−mX(z) [4.15]

4.2 Relatie tussen transformaties en vormen van systeembeschrijvingen 49

4.1.3 De z-transformatie voor het beschrijven van diskretesystemen

Geheel analoog aan het geval van de fouriertransformatie van een differentiaal-vergelijking kan een lineaire differentievergelijking via de z-transformatie wordenomgezet in een algebraısche vergelijking. De algemene gedaante van een differen-tievergelijking is:

y(k∆t) + a1y((k − 1)∆t) + · · · + aLy((k − L)∆t) =

b0u(k∆t) + b1u((k − 1)∆t) + · · · + bMu((k −M)∆t) [4.16]

Toepassing van de z-transformatie levert:

Y (z)+a1z−1Y (z)+· · ·+aLY (z) = b0U(z)+b1z

−1U(z)+· · ·+bMz−MU(z)[4.17]

Waaruit volgt:

Y (z)

U(z)= H(z−1) =

b0 + b1z−1 + · · · + bMz

−M

1 + a1z−1 + · · · + aLz−L[4.18]

Aannemende dat L > M kunnen we teller en noemer met zL vermenigvuldigen. Wekrijgen dan

Y (z)

U(z)= H(z) =

b0zL + b1z

L−1 + · · · + bMzL−M

zL + a1zL−1 + · · · + aL[4.19]

Dit is de overdrachtsfunktie van het diskrete systeem in het z-domein. Het sys-teem is stabiel als de polen, d.w.z. de nulpunten van de noemer-polynoom, binnende eenheidscirkel vallen. Schrijven we de overdrachtsfunktie als quotient van tweepolynomen in z−1 zoals in de eerste uitdrukking, dan worden de rollen van het ge-bied binnen en buiten de eenheidscirkel verwisseld ten opzichte van het geval vanpolynomen in z. Dit betekent dat het systeem nu stabiel is als de nulpunten van denoemer-polynoom in z−1 buiten de eenheidscirkel vallen.

4.2 Relatie tussen transformaties en vormen van

systeembeschrijvingen

4.2.1 Van z-transformatie naar DFT

In het voorgaande is de Diskrete Fourier Transformatie behandeld uitgaande vande fouriertransformatie van bemonsterde signalen. Hierbij werd het produkt vaneen continue funktie met een dirackam getransformeerd. Op overeenkomstige wijzewerd de z-transformatie afgeleid via laplacetransformatie van het produkt van eencontinue funktie en een dirackam. Het lijkt daarom niet onlogisch te veronderstellendat er ook een direkte relatie tussen de DFT en de z-transformatie moet bestaan.Om dit te onderzoeken gaan we uit van de formule van de z-transformatie:

X(z) = Z{x(k∆t)} =∞∑

k=0

x(k∆t)z−k met z = e(λ+jω)∆t [4.20]


Figuur 4.2: Projektie op het z-vlak van X(ej2πn/N ) zijnde de fouriergtransformeerdevan de tijdreeks x(k∆t) voor het geval N=16.

Beschouw nu het bijzondere geval λ = 0, dus z = ejω∆t. Ingevuld in de uitdrukkingvoor de z-transformatie levert dit:

X(ejω∆t) =∞∑

k=0

x(k∆t)e−jωk∆t [4.21]

De tijdreeks x(k∆t) is nu afgebeeld op een deel van het z-vlak, namelijk op de lijnz = ejω∆t. Dit is, in poolcoordinaten uitgedrukt, de beschrijving van de eenheid-scirkel. De jω-as uit het s-vlak is als het ware opgerold en geprojecteerd op dezeeenheidscirkel. Voor ω∆t = 2πm (m geheel) is de cirkel m keer doorlopen. De cirkelwordt een keer doorlopen voor de radiaalfrequentie ω = 2π

∆t. Dit correspondeert

met de bemonsterfrequentie ωs = 2π∆t

. We beschouwen nu de transformatie van eentijdreeks van eindige lengte N , d.w.z. 0 ≤ k < N . De transformatieformule wordtdan

X(ejω∆t) =N−1∑

k=0

x(k∆t)e−jωk∆t [4.22]

Als volgende stap nemen we X(ejω∆t) niet als continue funktie, maar ook in hetfrequentiedomein als een diskrete getallenreeks met alleen waarden bij de frequentiesω = 2πn

N∆t. Dan gaat de transformatieformule over in:

X(ej2πn/N ) =N−1∑

k=0

x(k∆t)e−j2πnk/N [4.23]

De projektie van X(ej2πn/N ) op het z-vlak wordt nu een reeks equidistante puntenop de eenheidscirkel (fig. 4.2). Ter vergelijking met het, via de z-transformatiegevonden, resultaat, volgt hier de formule voor de Diskrete Fourier Transformatie.

DFT{x(k∆t)} = Xn = ∆tN−1∑

k=0



Het enige verschil is de factor ∆t die niet voorkomt in de, van de z-transformatieafgeleide, formule.

De Diskrete Fourier Transformatie is op zijn beurt weer gerelateerd aan de fouri-erreeks. Voor de (complexe) coefficient van de fourierreeks geldt:

Cn =1

T

∫ t0+T

t0x(t)e−j2πnt/Tdt [4.25]

Wanneer we Cn met een computer uitrekenen voor het, met een interval ∆t bemons-terde signaal x(t), is de integraal te benaderen door een reeks m.b.v. de substitutiest = k∆t, met k = 0 voor t = t0, en k = N voor T = N∆t. Aldus ontstaat de reeks:

Cn =1

N

N−1∑

k=0


Voor de onderlinge relatie tussen Xn, Cn en X(ej2πn/N ) geldt dan:

Xn = ∆tX(ej2πn/N ) ; Cn = 1NX(ej2πn/N ) [4.27]

4.2.2 Overzicht van transformaties

Samenvattend kunnen we nu de volgende transformaties met hun toepassingsge-bieden onderscheiden.

• De fouriertransformatie:

X(ω) =∫ ∞

−∞x(t)e−jωtdt

Deze wordt toegepast voor continue funkties x(t) waarvoor geldt x(t) = 0 voort = −∞ en t = ∞. Hij is eventueel ook te gebruiken voor periodieke funk-ties. Deze vormen een grensgeval en leveren dan diracfunkties in het frequen-tiedomein. Voor stochastische signalen is deze transformatie niet bruikbaaromdat dan niet aan bovenstaande eis wordt voldaan. De formule zou dan voorelke waarde van ω de uitkomst ∞ opleveren.

• De gemodificeerde fouriertransformatie:

X(ω) = limT→∞

1√T

∫ T2

−T2

x(t)e−jωtdt

Deze transformatie is te gebruiken voor stochastische processen zonder de-terministische componenten. In een later hoofdstuk komen we hierop terug.De toepassing ligt bij theoretische afleidingen voor relaties tussen spectraledichtheden in het frequentiedomein.


• De (complexe) fourierreeks:

Cn =1

T

∫ t0+T

t0x(t)e−j2πnt/Tdt

De coefficient Cn heeft betrekking op de frequentie ω = 2πnT

. De relatie geldtvoor periodieke signalen met een periodetijd T . Omdat het om periodiekesignalen gaat mag het tijdstip t0 willekeurig worden gekozen.

• De diskrete fouriertransformatie (DFT):

Xn = ∆tN−1∑

k=0

xke−j2πnk/N voor n = 0, 1, . . . , N − 1

Deze transformatie wordt gebruikt voor het transformeren van een tijdreeksmet een constant interval ∆t tussen de getallen. De tijdreeks heeft een eindigelengte N en strekt zich dus uit over een tijdsinterval T = N∆t. Hij wordtafgebeeld op een reeks van N complexe getallen in het frequentiedomein meteen constant interval ∆ω = 2π/T . Als gevolg van de symmetrie van het reeledeel en de keersymmetrie van het imaginaire deel bevat de reeks N

2onafhanke-

lijke complexe getallen. Ten gevolge van het gebruik van diskrete tijdstappenis de reeks periodiek in het frequentiedomein. Omgekeerd geldt, dat door hetdiskretiseren langs de frequentieas, de reeks periodiek geworden is in het ti-jdsdomein. De DFT wordt toegepast voor het praktisch transformeren vantijdsfunkties naar het frequentiedomein en omgekeerd met behulp van eencomputer. Een snel algorithme voor het uitvoeren van de DFT staat bekendonder de naam Fast Fourier Transform (FFT).

• De laplacetransformatie:

X(s) =∫ ∞

0x(t)e−stdt

De laplacetransformatie wordt gebruikt voor continue funkties die nul zijnin het gebied t < 0. Deze funkties behoeven niet nul te zijn voor t = ∞.De toepassing van de laplacetransformatie ligt bij het onderzoeken van sys-teemeigenschappen, met name het al of niet stabiel zijn.

• De z-transformatie:

X(z) =∞∑

k=0

x(k∆t)z−k

Deze transformatie is te gebruiken voor de beschrijving van systemen, waarbijde in- en uitgangssignalen slechts op diskrete, equidistante tijdstippen van


waarde veranderen. In de engelstalige literatuur worden deze veelal aangeduidals ”discrete time systems”. In tegenstelling tot het geval van de DFT is degetransformeerde grootheid, hierX(z), als regel een continue funktie. Ook hierligt de toepassing vooral bij het onderzoek naar de stabiliteitseigenschappen.

4.2.3 Systemen, transformatievariabelen en operatoren

Systemen kunnen op verschillende manieren worden beschreven, hetzij in het tijds-domein, hetzij in een ander domein. Al naar gelang de toegepaste transformatie isdit het ω−, dan wel s−, of z−domein. De beschrijving heeft veelal de vorm vaneen overdrachtsfunktie en is gemakkelijk te verkrijgen door het transformeren vande differentiaalvergelijking of differentievergelijking die de ingangs- uitgangsrelatievan het systeem beschrijft.

Een relatie met dezelfde gedaante als de overdrachtsfunktie kan men ook inhet tijdsdomein krijgen bij gebruik van een operator. Doordat soms de daarbijtoegepaste symbolen wel eens door elkaar gehaald worden bestaat er kans op verwar-ring tussen operatoren en transformatievariabelen en daarmee omtrent het domeinvan de beschouwde relatie.

Ter verduidelijking volgt hier een overzicht van enkele van de bedoelde begrip-pen. We gaan hierbij steeds uit van lineaire differentiaal-en differentievergelijkingen.Immers, de beschouwde transformaties berusten alle op het superpositiebeginsel datslechts geldt voor lineaire systemen.

Continue systemen. We beschouwen eerst de continue systemen. De algemeneuitdrukking voor een lineaire differentiaalvergelijking is:

y(t) + a1y(t) + · · · + aLy(L) = b0u(t) + b1u(t) + · · · + bMu

(M) [4.28]

Gebruik makend van de differentiaaloperator p = ddt

is deze relatie tussen u(t) eny(t) weer te geven als:

y(t) =b0 + b1p+ · · · + bMp

M

1 + a1p+ · · · + aLpLu(t) [4.29]

Fouriertransformatie van de differentiaalvergelijking levert:

(1 + a1jω + · · · + aL(jω)L)Y (ω) = (b0 + b1jω + · · · + bM(jω)M)U(ω) [4.30]

zodat

Y (ω) =b0 + b1jω + · · · + bM(jω)M

1 + a1jω + · · · + aL(jω)LU(ω) [4.31]

Voor de laplacegetransformeerde van een hogere afgeleide geldt

L{x(n)(t)} = snL{x(t)} −(

sn−1 + sn−2x(0+) + · · · + x(n−1)(0+))

[4.32]

Voor het geval dat alle begincondities nul zijn gaat de differentiaalvergelijking overin:

(1 + a1s+ · · · + aLsL)Y (s) = (b0 + b1s+ · · · + bMs

M)U(s) [4.33]


zodat

Y (s) =b0 + b1s+ · · · + bMs

M

1 + a1s+ · · · + aLsLU(s) [4.34]

Discrete systemen. Op overeenkomstige wijze kunnen we systemen beschou-wen die door een lineaire differentievergelijking worden gekarakteriseerd. De al-gemene gedaante hiervan is

y(k∆t) + a1y((k − 1)∆t) + · · · + aLy((k − L)∆t) = [4.35]

b0u(k∆t) + b1u((k − 1)∆t) + · · · + bMu((k −M)∆t) [4.36]

Voor het beschrijven van dit soort systemen in het tijdsdomein wordt gebruikgemaakt van de verschuivingsoperator q . Deze is gedefinieerd als de operatie dieeen tijdreeks een stap voorwaarts schuift in de tijd, dus

x((k + 1)∆t) = q{x(k∆t)} [4.37]

De inverse operator is q−1. Deze veroorzaakt een achterwaartse verschuiving, dus:

x((k − 1)∆t) = q−1{x(k∆t)} [4.38]

De differentievergelijking kan met behulp van de achterwaartse verschuivingsopera-tor ook geschreven worden als:

(1 + a1q−1 + · · · + aLq

−L)y(k∆t) = (bo + b1q−1 + · · · + bMq

−M)u(k∆t) [4.39]

Analoog aan het geval van toepassing van de differentiaaloperator p in het continuegeval kunnen we de relatie tussen u(k∆t) en y(k∆t) ook weergeven als

y(k∆t) =b0 + b1q

−1 + · · · + bMq−M

1 + a1q−1 + · · · + aLq−Lu(k∆t) [4.40]

Als we deze relatie vergelijken met het resultaat van de z-transformatie dan zien wedat de z-transformatie eenvoudig uit de uitdrukking met de verschuivingsoperatorte verkrijgen is door in de polynomen de q te vervangen door de z en u(k∆t) eny(k∆t) te vervangen door respectievelijk U(z−1) en Y (z−1).

Y (z−1) =b0 + b1z

−1 + · · · + bMz−M

1 + a1z−1 + · · · + aLz−LU(z−1) [4.41]

of als

Y (z) =b0z

L + b1zL−1 + · · · + bMz

L−M

zL + a1zL−1 + · · · + aL−1z + aLU(z) [4.42]

Dezelfde overeenkomst als die tussen q en z in het diskrete geval zien we voor hetcontinue geval, waar de operator p van de beschrijving in het tijdsdomein kan vervan-gen door de transformatievariabelen ω en s, respectievelijk in het frequentiedomeinen het s domein. Merk op, dat nu echter ook de grootheden u(t) en y(t) moetenworden vervangen door respectievelijk U(ω) en Y (ω), dan wel U(s) en Y (s).

Soms wordt een zelfde letter gebruikt voor een operator en een transformatievari-abele. Om verwarring te voorkomen is het verstandig dit soort naamsverwisselingte vermijden.

4.3 Bodediagram 55

4.3 Bodediagram

Allereerst zal in deze paragraaf kort het bodediagram voor systemen in continuetijd worden herhaald. Daarna zal het bodediagram voor discrete systemen wordenbehandeld.

4.3.1 Continue systemen

In het college Systeemtheorie zijn bodediagrammen voor continue systemen behan-deld. Het bodediagram is in feite een combinatie van twee diagrammen namelijk hetverloop van de modulus en het verloop van de fase (argument) ten opzichte van eengemeenschappelijke frequentieas. Hierbij zijn de modulus en de frequentie op eenlogarithmische schaal uitgezet, de fase op een lineaire schaal. Het voordeel hiervanwordt duidelijk als we kijken naar de overdrachtsfunktie van twee systemen in serie.Hiervoor geldt:

H(ω) = H1(ω)H2(ω) [4.43]

of uitgedrukt in modulus en argument:

|H(ω)|ej 6 H(ω) = |H1(ω)|ej 6 H1(ω)|H2(ω)|ej 6 H2(ω) [4.44]

= |H1(ω)||H2(ω)|ej( 6 H1(ω)+ 6 H2(ω)) [4.45]

Hieruit volgt:

log(|H(ω)|) = log(|H1(ω)|) + log(|H2(ω)|)6 H(ω) = 6 H1(ω) + 6 H2(ω)

[4.46]

Dit betekent dat het bodediagram van H(ω) eenvoudig te bepalen is uit de bode-diagrammen van H1(ω) en H2(ω) afzonderlijk. Omdat wat ingewikkelder systemente beschrijven zijn als een serieschakeling van eenvoudige deelsystemen, kan mende bodediagrammen hiervan vrij gemakkelijk opbouwen als men die van een aantaleenvoudige typen kent.

Voorbeeld: Eerste orde continu systeemDit wordt gekarakteriseerd door de differentaalvergelijking:

y(t) + τ y(t) = Ku(t) [4.47]

Fouriertransformatie levert:

Y (ω) =K

1 + jωτU(ω) = H(ω)U(ω) [4.48]

De amplitude en fase worden gegeven door:

|H(ω)| = K√(1+ω2τ2)

6 H(ω) = − arctan(ωτ)[4.49]

Aan de hand van zijn asymptotische waarden ωτ � 1 en ωτ � 1 kan het bodedia-gram vrij snel worden geconstrueerd. Het is afgebeeld in fig. 4.3


10−2 10−1 100 101

−30

−60

−90

0

Frequency (rad/sec)

Pha

se d

eg

10−2 10−1 100 10110−1

100

101

Mag

nitu

de

Figuur 4.3: Bodediagram van een 1e orde continu systeem.

4.3.2 Discrete systemen

Analoog aan de situatie voor continue systemen kunnen ook Bodediagrammen vandiscrete systemen worden gemaakt.

Zij H(z), zoals weer gegeven in vgl [4.42], de overdrachtsfunktie in het z-domeinvan het discrete systeem. Kiezen we z = ejω dan is H(ejω) de overdrachtsfunctie vanhet discrete systeem in het ω-domein (vlg. s = jω voor continue systemen). H(ejω)is een periodieke functie met periode 2π. Verder is |H(ejω)| een even functie in ω en6 H(ejω) een oneven functie in ω. Vanwege deze symmetrie wordt de overdrachts-functie volledig bepaald door H(ejω) voor ω ∈ [0, π]. In het Bodediagram van eendiscreet systeem wordt weer de amplitude |H(ejω)| en de fase 6 H(ejω) weergegeven.

Voorbeeld: 1e orde discreet systeemDit wordt gekarakteriseerd door de differentievergelijking:

y(k∆t) + ay((k + 1)∆t) = bu(k∆t) [4.50]

z-transformatie levert:

H(z) =b

1 + az[4.51]

Of met z = ejω (∆t = 1)

H(ejω) =b

1 + aejω[4.52]

De amplitude en fase wordt dan gegeven door:

|H(ejω)| = |b||1+aejω |

6 H(ejω) = 6 (b) − 6 (1 + aejω)[4.53]

4.3 Bodediagram 57

10−2 100 10210−2

10−1

100

101

Frequency (rad/s)

Mag

nitu

de

10−2 100 102−200

−100

0

100

200

Frequency (rad/s)

Pha

se d

eg

10−2 10−1 100 10110−2

10−1

100

101

Frequency (rad/s)

Mag

nitu

de10−2 10−1 100 101

−200

−150

−100

−50

0

Frequency (rad/s)P

hase

deg

Figuur 4.4: Bodediagram van een 1e orde discreet systeem getekend over een breedfrequentiegebied (a) en over 0 < ω < ωs

2(b).

In fig. 4.4a is een Bodediagram getekend voor het geval dat b = −0.135, a = −1.03 enbemonsterfrequentie ws = 2π [rad/s]. Om de periodiciteit te illustreren is een groterfrequentiegebied getekend. Normaal gesproken wordt alleen het frequentiegebied0 < ω < ωs

2. Dit is weergegeven in fig. 4.4b.

Hoofdstuk 5

Waarschijnlijkheidsrekening

De waarschijnlijkheidsrekening houdt zich bezig met toevalsgrootheden. Hierbij isdus sprake van onzekerheden. Om toch met dergelijke niet-deterministische groothe-den te kunnen rekenen, wordt een aantal deterministische begrippen geıntroduceerd.De basis hiervan wordt gevormd door het begrip kans. Uitgaande van dit begripzal in dit hoofdstuk achtereenvolgens een aantal hierop voortbouwende begrippengeıntroduceerd worden, die het mogelijk maken berekeningen uit te voeren die kun-nen leiden tot praktisch bruikbare uitspraken. Dit betreft dan met name uitsprakenmet betrekking tot onderlinge verbanden tussen toevalsgrootheden.

5.1 Kans

Om tot een definitie van het begrip kans te komen beschouwen we de verzamelingmogelijke uitkomsten van een experiment waarbij het toeval een rol speelt, zoals hetgooien met een dobbelsteen. Een dobbelsteenworp heeft 6 mogelijke uitkomsten,namelijk het bovenkomen van een van de getallen 1 tot en met 6. Deze verzamelingzullen we aanduiden als S = {ζ1, ζ2, ζ3, ζ4, ζ5, ζ6}. Het element ζ3 van deze verzamel-ing is dan de uitkomst dat het cijfer 3 boven komt. In het algemeen kunnen we eenverzameling mogelijke uitkomsten aanduiden als S = {ζ1, ζ2, . . . , ζk} als k het aantalmogelijke uitkomsten is. Een deelverzameling van S noemen we een gebeurtenis. Bi-jvoorbeeld de deelverzameling α = {ζ2, ζ4, ζ6} voor het geval van het werpen met eendobbelsteen is de gebeurtenis dat een even getal boven komt. De grootst mogelijkedeelverzameling van S, namelijk S zelf, duiden we aan met de zekere gebeurtenis.De lege verzameling, of ∅-verzameling duiden we aan als de onmogelijke gebeurtenis.

Aan elke gebeurtenis α kan nu een getal P{α} worden toegekend, dat weaanduiden als de kans of waarschijnlijkheid van die gebeurtenis. Deze isgedefinieerd als:

P{α} = limn→∞

nαn

[5.1]

waarbij n het aantal malen is dat het experiment wordt uitgevooerd en nα het aantalmalen dat gebeurtenis α is opgetreden. Het begrip kans voldoet aan de volgendedrie axioma’s:

60 5 Waarschijnlijkheidsrekening

A1: P{α} ≥ 0A2: P{S} = 1A3: als α ∩ β = ∅, dan is P{α ∪ β} = P{α} + P{β}.

Uitgaande van deze axioma’s kunnen regels worden afgeleid waaraan kansen moetenvoldoen. Zo volgt bijvoorbeeld dat:

P{∅} = 00 ≤ P{α} ≤ 1P{α ∪ β} = P{α} + P{β} − P{α ∩ β} ≤ P{α} + P{β}

5.2 Random variabele

Om uitkomsten van experimenten te kunnen kwantificeren wordt het begrip randomvariabele ingevoerd. Een random variabele is een voorschrift, waarmee een getalwordt toegekend aan de uitkomst van een experiment. Een random variabel x iseen funktie van de uitkomst ζ . Als voorbeeld beschouwen we de uitkomsten vanhet werpen met een dobbelsteen. De funktie x(ζ), of kortweg x, beschrijft nu hetvolgende recept: x krijgt de waarde van het aantal ogen dat bij een worp boven ligt.De mogelijke waarden van zijn dus 1, 2, 3, 4, 5 of 6. De funktie y wordt bijvoorbeeldgedefinieerd als: 2 maal het aantal ogen min 3. De random variabele y heeft dusals mogelijke waarden -1, 1, 3, 5, 7, 9. We kunnen nu ook spreken over de kansdat een random variabele kleiner of groter is dan een gegeven deterministisch getal.Bijvoorbeeld

P{x < 7} = P{S} = 1P{y > 4} = P{α} = 0.5

waarbij de gebeurtenis α is gedefinieerd als: α = {ζ4, ζ5, ζ6}.

5.2.1 Verdelingsfunktie en verdelingsdichtheidsfunktie

Verdelingsfunktie. Uitgaande van de begrippen kans en random variabele wordthet begrip distributiefunktie of verdelingsfunktie gedefinieerd als:

Fx(x) = P{x ≤ x} [5.2]

In woorden uitgedrukt: De distributiefunktie voor de random variabele x als funk-tie van een deterministische grootheid x beschrijft de kans dat de random variabelex kleiner of gelijk is aan een getal x. Deze funktie is gedefinieerd voor −∞ < x <∞.Voor x = −∞ geldt dat x≤ x de onmogelijke gebeurtenis is, dus Fx(−∞) = 0. Voorx = ∞ geldt dat x≤ x de zekere gebeurtenis is, dus Fx(∞) = 1.

Verder moet gelden dat P{x ≤ x} ≤ P{x ≤ x + ∆x} met ∆x > 0, dus Fx(x) iseen monotoon niet-dalende funktie.

5.2 Random variabele 61

Figuur 5.1: De verdelingsfunktie Fx(x) en de verdelingsdichtheidsfunktie fx(x) voorde uitkomst van het gooien met een dobbelsteen.

Verdelingsdichtheidsfunctie. De afgeleide naar x van de verdelingsfunktie wordtde verdelingsdichtheidsfunktie genoemd. Deze is gedefinieerd als:

fx(x) =dFx(x)

dx= lim

∆x→0

P{x ≤ x+ ∆x} − P{x ≤ x}∆x

= lim∆x→0

P{x < x ≤ x+ ∆x}∆x

[5.3]

Uit het voorgaande volgt, dat voor de verdelingsdichtheidsfunktie moet gelden datfx(x) ≥ 0 en

∫∞−∞ fx(x)dx = Fx(∞)−Fx(−∞) = 1−0 = 1. Voor de random variabele

x behorende bij het voorbeeld van de dobbelsteen zijn de verdelingsfunktie en deverdelingsdichtheidsfunktie gegeven in fig. 5.1. Voor deze funkties geldt dat:

Fx(x) = 0 voor x < 1= 1

6entier(x) voor 1 ≤ x < 6

= 1 voor x ≥ 6[5.4]

fx(x) = 0 x 6= i= 1

6δ(x− i) x = i; i = 1, 2, 3, 4, 5, 6

[5.5]

Doordat x slechts 6 verschillende waarden kan hebben, vertoont Fx(x) een aantaldiscontinuiteiten en bestaat fx(x) uit een reeks diracfunkties. In het algemeen zullende verdelingsfunktie en de verdelingsdichtheidsfunktie een continu verloop hebben.

5.2.2 Verwachtingswaarde

Een belangrijk concept uit de waarschijnlijkheidsrekening is het begrip verwach-tingswaarde van een funktie van een random variabele. De verwachtingswaardevan een functie van een random variabele is gedefinieeerd als

E{g(x)} =∫ ∞

−∞g(x)fx(x)dx [5.6]


De interpretatie van dit begrip luidt als volgt. Beschouw het geval dat de randomvariabele x ligt tussen de waarde x en x + dx, dan ligt de funktie g(x) tussen dewaarden g(x) en g(x+ dx). De kans op deze uitkomst is gelijk aan:

P{g(x) < g(x) ≤ g(x+ dx)} = fx(x)dx [5.7]

Beschouw nu alle mogelijke uitkomsten g(x) van de random variabele g(x) in hetgebied −∞ < x <∞ en weeg deze met hun kans van optreden. Bij elkaar opgetelddoor een integratiebewerking levert dit een, met zijn kansen van optreden gewogen,gemiddelde waarde van de random variabele g(x). Deze hele bewerking wordt aange-duid met behulp van de operator E{. . .}. Merk op, dat een funktie van een randomvariabele op zich ook weer een random variabele is. De verwachtingswaarde van eendergelijke funktie is echter een deterministische grootheid, die gebaseerd is op deverdelingsdichtheidsfunktie van de random variabele en niet op de random variabelezelf. De operator E is een lineaire operator, d.w.z. er geldt dat:

E{k1g1(x) + k2g2(x)} = k1E{g1(x)} + k2E{g2(x)} [5.8]

Dit volgt eenvoudig uit de definitie voor de verwachtingswaarde, vgl. [5.6]. Dezeeigenschap speelt een belangrijke rol in de waarschijnlijkheidsrekening.

Momenten. Een bekende klasse van funkties is de groep g(x) = xk. Deverwachtingswaarden hiervan worden aangeduid als de momenten van de verdel-ingsdichtheidsfunktie. De grootheid

mk = E{xk} =∫ ∞

−∞xkfx(x)dx [5.9]

wordt aangeduid als het k-de orde moment. Zo is het nulde orde moment nietsanders dan het oppervlak onder de verdelingsdichtheidsfunktie

m0 =∫ ∞

−∞x0fx(x)dx =

∫ ∞

−∞fx(x)dx = 1 [5.10]

Gemiddelde waarde. Het eerste orde moment staat bekend als de gemiddeldewaarde µx van de random variabele x:

m1 = E{x} =∫ ∞

−∞xfx(x)dx [5.11]

Centrale momenten Nauw verwant met de voorgaande klasse van funkties zijn decentrale momenten van een verdelingsdichtheidsfunktie. Dit zijn de momenten vande random variabele x ten opzichten van zijn gemiddelde waarde. Het k-de ordecentrale moment is gedefinieerd als:

m′k = E{(x− µx)

k} =∫ ∞

−∞(x− µx)

kfx(x)dx [5.12]

Voor het nulde-orde centrale moment geldt weer m′0 = 1. Voor het eerste-orde

centrale moment geldt:

m′1 = E{x− µx} =

∫ ∞

−∞(x− µx)fx(x)dx

=∫ ∞

−∞xfx(x)dx− µx

∫ ∞

−∞fx(x)dx = µx − µx = 0 [5.13]


Variantie. Het tweede-orde centrale moment staat bekend als de variantie σ2x van

de random variabele x.

m′2 = E{(x− µx)

2} =∫ ∞

−∞(x− µx)

2fx(x)dx [5.14]

Gebruik makend van de lineaire eigenschappen van de operator E is de uitdrukkingvoor σ2

x ook te schrijven als een funktie van m2 en m1. Er geldt namelijk dat:

σ2x = E{(x−m1)

2} = E{x2 − 2m1x +m21}

= m2 − 2m21 +m2

1 = m2 −m21 = E{x2} − (E{x})2 [5.15]

Standaarddeviatie. De wortel uit de variantie, σx, staat bekend als de stan-daarddeviatie.De voorgaande behandelde begrippen komen aan de orde in het volgende overzichtvan enkele veel voorkomende kansverdelingen.

5.2.3 Enkele kansverdelingen

Voorbeeld: Kansverdeling voor het werpen met een dobbelsteen

De verdelingsfunktie en de verdelingsdichtheidsfunktie die hiervoor van toepassing zijn,werden reeds gegeven in fig. 5.1. Ten behoeve van het berekenen van verwachtingswaardenis de verdelingsdichtheidsfunktie ook te schrijven als:

fx(x) =1

6

6∑

i=1

δ(x− i) [5.16]

Voor het k-de orde moment geldt dan:

mk =∫∞−∞ xkfx(x)dx = 1

6

∫∞−∞ xk

∑i=6i=1 δ(x− i)dx

= 16

∑6i=1

∫∞−∞ xkδ(x− i)dx = 1

6

∑6i=1 i

k [5.17]

Voor de gemiddelde waarde geldt dan: µx = m1 = 1+2+3+4+5+66 = 3.5.

Voor het tweede orde moment geldt: m2 = 1+4+9+16+25+366 = 91

6 ≈ 15.17De variantie is dus gelijk aan: σ2

x = 916 − 49

4 = 3512 ≈ 2.92

De standaarddeviatie wordt dan: σx ≈ 1.71

Voorbeeld: De uniforme verdeling (fig. 5.2)De verdelingsfunktie voor de uniforme verdeling is met b > a te schrijven als:

Fx(x) = 0 voor x ≤ a= x−a

b−a voor a < x ≤ b

= 1 voor x > b

[5.18]

De verdelingsdichtheidsfunktie is dan:

fx(x) = 0 voor x ≤ a= 1

b−a voor a < x ≤ b

= 0 voor x > b

[5.19]

De gemiddelde waarde is gelijk aan:

µx = m1 =

∫ ∞

−∞xfx(x)dx =

1

b− a

∫ b

axdx =

1

2

b2 − a2

b− a=a+ b

2[5.20]


Figuur 5.2: De verdelingsfunktie en de verdelingsdichtheidsfunktie voor de uniformeverdeling.

Het tweede orde moment wordt:

µ2 =

∫ ∞

−∞x2fx(x)dx =

1

b− a

∫ b

ax2dx =

1

3

b3 − a3

b− a=

1

3(a2 + ab+ b2) [5.21]

De variantie wordt:

σ2x = m2 −m2

1 =1

3(a2 + ab+ b2) − 1

4(a2 + ab+ b2) =

1

12(b− a)2 [5.22]

Een experiment dat een random variabele oplevert waarvoor de uniforme verdeling geldtis bijvoorbeeld de rouletteschijf. Neem als uitkomst de hoek ten opzichte van een refer-entielijn op de schijf. De random variabele x is dan het getal in radialen dat hoort bijde gevonden hoek voor een bereik tussen -π en π. Er geldt dus a = −π en b = π, zodatµx = 0 en σ2

x = π2/3.

Voorbeeld: De sinusverdeling

Beschouw de random variabele y = a sin x2, waarbij x uniform verdeeld is tussen −π en

π. Uit deze gegevens is de verdelingsfunktie van y als volgt te bepalen. Uit het feit datde random variabele x ligt tussen de grenzen −π en π volgt dat de random variabeley moet liggen tussen de grenzen a sin(−π

2 ) en a sin(π2 ), d.w.z. tussen de grenzen −a ena. Zoals blijkt uit fig. 5.3 is er een eenduidig verband tussen x en y. Bij een bepaaldeuitkomst x = x1 hoort namelijk een bepaalde uitkomst y = y1 = a sin x1

2 . De kansdat y < y1, correspondeert met de kans dat x < x1 met x1 = 2 arcsin( y1a ), is gelijkaan P{y < y} = P{x < x = 2 arcsin( ya)}. Voor het gebied −π ≤ x ≤ π geldt dat

P{x < x} = x−(−π)π−(−π) = x+π

2π zodat:

P{y < y} =2 arcsin( ya) + π

2π=

1

2+

1

πarcsin(

y

a) [5.23]

Voor de verdelingsfunktie van y kunnen we dus schrijven:

Fy(y) = 0 voor y < −a= 1

2 + 1π arcsin(ya) voor −a ≤ y ≤ a

= 1 voor y > a[5.24]


Figuur 5.3: Het verband tussen de uitkomsten voor x en y = a sin x

2.

Figuur 5.4: Verdelingsfunktie en verdelingsdichtheidsfunktie van een sinusverdeling.

De verdelingsdichtheidsfunktie wordt:

fy(y) = 0 voor y < −a= 1

π√a2−y2

voor −a ≤ y ≤ a

= 0 voor y > a

[5.25]

Beide funkties zijn getekend in fig. 5.4. Voor de gemiddelde waarde van y geldt:

µy =

∫ ∞

−∞yfy(y)dy =

1

π

∫ a

−a

y√

a2 − y2dy = − 1

π

√

a2 − y2|a−a = 0 [5.26]

De variantie σ2y wordt gelijk aan:

σ2y = m2−µ2

y = m2 =1

π

∫ a

−a

y2

√

a2 − y2dy =

1

π(y

2

√

a2 − y2+a2

2arcsin(

y

a))|a−a =

a2

2[5.27]

In de praktijk komt deze verdeling voor bij sinusvormige signalen. Stel dat we op eenwillekeurig tijdstip een monster nemen van een sinusvormig signaal, dan geldt voor de


Figuur 5.5: De verdelingsfunktie en de verdelingsdichtheidsfunktie voor de normaleverdeling.

gevonden uitkomst y = a sinωt. De random variabele x = ωt is nu echter niet beperkt tothet gebied −π

2 ≤ x ≤ π2 , maar er kan worden aangetoond dat de funkties Fy(y) en fy(y)

uiteindelijke identiek zijn aan die van fig. 5.4.

Voorbeeld: De gaussische of normale verdeling

Een in de praktijk veel voorkomende verdeling is de normale verdeling, gekarakteriseerddoor de volgende verdelings- en verdelingsdichtheidsfunktie:

Fx(x) =1

σ√

2π

∫ x

−∞e−

12(

y−µ

σ )2

dy [5.28]

fx(x) =1

σ√

2πe−

12(

y−µ

σ )2

Beide funkties zijn getekend in fig. 5.5. Voor het eerste-orde moment geldt:

m1 =1

σ√

2π

∫ ∞

−∞xe−

12(

x−µ

σ )2

dx =1

σ√

2π

∫ ∞

−∞((x− µ) + µ)e−

12(

x−µ

σ )2

dx

=2σ2

σ√

2π

∫ ∞

−∞

(

x− µ

σ√

2

)

e−(

x−µ

σ√

2

)2

d

(

x− µ

σ√

2

)

+µ√π

∫ ∞

−∞e−(

x−µ

σ√

2

)2

d

(

x− µ

σ√

2

)

=σ√

2√π

∫ 0

−∞ye−y

2dy +

∫ ∞

0ye−y

2dy +

µ√π

∫ ∞

−∞e−y

2dy

=σ√

2√π

(−∫ ∞

0e−y

2dy +

∫ ∞

0ye−y

2dy) +

µ√π

√π = 0 + µ = µ [5.29]

Voor de variantie geldt:

σ2x = E{(x− µx)

2}=

1

σ√

2π

∫ ∞

−∞(x− µ)2e−

12(

x−µ

σ )2

dx [5.30]

5.3 De ongelijkheid van Tschebycheff 67

=2σ2

√2π

∫ ∞

−∞

(

x− µ

σ√

2

)

e−(

x−µ

σ√

2

)2

d

(

x− µ

σ√

2

)

=2σ2

√π

∫ ∞

−∞y2e−y

2dy =

2σ2

√π

√π

2= σ2

Met andere woorden de parameters µ en σ die de verdelingsdichtheidsfunktie karakteris-

eren corresponderen tevens met de gemiddelde waarde en de standaarddeviatie van de

bijbehorende random variabele.

5.3 De ongelijkheid van Tschebycheff

De gemiddelde waarde en de variantie zijn belangrijke grootheden, die bijvoorbeeldgebruikt kunnen worden om uitspraken te doen over de kans dat een bepaaldeuitkomst een zekere afwijking heeft ten opzichte van de gemiddelde waarde. Voorhet geval dat er niets over de vorm van de verdelingsdichtheidsfunktie van de ran-dom variabele bekend is, geldt altijd de ongelijkheid van Tschebycheff. Deze luidtals volgt:

P{|x− µx| ≥ kσx} ≤ 1

k2[5.31]

Hierin is k een willekeurig positief getal. Deze ongelijkheid volgt uit de uitdrukkingvoor de variantie σ2

x. Er geldt namelijk dat:

σ2x =

∫ ∞

−∞(x− µx)

2fx(x)dx ≥∫

|x−µx|≥kσx(x− µx)

2fx(x)dx

≥∫

|x−µx|≥kσxk2σ2

xfx(x)dx ≥ k2σ2x

∫

|x−µx|≥kσxfx(x)dx [5.32]

= k2σ2xP{|x− µx| ≥ kσx}

Deling door k2σ2x levert dan:

1

k2≥ P{|x− µx| ≥ kσx} [5.33]

Deze kans correspondeert met het gearceerde oppervlak in fig 5.6. Deze uitdrukkingis te gebruiken als alleen de gemiddelde waarde en de variantie bekend zijn, maarniet de verdelingsdichtheidsfunktie. De met behulp van deze ongelijkheid verkre-gen afschatting van de overschrijdingskans is zeer ruim. Zodra men de verdelings-dichtheidsfunktie kent, kan men als regel tot een meer verfijnde schatting komen.Dit is te illustreren aan de hand van de normale verdeling. Hiervoor geldt:

fx(x) =1

σ√

2π

∫ x

−∞e−

12(

x−µ

σ )2

dy [5.34]

met µx = µ en σx = σ. Er geldt dat:

P{|x− µx| ≥ kσx} = 2P{(x− µx) ≥ kσx} [5.35]

omdat de verdeling symmetrisch is.


Figuur 5.6: De kans P{|x − µx| ≥ kσx} weergegeven als het gearceerde oppervlakonder de verdelingsdichtheidsfunktie voor het geval k = 2.

P{|x− µx| ≥ kσx}k voor onbekende verdeling

voor normale verdeling volgens Tchebycheff1.0 0.3174 ≤ 1.001.5 0.1336 ≤ 0.452.0 0.0456 ≤ 0.252.5 0.0124 ≤ 0.163.0 0.0026 ≤ 0.113.5 0.00046 ≤ 0.084.0 0.00006 ≤ 0.06

Tabel 5.1: Het effect van kennis van de verdelingsdichtheidsfunktie op de afschattingvan de overschrijdingskans van een random variabele, geıllustreerd voor een normaalverdeelde random variabele.

Uit een tabel voor de normale verdeling is een aantal waarden ontleend enweergegeven in tabel 5.1, samen met de grenswaarde van de ongelijkheid van Tcheby-cheff. Zoals uit de tabel blijkt is de ongelijkheid van Tschebycheff een zeer grovemaat. Bovendien geeft deze ongelijkheid alleen uitsluitsel over de tweezijdig over-schrijdingskans, d.w.z. de som van de kansen

P{x ≤ µx − kσx} + P{x ≥ µx + kσx} [5.36]

Als men alleen geınteresseerd is in een van beide kansen, d.w.z. een eenzijdigeoverschrijdingskans, valt er geen nauwkeuriger uitspraak te doen als men de verdel-ingsdichtheidsfunktie niet kent. Voor het geval van de normale verdeling, die sym-metrisch is t.o.v. de gemiddelde waarde, zijn de eenzijdige overschrijdingskansen dehelft van de in de tabel gegeven waarden.

5.4 Funkties van twee random variabelen 69

5.4 Funkties van twee random variabelen

5.4.1 De tweedimensionale verdelingsfunktie en verdelings-dichtheidsfunktie

Het verband tussen twee random variabelen kan eveneens gekarakteriseerd wordenm.b.v. een verdelingsfunktie of verdelingsdichtheidsfunktie, alleen zijn dit nu funk-ties van twee variabelen.

De tweedimensionale verdelingsfunktie is als volgt gedefinieerd:

Fxy(x, y) = P{x ≤ x; y ≤ y} [5.37]

De verdelingsfunktie behorend bij de random variabelen x en y is nu een funktie vantwee variabelen x en y. Deze funktie beschrijft de kans dat de random variabele x

kleiner of gelijk is aan een getal x terwijl tegelijkertijd de random variabele y kleinerof gelijk is aan een getal y.

De verdelingsdichtheidsfunktie fxy(x, y) is gedefinieerd als

fxy(x, y) =∂2Fxy(x, y)

∂x∂y[5.38]

Het resultaat fxy(x, y) is weer een kans, namelijk

fxy(x, y) = P{x < x ≤ x+ dx; y < y ≤ y + dy} [5.39]

Er geldt dat:

Fxy(x, y) =∫ x

v=−∞

∫ y

u=−∞fxy(u, v)dudv [5.40]

Fxy(−∞,−∞) = P{x ≤ −∞; y ≤ −∞} = 0 de onmogelijke gebeurtenis

Fxy(∞,∞) = P{x ≤ ∞; y ≤ ∞} = 1 de zekere gebeurtenis

Hieruit volgt dat moet gelden:∫ ∞

−∞

∫ ∞

−∞fxy(x, y)dxdy = 1 [5.41]

Uit de tweedimensionale verdelingsdichtheidsfunktie zijn de eendimensionale verdel-ingsfunkties en verdelingsdichtheidsfunkties van de random variabelen x en y afzon-derlijk te berekenen volgens:

Fx(x) =∫ x

−∞fx(u)du = Fxy(x,∞) =

∫ x

−∞(∫ ∞

−∞fxy(u, v)dv)du

fx(x) =∫ ∞

−∞fxy(x, y)dy

Fy(y) =∫ y

−∞fy(v)dv = Fxy(∞, y) =

∫ y

−∞(∫ ∞

−∞fxy(u, v)du)dv

fy(y) =∫ ∞

−∞fxy(x, y)dx


Figuur 5.7: Berekening van de eendimensionale verdelingsdichtheidsfunkties fx(x)en fy(y) uit de tweedimensionale verdelingsdichtheidsfunktie fxy(x, y).

In woorden uitgedrukt: De kans dat de random variabele x kleiner of gelijk is aaneen getal x is gelijk aan de kans dat de random variabele x kleiner of gelijk is aanhet getal x voor elke uitkomst van de random variabele y, d.w.z. voor het geval daty <∞. Voor de verdelingsfunktie betekent dit Fx(x) = Fxy(x,∞).

Voor de verdelingsdichtheidsfunktie geldt dat de kans dat x tussen de waardenx en x+ dx ligt, gelijk is aan de kans dat x tussen de waarden x en x+ dx ligt voorhet geval dat y ligt tussen de waarden −∞ en ∞. In fig. 5.7 betekent dit, dat hetoppervlak Fx(x)dx gelijk is aan de inhoud (

∫∞−∞ fxy(x, y)dy)dx. Beide uitdrukkingen

beschrijven een kans.

Normale verdeling.Een in de praktijk veel toegepaste tweedimensionale verdeling is die voor twee ran-dom variabelen die gezamenlijk normaal verdeeld zijn. De verdelingsdichtheidsfunk-tie voor dit geval wordt beschreven door:

fxy(x, y) =1

2πσxσy√

1 −K2xy

e− 1

2(1−K2xy)

(

(x−µx)2

σ2x

− 2Kxy(x−µx)(y−µy)

σxσy+

(y−µy)2

σ2y

)

[5.42]

Hierin is µx de gemiddelde waarde van x, µy de gemiddelde waarde van y; σx destandaarddeviatie van x en σy de standaarddeviatie van y. De grootheid Kxy, waar-voor geldt −1 ≤ Kxy ≤ 1, is een maat voor de samenhang tussen x en y. Hierop zalin par. 5.4.2 nog nader ingegaan worden.

Om een beeld te krijgen van de vorm van fxy(x, y) en om de invloed van de pa-rameterKxy na te gaan zullen we deze verdelingsdichtheidsfunktie nader beschouwenvoor het geval µx = µy = 0 en σx = σy = 1. De funktie wordt dan:

fxy(x, y) =1

2π√

1 −K2xy

e−x2−2Kxyxy+y2

2(1−K2xy) [5.43]


Figuur 5.8: Transformatie naar een nieuw assenstelsel.

Het maximum van fxy(x, y) ligt bij x = 0, y = 0 en bedraagt fmax = 1

2π√

1−K2xy

Om een indruk te krijgen van de vorm van de funktie fxy kunnen we hem doorsni-jden met drie loodrecht op elkaar staande vlakken, bijvoorbeeld x = 0, y = 0 enfxy(x, y) = c met 0 < c < fmax. Een doorsnijdingen met x = 0, y = 0 en fxy = clevert achtereenvolgens:

fxy(0, y) = fmaxe− y2

2(1−K2xy)

fxy(x, 0) = fmaxe− x2

2(1−K2xy)

c = fmaxe−x2−2Kxy−xy+y2

2(1−K2xy)

[5.44]

Het verband tussen x en y wordt duidelijk wanneer we de logarithme van c/fmaxnemen. We krijgen dan:

ln(c

fmax) =

x2 − 2Kxy − xy + y2

2(1 −K2xy)

[5.45]

Aangezien 0 < c/fmax < 1 geldt dat −∞ < ln( cfmax

) < 0. Stel nu ln( cfmax

) = −a meta > 0, dan geldt:

x2 − 2Kxyxy + y2 = 2a(1 −K2xy) [5.46]

Dit is de vergelijking voor een ellips met zijn middelpunt in de oorsprong en een derhoofdassen onder 450 met de x-as. Als we een nieuw assenstelsel definieren volgensfig. 5.8 met ψ = 450 wordt de vergelijking van de ellips gegeven door:

u2

1 +Kxy

+v2

1 −Kxy

= 2a [5.47]

De grootheid Kxy is dus een maat voor de verhouding tussen de lengten van dehoofdassen van de ellips. Voor een aantal waarden van Kxy zijn de bijbehorendeellipsen in het xy-vlak getekend in fig. 5.9. Voor het geval dat Kxy = 0, wordt deellips een cirkel. Uit de vergelijking voor fxy(x, y) volgt dat deze dan te schrijven is


Figuur 5.9: Horizontale doorsnede door de verdelingsdichtheidsfunktie van tweegezamenlijk normaal verdeelde random variabelen voor een aantal waarden van deparameter Kxy.

als fxy(x, y) = fx(x)fy(y). Hierop wordt nog nader teruggekomen.Voor de gevallen dat Kxy = −1 en Kxy = 1 gaat de ellips over in een rechte

lijn. Voor bijvoorbeeld Kxy = 1 is de interpretatie hiervan als volgt: Gegeven datx ≤ x < x+ dx, dan moet ook y ≤ y < y+ dy met y = x, m.a.w. er geldt dan altijddat y = x en voor Kxy = −1 geldt altijd dat y = −x.

Door de tweedimensionale verdelingsdichtheidsfunktie te integreren over respec-tievelijk y en x, worden de eendimensionale verdelingsdichtheidsfunkties van de ran-dom variabelen x en y afzonderlijk verkregen, namelijk:

fx(x) = 1σx

√2πe−( x−µx

σx)2

fy(x) = 1σy

√2πe−(

y−µy

σy

)2 [5.48]

Uit de tweedimensionale verdelingsdichtheidsfunkties zijn de eendimensionale verdel-ingsdichtheidsfunkties van de afzonderlijke random variabelen altijd af te leiden. Hetomgekeerde is echter niet het geval. Immers in de relatie fx(x) =

∫∞−∞ fxy(x, y)dy

bestaat er een oneindig aantal mogelijke funkties fxy(x, y) die alle na integratie overy de funktie fx(x) opleveren. Er bestaat echter een bijzonder geval, waarbij het welmogelijk is om de tweedimensionale verdelingsdichtheidsfunktie uit de eendimen-sionale verdelingsdichtheidsfunkties te berekenen namelijk als x en y onafhankelijkzijn.

van twee random variabelen.Twee random variabelen x en y noemen we onafhankelijk als geldt dat:

P{x ≤ x; y ≤ y} = P{x ≤ x}P{y ≤ y} [5.49]


Figuur 5.10: De lijn z = x + y met het gebied z ≤ x + y en het integratie-intervalvoor x in dit gebied.

Voor dit geval geldt dus:

Fxy(x, y) = Fx(x)Fy(y)∫ y

−∞

∫ x

−∞fxy(u, v)dudv =

∫ x

−∞fx(u)du

∫ y

−∞fy(v)dv

=∫ y

−∞

∫ x

−∞fx(u)fy(v)dudv

Waaruit volgt:

fxy(x, y) = fx(x)fy(y) [5.50]

Wanneer de tweedimensionale verdelingsdichtheidsfunktie fxy(x, y) bekend is, ligthiermee in principe ook de informatie vast omtrent de kansverdeling van een funktievan deze twee random variabelen. Een eenvoudig, maar wel belangrijk, voorbeeldhiervan is het geval van het sommeren van twee random variabelen: z = x + y,waarbij nu de vraag is wat fz(z) wordt. Er geldt dat:

Fz(z) = P{z ≤ z} = P{z ≤ x+ y} =∫ ∞

−∞

∫ z−y

−∞fxy(x, y)dxdy [5.51]

Dit is de kans dat z in het gearceerde deel van het xy-vlak van fig. 5.10 ligt.Differentiatie van deze uitdrukking naar z levert:

fz(z) =∂Fz(z)

∂z=∫ ∞

−∞fxy(z − y, y)dy [5.52]

Deze uitdrukking werd verkregen door in het xy-vlak eerst naar x en dan naar y teintegreren. Verwisselt men deze volgorde dan ontstaat de equivalente uitdrukking:fz(z) =

∫∞−∞ fzy(x, z − x)dx Voor het bijzondere geval dat x en y onafhankelijk zijn

is de tweedimensionale verdelingsdichtheidsfunktie als een produkt van twee eendi-mensionale verdelingsdichtheidsfunkties te schrijven en fz(z) is dan te berekenenuit:

fz(z) =∫ ∞

−∞fx(z − y)fy(y)dy =

∫ ∞

−∞fx(x)fy(z − x)dx [5.53]


In woorden uitgedrukt: De verdelingsdichtheidsfunktie van de som van twee on-afhankelijke random variabelen is te berekenen uit de convolutie van de twee afzon-derlijke verdelingsdichtheidsfunkties.

5.4.2 Gemiddeld produkt, covariantie en correlatie

Verwachtingswaarde. Ook voor tweedimensionale verdelingsdichtheidsfunkties ishet begrip verwachtingswaarde of mathematische verwachting gedefinieerden wel als volgt:

E{g(x, y)} =∫ ∞

−∞

∫ ∞

−∞g(x, y)fxy(x, y)dxdy [5.54]

Ook voor de tweedimensionale verdelingsfunktie is het bepalen van de verwachtings-waarde een lineaire operatie (ga na).

De gemiddelde waarden en de varianties van x zijn weer te berekenen uit deeendimensionale verdelingsdichtheidsfunkties.

Momenten. Bij de tweedimensionale verdelingsdichtheidsfunktie zijn de gezamen-lijke momenten van belang. Enkele voorbeelden hiervan zijn:

m00 = E{x0y0} =∫ ∞

−∞

∫ ∞

−∞f(x, y)dxdy = 1

m10 = E{x} =∫ ∞

−∞

∫ ∞

−∞xf(x, y)dxdy

=∫ ∞

−∞x∫ ∞

−∞f(x, y)dxdy =

∫ ∞

−∞xfx(x)dx = µx [5.55]

m01 = E{y} =∫ ∞

−∞y∫ ∞

−∞fxy(x, y)dxdy =

∫ ∞

−∞yfy(y)dy = µy

m11 =∫ ∞

−∞

∫ ∞

−∞xyfxy(x, y)dxdy

Gemiddelde produkt Rxy. De grootheid Rxy = E{xy} staat bekend als het gemid-delde produkt.

Centrale momenten. Van de lineairiteitseigenschap kan gebruik gemaakt wor-den bij de berekening van de tweedimensionale centrale momenten:

m′ij = E{(x− µx)

i(y− µy)j} [5.56]

Covariantie Cxy. Voor de covariantie Cxy = geldt:

Cxy = E{(x− µx)(y− µy)}= E{xy} − µyE{x} − µxE{y} + µxµyE{1}= Rxy − µxµy = m′

11 = m11 −m10m01

[5.57]

Het begrip covariantie is te vertalen als de variantie van het gemeenschappelijkedeel. Wanneer geldt dat y=x is het de variantie zonder meer. Immers er staat danniets anders dan

Cxy = E{(x− µx)2} = σ2

x [5.58]


Correlatie. We kunnen de covariantie normeren door deze te delen door het pro-dukt van de standaarddeviaties van de betrokken random variabelen. Aldus ontstaatdan de correlatie gedefinieerd als:

Kxy =Cxy

σxσy= E

{

x− µxσx

y− µyσy

}

[5.59]

De correlatie is een maat voor de samenhang tussen de random variabelen x en y.Er geldt dat −1 ≤ Kxy ≤ 1. Dit is gemakkelijk in te zien als we de twee gevallenvan een maximale samenhang bekijken namelijk y=x en y=-x. Voor het eerste gevalgeldt:

Kxy = E

{

(x− µx)2

σ2x

}

=σ2

σ2= 1 [5.60]

Voor het tweede geval geldt:

Kxy = E

{

(x− µx)2

σ2x

}

= −σ2

σ2= −1 [5.61]

In het geval van de tweedimensionale normale verdeling blijkt de parameter Kxy inde verdelingsdichtheidsfunktie gelijk te zijn aan de hier gedefinieerde correlatie Kxy.Hieruit blijkt dat voor twee normaal verdeelde random variabelen de gezamenlijkeverdelingsdichtheidsfunktie volledig bepaald wordt door de eerste en tweede mo-menten m10,m01,m11,m20 en m02.

De relatie tussen twee random variabelen x en y kan nog aan enkele bijzondereintegraaleigenschappen voldoen.

Ongecorreleerd. Wanneer geldt dat Kxy = 0 noemen we de random variabe-len x en y ongecorreleerd.

Orthogonaal. Wanneer geldt dat Rxy = 0 noemen we de random variabelen x

en y orthogonaal.

Uit Rxy = Cxy + µxµy = Kxyσxσy + µxµy volgt dat als x en y orthogonaal zijn,dan is Kxy = −µxµy

σxσy.

Als x en y ongecorreleerd zijn, dan is Rxy = µxµy en E{xy} = E{x}E{y}In de gevallen dat µx = 0 en/of µy = 0, geldt dat de begrippen orthogonaal enongecorreleerd equivalent zijn.

Onafhankelijk. Eerder was al het begrip onafhankelijk geintroduceerd. Dit wasgedefinieerd als:Fxy(x, y) = Fx(x)Fy(y). Hieruit volgt dat ook

fxy(x, y) = fx(x)fy(y) [5.62]


Figuur 5.11: Bovenaanzicht van een tweedimensionale verdelingsdichtheidsfunktie.

Indien x en y onafhankelijk zijn geldt voor de verwachtingswaarde van het produktvan twee funkties g1(x) en g2(y):

E{g1(x)g2(y)} =∫ ∞

−∞

∫ ∞

−∞g1(x)g2(y)fx(x)fy(y)dxdy

= (∫ ∞

−∞g1(x)fx(x)dx)(

∫ ∞

−∞g2(y)fy(y)dy)

= E{g1(x)}E{g2(y)} [5.63]

In het bijzondere geval dat g1(x) = x en g2(y) = y geldt dus dat: E{xy} =E{x}E{y} of Rxy = µxµy zodat

Kxy =Cxy

σxσy=Rxy − µxµy

σxσy= 0 [5.64]

Onafhankelijk impliceert dus ongecorreleerd.Het omgekeerde geldt echter niet. Als twee stochastische processen ongecorreleerdzijn, hoeven ze niet onafhankelijk te zijn. Het begrip ongecorreleerd is namelijk eenintegraaleigenschap van de tweedimensionale verdelingsdichtheidsfunktie. Dit wordtgeıllustreerd in het volgende voorbeeld.

Voorbeeld

Beschouw een tweedimensionale verdelingsdichtheidsfunktie waarvan het bovenaanzichtgegeven is in fig. 5.11. Voor deze verdelingsdichtheidsfunktie geldt: fxy = c in hetgearceerde gebied, begrensd door de zes lijnen:

y = −(b/a)(x+ a) y = (b/a)x y = by = −(b/a)x y = (b/a)(x+ a) y = 0

[5.65]

Buiten het gearceerde gebied geldt fxy(x, y) = 0. De constante c is te bepalen uit deeigenschap dat fxy(∞,∞) =

∫∞−∞

∫∞−∞ fxydxdy = 1 zodat: 2abc = 1 of c = 1

2ab . Voor deeendimensionale verdelingsdichtheidsfunktie van x geldt:fx(x) =

∫∞−∞ fxy(x, y)dy. Dit levert de linker funktie van fig. 5.12. Voor de eendimensionale

verdelingsdichtheidsfunktie van y geldt: fy(y) =∫∞−∞ fxy(x, y)dx (fig. 5.12 rechts).

Voor het produkt van fx(x) en fy(y) geldt: fx(x)fy(y) 6= fxy(x, y) zoals blijkt uitfig. 5.13. Hieruit volgt dus dat x en y niet onafhankelijk zijn.

Voor de verwachtingswaarde van het produkt van x en y geldt:

E{xy} =∫∞−∞

∫∞−∞ xyfxy(x, y)dxdy

=∫ by=0 y

(

∫ 0x=−2a xfxy(x, y)dx+

∫ 2ax=0 xfxy(x, y)dx

)

dy[5.66]


Figuur 5.12: De verdelingsdichtheidsfunktie van x (links) en van y (rechts).

Figuur 5.13: De funktie fx(x)fy(y) (links) en de funktie fxy(x, y).

Uit de symmetrie van Fxy(x, y) ten opzichte van de y-as volgt na substitutie van x’=-x inde eerste integraal en na verwisseling van de integratiegrenzen dat:

Rxy =

∫ b

y=0y

(

−∫ 2a

x′=0x′fxy(x

′, y)dx′ +∫ x=2a

x=0xfxy(x, y)dx

)

dy = 0 [5.67]

Verder geldt: E{x} = µx =∫∞−∞ xfx(x)dx = 0 en E{y} = µy =

∫∞−∞ yfy(y)dy = b

2 zodat

Rxy = 0 = µxµy en aangezien ook geldt dat Rxy = Cxy + µxµy volgt dat Cxy = 0 en dus

ook Kxy = 0 Hieruit wordt geconcludeerd dat de random variabelen x en y orthogonaal

en ongecorreleerd zijn maar niet onafhankelijk.

Zoals het voorbeeld illustreert, impliceert het feit dat twee random variabelen ongecor-releerd zijn niet dat ze ook onafhankelijk zijn. Er bestaan echter bijzondere gevallendat een dergelijke conclusie wel getrokken mag worden, bijvoorbeeld als de tweerandom variabelen gezamenlijk normaal verdeeld zijn. Als dan geldt dat Kxy = 0,gaat de gezamenlijke verdelingsdichtheidsfunktie over in:

fxy(x, y) = 12πσxσy

e− 1

2(x−µx

σ2x

)2+(y−µy

σ2y

)2

= 12πσx

e− 1

2(x−µx

σ2x

)2 12πσy

e− 1

2(

y−µy

σ2y

)2

= fx(x)fy(y)

[5.68]

Dus: als twee normaal verdeelde random variabelen ongecorreleerd zijn, zijn ze ookonafhankelijk.


5.5 Meerdimensionale verdelingen

Analoog aan het tweedimensionale geval valt een meerdimensionale verdeling tedefinieren, die gekarakteriseerd wordt door een meerdimensionale verdelingsfunk-tie of een meerdimensionale verdelingsdichtheidsfunktie. Voor een combinatie van nrandom variabelen x1 tot en met xn is de gezamenlijke verdelingsfunctie gedefinieerdals:

Fx1x2···xn(x1, x2, . . . , xn) = P{x1 ≤ x1; x2 ≤ x2; . . . ; xn ≤ xn} [5.69]

Hierbij hoort een verdelingsdichtheidsfunktie

fx1x2···xn =∂n

∂x1∂x2 · · · ∂xnFx1x2···xn

(x1, x2, . . . xn) [5.70]

De meerdimensionale normale verdeling is met behulp van matrixnotatie als volgtte beschrijven:

fx1···xn(x1, . . . , xn) =1

(2π)n2 |Σ| 12

e−12(x−µ)T Σ−1(x−µ) [5.71]

waarbij de letter T aangeeft dat de vector getransponeerd is en de vectoren enmatrices als volgt zijn gedefinieerd:

xT = (x1, . . . , xn)µT = (µ1, . . . , µn)

Σ =

σ11 · · · σ1n...

...σn1 · · · σnn

[5.72]

met σij = E{(xi−µi)(xj−µj)}. Ter illustratie van deze notatie wordt deze beschrijv-

ing uitgewerkt voor het bekende geval n = 2. De matrix Σ wordt dan:

(

σ11 σ12

σ21 σ22

)

.

Rekening houdend met het feit dat σ12 = σ21 wordt de determinant:

|Σ| = σ11σ22 − σ212 = σ11σ22(1 −K2

12) [5.73]

en de inverse van matrix Σ:

Σ−1 =1

σ11σ22(1 −K212)

(

σ22 −σ12

−σ12 σ11

)

[5.74]

zodat:

(x− µ)TΣ−1(x− µ) =

1

1 −K212

(

(x1 − µ1)2

σ11

− 2K12(x1 − µ1)(x2 − µ2)√σ11σ22

+(x2 − µ2)

2

σ22

)

5.5 Meerdimensionale verdelingen 79

Met σ1 =√σ11 en σ2 =

√σ22 wordt de verdelingsdichtheidsfunctie fx1x2(x1, x2) dan

gelijk aan:

fx1x2(x1, x2) =

1

2πσ1σ2

√

1 −K212

e− 1

2(1−K212

)

(

(

x1−µ1σ1

)2

− 2K12(x1−µ1)((x2−µ2)

σ1σ2+

(

(x2−µ2)2

σ22

)2)

hetgeen in overeenstemming is met de eerder gegeven uitdrukking voor de 2-dimensionalenormale verdeling.

Onafhankelijk. Ook voor het meerdimensionale geval is het begrip onafhanke-lijk gedefinieerd. Een verzameling van n random variabelen x1, x2, . . . , xn wordtonafhankelijk genoemd wanneer geldt dat:

P{x1 ≤ x1; x2 ≤ x2; . . . ; xn ≤ xn} = P{x1 ≤ x1}P{x2 ≤ x2} · · ·P{xn ≤ xn}[5.75]

of anders geschreven:

Fx1···xn(x1, . . . , xn) = Fx1(x1) · · ·Fxn(xn) [5.76]

Hieruit valt weer af te leiden dat dan ook geldt:

fx1···xn(x1, . . . , xn) = fx1(x1) · · · fxn(xn) [5.77]

Zoals nog zal blijken is deze relatie van belang in de schattingstheorie.

Centrale limietstelling. Ten slotte volgt hier nog een belangrijke stelling diebetrekking heeft op de som van een aantal onafhankelijke random variabelen. Destelling staat bekend als de centrale limietstelling en wordt hier zonder naderbewijs gegeven.

Gegeven een reeks van n onafhankelijke random variabelen xi, met i = 1, 2, ...n, diealle dezelfde verdelingsdichtheidsfunktie hebben en waarvan de gemiddelde waardeµx en de variantie σ2

x een eindige waarde hebben. Beschouw nu de random variabeleyn =

∑ni=1 xi Hieruit is dan weer een nieuwe random variabele z te construeren

volgens: zn = yn−µxσ√n

. Nu geldt dat voor het geval n → ∞ de random variabele z

normaal verdeeld is met een gemiddelde waarde 0 en een standaarddeviatie 1:

limn→∞

z → N (0, 1) [5.78]

Dit betekent praktisch, dat voor een voldoende grote waarde van n de randomvariabele kan worden beschouwd als zijnde normaal verdeeld met gemiddelde waardeµy = nµx en standaarddeviatie σy = σx

√n.

Omdat veel in de praktijk voorkomende random variabelen het gevolg zijn vaneen groot aantal onafhankelijke oorzaken, is dit dan ook de reden dat de hierbijvoorkomende verdelingsdichtheidsfunkties zo goed kunnen worden beschreven dooreen normale verdeling. Het volgende voorbeeld illustreert dat de bekende klokvormal bij betrekkelijk kleine waarden van n ontstaat.


Figuur 5.14: De vier integratiegebieden voor het berekenen van de integraal12a

∫ a−a fx(y − x)dx.

Voorbeeld

Gegeven een reeks van onafhankelijke random variabelen xi met i = 1, 2, ...n. Er geldt datze allemaal een zelfde verdeling hebben en wel een uniforme verdeling met, gemakshalve,een gemiddelde waarde µx = 0, dus:

fxi(xi) = fx(x) = 12a voor |x| ≤ a

= 0 voor |x| > a[5.79]

Beschouw nu de random variabele y = x1 + x2. De verdelingsdichtheidsfunktie vany is te berekenen m.b.v. de convolutieintegraal: fy(y) =

∫∞−∞ fx1(x)fx2(y − x)dx =

∫∞−∞ fx(x)fx(y − x)dx. Invullen van de uitdrukking voor fx(x) vereenvoudigt de integraal

tot: fy(y) = 12a

∫ a−a fx(−x)dx. Om deze integraal nader uit te werken moeten we vier

gebieden beschouwen voor de grootheid y (zie fig. 5.14), namelijk y ≤ −2a, −2a < y ≤ 0,0 < y ≤ 2a en y > 2a.

Voor het gebied y ≤ −2a geldt dat fx(y − x) = 0 in het interval −a < x ≤ a. Voorhet gebied −2a < y ≤ 0 geldt dat fx(y − x) = 0 in het interval y + a < x ≤ a, zodat deintegraal dan gelijk wordt aan:

fy(y) =1

2a

∫ y+a

−a

1

2adx =

1

4a2((y + a) − (−a)) =

2a+ y

4a2[5.80]

Uiteindelijk geldt dan voor de verdelingsdichtheidsfunktie fy(y) het volgende.

fy(y) = 0 voor y ≤ −2a

= 2a+y4a2 voor −2a < a ≤ 0

= 2a−y4a2 voor 0 < y ≤ 2a

= 0 voor y > 2a

[5.81]

5.5 Meerdimensionale verdelingen 81

Figuur 5.15: De verdelingsdichtheidsfunkties van de random variabelen xi, y =∑2i=1 xi en z =

∑3i=1 xi voor het geval dat de random variabelen xi onafhankelijk

zijn en een identieke uniforme verdeling hebben.

Uitgaande van dit resultaat is op overeenkomstige wijze de verdelingsdichtheidsfunktie te

berekenen van z = x1+x2+x3. In fig. 5.15 zijn de drie verdelingsdichtheidsfunkties fx(x),

fy(y) en fz(z) afgebeeld. De figuur illustreert dat reeds voor n = 3 een vorm ontstaat die

naar de bekende klokvorm van de normale verdeling tendeert. De afwijkingen zitten nog

vooral in de staart, maar naarmate n toeneemt worden deze kleiner.

Verwachtingswaarde Ook voor meerdimensionale verdelingsdichtheidsfunkties isweer het begrip verwachtingswaarde gedefinieerd en wel als volgt:

E{g(x1, . . . , xn)} =∫ ∞

x1=−∞· · ·

∫ ∞

xn=−∞g(x1, . . . , xn)fx1···xn(x1, . . . , xn)dx1 · · · dxn

en ook in het meerdimensionale geval geldt weer de lineariteitseigenschap. Ookgeldt weer, dat de verdelingsdichtheidsfunktie in een lager dimensionale deelruimteverkregen wordt door integratie naar een of meer te elimineren variabelen. Dit is teillustreren aan de hand van de berekening van het eerste en tweede moment van desom van n random variabelen: y =

∑ni=1 xi. Het eerste moment wordt:

E{y} = · · · =n∑

i=1

E{xi} [5.82]

Het tweede moment wordt:

E{y2} = · · · =n∑

i=1

n∑

j=1

E{xixj} [5.83]


Gebruik makend van de definities van gemiddelde waarden, varianties encovarianties, is de uitdrukking voor E{y2} ook te schrijven als:

E{y2} = σ2y + µ2

y =n∑

i=1

n∑

j=1

Cxixj +n∑

i=1

n∑

j=1

µxiµxj [5.84]

waarbij µy = E{y} =∑ni=1E{x} =

∑ni=1 µxi en µ2

y =∑ni=1

∑nj=1 µxiµxj zodat

σ2y =

n∑

i=1

n∑

j=1

Cxixj =n∑

i=1

σ2xi

+n∑

i=1

n∑

j=1;j 6=iCxixj [5.85]

Voor het geval dat xi en xj ongecorreleerd zijn, voor elke waarde van i en j van 1tot en met n met i 6= j, geldt: Cxixj = 0 ∀i, j = 1, ..., n en i 6= j, zodat dan

σ2y =

n∑

n=1

σ2xi

[5.86]

Met andere woorden de variantie van de som van n ongecorreleerde random variabe-len is gelijk aan de som van de afzonderlijke varianties. Voor het geval dat de randomvariabelen xi alle een zelfde variantie hebben, d.w.z. σ2

xi= σ2

xj∀i, j = 1, . . . , n gaat

de uitdrukking voor de variantie van de som over in

σ2y = nσ2

x [5.87]

Dit is een van de twee mogelijke uiterste gevallen. Het andere uiterste is volledigecorrelatie, d.w.z. xi = xj = x ∀i, j = 1, . . . , n dan geldt:

σ2y =

n∑

i=1

n∑

j=1

Cxixj =n∑

i=1

n∑

j=1

σ2x = n2σ2

x [5.88]

De variantie van de som is dus n keer zo groot als in het geval van n onafhankelijkevariabelen met een identieke variantie.

Hoofdstuk 6

Schattingstheorie

In een aantal gevallen is het mogelijk de verdelingsdichtheidsfunktie van een randomvariabele te bepalen op grond van kennis van de eigenschappen van het mechanismedat de uitkomsten genereert. Illustraties hiervan zijn gegeven in de voorbeelden inpar 5.2.1. Als men de verdelingsdichtheidsfunktie kent, kan men daarna bijvoorbeeldde gemiddelde waarde en de variantie berekenen. In de meeste gevallen echter heeftmen te maken met random variabelen, waarvan de statistische eigenschappen nietbekend zijn. Is men bijvoorbeeld geınteresseerd in de gemiddelde waarde van deuitkomst van een experiment, dan is het enige wat men kan doen het experimenteen groot aantal keren uitvoeren en de uitkomsten middelen. Als men deze procedureherhaalt, zal dit als regel een andere gemiddelde waarde opleveren. Men krijgt slechtseen benadering van de echte gemiddelde waarde. De gevolgde procedure noemt menschatten, het hierbij gehanteerde rekenrecept, de wiskundige formule, noemt meneen schatter. Een uitkomst, verkregen door toepassing van een schatter noemt meneen schatting. In het geval van het schatten van een gemiddelde waarde kanmen, uitgaande van de term gemiddelde, de volgende intuıtieve keuze doen, namelijkhet rekenkundig gemiddelde van de gevonden uitkomsten:

µx =1

n

n∑

i=1

xi [6.1]

Een schatter zullen we in het vervolg steeds aangeven met een ˆ teken, om hetverschil met de echte gemiddelde waarde aan te geven. Aangezien de schatting van degemiddelde waarde een funktie is van een aantal random variabelen is deze grootheidzelf ook weer een random variabele, dus een funktie van de uitkomstenruimte ζ. Eenschatting is in principe slechts een benadering van de te schatten grootheid. Vooreen zinvolle schatting zal men eisen dat deze benadering zo goed mogelijk is. Hetbegrip ”zo goed mogelijk” is echter een vage omschrijving die moet worden vertaaldnaar een aantal wiskundig hanteerbare eisen. Dit kan door het definieren van eenaantal eigenschappen die men aan een schatter kan toekennen. Om een schatter opzijn kwaliteiten te beoordelen, kan men onderzoeken in hoeverre hij dan voldoet aandeze eigenschappen.

84 6 Schattingstheorie

6.1 Eigenschappen van schatters

Zuiver. Een gewenste eigenschap voor een schatter is, dat er geen systematischeafwijkingen in zitten. Anders gezegd, de gemiddelde waarde moet overeenkomenmet de waarde van de te schatten grootheid. M.a.w. als θn een op n waarnemingengebaseerde schatter is voor de grootheid θ, dan is deze schatter zuiver als geldt:

E{θn} = θ ∀n [6.2]

Deze schatter heeft alleen niet systematische afwijkingen van de echte waarde.

Asymptotisch raak (consistent). Een tweede gewenste eigenschap voor eenschatter is, dat het toevoegen van meer waarnemingen leidt tot een kleinere schat-tingsfout. In het limietgeval voor n → ∞ moet de random variabele θn met eenkans 1 naar de echte waarde θ gaan. Een schatter die aan deze eigenschap voldoet,noemt men asymptotisch raak (in het engels ”consistent”): als geldt:

limn→∞P{θn = θ} = 1 [6.3]

Merk op, dat deze eigenschap niets zegt over de aard van de afwijkingen voor eeneindige waarde van n.

Afwijkingen kunnen bestaan uit a) systematische fouten, de onzuiverheid, inhet engels: bias, beschreven door de term:

bθn= E{θn} − θ [6.4]

en b) niet systematische fluctuaties rond het gemiddelde θn − E{θn} gegeven door:

θn − θ = (θn − E{θn}) + (E{θn} − θ) [6.5]

Het asymptotisch raak zijn betekent dat beide afwijkingen naar nul gaan als het aan-tal waarnemingen naar oneindig gaat. Een voldoende voorwaarde voor het asymp-totisch raak zijn van een schatter is de voorwaarde dat de gemiddelde kwadratischefout E{(θn − θ)2} → 0 voor n→ ∞.

De gemiddelde kwadratische fout is ook te schrijven als:

E{(θn − θ)2} = σ2θn

+ b2θn

[6.6]

Het asymptotisch raak zijn van een schatter is dus op twee manieren te onderzoeken.Men kan uitgaan van de definitie en men kan onderzoeken of zowel de onzuiverheidals de variantie naar 0 gaan als n naar oneindig gaat. Een asymptotisch rake schat-ter kan onzuiver zijn voor een eindige waarde van n, maar deze onzuiverheid moetverdwijnen voor n→ ∞.

Asymptotisch zuiver. Een schatter is asymptotische zuiver als geldt:

limn→∞E{θn} = θ [6.7]

6.1 Eigenschappen van schatters 85

Figuur 6.1: De verdelingsdichtheidsfunktie van een asymptotisch rake schatter θnvoor toenemende waarden van n.

Een schatter die asymptotisch raak is, is dus tevens asymptotisch zuiver. Uit hetasymptotisch raak zijn is echter niets af te leiden over het zuiver zijn van de schat-ter, omdat de asymptotische eigenschap niets zegt over het gedrag voor een eindigewaarde van n.Afgezien van pathologische gevallen die formeel mathematisch te bedenken zijn,maar die in de praktijk niet voorkomen, betekent het asymptotisch raak zijn van eenschatter dat de verdelingsdichtheidsfunktie van de random variabele θn een gemid-delde waarde krijgt gelijk aan θ en een variantie nul voor het geval n → ∞. Dezeverdelingsdichtheidsfunktie is mathematisch te karakteriseren door een diracfunktie.Het gedrag van een asymptotisch rake schatter is geıllustreerd in fig. 6.1.In deze figuur is de verdelingsdichtheidsfunktie van een asymptotisch rake schatterθn getekend voor toenemende waarden van n als funktie van een variabele u. In defiguur zijn tevens de waarden u = θ en u = E{θn} aangegeven. Bij toenemendewaarden van n wordt de onzuiverheid E{θn} − θ steeds kleiner en de verdelings-dichtheidsfunktie wordt steeds smaller. Omdat het oppervlak onder de verdelings-dichtheidsfunktie altijd gelijk is aan 1, wordt hij dus ook steeds hoger bij toenemenden. In het limietgeval n→ ∞ convergeert de funktie fθn

(u) naar de diracpuls δ(u−θ).In fig. 6.2 is een voorbeeld gegeven van een zuivere schatter, eveneens voor

toenemende waarde van n. De figuur illustreert dat voor elke waarde van n deverwachtingswaarde van de schatter θn gelijk is aan de werkelijke waarde θ. Defiguur illustreert tevens dat dit verder nog niets zegt over een eventuele afname vande variantie bij toenemende n. In dit voorbeeld is de schatter dan ook zuiver, maarniet asymptotisch raak.


Figuur 6.2: De verdelingsdichtheidsfunktie van een zuivere schatter θn voor toene-mende waarden van n.

In fig. 6.3 is een aantal mogelijk combinaties van de begrippen wel of niet zuiveren wel of niet asymptotisch raak in beeld gebracht. Als funktie van n zijn uitgezet dewerkelijke waarde θ, de verwachtingswaarde E{θn} en de waarden ±σθn

ten opzichte

van de verwachtingswaarde van de schatter E{θn}.Fig. 6.3a correspondeert met het geval van fig. 6.2, een schatter die zuiver is

maar niet asymptotisch raak. Fig. 6.3b correspondeert met het geval van fig. 6.1,een schatter die asymptotisch raak is, maar niet zuiver voor eindige waarden van nen dus slechts asymptotisch zuiver. Fig. 6.3c heeft betrekking op een schatter diezowel zuiver is als asymptotisch raak. Fig. 6.3d tenslotte geeft een schatter die nietzuiver is en ook niet asymptotisch raak. Weliswaar gaat de variantie, en dus ook destandaarddeviatie, naar 0 voor n naar ∞, maar de schatter convergeert niet naar deechte waarde θ.

Het begrip onzuiverheid zegt overigens niets over de variantie. Er had dus ookeen standaarddeviatie in deze figuur kunnen staan die niet naar 0 gaat voor n naar∞. Men kan zich afvragen wat het praktisch belang is van het asymptotisch raakzijn van een schatter, gezien het feit dat men altijd slechts een eindig aantal waarne-mingen n ter beschikking heeft. Het komt er daardoor op neer dat men nooit dewerkelijke waarde vindt, ook al heeft men een asymptotisch rake schatter. Menmoet dit begrip dan ook interpreteren in die zin, dat deze eigenschap betekent datmen de schattingsfout kan verkleinen door een toename van het aantal waarnemin-gen. Als men in staat is het aantal waarnemingen willekeurig groot te kiezen, kanmen daardoor de schattingsfout willekeurig klein maken. In de praktijk is er altijdeen bovengrens aan het aantal waarnemingen gezien het kostenaspekt. Bovendienkan deze grens nog beperkt worden door het feit dat experimentele condities slechtsgedurende een beperkte tijd constant gehouden kunnen worden. Daarom is het vol-gende aspekt asymptotisch efficient van belang.

6.1 Eigenschappen van schatters 87

Figuur 6.3: Het verloop van gemiddelde waarden en standaarddeviaties van eenschatter θn als funktie van n in vergelijking met de werkelijke waarde θ in relatie totenkele eigenschappen van een schatter.

Asymptotisch efficient. Het is soms mogelijk verschillende schatters voor eenbepaalde grootheid te definieren, die zowel zuiver als asymptotisch raak zijn. Deonderlinge verschillen zullen tot uiting komen in verschillen tussen de varianties bijeen gegeven aantal waarnemingen. Een schatter die rekening houdt met verschillenin betrouwbaarheid tussen de waarnemingen zal als regel een schatting opleverenmet een kleinere variantie dan een schatter die dit niet doet. Voor een eindige reeksvan waarnemingen is er echter altijd een theoretische ondergrens voor de variantievan een te schatten grootheid. Een asymptotisch rake schatter met een variantie diegelijk is aan de theoretische ondergrens noemt men asymptotisch efficient.

Asymptotisch normaal. Tenslotte is er nog een eigenschap die iets zegt overde verdelingsdichtheidsfunktie van een schatter. Als een schatter gebaseerd op nwaarnemingen, een verdelingsdichtheidsfunktie heeft die voor een toenemend aantalwaarnemingen n naar die van een normale verdeling gaat, noemt men de schatterasymptotisch normaal. Dit is een aantrekkelijke eigenschap voor een schatter.


Als men namelijk de gemiddelde waarde en de variantie van de schatter weet, kentmen tevens de verdelingsdichtheidsfunktie. Men kan dan beoordelen hoe groot dekans is dat een bepaalde schatting groter of kleiner is dan een bepaalde waarde ombijvoorbeeld te kunnen beoordelen of twee, onder verschillende experimentele condi-ties bepaalde, schattingen significant verschillen. Kent men de verdelingsdichtheids-funktie niet, dan kan men alleen de ongelijkheid van Tschebycheff toepassen. Dezeheeft echter vrij ruime marges, zoals werd geıllustreerd in par. 3.5.

6.2 Schatter voor de gemiddelde waarde en de vari-

antie

Enkele van de genoemde begrippen zullen geıllustreerd worden aan de hand van deschatter voor de gemiddelde waarde en voor de variantie op grond van een reekswaarnemingen van een random variabele x.

Schatter voor de gemiddelde waarde. Als schatter voor de gemiddelde waardeµx kiezen we het rekenkundig gemiddelde van de reeks uitkomsten, dus:

µx =1

n

n∑

i=1

xi [6.8]

Voor de verwachtingswaarde van deze schatter geldt:

E{µx} =1

n

n∑

i=1

E{xi} [6.9]

Omdat de waarnemingen alle betrekking hebben op uitkomsten van dezelfde randomvariabele x geldt: E{xi} = E{x} = µx zodat:

E{µx} =1

n

n∑

i=1

µx = µx [6.10]

De schatter is dus zuiver.

Voor de variantie van de schatter geldt:

σ2µx = E{(µx − E{µx})2} [6.11]

Gebruik makend van de, aan het slot van par. 5.5 gevonden, resultaten voor devariantie van de som van een reeks random variabelen kunnen we hiervoor schrijven:

σ2µx =

1

n2

n∑

i=1

n∑

j=1

Cxixj =1

n2

n∑

i=1

n∑

j=1

σxiσxjKxixj [6.12]

Aangezien σxi = σxj = σx is deze uitdrukking ook te schrijven als:

σ2µx =

1

n2σ2x

n∑

i=1

n∑

j=1

Kxixj [6.13]

6.2 Schatter voor de gemiddelde waarde en de variantie 89

In het geval dat de waarnemingen onafhankelijk zijn, zijn ze tevens ongecorreleerd.Dit betekent dat:

Kxixj = 1 voor i = j [6.14]

= 0 voor i 6= j

De uitdrukking gaat dan over in:

σ2µx =

1

n2σ2x

n∑

i=1

1 =1

nσ2x [6.15]

Voor het geval van onafhankelijke waarnemingen geldt tevens de centrale limiet-stelling en dat betekent, dat de verdelingsdichtheidsfunktie van de schatter van degemiddelde waarde convergeert naar een normale verdeling met gemiddelde µx enstandaarddeviatie σx√

n. De schatter is dus asymptotisch normaal. Voor het geval

n→ ∞, gaat de variantie van de schatter naar nul en omdat hij tevens zuiver is, ishij dus ook asymptotisch raak.

We kunnen ook nog het geval bekijken dat de n uitkomsten volledig afhankelijkzijn. In dat geval geldt: Kxixj = 1 ∀i, j zodat:

σ2µx =

1

n2σ2x

n∑

i=1

n∑

j=1

1 = σ2x ∀n [6.16]

In dat geval is de schatter dus wel zuiver maar niet asymptotisch raak. Dit laatsteis niet verwonderlijk. Immers, volledige afhankelijkheid betekent dat na de waarne-ming x1 geen nieuwe informatie meer wordt toegevoegd door de waarnemingen x2

tot en met xn. Dit geval zal in de praktijk uiteraard niet voorkomen. Wel zal ersoms een zekere correlatie bestaan tussen fouten in opeenvolgende waarnemingen.Zolang echter Kxixj ≤ 1, wordt nog steeds bij iedere waarneming nieuwe informatietoegevoegd, waardoor de variantie wordt verkleind. De enige consequentie is, datmeer waarnemingen nodig zijn om de variantie beneden een zekere waarde te krijgendan in het geval van onafhankelijke waarnemingen.

Schatter voor de variantie. Analoog aan het geval van de schatter voor degemiddelde waarde kan men voor de variantie de volgende schatter definieren:

σ2x =

1

n

n∑

i=1

(xi − µx)2 [6.17]

Hierin is µx de in het voorgaande gedefinieerde schatter. Nadere uitwerking levertdan:

σ2x =

1

n

n∑

i=1

(xi −1

n

n∑

j=1

xj)2 [6.18]

=1

n

n∑

i=1

[xi2 − 2

n

n∑

j=1

xixj +1

n2

n∑

j=1

n∑

k=1

xjxk]


Om te onderzoeken of deze schatter zuiver is beschouwen we de verwachtingswaarde:

E{σ2} =1

n

n∑

i=1

[E{xi2} − 2

n

n∑

j=1

E{xixj} +1

n2

n∑

j=1

n∑

k=1

E{xjxk)}] [6.19]

Nu geldt dat: E{xi2} = σ2x + µ2

x enE{xixj} = Rxixj = Cxixj +µ2

x = σ2xKxixj +µ2

x. Invullen in de vergelijking levert dan:

E{σ2} =1

n

n∑

i=1

[σ2x + µ2

x −2

nσ2x

n∑

j=1

Kxixj − 2µ2x +

1

n2σ2x

n∑

j=1

n∑

k=1

Kxjxk + µ2x]

= σ2x(1 − 2

n2

n∑

i=1

n∑

j=1

Kxixj +1

n2

n∑

j=1

n∑

k=1

Kxjxk) [6.20]

= σ2x(1 − 1

n2

n∑

i=1

n∑

j=1

Kxixj)

Voor een reeks van waarnemingen xi, met i = 1, 2, ..., n, die ongecorreleerd zijn,geldt:

Kxixj= 1 voor i = j [6.21]

= 0 voor i 6= j

In dat geval gaat de vergelijking over in:

E{σ2x} = σ2

x(1 − 1

n) =

n− 1

nσ2x [6.22]

Deze schatter is dus niet zuiver. Alleen voor het geval n→ ∞ gaat de mathematischeverwachting naar de juiste waarde. De schatting is dus slechts asymptotisch zuiver.

Een zuivere schatter voor de variantie in het geval van ongecorreleerde waarne-mingen ontstaat door de eerder gedefinieerde schatter te vermenigvuldigen met n

n−1.

Dit levert dan:

σ2x =

1

n− 1

n∑

i=1

(xi − µx)2 [6.23]

De reden hiervoor is gelegen in het feit dat de som niet meer bestaat uit n onderlingonafhankelijke grootheden, maar n− 1 onderling onafhankelijke grootheden, omdatde schatter µx een funktie is van de n waarnemingen xi. Dit wordt wel uitgedruktdoor te zeggen dat de vergelijkingen nog maar n− 1 vrijheidsgraden bevat.

Voor het geval van onderling gecorreleerde waarnemingen is ook deze schatterniet meer zuiver. Ten gevolge van de onderling correlatie is het aantal vrijheids-graden nog verder afgenomen. Een algemene uitdrukking voor een zuivere schattervan de variantie kan op grond van het voorgaande gedefinieerd worden als:

σ2x =

1

n(1 − 1

n2

n∑

i=1

n∑

j=1

Kxixj)−1

n∑

i=1

(xi − µx)2 [6.24]

=

∑ni=1(xxi − µx)

2

n− 1n

∑ni=1

∑nj=1Kxixj

6.2 Schatter voor de gemiddelde waarde en de variantie 91

Als regel kent men echter de correlatiematrix niet, zodat dit geen bruikbare schatteris. In de praktijk doet men er dan ook goed aan er voor te zorgen dat experimentenzodanig worden ingericht, dat de uitkomsten van opeenvolgende waarnemingen alsonafhankelijk, en dus als ongecorreleerd, beschouwd mogen worden.

Voor een nadere interpretatie van de formule kan nog het geval bekeken wordenvan volledige afhankelijkheid, d.w.z. xi = xj ∀i, j = 1, 2, ..., n. In feite is ditgeval equivalent met het doen van 1 waarneming. Dit levert µx = xi. De tellervan de uitdrukking wordt dus 0. Voor n = 1 wordt de noemer eveneens 0. Metandere woorden: de variantie is onbepaald. Pas voor het geval dat minimaal 2onafhankelijke waarnemingen worden gebruikt levert de schatter een uitkomst.

In principe kan ook een uidrukking voor de variantie van de schatter σ2x wor-

den afgeleid. Dit wordt een tamelijk ingewikkelde uitdrukking met termen van degedaante:

n∑

i=1

n∑

j=1

n∑

k=1

n∑

l=1

E{xixjxkxl} [6.25]

Deze uitwerking wordt hier verder achterwege gelaten. Aangetoond kan worden datvoor het geval van onafhankelijke waarnemingen de variantie van deze schatter naar0 gaat voor n→ ∞. De schatter is dus behalve zuiver ook asymptotisch raak.

De hier behandelde schatters voor de gemiddelde waarde en de variantie van eenrandom variabele zijn min of meer intuıtief gekozen en daarna eventueel gecorrigeerdop grond van een onderzoek naar de zuiverheid. Iets dergelijks is lang niet altijdmogelijk wanneer het gaat om te schatten grootheden die in een wat ingewikkelderrelatie staan tot de waarnemingen.

Hoofdstuk 7

Stochastische processen

7.1 Stochastische processen en hun kenmerkende

grootheden

In de waarschijnlijkheidsrekening worden experimenten beschouwd, waarbij aande uitkomst ζ een getal, namelijk de random variabele x(ζ), wordt toegekend.In de stochastiek worden experimenten beschouwd, waarbij aan de uitkomst ζeen tijdsfunktie wordt toegekend. De verzameling van alle uitkomsten wordt eenstochastisch proces genoemd. De tijdsfunctie kan zowel continu als discreet zijn.Voor een continue tijdsfunctie wordt de verzameling van alle mogelijke uitkomstenvan een experiment een continue tijd stochastisch proces genoemd, deze wordtweergegeven als x(t; ζ). Voor een discrete tijdsfunctie wordt de verzameling x(k; ζ)een discrete tijd stochastisch proces genoemd en weergegeven als x(k; ζ).

We zullen in dit hoofdstuk eerst uitgaan van continue tijd stochastische pro-cessen. Daarna zullen we de aantal afleidingen geven voor discrete tijd stochastischeprocessen.

Een bepaalde uitkomst x(t; ζ1)of x(k; ζ1) wordt een realisering van het stochastis-che proces genoemd. Dit is een bepaalde funktie van de tijd, ook wel een (discreet)signaal genoemd. Een dergelijke tijdsfunktie wordt in principe geacht te bestaanover het interval [−∞,∞]. Voor de eenvoud van notatie gebruiken we in (funktiesvan) discrete tijd stochastische processen k voor de tijdsfunctie in plaats van k∆t.

We kunnen ook het gehele proces x(t; ζ) beschouwen op een bepaald tijdstip ti.Dit levert dan een random variabele. Een bepaalde uitkomst ζi op een tijdstip tilevert een getal. Een en ander is in beeld gebracht in fig. 7.1.

In het vervolg wordt een stochastisch proces verkort als x(t) (continue tijdstochastisch proces) of x(k) (discrete tijd stochastisch proces) weergeven.

94 7 Stochastische processen

0 5 10 15 20 25−0.5

0

0.5

1

1.5

2

2.5

3

3.5

Tijd [s]

x(t; ζ4)

x(t; ζ3)

x(t; ζ2)

x(t; ζ1)

Figuur 7.1: Een stochastisch proces x(t) als uitgangspunt voor een tijdsfunctiex(t; ζ1) = x(t), een random variabele x(t1) en een getal x(t1; ζ1) = x(t1).

7.2 Continue tijd stochastische processen

7.2.1 Verdelingsfunkties en verdelingsdichtheidsfunkties

Aan een stochastisch proces kan men ook een verdelingsfunktie en een verdelings-dichtheidsfunktie toekennen. Deze zullen in het algemene geval ook een funktie vande tijd zijn.

De verdelingsfunktie van een stochastisch proces x(t) is gedefinieerd als:

Fx(x; t) = P{x(t) ≤ x} [7.1]

De verdelingsfunktie is dus in principe een funktie van de tijd.

De verdelingsdichtheidsfunktie wordt gegeven door:

fx(x; t) =∂Fx(x; t)

∂x= lim

∆x→0

P{x < x(t) ≤ x+ ∆x}∆x

[7.2]

Gezamelijke verdelings(dichtheids)functie. Van het meeste belang voor deverdere behandeling is de gezamenlijke verdeling van twee stochastische processenx(t) en y(t). In zijn algemeenheid is dit een funktie van vier variabelen x, y, t1 en t2.Deze verdeling zegt iets over de kans van optreden van waarden van het stochastischeproces x(t) op een tijdstip t1 in combinatie met waarden van het stochastische procesy(t) op een ander tijdstip t2. De gezamenlijke verdelingsdichtheidsfunctiewordt gegeven door:

Fxy(x, y; t1, t2) = P{x(t1) ≤ x; y(t2) ≤ y} [7.3]

7.2 Continue tijd stochastische processen 95

We kunnen de verdelingsfunktie ook schrijven als funktie van t en τ , waarbij t = t1en τ gelijk is aan het tijdsverschil τ = t2 − t1 tussen de twee tijdstippen waarop destochastische processen worden beschouwd, dus

Fxy(x, y; t, τ) = P{x(t) ≤ x; y(t+ τ) ≤ y} [7.4]

Hierbij behoort de verdelingsdichtheidsfunktie:

fxy(x, y; t, τ) =∂2Fxy(x, y; t, τ)

∂x∂y[7.5]

Stationaire stochastische processen. Bij de verdere behandeling van stochas-tische processen zullen we ons beperken tot stationaire stochastische processen.Dit zijn stochastische processen waarvan de statistische eigenschappen niet afhanke-lijk zijn van het tijdstip waarop ze geobserveerd worden, dus:

fx(x; t1) = fx(x; t2) = fx(x) [7.6]

We zullen er ook van uitgaan dat we steeds combinaties van twee stochastischeprocessen beschouwen die gezamenlijk stationair zijn d.w.z.

fxy(x, y; t1, τ) = fxy(x, y; t2, τ) = fxy(x, y; τ) [7.7]

In woorden uitgedrukt: De gezamenlijke kansverdeling van twee stochastische pro-cessen die onderling over een interval τ in de tijd verschoven zijn, is alleen afhankelijkvan de grootte van dit interval τ , maar niet van het tijdstip t waarvoor deze geza-menlijke verdeling wordt beschouwd. Ter illustratie van de begrippen stationair enniet-stationair kunnen we twee voorbeelden beschouwen.

Voorbeeld 5.1 De golfhoogte op de Noordzee.We beschouwen een stochastisch proces x(t) dat gedefinieerd is als de golfhoogte van

ieder punt op het zeeoppervlak in een gebied van 1 km2 op een bepaalde aangegeven plaatsop de Noordzee. Op een bepaald tijdstip t1 hoort hier een bepaalde verdelingsdichthei-dsfunktie bij. Valt dit tijdstip in een periode van weinig wind, dan hebben de golvengemiddeld een lage amplitude en is de verdelingsdichtheidsfunktie fx(x; t1) vrij smal. Opeen tijdstip t2 in een periode van veel wind zijn de golven gemiddeld veel hoger en heeftde funktie fx(x; t2) een breder karakter (zie fig. 7.2). Dit is dus een voorbeeld van eenniet-stationair stochastisch proces.

Voorbeeld 5.2: De draaddikte in een spinnerij.

Beschouw een hal met spinmachines in een fabriek van synthetische vezels. Alle ma-

chines zijn afgesteld voor het zelfde produkt; een draad van een bepaalde dikte. Deze dikte

zal binnen bepaalde toleranties fluktuaties vertonen. Bij een constante produktiesnelheid

kunnen we de dikte van een draad als funktie van de tijd beschouwen als een realisatie

van een stochastisch proces x(t). Door de op de machines aangebrachte regelingen, maar

ook door de regeling van temperatuur en vochtgehalte in de hal zorgt men er voor dat

de statistische eigenschappen niet veranderen in de tijd, d.w.z. de verdelingsdichtheids-

funktie van x(t) is onafhankelijk van de tijd: fx(x; t1) = fx(x; t2) = fx(x), dus x(t) is een

stationair stochastisch proces.


Figuur 7.2: Verdelingsdichtheidsfunktie van de golfhoogte in een bepaald gebied vande Noordzee op twee verschillende tijdstippen, als voorbeeld van een niet-stationairstochastisch proces.

Figuur 7.3: Een verdelings-dichtheidsfunktie fxy(x, y; τ) voortwee verschillende waarden van τ .

In het bovengenoemde voorbeeld hadden we ook de diktefluktuaties kunnen beschri-jven als funktie van de lengte langs de draad in plaats van als funktie van de tijd,dus x(λ). In principe verandert er daardoor niets. Omdat we als regel dergeli-jke signalen meten als funktie van de tijd, zullen we stochastische processen steedsbeschouwen als funktie van de tijd, maar in principe kunnen we hiervoor ook eenandere grootheid kiezen.

Voor stationaire stochastische processen zijn de verdelingsfunktie en de verdel-ingsdichtheidsfunktie afhankelijk van 3 parameters. Voor een gegeven waarde van τis de funktie fxy(x, y; τ) weer te geven als een heuvel boven het xy-vlak. In principeziet deze heuvel er nu voor elke waarde van τ anders uit (zie fig. 7.3). Voor tweegezamenlijk stationaire stochastische processen gelden nu de volgende relaties voor


Figuur 7.4: Integratiegebiedvoor de bepaling van Fxy(x, y; τ)uit de verdelingsdichtheidsfunk-tie fxy(u, v; τ) voor een bepaaldewaarde van τ .

de verdelingsfunktie en de verdelingsdichtheidsfunktie:

Fxy(x, y; τ) = P{x(t) ≤ x; y(t+ τ) ≤ y} [7.8]

fxy(x, y; τ) =∂2Fxy(x, y; τ)

∂x∂y

fxy(x, y; τ) = lim∆x → 0∆y → 0

P{x < x(t) ≤ x+ ∆x; y < y(t+ τ) ≤ y + ∆y}∆x∆y

Fxy(x, y; τ) =∫ y

v=−∞

∫ x

u=−∞fxy(u, v; τ)dudv

De interpretatie van de laatste formule is in beeld gebracht in fig. 7.4.Voor een bepaalde waarde van τ wordt de waarde van de verdelingsfunktie voor

een zekere x en y bepaald door integratie van de heuvel over het gearceerde deelvan het grondvlak. Als we x en y naar ∞ laten gaan krijgen we Fxy(∞,∞; τ) d.w.z.P{x(t) < ∞; y(t + τ) < ∞} = 1, de zekere gebeurtenis. Dat wil zeggen dat voorelke waarden van τ de inhoud onder de heuvel, gekarakteriseerd door de verdel-ingsdichtheidsfunktie fxy(x, y; τ), gelijk is aan 1. In feite gelden alle beschouwingenover tweedimensionale verdelingsfunkties en tweedimensionale verdelingsdichtheids-funkties uit de waarschijnlijkheidsrekening (par. 5.4) ook in de stochastiek. Zokunnen de eendimensionale verdelingsdichtheidsfunkties fx(x) en fy(y) uit de geza-menlijke verdelingsdichtheidsfunktie worden berekend door integratie naar y respec-tievelijk x volgens:

fx(x) =∫ ∞

−∞fxy(x, y; τ)dy ∀τ [7.9]

fy(y) =∫ ∞

−∞fxy(x, y; τ)dx ∀τ [7.10]

Deze relaties moeten gelden voor elke waarde van τ .Een bijzonder geval van een gezamenlijke verdelingsdichtheidsfunktie ontstaat

wanneer we niet kijken naar twee verschillende stochastische processen x(t) en x(t)die onderling in de tijd verschoven zijn, maar naar twee onderling in de tijd ver-schoven uitkomsten van het zelfde stochastische proces. We beschouwen dan de


Figuur 7.5: Bovenaanzichtvan de verdelingsdichtheidsfunk-tie fxy(x1, x2; τ) met een reali-sering van het bijbehorende sto-chastische proces x(t).

kans dat de uitkomst op een tijdstip t kleiner is dan een zekere grootheid x1 entegelijkertijd de kans dat de uitkomst van hetzelfde stochastische proces op eentijdstip t+ τ kleiner is dan een andere grootheid x2. We krijgen dan de verdelings-dichtheidsfunktie:

fxx(x1, x2; τ) =∂2Fxx(x1, x2, τ)

∂x1∂x2

[7.11]

= lim∆x1 → 0∆x2 → 0

P{x1 < x(t) ≤ x1 + ∆x1;x2 < x(t+ τ) ≤ x2 + ∆x2}∆x1∆x2

In fig. 7.5 is een voorbeeld gegeven van een dergelijke verdelingsdichtheidsfunktie.Daarbij is een blokje getekend, waarvan de inhoud correspondeert met de kans datx(t) tussen de waarden x1 en x1+∆x1 ligt en tegelijkertijd x(t+τ) tussen de waardenx2 en x2 + ∆x2 ligt. De verdelingsdichtheidsfunktie is zodanig getekend, dat bij eenhoge waarde van x(t) de kans groot is dat x(t+ τ1) negatief is. Als x(t) in de buurtvan de nul ligt, is de kans groot dat x(t+τ1) een hoge waarde heeft. Onder de figuuris een realisering x(t) van het stochastische proces getekend, die deze eigenschappenillustreert.

7.2.2 Gemiddelde produktfunkties, covariantiefunkties en cor-relatiefuncties

Nu we stochastische processen gekarakteriseerd hebben met behulp van verdelings-dichtheidsfunkties, kunnen we ook verder gebruik maken van de, in de waarschijnli-jkheidsrekening gebruikte, begrippen. De basis hiervoor is weer het begrip verwacht-ingswaarde.

Verwachtingswaarde. De verwachtingswaarde van een funktie van de stochas-


tische processen x(t) en y(t) is gedefinieerd als:

E{g(x(t)y(t+ τ))} =∫ ∞

−∞

∫ ∞

−∞g(x, y)fxy(x, y; τ)dxdy. [7.12]

Voorbeelden van dergelijke verwachtingswaarden zijn de gemiddelde waarden envarianties.

De gemiddelde waarden van x(t) en y(t) zijn gedefinieerd als:

µx = E{x(t)} =∫ ∞

−∞

∫ ∞

−∞xfxy(x, y; τ)dxdy =

∫ ∞

−∞xfx(x)dx [7.13]

µy =∫ ∞

−∞yfy(y)dy

De varianties van x(t) en y(t) zijn gedefinieerd als:

σ2x = E{(x(t) − µx)

2} =∫ ∞

−∞

∫ ∞

−∞(x− µx)

2fxy(x, y; τ)dxdy [7.14]

=∫ ∞

−∞(x− µx)

2fx(x)dx =∫ ∞

−∞x2fx(x)dx− µ2

x

σ2y =

∫ ∞

−∞(y − µy)

2fy(y)dy =∫ ∞

−∞y2fy(y)dy − µ2

y

Deze grootheden reduceren voor stationaire stochastische processen tot dezelfde uit-drukkingen als die welke in de waarschijnlijkheidsrekening naar voren kwamen. Ditkomt omdat de tijdparameter τ bij deze grootheden geen rol speelt. De factor τspeelt wel een rol bij uitdrukkingen waarin zowel x(t) als y(t + τ) voorkomen ofwaarin x(t) en x(t+ τ) voorkomen.

Gemiddelde produkt, kruisprodukt en autoprodukt.Een belangrijke grootheid is het gemiddelde produkt. Wanneer het om twee ver-schillende stochastische processen x(t) en y(t) gaat, spreekt men van een kruispro-dukt. Wanneer het produkt betrekking heeft op verschoven waarden van het zelfdestochastische proces, spreekt men van een autoprodukt. Beide zijn een funktie vande tijdverschuiving τ .

De gemiddelde kruisproduktfunctie Rxy(τ) is gedefinieerd als:

Rxy(τ) = E{x(t)y(t+ τ)} =∫ ∞

−∞

∫ ∞

−∞xyfxy(x, y; τ)dxdy [7.15]

De gemiddelde autoproduktfunktie Rxx(τ) is gedefinieerd als:

Rxx(τ) = E{x(t)x(t+ τ)} =∫ ∞

−∞

∫ ∞

−∞x1x2fxx(x1, x2; τ)dx1dx2 [7.16]

We kunnen ook de gemiddelde produkten ten opzichte van hun gemiddelde waardenbeschouwen. We krijgen dan de kruiscovariantiefunktie en de autocovariantiefunktie.


De kruiscovariantiefunktie Cxy(τ) is gedefinieerd als:

Cxy(τ) = E{(x(t) − µx)(y(t+ τ) − µy)}=

∫∞−∞

∫∞−∞(x− µx)(y − µy)fxy(x, y; τ)dxdy

[7.17]

De autocovariantiefunktie Cxx(τ) is gedefinieerd als:

Cxx(τ) = E{(x(t) − µx)(x(t+ τ) − µx)} [7.18]

=∫ ∞

−∞

∫ ∞

−∞(x1 − µx)(x2 − µx)fxx(x1, x2; τ)dx1dx2

Normeren van de covariantiefunktie m.b.v. de standaarddeviaties levert tenslottede kruiscorrelatiefunktie Kxy(τ), respectievelijk de autocorrelatiefunktie Kxx(τ).

De kruiscorrelatiefunktie Kxy(τ) is gedefinieerd als:

Kxy(τ) = E

{

x(t) − µxσx

y(t+ τ) − µy)

σy

}

[7.19]

=∫ ∞

−∞

∫ ∞

−∞

x− µxσx

y − µyσy

fxy(x, y; τ)dxdy

De autocorrelatiefunktie Kxx(τ) is gedefinieerd als:

Kxx(τ) = E

{

x(t) − µxσx

x(t+ τ) − µx)

σx

}

=∫ ∞

−∞

∫ ∞

−∞

x1 − µxσx

x2 − µyσx

fxx(x1, x2; τ)dx1dx2. [7.20]

Voor het onderlinge verband tussen gemiddelde produktfunkties, covariantiefunktiesen correlatiefunkties geldt:

Cxy(τ) = Rxy(τ) − µxµy [7.21]

Kxy(τ) =Cxy(τ)

σxσy

en dus

Cxx(τ) = Rxx(τ) − µ2x [7.22]

Kxx(τ) =Cxx(τ)

σ2x

We hebben nu drie typen funkties gedefinieerd, de gemiddelde produktfunktie, decovariantiefunktie en de correlatiefunktie, die alle aan elkaar gerelateerd zijn. Zekunnen betrekking hebben op een stochastisch proces, dan zijn het autofunkties,of op een combinatie van twee stochastische processen, dan zijn het kruisfunkties.De funkties kunnen niet elke willekeurige vorm hebben, maar moeten voldoen aanenkele algemene eigenschappen. Deze worden nu eerst behandeld. We zullen eerstde eigenschappen van autofunkties beschouwen.


Symmetrie-eigenschap.Voor de funktie Rxx(−τ) geldt: Rxx(τ) = E{x(t)x(t − τ)}. Stel t′ = t − τ , dangeldt ook: Rxx(−τ) = E{x(t′ + τ)x(t′)} = E{x(t′)x(t′ − τ)} Voor een stationairstochastisch proces is de verdelingsdichtheidsfunktie geen funktie van t, alleen vanτ , dus:

Rxx(−τ) = Rxx(τ) [7.23]

Uit Cxx(τ) = Rxx(τ) − µ2x volgt dan ook:

Cxx(−τ) = Cxx(τ) [7.24]

en uit Kxx(τ) = Cxx(τ)/σ2x volgt tenslotte

Kxx(−τ) = Kxx(τ) [7.25]

Hoogste en laagste waarden.In de waarschijnlijkheidsrekening is reeds afgeleid dat voor de correlatie tussen tweerandom variabelen x en y geldt: −1 ≤ Kxy ≤ 1. Stel nu x = x(t1) en y = x(t1 + τ)dan geldt dus ook

−1 ≤ Kxx(τ) ≤ 1 [7.26]

Voor de autocovariantiefunktie geldt dan −σ2x ≤ Cxx(τ) ≤ σ2

x, en voor de gemiddeldeautoproduktfunktie:

−σ2x + µ2

x ≤ Rxx(τ) ≤ σ2x + µ2

x [7.27]

De ligging van het maximum.

Cxx(0) = E{(x(t) − µx)2} = σ2

x [7.28]

en dit is de maximale waarde die de funktie Cxx(τ) kan bereiken. Ook voor de auto-correlatiefunktie en de gemiddelde autoproduktfunktie ligt aldus het maximum bijτ = 0.

Waarden voor τ = −∞ en τ = ∞.Als we veronderstellen dat het stochastische proces x(t) geen periodieke componen-ten bevat, dan betekent dit, dat de grootheden x(t) en x(t + τ) voor τ → ∞ alsonderling onafhankelijk beschouwd kunnen worden, dus

limτ→∞ fxx(x1, x2; τ) = fx(x1)fx(x2) [7.29]

en

limτ→∞Rxx(τ) = lim

τ→∞

∫ ∞

−∞

∫ ∞

−∞x1x2fxx(x1, x2; τ)dx1dx2

=∫ ∞

−∞x1fx(x1)dx1

∫ ∞

−∞x2(fx(x2)dx2 = µ2

x [7.30]


Tevens rekening houdend met de symmetrie-eigenschappen van Rxx(τ) geldt dus:

limτ→−∞

Rxx(τ) = limτ→∞Rxx(τ) = µ2

x [7.31]

Hieruit volgt dan:

limτ→−∞

Cxx(τ) = limτ→∞Cxx(τ) = 0 [7.32]

limτ→−∞

Kxx(τ) = limτ→∞Kxx(τ) = 0

Voor de kruisfunkties zijn sommige eigenschappen eveneens geldig, andere niet.

Symmetrie: Kruisfunkties zijn in principe niet symmetrisch. De bij de autofunktiesgevolgde afleiding levert voor de kruisfunkties wel de volgende relaties:

Rxy(−τ) = Ryx(τ)

Cxy(−τ) = Cyx(τ) [7.33]

Kxy(−τ) = Kyx(τ)

Hoogste en laagste waarden. Evenals voor de autocorrelatiefunkties geldt:

−1 ≤ Kxy(τ) ≤ 1

−σxσy ≤ Cxy(τ) ≤ σxσy [7.34]

−σxσy + µxµy ≤ Rxy(τ) ≤ σxσy + µxµy

Ligging van het maximum.Hierover valt voor kruisfunkties niets te zeggen omdat deze in principe niet sym-metrisch zijn.

Waarden voor τ = −∞ en τ = ∞Voor twee stochastische processen x(t) en x(t) zonder periodieke componenten geldt:

limτ→−∞

Rxy(τ) = limτ→∞Rxy(τ) = µxµy

limτ→−∞

Cxy(τ) = limτ→∞Cxy(τ) = 0 [7.35]

limτ→−∞

Kxy(τ) = limτ→∞Kxy(τ) = 0

Normale verdeling voor twee stochastische processen.Voor een nadere interpretatie van de behandelde funkties beschouwen we twee sta-tionaire stochastische processen x(t) en y(t) die gezamenlijk normaal verdeeld zijn.De verdelingsdichtheidsfunktie wordt beschreven als:

fxy(x, y; τ) =

1

2πσxσy√

1 −Kxy(τ)2e− 1

2(1−Kxy(τ)2)

(

(x−µx)2

σ2x

− 2Kxy(τ)(x−µx)(y−µy)

σxσy+

(y−µy)2

σ2y

)


Noem x−µxσx

= x1 en y−µyσy

= y1 en beschouw de volgende werwachtingswaarde

E

{

x(t) − µxσx

y(t+ τ) − µyσy

}

=∫ ∞

−∞

∫ ∞

−∞

x1y1

2π√

1 −Kxy(τ)2e−x2

1−2Kxy(τ)x1y1+y21

2(1−Kxy(τ)2) dx1dy1 [7.36]

uitwerking hiervan levert Kxy(τ). Dat wil zeggen dat de correlatiefunktie Kxy(τ) alstijdsafhankelijke parameter in de beschrijving van de verdelingsdichtheidsfunktie isopgenomen. We kunnen nu voor verschillende waarden van τ doorsneden makenvan de funktie fxy(x, y; τ). Dit levert steeds een ellips met een hoofdas onder 450,zoals afgebeeld in fig. 5.9. Elke waarde van τ levert in principe een andere ellips.Voor de waarden τ = ∞ en τ = −∞ is de doorsnede steeds een cirkel. Bij decovariantiefunktie beschouwen we twee variabelen x2 = x − µx en y2 = y − µy,waarbij we de normering op een standaarddeviatie van 1 hebben laten vervallen.Dit betekent dat een hoofdas van de ellips niet meer onder 450 staat maar onder dehoek ψ = arctan

(

σyσx

)

. De cirkel bij τ = ∞ en τ = −∞ is nu uitgerekt tot een ellips.Bij de gemiddelde produktfunktie beschouwen we de verdelingsdichtheidsfunktie vande oorspronkelijke variabelen, waarbij het middelpunt van de ellipsen ook niet meerin de oorsprong ligt.

Onafhankelijk, orthogonaal en ongecorreleerd.Geheel analoog aan de definities in de waarschijnlijkheidsrekening worden ook inde stochastiek de begrippen onderling onafhankelijk, orthogonaal en ongecorreleerdgebruikt.

Onafhankelijk. Twee stochastische processen zijn onafhankelijk als geldt dat:

Fxy(x, y; τ) = Fx(x)Fy(y) ∀τ [7.37]

en dus ook dat:

fxy(x, y; τ) = fx(x)fy(y) ∀τ [7.38]

Orthogonaal. Twee stochastische processen zijn orthogonaal als geldt dat:

Rxy(τ) = 0 ∀τ [7.39]

Ongecorreleerd. Twee stochastische processen zijn ongecorreleerd als geldtdat:

Cxy(τ) = Kxy(τ) = 0 ∀τ [7.40]

De extra toevoeging voor stochastische processen is, dat de relaties moeten geldenvoor elke waard van τ en niet maar voor een paar waarden. Van twee gecorreleerdestochastische processen zal de correlatiefunktie meestal wel een paar nuldoorgangen


Figuur 7.6: De gemiddelde autoproduktfunktie R(τ), de autocovariantiefunktieC(τ) en de autocorrelatiefunktie K(τ) van drie onderling samenhangende stochastis-che processen.

hebben. Ook voor stochastische processen geldt weer dat onafhankelijkheid ongecor-releerd impliceert.

Ter illustratie van het verschil in informatie tussen gemiddelde produktfunktie,covariantiefunktie en correlatiefunktie zijn voor het geval van een autofunktie dezedrie funkties getekend in fig. 7.6 voor een stochastisch proces x(t) met gemiddeldewaarde nul en twee daarvan afgeleide stochastische processen. Omdat het autofunk-ties zijn, die dus symmetrisch zijn t.o.v. τ = 0, is alleen de rechterhelft getekend.De figuur laat zien dat de drie gemiddelde produktfunkties verschillen, maar dat decorrelatiefunkties identiek zijn. Deze hebben in dit voorbeeld de gedaante van eenuitdempende cosinus. Dit betekent dat er een zekere periodiciteit in de realisatiesvan het stochastische proces aanwezig lijkt te zijn zolang we maar naar betrekkelijkkleine tijdsintervallen τ kijken. Voor grotere waarden van τ blijkt echter het peri-odieke verband tussen x(t) en x(t + τ) steeds minder overtuigend aanwezig te zijn.


Het stochastische proces is dus wel degelijk ruis, maar dan gefilterd via een nauwbandfilter, waardoor de signalen het karakter krijgen van een periodiek signaal metschommelende amplituden en periodetijd. Men noemt dit nauwebandruis.

Het volgende voorbeeld heeft betrekking op een stochastisch proces dat geenruisvormig karakter heeft en als zodanig dus niet representatief is. De keuze van hetvoorbeeld berust op de mogelijkheid de covariantiefunktie analytisch te berekenen.

Voorbeeld:

Gegeven een stochastisch proces x(t) = a sin(ωt+ψ). De vorm van de funktie is determin-istisch, alleen de fasehoek ψ is een random variabele. Gegeven is dat deze uniform verdeeldis tussen -π en π. Aangezien de gemiddelde waarde µx = 0, is de covariantiefunktie gelijkaan de gemiddelde produktfunktie. Gevraagd wordt de autocovariantiefunktie analytischte berekenen.

Er geldt nu dat:

Cxx(τ) = E{x(t)x(t+ τ)} = E{a sin(ωt+ ψ)a sin(ω(t+ τ) + ψ)} [7.41]

Een mogelijke aanpak bestaat uit het afleiden van de uitdrukking voor fxx(x1, x2; τ),waarna de gevraagde verwachtingswaarde via integratie berekend kan worden.

Een eenvoudiger aanpak volgt uit de overweging dat de hele uitdrukking uiteindelijkeen funktie is van slechts een random variabele, namelijk ψ. Uitwerking uitgaande vandeze gedachte levert:

Cxx(τ) = E{a2 sin(ωt+ ψ) sin(ω(t+ τ) + ψ)} [7.42]

= a2(sin2 ωt cosωτ + sinωt cosωt sinωτ)E{cos2 ψ}+ a2(cos2 ωt cosωτ − sinωt cosωt sinωτ)E{sin2 ψ}+ a2(2 sinωt cosωt cosωτ + (cos2 ωt− sin2 ωt) sinωτ)E{sinψ cosψ}

Beschouw nu een nieuwe random variabele y = sinψ. De verdelingsdichtheidsfunktie vandeze random variabele is gegeven in vorige hoofdstuk. Hij is gelijk aan:

fy(y) = 1π

1√1−y2

voor y ≤ 1

= 0 voor y > 1[7.43]

Er geldt dat E{y2} = 0.5. Daaruit volgt tevens dat:E{cos2 ψ} = 1 − E{y2} = 0.5.Tenslotte volgt dat:

E{sinψ cosψ} = E{y√

1 − y2} [7.44]

=1

π

∫ 1

−1y√

1 − y21

√

1 − y2dy =

1

2πy2|1−1 = 0 [7.45]

Ingevuld in de vergelijking voor Cxx(τ) levert dit:

Cxx(τ) = 0.5a2 cosωτ [7.46]

In fig. 7.7 zijn enkele realiseringen van het in het voorbeeld beschouwde stochastis-che proces getekend, met daaronder de zojuist berekende covariantiefunktie. Defiguur laat zien dat de funktie symmetrisch is, met een maximum bij τ = 0. Defaseinformatie van de signalen is verdwenen, maar de informatie over amplitude


Figuur 7.7: Enige realiseringen van het stochastische proces x(t) = a sin(ωt + ψ),met daaronder de bij dit proces behorende autocovariantiefunktie Cx(τ).

en frequentie zijn nog aanwezig in de covariantiefunktie. Doordat de signalen pe-riodiek zijn geldt nu niet dat limτ→∞Cxx(τ) = 0. In het algemeen kan gezegdworden dat de autocovariantie in principe de informatie bevat over de amplitudeen de frequentie-inhoud van een stochastisch proces. Fase-informatie zegt in feiteiets over de keuze van het tijdstip t = 0 langs de tijdas en deze informatie is dusniet aanwezig in een autocovariantiefunktie. De kruiscovariantiefunktie geeft infor-matie over hetgeen twee stochastische processen aan amplitude en frequentieinhoudgemeenschappelijk hebben. De kruiscovariantiefunktie bevat eveneens geen infor-matie omtrent de keuze van het tijdstip t = 0. Wel bevat de kruiscovariantiefunktieinformatie over de onderlinge verschuivingen in de tijd. Gemiddelde produktfunk-ties voegen informatie over de gemiddelde waarden toe aan de informatie van decovariantiefunkties. Correlatiefunkties zijn genormeerde covariantiefunkties. Aaneen kruiscovariantiefunktie is niet te zien of het verband tussen twee stochastischeprocessen sterk is of niet. Dit is wel te zien aan een correlatiefunktie omdat dewaarde hiervan kan worden vergeleken ten opzichte van de waarde 1. Hier staattegenover dat de correlatiefunktie geen informatie bevat over de amplituden van designalen. Het meest gebruikt in de regeltechniek zijn covariantiefunkties en corre-latiefunkties, omdat men als regel geınteresseerd is in de fluctuaties van signalen tenopzichte van hun gemiddelde waarden.

7.3 Discrete tijd stochastische processen

In de vorige paragraaf zijn functies gedefinieerd op stochastische processen die opzich een functie waren van de continue tijd. In deze paragraaf worden voor devolledigheid enkele overeenkomstige functies gegeven die gelden voor de discrete tijdstochastische processen. De afleidingen kunnen zonder problemen worden getrans-formeerd van continue tijd naar discrete tijd.

De verdelingsfunktie van een continue tijd stochastisch proces x(k) is gedefinieerd

7.3 Discrete tijd stochastische processen 107

als:

Fx(x; k) = P{x(k) ≤ x} [7.47]

De verdelingsdichtheidsfunktie wordt gegeven door:

fx(x; k) =∂Fx(x; k)

∂x= lim

∆x→0

P{x < x(k) ≤ x+ ∆x}∆x

[7.48]

De gezamelijke verdelingsfunctie van de stochastische processen x(k) en y(k)wordt gegeven door:

Fxy(x, y; k1, k2) = P{x(k1) ≤ x; y(k2) ≤ y} [7.49]

We kunnen de verdelingsfunktie ook schrijven als funktie van k en l, waarbij k = k1

en l = k2 − k1:

Fxy(x, y; k, l) = P{x(k) ≤ x; y(k + l) ≤ y} [7.50]

Hierbij behoren de verdelingsdichtheidsfunkties:

fxy(x, y; k, l) =∂2Fxy(x, y; k, l)

∂x∂y[7.51]

Voor een stationaire continue tijd stochastisch proces geldt:

fx(x; k1) = fx(x; k2) = fx(x) [7.52]

en voor een combinaties van twee stochastische processen die gezamenlijk stationairzijn geldt:

fxy(x, y; k1, l) = fxy(x, y; k2, l) = fxy(x, y; l) [7.53]

De verwachtingswaarde van een funktie van de discrete tijd stochastische pro-cessen x(k) en y(k) is gedefinieerd als:

E{g(x(k)y(k + l))} =∫ ∞

−∞

∫ ∞

−∞g(x, y)fxy(x, y; l)dxdy. [7.54]

De gemiddelde waarden van x(k) en x(k) zijn gedefinieerd als:

µx = E{x(k)} =∫ ∞

−∞xfxy(x, y; l)dxdy =

∫ ∞

−∞xfx(x)dx [7.55]

µy =∫ ∞

−∞yfy(y)dy

De varianties van x(k) en x(k) zijn gedefinieerd als:

σ2x = E{(x(k) − µx)

2} =∫ ∞

−∞

∫ ∞

−∞(x− µx)

2fxy(x, y; l)dxdy

=∫ ∞

−∞(x− µx)

2fx(x)dx =∫ ∞

−∞x2fx(x)dx− µ2

x [7.56]

σ2y =

∫ ∞

−∞(y − µy)

2fy(y)dy =∫ ∞

−∞y2fy(y)dy − µ2

y


De gemiddelde kruisproduktfunctie Rxy(l) is gedefinieerd als:

Rxy(l) = E{x(k)y(k + l)} =∫ ∞

−∞

∫ ∞

−∞xyfxy(x, y; l)dxdy [7.57]

De kruiscovariantiefunktie Cxy(l) is gedefinieerd als:

Cxy(l) = E{(x(k) − µx)(y(k + l) − µy)} [7.58]

=∫ ∞

−∞

∫ ∞

−∞(x− µx)(y − µy)fxy(x, y; l)dxdy

De kruiscorrelatiefunktie Kxy(l), is tenslotte gedefinieerd als:

Kxy(l) = E

{

x(k) − µxσx

y(k + l) − µy)

σy

}

[7.59]

=∫ ∞

−∞

x− µxσx

y − µyσy

fxy(x, y; l)dxdy

Verschillende eigenschappen van bovenstaande functies van discrete tijd stochas-tische processen zijn analoog af te leiden als die van continue tijd stochastischeprocessen.

7.4 Diskrete ruis

1 Onder diskrete ruis wordt in dit verband verstaan; ruis die wordt weergegevendoor een reeks van random variabelen. De reeks kan ontstaan door het bemonsterenvan een stochastisch proces, maar kan ook van nature een reeks getallen zijn, bi-jvoorbeeld de maximum temperatuur per dag gemeten, of het aantal exemplarenvan een bepaalde diersoort dat per jaar in een zeker gebied wordt geteld. Als ba-sis voor het karakteriseren van ruis wordt uitgegaan van het begrip diskrete witteruis. Hieronder wordt verstaan een stationaire reeks van onderling ongecorreleerderandom variabelen w(k; ζ) = w(k). Deze reeks wordt dan gekarakteriseerd door:

E{w(j)} = µw ∀jE{(w(j) − µw)

2} = σ2w ∀j

E{(w(j) − µw)(w(j + k) − µw)} = Cww(k) = σ2w voor k = 0

= 0 voor k 6= 0

[7.60]

Gefilterde diskrete witte ruisUitgaande van het begrip diskrete witte ruis is het mogelijk allerlei andere soortenruis te karakteriseren. Als voorbeeld beschouwen we de volgende differentievergeli-jking:

x(k) + ax(k − 1) = w(k) [7.61]

1Deze paragraaf wordt niet bij ”Signaalanalyse” behandeld.

7.4 Diskrete ruis 109

Hierin is w(k) diskrete witte ruis. Uitgaande van deze vergelijking is het mogelijkde waarde van x(k) uit te drukken in waarden van w(k) uit het verleden, en wel alsvolgt:

x(k) = −ax(k − 1) + w(k) = −a(−ax(k − 2) + w(k − 1) + w(k)= (−a)2x(k − 2) − aw(k − 1) + w(k)= (−a)2(−ax(k − 3) + w(k − 2) − aw(k − 1) + w(k)= (−a)3x(k − 3) + (−a)2w(k − 2) + (−a)w(k − 1) + w(k)= (−a)3x(k − 3) +

∑2j=0(−a)jw(k − j)

.

.= (−a)nx(k − n) +

∑n−1j=0 (−a)jw(k − j)

[7.62]

Stel dat de reeks begonnen is met een waarde x(0) = 0, dan geldt:

x(k) =n−1∑

j=0

(−a)jw(k − j) [7.63]

De gemiddelde waarde van x(k) wordt dan

µx(k) = E{x(k)} =k−1∑

j=0

(−a)jE{w(k − j)} = µwk−1∑

j=0

(−a)j [7.64]

waaruit volgt

µx(k) = kµw voor a = −1

µx(k) = 1−(−a)k)1+a

µw voor a 6= −1[7.65]

Als µw = 0, dan is ook µx(k) = 0 voor elke x(k). Als µw 6= 0, dan is µx(k) een funktievan a, k en µw. Voor a = 1 bijvoorbeeld volgt:

µx(k) = 1−(−1)k)2

µw = µw voor k oneven= 0 voor k even

[7.66]

In het algemeen zal de reeks x(k) niet stationair zijn t.a.v. zijn gemiddelde alsµw 6= 0. In het vervolg wordt dan ook uitgegaan van witte ruis met gemiddeldewaarde nul. Voor de autocovariantiefunktie van x(k) geldt dan:

Cxx(k) = Rxx(k) = E{x(n)x(n+ k)} [7.67]

met

x(n) = w(n) + (−a)w(n− 1) + . . .+ (−a)n−2w(2) + (−a)n−1w(1)x(n+ k) = w(n+ k) + (−a)w(n+ k − 1) + . . .

+(−a)kw(n) + . . .+ (−a)n−k−1w(1)[7.68]

Voor k ≥ 0 volgt hieruit

E{x(n)x(n+ k)} = E{[w(n) + (−a)w(n− 1) + . . .+ (−a)n−1w(1)]·[w(n+ k) + (−a)w(n+ k − 1) + . . .+ (−a)k)w(n) + . . .+ (−a)n−k−1w(1)

[7.69]


Aangezien

E{w(i)w(j)} = 0 voor i 6= j= σ2

w voor i = j[7.70]

wordt E{x(n)x(n+ k)} = Cxx(n, k) dan gelijk aan:

Cxx(n, k) = [(−a)0(−a)k + (−a)(−a)k+1 + . . .+ (−a)n−1(−a)n+k−1]σ2w

= [(−a)k + (−a)k+2 + . . .+ (−a)k+2(n−2) + (−a)k+2(n−1)]σ2w

= (−a)k[1 + (−a)2 + . . .+ (−a)2(n−2) + (−a)2(n−1)]σ2w

[7.71]

Hieruit volgt

Cxx(n, k) = (−a)knσ2w voor |a| = 1

= (−a)k 1−a2n

1−a2 σ2w voor |a| 6= 1 en voor k ≥ 0

[7.72]

Voor het geval dat |a| ≥ 1 blijft de waarde van Cxx(n, k) toenemen bij toenemendewaarden van de verschuiving k en van de lengte n van de reeks. Voor het geval dat|a| ≤ 1 en bij voldoende grote waarde van n gaat de covariantiefunktie over in:

Cxx(n, k) = Cxx(k) =(−a)k1 − a2

σ2w voor k ≥ 0 [7.73]

Het diskrete stochastische proces x(k) is nu stationair t.a.v. zijn autocovariantiefunk-tie. Aangezien een autocovariantiefunktie van een stationair stochastisch processymmetrisch is, geldt nu:

Cxx(k) =(−a)|k|1 − a2

σ2w [7.74]

De variantie wordt dus:

σ2x = Cxx(0) =

σ2w

1 − a2[7.75]

en voor de autocorrelatiefunktie geldt:

Kxx(k) = (−a)|k| [7.76]

In figuur 7.8 is de autocorrelatiefunktie voor twee waarden van a getekend.

Het autoregressieve filterHet beschouwde stochastische proces werd gekarakteriseerd door de eerste orde dif-ferentievergelijking

x(k) + ax(k − 1) = w(k) [7.77]

Met behulp van de achterwaartse verschuivingsoperator q−1 is dit ook te schrijvenals:

(1 + aq−1)x(k) = w(k) [7.78]


Figuur 7.8: Autocorrelatiefunkties voor twee waarden van a van een eerste-ordeautoregressief proces.

of

x(k) =1

1 + aq−1w(k) = [1 + (−a)q−1 + (−a)2q−2 + . . .+ (−a)nq−n]w(k) [7.79]

waarbij in principe n naar oneindig gaat, dus

x(k) = limn→∞

n∑

j=0

(−a)jw(k − j) [7.80]

Dit is de, al eerder langs een andere weg gevonden, vergelijking, zij het dat n daarde eindige waarde k − 1 kreeg op grond van de veronderstelling dat x(k) de waardex(k) = 0 had voor k = 0. De bovenstaande uitdrukking is ook te schrijven als:

x(k) =∞∑

j=0

h(j)w(k − j) [7.81]

waarbij h(j) = (−a)j.Wat hier staat is de convolutie van de reeks w(k) met de reeks h(j). Wanneer we

de reeks x(k) beschouwen als de uitgang van een systeem met als ingang diskretewitte ruis, dan beschrijft de reeks h(j) de diskrete impulsresponsie van het systeem,in dit geval een eerste orde systeem. De beschouwde eerste orde differentievergeli-jking is een bijzonder geval van de meer algemene gedaante:

x(k) + a1x(k − 1) + . . .+ aLx(k − L) = w(k) [7.82]

Ook te beschrijven als:

x(k) = −[a1x(k − 1) + a2x(k − 2) + . . .+ aLx(k − L)] + w(k) [7.83]

M.a.w. x(k) is, afgezien van een onvoorspelbare ruisterm w(k) een lineaire funktievan zijn eigen verleden. Een lineaire vergelijking waarbij een bepaalde grootheidwordt gekarakteriseerd als een lineaire combinatie van een aantal andere groothedenheet een lineaire-regressie- vergelijking. Wanneer de grootheden in de vergelijking


Figuur 7.9: Het AR(1)-filter gekarakteriseerd in het z-vlak.

betrekking hebben op het eigen verleden spreekt men van autoregressie. Een filterdat gekarakteriseerd wordt door een dergelijke vergelijking noem men een autore-gressief filter. Het hier besproken eerste-orde autoregressieve filter wordt korthei-dshalve aangeduid als een AR(1)-filter. We kunnen het AR(1)-filter ook in hetz-domein bekijken. Uitgaande van de differentievergelijking

x(k) + ax(k − 1) = w(k) [7.84]

volgt

X(z) + az−1X(z) = W(z) [7.85]

of

X(z)

W(z)=

1

1 + az−1=

z

z + a= H(z) [7.86]

Deze overdrachtsfunktie heeft een nulpunt in z = 0 en een pool in z = −a (ziefiguur 7.9). Voor het geval |a| ≥ 1 valt de pool buiten de eenheidscirkel en hetsysteem is instabiel. In het geval van het AR(1)-filter is de grootheid a altijd reeel ende pool heeft dus geen imaginaire component. Desondanks kan het uitgangssignaaleen oscillerend gedrag vertonen. Immers voor het geval a ≥ 0 geldt:

x(k) = −ax(k − 1) + w(k) [7.87]

zodat als de term w(k) er niet was de getallenreeks steeds van teken zou wisse-len. Voor a < 0 zou dan het teken steeds hetzelfde blijven. Dit beeld wordt ookteruggevonden in de correlatiefunkties van figuur 7.8. Voor het geval a = 1 ligt depool precies op de eenheidscirkel en de correlatiefunktie is zuiver periodiek. Voorhet geval a = −1 gaat de omhullende e-macht van de correlatiefunktie over in eenhorizontale rechte lijn: Kxx(k) = 1 ∀k. Voor a > 1 ontstaat een opslingerende peri-odieke reeks, voor a < −1 een rij exponentieel toenemende getallen. Ditzelfde beeld


is terug te vinden in het gedrag van de impulsresponsie h(k). Voor het AR(1)-filtergeldt dus:

h(k) = (−a)k voor k ≥ 0= 0 voor k < 0

[7.88]

en voor de autocorrelatiefunktie van het uitgangssignaal als er witte ruis op deingang staat:

Kxx(k) = (−a)k voor k ≥ 0= 0 voor k < 0

[7.89]

Let op: deze overeenkomst tussen de rechter helften van beide funkties is geenalgemene regel, maar geldt alleen voor een AR(1)-filter. Voor een autoregressieffilter geldt in het algemeen het volgende: als het filter stabiel is en het ingangssignaalis stationair met gemiddelde waarde nul, dan is ook het uitgangssignaal stationairmet gemiddelde waarde nul.

Een autoregressief filter AR(L) kunnen we op verschillende manieren karakteris-eren.

• Door zijn differentievergelijking:

x(k) + a1x(k − 1) + . . .+ aLx(k − L) = w(k) [7.90]

• Gebruikmakend van de achterwaartse verschuivingsoperator q−1 m.b.v. eenpolynoom

A(q−1) = 1 + a1q−1 + a2q

−2 + . . . aLq−L als A(q−1)x(k) = w(k) [7.91]

• In het z-domein m.b.v. de polynoom in z−1

A(z−1) = 1 + a1z−1 + a2z

−2 + . . .+ aLz−L als H(z−1) = 1

A(z−1)[7.92]

• of m.b.v. de polynoom in z

A∗(z) = zL + a1zL−1 + a2z

L−2 + . . .+ aL als H(z) = zL

A∗(z)[7.93]

• Tenslotte d.m.v. zijn impulsresponsie h(k) voor 0 ≤ h(k) ≤ ∞ waarbij dewaarden van h(k), in de vorm van een polynoom

H(q−1) = 1 + h1q−1 + h2q

−2 + h3q−3 . . . , volgen uit h(q−1) = 1

A(q−1)[7.94]

Het Moving Average filterBehalve het autoregressieve filter bestaat er nog een andere vorm, namelijk het”moving average”-filter, kortweg aangeduid als het MA-filter. Dit wordt gekarak-teriseerd door een differentievergelijking van de volgende gedaante:

x(k) = b0w(k) + b1w(k − 1) + . . .+ bMw(k −M) [7.95]


of met behulp van de polynoom B(q−1) = b0 + b1 + . . .+ bMq−M als

x(k) = B(q−1)w(k) [7.96]

De keuze van b0 hangt af van de definitie van w(k). Als men de witte ruis w(k)zodanig definieert dat σ2

w = 1 dan is b0 een maat voor de schaling van x(k). Menkan echter ook b0 = 1 kiezen, dan wordt de schaling weergegeven door σ2

w = 1.

Voorbeeld. Als voorbeeld beschouwen we de MA(1)-vergelijking

x(k) = w(k) + bw(k − 1) [7.97]

De gemiddelde waarde van x(k) wordt:

µx = E{x(k)} = (1 + b)E{w(k)} = (1 + b)µw [7.98]

We zullen ook hier weer uit gaan van het geval µw = 0, zodat dan geldt µx = 0. Deautocovariantiefunktie is te berekenen uit:

x(j) = w(j) + bw(j − 1)x(j + k) = w(j + k) + bw(j + k − 1)

Cxx(k) = E{x(j)x(j + k)}= E{w(j)w(j + k)} + bE{w(j)w(j + k − 1)}+

bE{w(j − 1)w(j + k)} + b2E{w(j − 1)w(j + k − 1)}

[7.99]

Achtereenvolgens invullen van een aantal waarden van k levert:

Cxx(0) = (1 + b2)σ2w

Cxx(1) = bσ2w

Cxx(k) = 0 voor k ≥ 1[7.100]

Voor de correlatiefunktie geldt dus:

Kxx(0) = 1

Kxx(1) = b1+b2

Kxx(k) = 0 voor k ≥ 1

[7.101]

Deze funktie is afgebeeld in figuur 7.10.

De naam ”moving average” wijst op een voortschrijdende middeling over het verledenvan w(k) bij de berekening van x(k). De polynoom B(q−1) beschrijft in feite de im-pulsresponsie van het filter. Voor het berekenen van de covariantiefunktie van x(k)kunnen we dus ook gebruik maken van de relatie:

Cxx(k) = σ2w

∑∞i=0 h(i)h(i+ |k|) ∀k

= σ2w

∑∞i=0 bibi+|k|

[7.102]

In het geval van het MA(1)-proces x(k) wordt dit:

Cxx(0) = σ2w(1 · 1 + b · b) = (1 + b2)σ2

w

Cxx(1) = σ2w(1 · b) = bσ2

w

Cxx(k) = 0 voor k > 0[7.103]


Figuur 7.10: De autocorrelatiefunktie van een MA(1)-proces.

Het Auto-Regressief Moving Average filterTenslotte komen we dan op de meest algemene vorm voor een lineair diskreet sta-tionair stochastisch proces het ARMA-proces, dat gekarakteriseerd wordt door dedifferentievergelijking

x(k)+a1x(k−1)+. . .+aLx(k−L) = b0w(k)+b1w(k−1)+. . .+bMw(k−M)[7.104]

of met behulp van de polynomen A(q−1) en B(q−1)

A(q−1)x(k) = B(q−1)w(k) [7.105]

We kunnen het ruisvormend filter ook karakteriseren door zijn impulsresponsie:

H(q−1) =B(q−1)

A(q−1)[7.106]

waarbij x(k) volgt uit:

x(k) = H(q−1) ∗ w(k) =∞∑

j=0

h(j)w(k − j) [7.107]

In het z-domein kan het filter beschreven worden door zijn overdrachtsfunktie:

H(z) =B(z−1)

A(z−1)=B∗(z)

A∗(z)[7.108]

Hierbij zijn A∗(z) en B∗(z) te berekenen door A(z−1) en B(z−1) te vermenigvuldigenmet z tot de hoogste macht van z−1 in A(z−1) of B(z−1).

Verband tussen de impulsresponsie van het filter en de autocorrelatiefunk-tie van het daardoor gekarakteriseerde proces.Een algemeen geldige uitdrukking voor het uitgangssignaal van een willekeurig sta-biel, eventueel niet causaal, filter met witte ruis op de ingang volgt uit:

x(m) =∑∞i=−∞ h(i)w(m− i)

x(m+ k) =∑∞j=−∞ h(j)w(m+ k − j)

Cxy(k) =∑∞i=−∞

∑∞j=−∞ h(i)h(j)E{w(m− i)w(m+ k − j)}

[7.109]


waarbij

E{w(m− i)(m+ k − j)} = σ2w voor j = i+ k

= 0 voor j 6= i+ k[7.110]

zodat

Cxx(k) = σ2w

∞∑

i=−∞h(i)h(i+ k) [7.111]

Voor een causaal systeem en k ≥ 0 wordt de covariantiefunktie

Cxx(k) = σ2w

∞∑

i=0

h(i)h(i+ k) voor k ≥ 0 [7.112]

Uit de symmetrie-eigenschappen van Cxx(k) volgt dan dat

Cxx(k) = σ2w

∞∑

i=0

h(i)h(i+ |k|) ∀k [7.113]

Voorbeeld Voor het AR(1)-filter gold h(i) = (−a)i, zodat

Cxx(k) = σ2w

∞∑

i=0

(−a)2i+|k| = σ2w(−a)|k|

∞∑

i=0

(−a)2i = σ2w(−a)|k|[1 + a2 + a4 + . . .][7.114]

hetgeen klopt met wat al eerder gevonden werd.

Recapitulatie diskrete ruisEen willekeurig continu ruissignaal kan worden opgevat als het uitgangssignaal vaneen filter met witte ruis op de ingang. Het ruissignaal wordt dan gekarakteriseerddoor de beschrijving van dit z.g. vormend filter. Het beschrijven van diskrete ruissig-nalen verloopt geheel analoog aan deze werkwijze, uitgaande van het begrip diskretewitte ruis. Diskrete witte ruis is gedefinieerd als een reeks onderling ongecorreleerde(eindige) getallen. In tegenstelling tot continue witte ruis heeft diskrete witte ruiseen eindige variantie. Een willekeurige diskrete ruis kan worden gekarakteriseerddoor een vormend filter met diskrete witte ruis op de ingang. Dit vormend filter kanin het tijdsdomein beschreven worden door zijn differentievergelijking, dan wel zijnimpulsresponsie, of in het z-domein door zijn overdrachtsfunktie. Er worden drietypen filters onderscheiden.

• Het autoregressief (AR-)filter. De differentievergelijking bevat alleen ver-schoven waarden van het uitgangssignaal. De overdrachtsfunktie bevat dusalleen een noemerpolynoom.

• Het moving average (MA-)filter. De differentievergelijking bevat alleen ver-schoven waarden van het ingangssignaal. De overdrachtsfunktie bevat dusalleen een tellerpolynoom.

7.5 Ergodiciteit 117

• Het autoregressief moving average (ARMA-)filter. De differentievergelijkingbevat zowel verschoven waarden van het ingangssignaal als van het uitgangssig-naal. De overdrachtsfunktie bevat dus zowel een tellerpolynoom als een noe-merpolynoom.

Gebruik makend van de achterwaartse verschuivingsoperator q−1 is de differentiever-gelijking van een filter ook in het tijdsdomein te karakteriseren als het quotient vaneen teller- en een noemerpolynoom. De teller- en noemerpolynoom zijn identiek metde polynomen van de overdrachtsfunktie beschreven als polynomen in z−1. Door depolynomen in q−1 op elkaar te delen wordt een beschrijving van de diskrete impul-sresponsie verkregen. Als de impulsresponsie van het filter bekend is, kan hieruitop eenvoudige wijze de autocovariantiefunktie worden berekend van de uitgang vanhet filter met diskrete witte ruis als ingang.

7.5 Ergodiciteit

Voor stationaire stochastische processen ligt alle informatie omtrent gemiddelde pro-duktfunktie, covariantiefunktie, correlatiefunktie en spectrale dichtheid vast in deverdelingsdichtheidsfunktie fxx(x1, x2; l) voor autofunkties en fxy(x, y; l) voor kru-isfunkties. Dit zijn funkties van 3 variabelen en als regel zijn ze onbekend. Menkan zich afvragen in hoeverre het mogelijk is een schatting van het verloop van eendergelijke funktie te maken op grond van meetgegevens. Zelfs als men maar voor 10verschillende waarden van de parameters x, y en l een schatting van fxy(x, y; l) zouwillen maken, moeten er nog altijd 1000 waarden geschat worden. Dit vraagt eenzeer groot aantal experimentele gegevens om een enigszins betrouwbare schatting tekrijgen. Deze aanpak is dan ook niet realistisch.

Het probleem zou misschien vereenvoudigd kunnen worden door te veronder-stellen dat men de aard van de verdeling kent. Men hoeft dan alleen de parametersvan de verdelingsdichtheidsfunktie te schatten. Het lijkt in veel gevallen bijvoorbeeldredelijk te veronderstellen dat twee stochastische processen x(k) en y(k) gezamenlijknormaal verdeeld zijn. De verdelingsdichtheidsfunktie is dan volledig bepaald doorde grootheden: µx, µy, σx, σy en Kxy(l). Hierin is Kxy(l) de correlatiefunktie. Ditzijn echter precies de gegevens die de reden vormden om de verdelingsdichtheids-funktie te willen bepalen. Hiermee komt men dus in een vicieuse cirkel terecht. Omdeze cirkel te doorbreken wordt nu het begrip ergodiciteit geıntroduceerd. Het be-grip ergodiciteit relateert ensemblemiddelingen over verdelingsdichtheidsfunktiesvoor het stochastische proces als geheel aan tijdsmiddelingen over een realiseringx(k) van het stochastische proces. Om de gedachten te bepalen beschouwen we hettijdsgemiddelde over een tijd T van een realisering van een stationair stochastischproces:

µNx =1

N

N∑

k=1

x(k) [7.115]

Hierin is µNx een schatting voor de gemiddelde waarde van x: µx = E{x(k)}. Inhoofdstuk 6 zullen we nog uitgebreid op de schattingstheorie terugkomen.


Figuur 7.11: De beschikbare middelingstijd voor het schatten van een kruiscovari-antiefunktie uit een realisering, gemeten over een observatietijd N∆t.

Ergodisch. Indien nu voor een willekeurige realisering geldt dat:

limN→∞

1

N

N∑

k=1

x(k) = E{x(k)} [7.116]

dan noemt men het stochastische proces ergodisch ten aanzien van zijn gemiddeldewaarde. Dit betekent dat een willekeurige realisering van het stochastische procesreeds de informatie bevat omtrent de gemiddelde waarde van het stochastische pro-ces als geheel. Deze informatie is in principe te verkrijgen uit een oneindig langeobservatie van die ene realisering.

Op overeenkomstige wijze kunnen we een schatting voor een gemiddelde kruis-produktfunktie beschouwen die gebaseerd is op een middeling over een realiseringvan twee stochastische processen x(k) en y(k). Voor een dergelijke schatting moethet tijdsgemiddelde bepaald worden van het produkt x(k) en y(k + l). Als we nuuitgaan van een observatietijd N∆t dan kunnen we dit produkt middelen over eentijd (N − l)∆t, zoals is geıllustreerd in fig. 7.11 voor zowel positieve als negatievewaarden van l. Voor positieve waarden van l wordt, de op een observatietijd N∆tgebaseerde, schatting:

RNxy(l) =

1

N − l

N−l∑

k=1

x(k)y(k + l) [7.117]

Een algemene gedaante voor zowel positieve als negatieve waarden van l is te gevenals:

RNxy(l) =

1

N − |l|N−|l|∑

k=1

x(k)y(k + l) [7.118]

waarbij de variabele k loopt over het interval waarover zowel x(k) als y(k+l) bekendzijn.

7.5 Ergodiciteit 119

Men noemt de stochastische processen x(k) en y(k) ergodisch ten aanzienvan hun gemiddelde produktfunktie indien geldt dat:

lim(N−|l|)→∞

RNxy(l) = Rxy(l) [7.119]

Merk op dat in deze limiet N − |l| naar oneindig moet. In het geval dat zowel N als|l| naar oneindig gaan, echter zodanig dat het interval N − |l| eindig blijft, kan hetzijn dat de schatter niet naar de echte waarde convergeert. Dit houdt in dat voorde tijdverschuiving l willekeurig grote, maar wel eindige waarden beschouwd wordenals de observatietijd N naar oneindig gaat. Legt men deze restrictie aan, dan kanmen ook schrijven:

limN→∞

RNxy(l) = Rxy(l) met |l| <∞ [7.120]

Men spreekt bij stationaire stochastische processen over ergodisch in de meest al-gemene zin, als het mogelijk is alle statistische eigenschappen met waarschijnlijkheid1 uit een enkele realisering van de betrokken processen te bepalen over een oneindiglange observatietijd N∆t, zij het dat slechts verschuivingen over eindige tijden l∆tkunnen worden beschouwd.

Of een stationair stochastisch proces, dan wel een combinatie van twee stationairestochastische processen, als ergodisch beschouwd kan worden, is als regel moeilijk tebewijzen. Meestal wordt de eigenschap als redelijke veronderstelling geıntroduceerdals er geen aanwijzingen zijn voor het tegendeel. Het uitgaan van de ergodiciteit-seigenschap is namelijk de enige mogelijkheid om de theorie van de stochastischeprocessen toe te passen via schatters die op een realisering gebaseerd zijn.

Het in deze paragraaf geıntroduceerde begrip ergodiciteit vormt de basis voorde praktische toepassing van de stochastiek. Om deze reden is dit begrip hier algeıntroduceerd, hoewel het schatten van covariantiefunkties en spectrale dichthedenpas later in dit college aan de orde zal komen. We zullen aan de hand van de, in devoorgaande paragrafen geıntroduceerde begrippen, de relatie tussen stochastischeprocessen en systemen nader beschouwen. Aldus keren we terug tot de oorspronke-lijke probleemstelling, namelijk de identificatie van systemen met ruisvormige in-gangssignalen en eveneens ruisvormige storingen. Dit probleem zal in de volgendehoofdstukken nader worden beschouwd.

Hoofdstuk 8

Stochastische processen in hetfrequentie-domein

8.1 Spectrale dichtheden

Zoals reeds in het vorige hoofdstuk werd opgemerkt bevatten gemiddelde produkt-funkties en de daarvan afgeleide covariantiefunkties en correlatiefunkties informatieover de frequentieinhoud van stochastische processen. Men kan in principe elk vande genoemde tijdfunkties naar het frequentiedomein transformeren. Men is meestalgeınteresseerd in de fouriergetransformeerde van de covariantiefunktie, deze wordtde spectrale dichtheid genoemd. Men onderscheidt de autospectrale dichtheid:

Sxx(ω) = F{Cxx(τ)} =∫ ∞

−∞Cxx(τ)e

−jωτdτ [8.1]

en de kruisspectrale dichtheid:

Sxy(ω) = F{Cxy(τ)} =∫ ∞

−∞Cxy(τ)e

−jωτdτ [8.2]

De covariantiefunkties zijn weer uit de spectrale dichtheden te bepalen door terug-transformatie:

Cxx(τ) =1

2π

∫ ∞

−∞Sxx(ω)ejωτdω [8.3]

Cxy(τ) =1

2π

∫ ∞

−∞Sxy(ω)ejωτdω

Voor discrete tijd stochastische processen zijn vergelijkbare relaties te geven:Autospectrale dichtheid:

Sxx(ω) = ∆t∞∑

l=−∞Cxx(l∆t)e

−jωl∆t [8.4]

Kruisspectrale dichtheid:

Sxy(ω) = ∆t∞∑

l=−∞Cxy(l∆t)e

−jωl∆t [8.5]

122 8 Stochastische processen in het frequentie-domein

In dit hoofdstuk zullen we verder alleen de afleidingen voor het continue geval geven.De afleidingen voor het discrete geval zijn eenvoudig af te leiden.

Een nadere interpretatie van het begrip autospectrale dichtheid volgt uit derelatie voor Cxx(0) = σ2

x. Deze grootheid is gelijk aan:

σ2x =

1

2π

∫ ∞

−∞Sxx(ω)dω [8.6]

Deze relatie geeft aan dat de variantie gelijk is aan het oppervlak onder de spectraledichtheid. De spectrale dichtheid heeft de dimensie van een variantie per eenheid vanfrequentie en geeft dus informatie hoe de energie in het signaal over de frequentiesverdeeld is. De kruisspectrale dichtheid geeft aan hoe het onderling samenhangendedeel van twee stochastische processen over de frequenties verdeeld is en tevens overde onderlinge faserelatie als funktie van de frequentie. Dit volgt uit een naderebeschouwing van de uitdrukking voor Sxy(ω). Deze is als volgt verder uit te werken:

Sxy(ω) =∫ ∞

−∞Cxy(τ)e

−jωτdτ

=∫ ∞

−∞Cxy(τ) cosωτdτ − j

∫ ∞

−∞Cxy(τ) sinωτdτ [8.7]

= ReSxy(ω) + jImSxy(ω)

Het reele deel van Sxy(ω) geeft informatie over de frequentiecomponenten van x(t) eny(t) die met elkaar in fase zijn, het imaginaire deel zegt iets over die componenten dieonderling 900 in fase verschoven zijn. De kruisspectrale dichtheid kan behalve doorzijn reele en imaginaire deel ook beschreven worden door zijn modulus en argument:

|Sxy(ω)| =√

ReSxy(ω)2 + ImSxy(ω)2 [8.8]

6 Sxy(ω) = arctan

(

ImSxy(ω)

ReSxy(ω)

)

Uitgaande van de eigenschappen van de covariantiefunktie en van de fouriertrans-formatie kunnen we een aantal eigenschappen van kruisspectrale dichtheden en au-tospectrale dichtheden afleiden.

8.1 Spectrale dichtheden 123

Eigenschappen spectrale dichthedenKruisspectrale dichtheid. We zullen eerst de kruisspectrale dichtheid naderbezien. Een kruiscovariantiefunktie is over het algemeen noch symmetrisch nochkeersymetrisch. Wel kan de funktie Cxy(τ) beschouwd worden als de som van eensymmetrisch deel en een keersymmetrisch deel. Uit de eigenschappen van de fouri-ertransformatie (zie wb2203 Systeemtheorie) volgt dat het reele deel van Sxy(ω) tebeschouwen is als de fouriergetransformeerde van het symmetrisch deel, het imag-inaire deel als de fouriergetransformeerde van het keersymmetrische deel. Verdergeldt voor de kruispectrale dichtheden dat:

• het reele deel symmetrisch is: ReSxy(−ω) = ReSxy(ω)

• het imaginaire deel keersymmetrisch is: ImSxy(−ω) = −ImSxy(ω)

In het tijdsdomein geldt de relatie:

Cxy(−τ) = Cyx(τ) [8.9]

Fouriertransformatie van Cxy(−τ) levert:

Syx(ω) = F{Cyx(τ)} = F{Cxy(−τ)} =∫ ∞

−∞Cxy(−τ)e−jωτdτ [8.10]

Stel τ ′ = −τ dan geldt:

Syx(ω) =∫ ∞

−∞Cxy(τ

′)e−j(−ωτ′)dτ ′ = Sxy(−ω). [8.11]

In het frequentiedomein geldt dus een overeenkomstige relatie als in het tijdsdomein.Als twee stochastische processen ongecorreleerd zijn, is hun kruisspectrale dichtheid

eveneens nul voor elke frequentie. Dit volgt direct door invulling van Cxy(τ) = 0 inde formule voor Sxy(ω). De waarde van de kruisspectrale dichtheid voor de frequentieω = 0 is gelijk aan

Sxy(0) =∫ ∞

−∞Cxy(τ)dτ [8.12]

Deze grootheid is reeel en is gelijk aan het oppervlak onder de covariantiefunktie.Omgekeerd geldt dat

Cxy(0) =1

2π

∫ ∞

−∞Sxy(ω)dω

=1

2π

(∫ ∞

−∞ReSxy(ω)dω + j

∫ ∞

−∞ImSxy(ω)dω

)

[8.13]

=1

2π

∫ ∞

−∞ReSxy(ω)dω =

1

π

∫ ∞

0ReSxy(ω)dω

De waarde van Cxy(0) wordt dus uitsluitend door het reele deel van Sxy(ω) bepaald.

Autospectrale dichtheid. De autospectrale dichtheid is de fouriergetransformeerde


van de autocovariantiefunktie. Aangezien deze symmetrisch is, is een autospectraledichtheid reeel en symmetrisch. Er is reeds afgeleid dat:

σ2x = Cxx(0) =

1

2π

∫ ∞

−∞Sxx(ω)dω =

1

π

∫ ∞

0Sxx(ω)dω [8.14]

De variantie van een stochastisch proces is gelijk aan 12π

maal het oppervlak onderde spectrale dichtheid bij gebruik van de ω-schaal (Bij gebruik van de f -schaal [Hz]vervalt de term 1

2π). Zonder op dit moment het bewijs hiervan te leveren wordt hier

vermeld dat een autospectrale dichtheid, op te vatten als een variantie per eenheidvan frequentie, altijd positief is.

Als equivalent van de uitdrukking voor Cxx(0) volgt dat de autospectrale dichtheidvoor de frequentie ω = 0 gelijk is aan het oppervlak onder de covariantiefunktie:

Sxx(0) =∫ ∞

−∞Cxx(τ)dτ = 2

∫ ∞

0Cxx(τ)dτ [8.15]

Uit de symmetrie- en keersymmetrie-eigenschappen van zowel de kruisspectraledichtheid als de autospectrale dichtheid volgt dat alle informatie volledig vast ligtin het frequentiegebied ω > 0. Vandaar dat meestal alleen dit deel wordt afgebeeld.

VoorbeeldenOm enige indicatie te geven van het verband tussen stochastisch proces, autocovari-antiefunktie en autospectrale dichtheid, zijn in fig. 8.1 enkele voorbeelden gegeven,bestaande uit een stukje uit een realisering x(t) van een stochastisch proces metdaarnaast de bijbehorende funkties Cxy(τ) en Sxy(ω). De spectra hebben alle eengeıdealiseerde vorm, maar zijn als zodanig wel bruikbaar om een indicatie te gevenomtrent het verband tussen Cxy(τ) en Sxy(ω).

Stochastisch proces met bandbreedte ω1. Het eerste voorbeeld geeft eenstochastisch proces waarvan de energie gelijkmatig verdeeld is over een frequen-tiegebied |ω| < ω1 en daarbuiten nul is. Men zegt dat het stochastische proces eenbandbreedte van ω1 rad/s heeft. De frequentie ω1 wordt wel de afsnij-frequentiegenoemd. De covariantiefunktie die hoort bij dit stochastische proces is te schrijvenals

Cxx(τ) =a

2π

∫ ω1

−ω1

ejωτdω =aω1

π

sinω1τ

ω1τ[8.16]

De variantie van dit stochastische proces is σ2x = Cxx(0) = aω1

π.

Laagfrequente ruis. In het tweede voorbeeld zijn de gedaanten van Sxy(ω) enCxy(τ) gelijk aan die van het voorgaande geval, alleen is de bandbreedte twee keerzo klein, de hoogte van de spectrale dichtheid is echter twee keer zo groot, zodat devariantie Cxy(0), zijnde het oppervlak onder de spectrale dichtheid, gelijk geblevenis. Aangezien tijd en frequentie elkaars inverse zijn, betekent een versmalling vanSxy(ω) een verbreding van Cxy(τ).

8.1 Spectrale dichtheden 125

Figuur 8.1: Stochastisch proces, covariantiefunktie en spectrale dichtheid voorenkele gevallen.

Sinus. Het derde voorbeeld hoort bij het stochastische proces uit figuur 8.1. Hi-ervoor was afgeleid dat Cxx(τ) = 0.5a2 cosωτ , als a de amplitude is van de realis-eringen van het stochastische proces x = a sin(ωt + ψ), waarbij ψ een randomvari-abele is. Zoals aangegeven in par. 2.2 is dan de bijbehorende spectrale dichtheid:Sxx(ω) = 0.5πa2(δ(ω − ω1) + δ(ω + ω1))

Nauweband-ruis. Het volgende voorbeeld geeft een nauweband-ruis, met eengemiddelde frequentie ω1. Deze gemiddelde frequentie is ook in de covariantiefunktieterug te vinden. De mate waarin de cosinus in de covariantiefunktie uitdempt zegt


iets over de breedte van de frequentieband. Hoe smaller de band hoe minder sterkde funktie uitdempt. Uit het feit dat Sxx(0) = 0 volg dat het oppervlak onder defunktie Cxx(τ) nul moet zijn.

Witte ruis. Het laatste voorbeeld staat bekend als continue witte ruis. In het fre-quentiedomein wordt dit gekarakteriseerd door Sxx(ω) = c voor −∞ ≤ ω ≤ ∞. Denaam witte ruis is ontstaan naar analogie van wit licht, d.w.z. licht dat alle kleurenbevat. De bijbehorende covariantiefunktie is een gewogen diracpuls: Cxx(τ) = cδ(τ).Dit is eenvoudig te controleren want: Sxx(ω) =

∫∞−∞ cδ(τ)e−jωτdτ = c. De uit-

drukking voor Cxx(τ) betekent dat E{x(t)x(t + τ)} = 0 hoe klein τ ook is. Verderbetekent het dat de variantie van x(t) oneindig groot is. De getekende realiseringklopt dan ook niet. In verticale richting moet de figuur oneindig ver uitgerekt wor-den en in horizontale richting oneindig sterk in elkaar geperst. Witte ruis is iets datfysisch niet bestaat, maar in de regeltechniek is het een belangrijk begrip dat veelrekenwerk vereenvoudigt en als zodanig zal het in een later stadium ook nog naarvoren komen.

8.2 Een gemodificeerde fouriertransformatie

In het tijdsdomein kunnen stochastische processen worden beschreven, uitgaandevan de verdelings- en verdelingsdichtheidsfunkties, met deterministische groothedenzoals gemiddelde produktfunkties, covariantiefunkties en correlatiefunkties. Dezelaatste grootheden kunnen weer worden afgebeeld in het frequentiedomein. Ditlevert de spectrale dichtheden en de coherentiefunktie. Een en ander is schematischafgebeeld in fig. 8.2.

Relaties tussen de deterministische grootheden waarmee stochastisch processengekarakteriseerd worden, zijn afhankelijk van de eigenschappen van tussenliggendesystemen. In het tijdsdomein zijn deze relaties altijd convolutieintegralen. Voor heeleenvoudige gevallen zijn deze nog wel te beschrijven. In samengestelde systemenwordt dit echter een moeilijke, zo niet onmogelijke, zaak. In het frequentiedomeindaarentegen worden dit eenvoudige vermenigvuldigingen en delingen. De vraag rijstdan ook of het mogelijk is stochastische processen direct te transformeren naar hetfrequentiedomein, ze daar te karakteriseren door nieuwe verdelingsdichtheidsfunk-ties, om vervolgens langs deze weg tot spectrale dichtheden te komen. Deze weg is infig. 8.2 met streeplijnen en vraagtekens aangeduid. In eerste instantie is het antwo-ord op deze vraag nee, zoals uit de volgende paragraaf zal blijken. Het zal echter ookblijken dat, na het introduceren van een gemodificeerde fouriertransformatie, dezeweg wel gevolgd kan worden, mits de beschouwde stochastische processen behalvestationair ook ergodisch zijn.

De kruisspectrale dichtheid van twee stationaire stochastische processen x(t)en y(t) is gedefinieerd als:

Sxy(ω) = F{Cxy(τ)} =∫ ∞

−∞Cxy(τ)e

−jωτdτ [8.17]

8.2 Een gemodificeerde fouriertransformatie 127

Figuur 8.2: Beschrijving van stochastische processen in tijdsdomein en frequen-tiedomein met behulp van deterministische grootheden.

met, voor het geval dat de gemiddelde waarden nul zijn,

Cxy(τ) = E{x(t)y(t+ τ)} =∫ ∞

−∞

∫ ∞

−∞xyfxy(x, y; τ)dxdy [8.18]

Als de processen ergodisch zijn geldt echter ook dat:

Cxy(τ) = E{Cxy(τ)} = E

{

limT→∞

1

T

∫ T2

−T2

x(t)y(t+ τ)dt

}

[8.19]

In deze uitdrukking is T de voor integratie beschikbare tijd. Bij een signaallengteT0 en een tijdverschuiving τ is deze gelijk aan T = T0 − |τ | , zie ook paragraaf 7.5(discreet). Fouriertransformatie geeft:

Sxy(ω) = limT→∞

∫ T2

−T2

E

{

1

T

∫ T2

−T2

x(t)y(t+ τ)dt

}

e−jωτdτ [8.20]

Er kan aangetoond worden dat dit equivalent is met

Sxy(ω) = E

{

limT→∞

1

T

[

∫ T2

−T2

x(t)e−j(−ω)tdt

] [

∫ T2

−T2

y(t)e−jωtdt

]}

[8.21]


hetgeen overeenkomt met ∞·∞∞ , omdat x(t) en y(t) niet voldoen aan de voorwaarde

dat ze naar nul gaan voor t → −∞ en t → ∞. Het resultaat moet echter weliets eindigs opleveren. Om dit probleem op te lossen wordt nu voor stochastischeprocessen een gemodificeerde fouriertransformatie gedefinieerd, namelijk:

Fs{x(t)} = limT→∞

1√T

∫ T2

−T2

x(t)e−jωtdt = X(ω) [8.22]

Het enige verschil met de bestaande fouriertransformatie is, dat de te transformerensignalen een normeringsconstante hebben meegekregen die er voor zorgt dat de op-erator Fs{. . .} een eindige eenduidige waarde oplevert. Op zich is dit niets nieuwswanneer deze transformatie wordt vergeleken met de eerder behandelde wijzen vanafbeelden in het frequentiedomein:

fourierreeks: xk =1

T

∫ to+T

t0x(t)e−

j2πkt

T dt [8.23]

fouriertransformatie: X(ω) =∫ ∞

−∞x(t)e−jωtdt

gemodificeerde fouriertransforatie: X(ω) = limT→∞

1√T

∫ T2

−T2

x(t)e−jωtdt

Gebruik makend van de gemodificeerde fouriertransformatie is de kruisspectraledichtheid voor stationaire ergodische processen te schrijven als:

Sxy(ω) = E{X(−ω)Y(ω)} [8.24]

Voor het geval dat y(t) = x(t) ontstaat de overeenkomstige uitdrukking voor au-tospectrale dichtheden, namelijk:

Sxx(ω) = E{X(−ω)X(ω)} = E{ limT→∞

|XT (ω)|2} [8.25]

met XT (ω) = 1√T

∫

T2

−T2

x(t)e−jωtdt. De uitdrukking |XT (ω)|2 wordt ook wel het peri-

odogram genoemd van X(ω) over een interval met lengte T . Deze geeft aan hoe hetvermogen over de frequenties is verdeeld.

Het praktisch nut van de gemodificeerde fouriertransformatie is zeer groot. Intheoretische beschouwingen over relaties in samengestelde systemen kunnen nu opzeer eenvoudige wijze relaties tussen spectrale dichtheden en overdrachtsfunktiesworden afgeleid. Dit zal worden geıllustreerd in het volgende hoofdstuk.

8.3 De coherentie

Zoals in het tijdsdomein het begrip correlatiefunktie is gedefinieerd als een maatvoor de samenhang tussen twee stochastische processen, bestaat er ook in het fre-quentiedomein een enigszins vergelijkbaar begrip.

De correlatiefunctie was gedefinieerd als de genormeerde covariantiefunktie:

Kxy(τ) =Cxy(τ)

σxσy[8.26]

8.3 De coherentie 129

Voor de correlatiefunctie geldt: −1 ≤ Kxy(τ) ≤ 1.Een dergelijk concept is niet zonder meer vertaalbaar, omdat de spectrale dichtheid

Sxy(ω) een complexe grootheid is. Verder is het zo dat de variantie van een stochastischproces in het frequentiedomein als het ware verdeeld is langs de frequentieas en wordtgekarakteriseerd door de autospectrale dichtheid.

Coherentie. In het frequentie domein heeft men het begrip coherentie ingevoerddat gedefinieerd is als:

Γxy(ω) =

√

√

√

√

|Sxy(ω)|2Sxx(ω)Syy(ω)

[8.27]

Voor de coherentiefunktie geldt: 0 ≤ Γxy(ω) ≤ 1.Dit is als volgt te zien: Stel dat er geen verband is tussen de stochastische

processen x(t) en y(t) dan geldt Sxy(ω) = 0 ∀ω en dus geldt ook Γxy(ω) = 0 ∀ω.Een maximaal verband ontstaat in het geval dat geldt: x(t) = y(t) of x(t) = −y(t).In beide gevallen geldt: Sxx(ω) = Syy(ω) en |Sxy(ω)|2 = (Sxx(ω))2, waardoor dangeldt dat Γxy(ω) = 1 ∀ω.

De coherentiefunktie is dus altijd positief, omdat deze afkomstig is van gekwa-drateerde grootheden; dit in tegenstelling tot de correlatiefunktie, die altijd tussen-1 en +1 ligt.

Recapitulatie. In dit hoofdstuk is onderzocht hoe stochastische processen naarhet frequentiedomein zijn te transformeren. Dit bleek mogelijk na introduktie vaneen gemodificeerde fouriertransformatie. Hierdoor kan in het frequentiedomein debehandeling beperkt blijven tot uitsluitend algebraısche vergelijkingen.

Hoofdstuk 9

Identificatie van systemen metstochastische ingangen

In dit hoofdstuk zullen enkele relaties tussen spectrale dichtheden en overdrachts-funkties worden afgeleid. Systeemidentificatietechnieken met behulp van spectraledichtheden worden in het algemeen toegepast als men nog weinig of niets van hetsysteem af weet. De resultaten komen beschikbaar in de vorm van bodediagram-men. Het bodediagram geeft informatie over de struktuur en de parameters vanhet systeem. De struktuur van het systeem heeft betrekking op de orde van teller-en noemerpolynoom van de overdrachtsfunktie en op het al of niet aanwezig zijnvan een voortplantingstijd. De parameters geven de numerieke waarden aan van decoefficienten in de overdrachtsfunktie.

Het bepalen van een bodediagram met behulp van spectrale dichtheden is vaakeen eerste stap in de systeemidentificatie. Op het moment dat men de struktuurkent, kan men gebruik maken van deze informatie om vervolgens de parametersvan het systeem te schatten. Ter onderscheiding van parameterschattingsmetho-den staat de hierna te behandelen aanpak ook wel bekend als niet-parametrischesysteemidentificatie.

In dit hoofstuk zullen enkele algemene relaties (in continue tijd) worden behan-deld. In het laatste hoofstuk zal worden ingegaan op de toepassing van systeemi-dentificatie in de praktijk (discrete tijd en beperkte meettijd). In par. 9.1 wordtmet behulp van de in het frequentiedomein gevonden relaties een nader onderzoekingesteld naar mogelijke problemen bij identificatie in open en gesloten ketens. Inpar. 9.2 wordt nader ingegaan op identificatie van de beschrijvende functie van eenniet lineair systeem in een gesloten keten.

132 9 Identificatie van systemen met stochastische ingangen

-u(t)

h(t) -y(t)

e+

+ ?

n(t)

-

Figuur 9.1: Een lineair systeem met een stochastisch ingangsproces, waarvan deuitgang verstoord is door een, eveneens stochastisch, proces. Voor de uitgang geldt:y(t) = x(t) + n(t). Als de ruis ongecorreleerd is met de ingang geldt: H(ω) = Suy(ω)

Suu(ω).

9.1 Identificatie van lineaire systemen

9.1.1 Bepaling van overdrachtsfunkties en andere relaties uitspectrale dichtheden via het tijdsdomein

We beschouwen een lineair systeem, gekarakteriseerd door zijn impulsresponsie h(t).Het systeem heeft een stochastisch proces u(t) als ingang. De responsie x(t) op ditingangsproces wordt verstoord door additieve ruis n(t), zodat het meetbare uitgangy(t) gelijk is aan y(t) = x(t) + n(t) (zie fig. 9.1). Voor de ingangs-uitgangsrelatievan het systeem geldt:

y(t) = n(t) + x(t) = n(t) +∫ ∞

−∞h(t′)u(t− t′)dt′ [9.1]

We stellen ons nu ten doel de relatie te vinden waarmee we de invloed van de ruisn(t) kunnen elimineren. Met dit doel voor ogen voeren we de volgende stappen uit:

• Verschuif het proces y(t) over een tijd τ :

y(t+ τ) = n(t+ τ) +∫ ∞

−∞h(t′)u(t+ τ − t′)dt′ [9.2]

• Vermenigvuldig het proces y(t+ τ) met een hulpproces z(t) waarvan de eigen-schappen nog nader gekozen zullen worden:

z(t)y(t+ τ) = z(t)n(t+ τ) +∫ ∞

−∞h(t′)z(t)u(t+ τ − t′)dt′ [9.3]

• Neem nu de verwachtingswaarde van het produkt, dit levert:

Rzy(τ) = Rzn +∫ ∞

−∞h(t′)Rzu(τ − t′)dt′ [9.4]

• Als regel zijn we geinteresseerd in de variaties ten opzicht van de gemiddeldewaarde. Als we daarom in plaats van de gemiddelde produktfunktie de covari-antiefunktie beschouwen, krijgen we:

Czy(τ) = Czn +∫ ∞

−∞h(t′)Czu(τ − t′)dt′ [9.5]

9.1 Identificatie van lineaire systemen 133

• Als we nu in staat zijn een hulpproces z(t) te kiezen dat ongecorreleerd ismet de ruis n(t), maar wel gecorreleerd met het ingangsproces u(t), d.w.z.Czn(τ) = 0 ∀τ en ∃τ Czu(τ) 6= 0, dan gaat de vergelijking over in:

Czy(τ) =∫ ∞

−∞h(t′)Czu(τ − t′)dt′ [9.6]

We hebben nu een verband waaruit de invloed van de ruis is geelimineerd. De keuzevan het hulp proces z(t) zullen we illustreren aan twee veel voorkomende gevallen.

Systeem in open keten. In fig. 9.1 is een systeem gegeven in een open keten.Stel dat nu gegeven is dat de ruis n(t) ongecorreleerd is met de ingang u(t). In datgeval voldoet u(t) zelf aan de eisen die aan een hulpproces z(t) worden gesteld. Devergelijking voor de ingangs en uitgangsrelatie wordt dan:

Cuy(τ) =∫ ∞

−∞h(t′)Cuu(τ − t′)dt′ [9.7]

In de configuratie van fig. 9.1 is het vrij aannemelijk dat de ingang en de sto-ring verschillende oorzaken hebben en dus ongecorreleerd zijn. De hier gegevenuitdrukking, namelijk een convolutie in het tijdsdomein, is niet het meest handi-ge om het systeem te identificeren omdat de onbekende impulsresponsie h(t) ineen integraalvergelijking voorkomt. Handiger is om de overdrachtsfunctie H(ω)uit een algebraische vergelijking in het frequentiedomein te bepalen. De algemeneuitdrukking wordt dan:

H(ω) =Suy(ω)

Suu(ω)[9.8]

Voor een systeem in een open keten is behalve de overdrachtsfunktie ook de spectraledichtheid van de restruis te bepalen via de volgende stappen:

• Als u(t) en n(t) ongecorreleerd zijn dan geldt:

Sun(ω) = 0 en Sxn(ω) = 0 ∀ω [9.9]

• Als Sxn(ω) = 0 ∀ω dan geldt

Syy(ω) = Sxx(ω) + Snn(ω) [9.10]

• Uit de relaties Sux(ω) = H(ω)Suu(ω), Sxu(ω) = 1H(ω)

Sxx(ω) en Sxu(ω) =

Sux(−ω) = H(−ω)Suu(−ω) = H(−ω)Suu(ω) kan afgeleid worden dat:

Sxx(ω) = H(ω)H(−ω)Suu(ω) = |H(ω)|2Suu(ω) [9.11]

• Uit de combinatie van vgl. [9.10] en vgl. [9.11] volgt dan:

Snn(ω) = Syy(ω) − |H(ω)|2Suu(ω) [9.12]


-r(t)

e-

+-

e(t)g(t)

regelaar

-u(t)

h(t)

systeem

-y(t)

e+

+ ?

n(t)

-6

Figuur 9.2: Een lineair systeem met een verstoring op de uitgang in een configuratiemet terugkoppeling. Indien r(t) ongecorreleerd is met de ruis in de keten geldt:

H(ω) = Sry(ω)

Sru(ω).

Systeem in gesloten keten. In het tweede geval, dat afgebeeld is in fig. 9.2 zullende ingang u(t) van het systeem en de storing n(t) niet meer onderling ongecorreleerdkunnen zijn, omdat de verstoring via de terugkoppelbaan weer in de ingang van hetsysteem terechtkomt. Het is in deze configuratie wel aannemelijk dat de storing n(t)ongecorreleerd is met het van buiten de keten komende proces r(t). In dit geval zalz(t) = r(t) een bruikbare keuze zijn en dan geldt:

Cry(τ) =∫ ∞

−∞h(t′)Cru(τ − t′)dt′ [9.13]

Na transformatie van deze vergelijking naar het frequentiedomein krijgen we:

H(ω) =Sry(ω)

Sru(ω)[9.14]

We zijn dus inderdaad in staat de overdrachtsfunktie te bepalen van een systeemmet een ruisvormig ingang en een ruisvormige verstoring, mits we een stochastischproces kunnen vinden dat ongecorreleerd is met de storing, maar gecorreleerd metde ingang.

9.1.2 Bepaling van overdrachtsfunkties uit spectrale dichthe-den via directe relaties in het frequentiedomein.

De in vorige paragraaf afgeleide relaties kunnen ook op een meer directe manier inhet frequentiedomein worden afgeleid gebruikmakend van de eerder afgeleide gemod-ificeerde fouriertransformatie. Voor de relaties tussen de signalen van fig. 9.1 geldt,gebruikmakend van deze transformatie:

Y(ω) = H(ω)U(ω) + N(ω) [9.15]

Vermenigvuldigen met een willekeurig signaal Z(−ω) levert:

Z(−ω)Y(ω) = H(ω)Z(−ω)U(ω) + Z(−ω)N(ω) [9.16]

De verwachtingswaarde van deze uitdrukking levert de volgende relatie tussen spec-trale dichtheden:

Szy(ω) = H(ω)Szu(ω) + Szn(ω) [9.17]

9.1 Identificatie van lineaire systemen 135

In het algemeen kan gesteld worden dat uit een relatie tussen stochastische sig-nalen in het frequentiedomein, direct de relatie tussen spectrale dichtheden meteen te kiezen hulpproces volgt. Merk op dat voor de signalen de gemodificeerdefouriertransmformatie gebruikt is maar dat de overdrachtsfunctie de normale fouri-ergetransformeerde is van de impulsresponsie.

Een uitdrukking voor de autospectrale dichtheid van de ruis is nu ook eenvoudigaf te leiden. Uit de uitdrukking voor het proces Y(ω) volgt namelijk:

Syy(ω) = E{Y(−ω)Y(ω)} = E{[H(−ω)U(−ω) + N(−ω)][H(ω)U(ω) + N(ω)]

= |H(ω)|2Suu(ω) +H(−ω)Sun(ω) +H(ω)Snu(ω) + Snn(ω) [9.18]

Uit de symmetrieeigenschappen van spectrale dichtheden volgt dat Snu(ω) = Sun(−ω),zodat de middelste twee termen te schrijven zijn als:

H(−ω)Sun(ω) +H(ω)Sun(−ω) = H(−ω)Sun(ω) + [H(−ω)Sun(ω)]∗ [9.19]

waarbij het ∗-teken de toegevoegd complexe aangeeft. Aangezien voor de fouri-ergetransformeerde van reele functies in het tijdsdomein geldt dat het reele deelsymmetrisch is en het imaginaire deel keersymmetrisch, worden de reele delen bijelkaar opgeteld en de imaginaire delen vallen weg, zodat uiteindelijk geldt:

Syy(ω) = |H(ω)|2Suu(ω) + Snn(ω) + 2Re{H(ω)Sun(ω)} [9.20]

In het geval van een systeem in een open keten met Sun(ω) = 0 volgt dan de eerderafgeleide relatie van vgl. [9.12]. Merk op dat langs deze weg op een eenvoudigemanier het veel algemenere geval verkregen wordt door pas aan het eind het gevalvan ongecorreleerde ruis te beschouwen zoals dat als regel het geval is in een openketen. In een gesloten keten geldt altijd dat Sun(ω) 6= 0.

De gevonden uitdrukking voor Sun(ω) 6= 0 is eveneens via het tijdsdomein afte leiden, maar dit vraagt een aanzienlijke langere weg die hier achterwege gelatenzal worden. Wanneer het gaat om wat ingewikkelder relaties is een afleiding viahet tijdsdomein echter niet meer mogelijk en is de directe afleiding in het frequen-tiedomein de enige manier. De volgende paragraaf geeft hiervan een interessanteillustratie.

9.1.3 Schatten in een gesloten keten. Wat kan er mis gaan?

In de meeste boeken op het gebied van de stochastiek ligt het accent op het karak-teriseren van de signalen d.m.v. hun covariantiefunctie of autospectrale dichthedenen de toepassing van filtertechnieken. De toepassing voor systeemidentificatie komtmeestal maar summier aan de orde en als regel wordt dan uitgegaan van een systeemin een open keten, waarbij dan uiteraard verondersteld wordt dat de ruis ongecor-releerd is met het ingangsproces. Er wordt dan ook niet uitgegaan van het conceptvan een hulpproces z(t) dat aan bepaalde eisen moet voldoen, maar er wordt directuitgegaan van de relatie tussen de autospectrale dichtheid van het ingangsproces (of”de ingang”) en de kruisspectrale dichtheid tussen in- en uitgang als een vanzelf-sprekende zaak. Dit brengt velen in de verleiding om deze methode altijd toe te


-R(ω)

e-

+-

E(ω)H1(ω)

regelaar

-U(ω)

H2(ω)

systeem

-Y(ω)

e+

+ ?

N(ω)

-6

Figuur 9.3: Een systeem in een gesloten keten.

passen, ook voor systemen in een gesloten keten. In de praktijk is dit nu juist hetmeest voorkomende geval bij metingen aan systemen in bedrijf.

Zoals al opgemerkt wordt de juiste relatie gevonden m.b.v. de uitdukkingH(ω) =Sry(ω)

Sru(ω), waarbij r(t) een extern referentieproces is dat ongecorreleerd is met de ruis.

Voor deze situatie, zoals weergegeven in fig. 9.3 zullen we nu bezien wat het resultaatis van de toepassing van de open keten methode voor het identificeren in de geslotenketen.

Voor het berekenen van de uitkomst H ′2(ω) = Suy(ω)

Suu(ω)drukken we de signalen U(ω)

en Y(ω) in de keten uit in de twee van buiten komen de onderling ongecorreleerdesignalen R(ω) en N(ω). Dit resulteert in:

U(ω) =H1(ω)

1 +H1(ω)H2(ω)R(ω) − H1(ω)

1 +H1(ω)H2(ω)N(ω)

Y(ω) =H1(ω)H2(ω)

1 +H1(ω)H2(ω)R(ω) +

1

1 +H1(ω)H2(ω)N(ω)

Gemakshalve definieren we de grootheid T (ω) = 11+H1(ω)H2(ω)

. Er geldt dan:

Suu(ω) = E{U(−ω)U(ω)} = |H1(ω)T (ω)|2Srr(ω) + |H1(ω)T (ω)|2Suu(ω)

Suy(ω) = E{U(−ω)Y(ω)} = |H1(ω)T (ω)|2H2(ω)Srr(ω) −H1(−ω)|T (ω)|2Suu(ω)

waaruit volgt:

H ′2(ω) =

Suy(ω)

Suu(ω)=

|H1(ω)T (ω)|2H2(ω)Srr(ω) −H1(−ω)|T (ω)|2Suu(ω)

|H1(ω)T (ω)|2Srr(ω) + |H1(ω)T (ω)|2Suu(ω)[9.21]

Boven en onder delen door H1(−ω)|T (ω)|2 levert dan:

H ′2(ω) =

H1(ω)H2(ω)Srr(ω) − Snn(ω)

H1(ω)(Srr(ω) + Snn(ω))[9.22]

= H2(ω)Srr(ω)

Srr(ω) + Snn(ω)− 1

H1(ω)

Snn(ω)

Srr(ω) + Snn(ω)

Voor een nadere interpretatie bezien we het blokschema. Het verband tussen U(ω)en Y(ω) wordt gegeven door twee relaties, die in de voorwaartse tak via H2(ω) envia de terugkoppelbaan van Y(ω) naar U(ω) via −H1(ω), dus van U(ω) naar Y(ω) via− 1H1(ω)

. De invloed van de signalen r(t) en n(t) volgt uit het beschouwen van tweeuiterste gevallen:

Snn(ω) = 0 levert H ′2(ω) = H2(ω)

Srr(ω) = 0 levert H ′2ω) = − 1

H1(ω)

9.2 Identificatie van niet-lineaire systemen 137

-u(t)

NL -y(t)

- - ?lineairsysteem

x(t)e-+ -

e(t)

Figuur 9.4: Benadering van een niet-lineair systeem met een stochastische ingangdoor een lineair model.

M.a.w. het hangt af van de sterkte van de ruis t.o.v. de externe ingang of de uitkomstdichter bij H2(ω) of bij − 1

H1(ω)zal liggen. Meestal is de ruis in de keten onbekend.

Echter ook al zijn zowel de externe ingang en de ruis als de overdrachtsfunctie vande regelaar H1(ω) bekend, zodat H2(ω) gereconstrueerd zou kunnen worden, dannog is deze methode niet aan te bevelen.

9.2 Identificatie van niet-lineaire systemen

We beschouwen een constant niet-lineair systeem met een stationair stochastischproces u(t) aan de ingang. Dit systeem willen we benaderen door een lineair modelmet impulsresponsie h(t), zodanig dat het verschil e(t) tussen systeemuitgang y(t)en de modeluitgang x(t) minimaal is (fig. 9.4).

We schrijven het stochastische proces e(t) als funktie van de, bekend veronder-stelde, stochastische processen u(t) en y(t) en de onbekende impulsresponsie h(t),nl:

e(t) = y(t) − x(t) = y(t) −∫ ∞

−∞h(t1)u(t− t1)dt1 [9.23]

Als te minimaliseren grootheid kiezen we de variantie van e(t), dus E{e(t)2}. Hier-voor kunnen we schrijven:

E{e(t)2} = E{y(t)2} − 2E{y(t)∫ ∞

−∞h(t1)u(t− t1)dt1} + [9.24]

+ E{∫ ∞

−∞h(t1)u(t− t1)dt1

∫ ∞

−∞h(t2)u(t− t2)dt2}

= E{y(t)2} − 2∫ ∞

−∞h(t1)E{u(t− t1)y(t)}dt1

+∫ ∞

−∞

∫ ∞

−∞h(t1)h(t2)E{u(t− t1)u(t− t2)}dt1dt2

De beschouwde stochastische processen beschrijven variaties rond een werkpunt vanhet niet-lineaire systeem. De processen hebben daarom een gemiddelde waarde nulen de verwachtingswaarden leiden dan tot covarianties, dus:

V = Cee(0) [9.25]

= Cyy(0) − 2∫∞−∞ h(t1)Cuy(t1)dt2 +

∫∞−∞

∫∞−∞ h(t1)h(t2)Cuu(t1 − t2)dt1dt2


Het te minimaliseren criterium V is door het nemen van de verwachtingswaarde eendeterministische funktie geworden. Het probleem dat overblijft is nu het minimalis-eren van een criterium naar een funktie, in dit geval h(t), in plaats van naar eenconstante. De oplossing wordt gegeven door de variatierekening. Stel:

h(t) = h0(u, t) + εhe(t) [9.26]

Waarbij h0(u, t) de optimale funktie is en he(t) een willekeurige funktie. Voor deoptimale impulsresponsie moet gelden ε = 0. Ga nu het criterium minimaliserennaar ε. Invullen van vgl. [9.26] in vgl. [9.25] en differentieren naar ε levert:

∂V

∂ε= −2

∫ ∞

−∞he(t1)Cuy(t1)dt1 + 2ε

∫ ∞

−∞

∫ ∞

−∞he(t1)he(t2)Cuu(t1 − t2)dt1dt2

+∫ ∞

−∞

∫ ∞

−∞[h0(u, t1)he(t2) + h0(u, t2)he(t1)]Cuu(t1 − t2)dt1dt2

De oplossing moet gelden voor elke willekeurige funktie he(t) en voor ε = 0, dus:

−2∫ ∞

−∞he(t1)Cuy(t1)dt1 [9.27]

+∫∞−∞

∫∞−∞[h0(u, t1)he(t2) + h0(u, t2)he(t1)]Cuu(t1 − t2)dt1dt2 = 0

Omdat Cuu(t1 − t2) = Cuu(t2 − t1), leveren beide termen onder het dubbele inter-graalteken dezelfde uitkomst. Deze uitdrukking is daarom ook te schrijven als:

∫ ∞

−∞he(t1)[

∫ ∞

−∞h0(u, t2)Cuu(t1 − t2)dt2 − Cuy(t1)]dt1 = 0 [9.28]

Dit resultaat moet gelden voor iedere willekeurige funktie he(t). Dit kan alleen alsde uitdrukking tussen de rechte haken nul is, dus:

∫ ∞

−∞h0(u, t2)Cuu(t1 − t2)dt2 − Cuy(t1) = 0 voor −∞ ≤ t1 ≤ ∞ [9.29]

Noem t1 = τ en t2 = t′, dan is dit ook te schrijven als:

Cuy(τ) =∫ ∞

−∞h0(u, t

′)Cuu(τ − t′)dt′ voor −∞ ≤ τ ≤ ∞ [9.30]

Dit is precies de uitdrukking die gevonden werd in par 9.1 als oplossing voor hetelimineren van ruis bij het identificeren van een lineair systeem in een open keten.

Voor de waarde van h0(u, t′) die aan bovenstaande integraalvergelijking voldoet

is het mogelijk de covariantiefunktie Cue(τ) te berekenen. Uit e(t) = y(t) − x(t)volgt:

Cue(τ) = Cuy(τ) − Cux(τ) [9.31]

Verder geldt x(t) =∫∞−∞ h0(u, t

′)u(t− t′)dt′ en dus

Cux(τ) = E{u(t)x(t+ τ)} =∫ ∞

−∞h0(u, t

′)E{u(t)u(t+ τ)}dt [9.32]

=∫ ∞

−∞h0(u, t

′)Cuu(τ − t′)dt′ = Cuy(τ)


-u(t)

NL -y(t)

- - ?

n(t)

lineairsysteem

x(t)e++ -

y(t)

Figuur 9.5: Vervangingsschema voor een niet-lineair systeem met een stochastischproces als ingang.

zodat

Cue(τ) = Cuy(τ) − Cux(τ) = 0 [9.33]

Samenvattend: Een niet lineair systeem met een stochastisch proces op deingang (Fig. 9.4) kan worden beschreven door middel van een combinatie van eenlineair model en een stochastisch proces n(t), dat wordt opgeteld bij de uitgang vanhet lineaire model (fig 9.5), zodanig dat weer het stochastisch proces y(t) van deuitgang van het oorspronkelijke niet-lineaire systeem ontstaat. In principe bestaater een oneindig aantal mogelijke combinaties van een lineair model en een restruisn(t) dat de uitgang y(t) kan opleveren bij een gegeven u(t). Uit dit oneindig aantalmogelijkheden wordt echter een unieke combinatie gekozen, namelijk dat lineairemodel met impulsresponsie h0(u, t), dat er voor zorgt dat de variantie van n(t)minimaal is. Deze restruis blijkt dan ongecorreleerd te zijn met u(t). Deze optimaleimpulsresponsie h0(u, t) is de oplossing van een integraalvergelijking. De beschrijvingvan het lineaire systeem is het gemakkelijkst te vinden in het frequentiedomein alsoplossing van de vergelijking:

Suy(ω) = H(u, ω)Suu(ω) ofwel H(u, ω) = Suy(ω)

Suu(ω)[9.34]

De overdrachtsfunctie H(u, ω) is niet alleen een funktie van de frequentie ω maarook van het ingangsproces u(t), daarom duiden we hem aan met H(u, ω) i.p.v.H(ω). Deze functie staat bekend als de beschrijvende functie van het niet-lineairesysteem voor stochastische ingangen. Uit het feit dat Sun(ω) = 0, volgt volgensvgl. [9.12] dat het spectrum van de restruis n(t) te bepalen is uit:

Snn(ω) = Syy(ω) − |H(u, ω)|2Suu(ω) [9.35]

We kunnen nu een vergelijking maken met de beschrijvende funktie, zoals voordeterministische signalen is bepaald in par 2.4. In beide gevallen zijn we volgensdezelfde gedachtengang te werk gegaan. Minimalisatie van het verschil tussen hetuitgangssignaal van het niet-lineaire systeem en het uitgangssignaal van het lineairemodel met keuze van een kwadratische criterium. Het restsignaal dat overblijftblijkt dan geen lineair verband meer te hebben met het ingangssignaal. Bij eensinusvormig ingangssignaal bestaat het restsignaal dan uit hogere harmonischen.

De hier gegeven beschouwing geldt voor een niet-lineair systeem in een openketen. Wanneer het niet-lineaire systeem zich in een gesloten keten bevindt, geldende hiervoor gegeven relaties niet meer. Af te leiden valt dat dan gebruik gemaaktmoet worden van de kruisspectra met het externe ingangssignaal, dus H(u, ω) =Sry(ω)

Sru(ω), net zoals bij een lineair systeem.


-u(t)

h(t) -y(t)

e+

+ ?

n(t)

-

Figuur 9.6: Systeem in open keten.

9.2.1 Coherentie

Voor een nadere interpretatie van de coherentiefunctie zoals gedefinieerd in het vorigehoofdstuk beschouwen we het systeem van fig. 9.6 met Sun(ω) = 0. In een dergelijksysteem is men vaak geinteresseerd in het aandeel dat het ruisvrije gedeelte vanhet uitgangssignaal heeft in het gehele uitgangssignaal, d.w.z. in de verhoudingSyy(ω)−Snn(ω)

Syy(ω)= Sxx(ω)

Syy(ω).

Aangezien Sxx(ω) niet direkt te bepalen is, wordt deze grootheid uitgedrukt in,als regel wel te bepalen, spectrale dichtheden en wel als volgt:

Sxx(ω)

Syy(ω)=

|H(ω)|2Suu(ω)

Syy(ω)[9.36]

Voor H(ω) kunnen we invullen: H(ω) = Suy(ω)

Suu(ω), zodat |H(ω)|2 = |Suy(ω)|2

S2uu(ω)

. Ingevuldlevert dit:

Sxx(ω)

Syy(ω)=

|Suy(ω)|2Suu(ω)Syy(ω)

= Γ2uy(ω) [9.37]

In dit geval geeft de coherentie de mate van lineaire samenhang tussen ingangs-en uitgangssignaal van een systeem, ongeacht de vorm van de tussenliggende over-drachtsfunktie. Zoals reeds opgemerkt ligt de coherentie altijd tussen 0 en 1. In hetgeval x(t) = 0, dus y(t) = n(t) geldt dat Γuy(ω) = 0. In het geval dat n(t) = 0,dus y(t) = x(t) geldt Γuy(ω) = 1. Uiteraard kan men ook de coherentie tussen tweesignalen bepalen die niet op te vatten zijn als een ingang en een uitgang van eensysteem. Ze kunnen bijvoorbeeld beide een gevolg zijn van een gemeenschappelijkeoorzaak.

Recapitulatie.In dit hoofdstuk is behandeld hoe systemen met stochastische ingangssignalen en,eveneens stochastische, stoorsignalen in principe geıdentificeerd kunnen worden.Wanneer men in staat is een hulpsignaal te vinden dat gecorreleerd is met de ingangvan het systeem, maar ongecorreleerd met het daarop werkende stoorsignaal, danzijn hiervoor relaties af te leiden in het tijdsdomein. Deze relaties worden gekarak-teriseerd door convolutie-integralen die het verband geven tussen impulsrespon-sies en covariantiefunkties. Door deze relaties te transformeren naar het frequen-tiedomein ontstaan algebraısche vergelijkingen die veel gemakkelijker te hanterenzijn. Deze geven het verband tussen overdrachtsfunkties en spectrale dichtheden.

Wanneer het te identificeren systeem deel uitmaakt van een groter geheel, wordende vergelijkingen in het tijdsdomein al gauw ingewikkeld en ondoorzichtig. Trans-formeren van stochastische processen naar het frequentiedomein is mogelijk door het


gebruik van de in het vorige hoofdstuk geıtroduceerde gemodificeerde fouriertrans-formatie. Hierdoor kan in het frequentiedomein de behandeling beperkt blijven totuitsluitend algebraısche vergelijkingen.

Hoofdstuk 10

Schatten van spectrale dichthedenen overdrachtsfunkties

Zoals we tot nog toe gezien hebben, kunnen stochastische processen gekarakteriseerdworden door deterministische grootheden, zoals covariantiefunkties in het tijds-domein en spectrale dichtheden in het frequentiedomein. Om dit soort groothedente bepalen, moeten we een tweedimensionale verdelingsdichtheidsfunktie kennen, diebovendien nog een funktie is van de tijd. In de praktijk kennen we die nooit. Hetenige wat we kunnen doen is een realisering van een stochastisch proces meten overeen eindige tijd. Als we veronderstellen dat het beschouwde proces ergodisch is,d.w.z. dat de ene gemeten realisering representatief is voor het stochastische pro-ces als geheel, mogen we de ensemblemiddeling over de verdelingsdichtheidsfunktievervangen door een middeling in de tijd. We maken een schatting op grond vaneen realisering, die we bovendien slechts over een eindige tijd meten. Een dergelijkeschatting zal altijd afwijken van de echte funktie. Deze afwijkingen kunnen vaak vrijgroot zijn. Om op deze wijze verkregen schattingen te kunnen beoordelen, zullen weiets moeten weten over de afwijkingen ten gevolge van de gevolgde schattingsproce-dure. Dit betreft dan zowel de systematische afwijkingen (de onzuiverheid/bias) alsde willekeurige afwijkingen (de variantie). In dit hoofdstuk zullen dan ook enkeleschatters en hun eigenschappen besproken worden.

Achtereenvolgens zal eerst in par. 10.1 het schatten van funkties in het ti-jdsdomein worden besproken namelijk de gemiddelde produktfunktie, de covari-antiefunktie en de correlatiefunktie. Vervolgens zal het schatten van spectraledichtheden worden behandeld en wel via twee wegen, namelijk via een schattingvan de covariantiefunktie (par. 10.2.1) en via direkte transformatie van gemeten sig-nalen (par. 10.2.3). Behalve met het feit dat een schatter slechts op een realiseringgebaseerd is, en dan nog maar over een eindige tijd, hebben we ook te maken metbemonsterde signalen. De geschatte funkties worden voor een discreet aantal puntenin het tijdsdomein of in het frequentiedomein berekend. De presentatie in de vormvan figuren op beeldscherm is als regel weer continu.

144 10 Schatten van spectrale dichtheden en overdrachtsfunkties

10.1 Schatten van gemiddelde produkt-, covarian-

tie- en correlatiefunkties

We gaan uit van twee stationaire ergodische stochastische processen x(t) en y(t)waarvan we een realisering hebben gemeten over een interval 0 ≤ t ≤ T . Aangeziende schattingen altijd uitgevoerd zullen worden met behulp van een computer, wordtverder gewerkt met bemonsterde signalen, x(k) en y(k), gemeten over een intervalter lengte T = N∆t.

10.1.1 Uitdrukkingen voor de schatters

Schatter voor de gemiddelde produktfunktie.Als schatter voor de gemiddelde kruisproduktfunktie Rxy(l) wordt het tijdsgemid-delde van het kruisprodukt x(k)y(k+ l) genomen. Bij een tijdverschuiving l wordende signalen gemiddeld over een integratieinterval N − |l|, (zie par. 7.5). Bij dezeschattingsformules valt op te merken, dat voor het geval dat |l| groot is t.o.v. N ,d.w.z. N − |l| � N de middeling nog maar over een betrekkelijk klein aantalmonsters van het signaal plaats vindt en dus geen erg betrouwbare resultaten zalopleveren. Daarom wordt de uitkomst van de sommatie veelal door N gedeeld i.p.v.door N − |l|. Voor kleine waarden van |l| maakt dit nauwelijks verschil. Voor grotewaarden van |l| zal de produktfunktie als regel naar nul gaan en ook dan is de sys-tematische fout dus gering. De variantie daarentegen zal dan veel kleiner worden.Uiteindelijk levert de formule bij deling door N dan ook de kleinste afwijking. Dit iseen illustratie van het feit, dat zuiverheid zonder meer niet altijd de beste schatteroplevert in de zin van de kleinste totale gemiddelde fout ten gevolge van de combi-natie van onzuiverheid en variantie. Indien we uit gaan van de wens om een schattingte krijgen met een kleine variantie leidt dit tot de volgende schattingsformules voorde gediskretiseerde gemiddelde produktfunktie:

RNxy(l) =

1

N

N−|l|∑

k=1

x(k)y(k + l) voor |l| < N [10.1]

Met behulp van deze schatter kan de gemiddelde kruisproduktfunktie Rxy(l) wordenbepaald voor waarden van l in het gebied |l| < N .

Schatter voor de covariantiefunktie.In de praktijk is men als regel meer geınteresseerd in de covariantiefunktie dan in degemiddelde produktfunktie omdat in de regeltechniek voornamelijk gekeken wordtnaar fluctuaties ten opzichte van een bepaalde gemiddelde waarde. Uitgaande vande schatter voor de gemiddelde kruisproduktfunktie kan men voor de kruiscovari-antiefunktie de volgende schatter definieren:

CNxy(l) =

1

N

N−|l|∑

k=1

x′(k)y′(k + l) voor |l| < N [10.2]

waarbij x′(k) = x(k) − µx en µx = 1N

∑Nk=1 x(k).

10.1 Schatten van gemiddelde produkt-, covariantie- en correlatiefunkties 145

In de praktijk betekent dit dat men de gemiddelde produktfunktie schat van sig-nalen waarvan men eerst een schatting van de gemiddelde waarde heeft afgetrokken.In het vervolg van dit hoofdstuk zullen we dan ook veronderstellen dat we steeds temaken hebben met signalen waarvan de gemiddelde waarde nul is, zodat de covari-antiefunktie gelijk is aan de gemiddelde produktfunktie.

De schatters voor de auto- en kruiscovariantiefunktie worden dan dus:

CNxx(l) =

1

N

N−|l|∑

k=1

x(k)x(k + l) voor |l| < N [10.3]

CNxy(l) =

1

N

N−|l|∑

k=1

x(k)y(k + l)

Aangezien in de meeste standaardpakketten voor signaalverwerking wordt uitgegaanvan deling door N zullen we in het vervolg, tenzij dit uitdrukkelijk anders vermeldwordt, van deze schatters uitgaan.

Voor de schatter van de kruiscorrelatiefunktie gebruiken we de relatie:

KNxy(l) =

CNxy(l)

√

CNxx(0)C

Nyy(0)

[10.4]

welke relatie voor de autocorrelatiefunktie overgaat in:

KNxx(l) =

CNxx(k)

CNxx(0)

[10.5]

10.1.2 Eigenschappen van de beschouwde schatters

Om iets te kunnen zeggen over de bruikbaarheid van een schatter is het van belangte weten of hij al dan niet zuiver of asymptotisch raak is. Voor de hier gedefinieerdeschatters van de covariantiefunktie en correlatiefunktie zullen we nu de eigenschap-pen bekijken.

Covariantiefunkte. Om te onderzoeken of de schatter voor de covariantiefunk-tie zuiver is kijken we naar de verwachtingswaarde van de schatter. Voor tweesignalen met gemiddelde waarde nul geldt:

E{CNxy(l)} =

1

N

N−|l|∑

k=1

E{x(k)y(k + l)} =1

N

N−l∑

k=1

Cxy(l) =N − |l|N

Cxy(l)

De schatter is dus niet zuiver. Echter voor kleine waarden van l t.o.v. N is determ N−|l|

Npraktisch gelijk aan 1, voor grote waarden van l gaat voor stochastische

processen waar geen deterministische funktie in voorkomt de waarde van Cxy(l) naarnul. In beide gevallen is de onzuiverheid te verwaarlozen. Overigens is de schatterwel asymptotisch zuiver: limN→∞E{CN

xy(l)} = Cxy(l). De schatter waarbij niet doorN maar door N − |l| wordt gedeeld is echter wel zuiver.


Om te kunnen beoordelen of de schatter ook asymptotisch raak is kijken wenaar de variantie. Voor de variantie van de schatter van de covariantiefunktie valtaf te leiden uit Jenkins & Watts (1969):

V ar{CNxy(l)} =

1

N

N−|l|∑

k=−(N−|l|)[Cxx(k)Cyy(k) + Cxy(l + k)Cxy(l − k)] [10.6]

Bij de afleiding is onder andere verondersteld dat de stochastische processen nor-maal verdeeld zijn. Wanneer x(t) en y(t) geen periodieke componenten bevatten,maar echt ruis zijn, geldt dat de covariantiefunkties naar nul gaan voor grote ver-schuivingen. Dit betekent weer, dat in het limietgeval N → ∞ de sommatie altijdeen eindige waarde oplevert, bijv. a. Er geldt dan dat voor grote waarden van Nde variantie proportioneel is met 1

N:

limN→∞

V ar{CNxy(l)} ≈ lim

N→∞

a

N= 0 [10.7]

De uitdrukking wordt dus nul voorN → ∞. De schatter is dus behalve asymptotischzuiver ook asymptotisch raak.

Uitgaande van de formule voor de variantie van een kruiscovariantiefunktie is dievan de autocovariantiefunktie af te leiden door te stellen x(t) = y(t). Er volgtdan:

V ar{CNxx(l)} =

1

N

N−|l|∑

k=−(N−|l|)[Cxx(k)

2 + Cxx(l + k)Cxx(l − k)] [10.8]

Voor de variantie van zowel de kruiscovariantiefunktie als de autocovariantiefunk-tie valt verder nog het volgende op te merken. Voor grote waarden van l gaande covariantiefunkties van stochastische processen waarin geen periodieke compo-nenten voorkomen naar 0. Dit betekent dat voor grote waarden van l de term1N

∑N−|l|k=−(N−|l|) Cxy(l+k)Cxy(l−k) in de schatter voor de kruiscovariantiefunktie eve-

neens 0 wordt. Dit leidt dan tot een sterk vereenvoudigde uitdrukking, namelijk:

V ar{CNxy(l)} =

1

N

N−|l|∑

k=−(N−|l|)Cxx(k)Cyy(k) voor l � 0 [10.9]

De uitdrukking is nu geen funktie meer van l. Voor het geval dat Cxy(l) = 0voor alle waarden van l, ontstaat dezelfde uitdrukking voor de variantie maar nuvoor het hele gebied van de funktie. De uitdrukking voor de variantie van de au-tocovariantiefunktie is voor grote waarden van l op overeenkomstige manier tevereenvoudigen tot:

V ar{CNxx(l)} ≈ 1

N

N−|l|∑

k=−(N−|l|)Cxx(k)

2 voor l � 0 [10.10]

10.2 Schatten van spectrale dichtheden 147

Correlatiefunktie. Voor de verwachtingswaarde van de schatter van de corre-latiefunktie geldt:

E{KNxy(l)} = E

CNxy(l)

√

CNxx(0)C

Nyy(0)

[10.11]

Deze uitdrukking is vrij moeilijk uit te werken, maar via benaderingen, gebaseerdop de veronderstelling dat de fouten in de schatters van de covariantiefunkties be-trekkelijk klein zijn, is de uitdrukking voor het geval van deling door N − |l| tevereenvoudigen tot een gedaante die leidt tot de gewenste eigenschap van zuiver-heid. Voor het geval van deling door N geldt dan analoog aan de schatter van decovariantiefunktie dat

E{KNxy(l)} ≈ N − |l|

NKxy(l) [10.12]

Voor de variantie van de schatter van de correlatiefunktie is eveneens een benader-ing te geven. Deze is echter een stuk ingewikkelder. Zie hiervoor Priestley (1981) ofJenkins en Watts (1969).

Voor het geval dat Kxy(l) = 0 voor alle waarden van l gaat deze uitdrukkingechter over in dezelfde eenvoudige vorm als die van de covariantiefunktie, nl:

V ar{KNxy(l)} =

1

N

N−|l|∑

k=−(N−|l|)Kxx(k)Kyy(k) [10.13]

Deze uitdrukking is van belang als men wil onderzoeken of twee stochastische pro-cessen al of niet gecorreleerd zijn.

Voorbeeld

Om enig idee te geven omtrent het verloop van de variantie bij een covariantiefunktie

en een correlatiefunktie zijn deze grootheden berekend voor een eenvoudig voorbeeld van

eerste orde ruis. Fig. 10.1 geeft de autocovariantie en de variantie van de schatter van

de autocovariantie- en autocorrelatiefunktie voor een gegeven observatietijd. In de on-

derste plaatjes is de autocovariantie- en autocorrelatiefunktie nogmaals getekend, met

daaromheen de waarden plus en min de standaarddeviatie. Tevens zijn hierin enkele

uitkomsten van een schatting getekend.

10.2 Schatten van spectrale dichtheden

De klassieke methode voor het schatten van spectrale dichtheden gaat uit van dedefinitie van de spectrale dichtheid als de fouriergetransformeerde van de covari-antiefunktie. Voor het schatten van de spectrale dichtheid werd dan ook eerst eencovariantiefunktie geschat op de in de vorige paragraaf beschreven wijze. Hierbijwerd de covariantiefunktie niet over het maximale bereik van |l| < N geschat, omdatde covariantiefunktie als regel al praktisch 0 is bij waarden van |l| ≈ N . Ten gevolgevan de optredende variantie gaat de schatter echter nog niet naar 0. Vandaar dat


Figuur 10.1:

a) De echte autocovariantiefunktie (links) van een laagfrequente ruis (rechts).b) De variantie van de schatter van de autocovariantie- en autocorrelatiefuntiec) De autocovariantie- en autocorrelatiefuntie met grenzen van 1x de standaardevi-atie en de uitkomsten van 4 schattingen voor een bemonsterfrequentie van 2π rad/s(1 Hz) en een observatietijd van 512 s.

het niet zinvol is om de staarten van de covariantiefunktie mee te transformeren.Immers, de informatie-inhoud is gering, maar er wordt wel een grote hoeveelheidvariantie naar het frequentiedomein getransformeerd. Een bijkomend voordeel vanhet niet meenemen van de staarten in de schatting van de covariantiefunktie wasde beperking in de rekentijd die, met de in de 60-er en 70-er jaren beschikbarecomputers, aanzienlijk was.

Het niet meenemen van de staarten heeft echter ook wel een nadeel. Als regel iseen covariantiefunktie nog niet exact 0 voor eindige waarden voor de tijdverschuiv-ing en een afgehakte staart kan daardoor een zekere vervorming opleveren in hetfrequentiedomein. De getransformeerde grootheid is in feite te beschouwen als het


produkt van een funktie met staarten en een vensterfunktie die 0 is voorM < |l| < Nen ongelijk aan 0 voor |l| < M . Dit levert dan een zekere vervorming op van dealdus geschatte spectrale dichtheid. Om deze vervorming zo klein mogelijk te makenzijn dan ook verschillende funkties bedacht om als venster te gebruiken.

De moderne methode voor het schatten van spectrale dichtheden gaat uit van debeschrijving van de spectrale dichtheid als een produkt van fouriergetransformeerdesignalen. Dit levert hetzelfde beeld van de spectrale dichtheid op als bij transformatievan de covariantiefunktie die bepaald is over de maximaal mogelijke lengte van |l| <N , dus een schatter met een grote variantie. Om de variantie te verkleinen wordt nuuitgemiddeld over een aantal naast elkaar gelegen frequentie-bandjes. De variantiewordt dan verkleind ten koste van het scheidend vermogen. Het uitmiddelen inhet frequentiedomein is in feite de tegenhanger van het toepassen van een vensterin het tijdsdomein. Een voordeel is echter dat nu vervormingen te vermijden zijn.Deze methode werkt bovendien aanzienlijk sneller, dankzij de toepassing van de FastFourier Transform.

Hoewel aanbevolen wordt om altijd de methode via transformatie van signalen tegebruiken, zal toch eerst de methode via de covariantiemethode besproken worden.Redenen zijn:

• Het geeft inzicht in de relaties tussen bewerkingen in tijdsdomein en frequen-tiedomein.

• De methode wordt door sommigen nog steeds gebruikt, hetgeen zijn weerslagvindt niet alleen in de literatuur, maar ook in de signaalverwerkingspakketten.

10.2.1 Schatten van spectrale dichtheden via de covariantiefunk-tie

Voor het schatten van een kruispectrale dichtheid gaan we uit van twee signalenx(k) en y(k) gemeten over een tijd T = N∆t met een bemonsterfrequentie ωs = 2π

∆t

[rad/s]. Uit deze signalen bepalen we een schatter CNxy(l) voor |l| < N , dus over de

maximaal haalbare tijd volgens vergelijking [10.4]. Fouriertransformatie van dezefunktie levert een schatting voor de spectrale dichtheid over een frequentiegebiedvan [−ωs

2, ωs

2] = [− π

∆t, π

∆t] [rad/s], verdeeld over 2N frequentiebandjes ter breedte

∆ω = 2π2N∆t

= πT

[rad/s]. Omdat het reele deel van SNxy(n) symmetrisch is en het im-maginaire deel keersymmetrische, zit alle informatie in het frequentiegebied [0, ωs

2].

We hebben nu dus een schatting SNxy(n) gekregen voor 0 ≤ n < N . Uitgaande van2N reele getallen van de twee signalen hebben we nu N complexe getallen gekregenvoor de schatter van de spectrale dichtheid. Deze schatter heeft een gemiddeldewaarde en een zekere variantie. Deze variantie is vrij groot, omdat er in wezen geenmiddeling heeft plaatsgevonden. Stel dat we nu de observatietijd 4 maal zo grootmaken, dan kunnen we een covariantiefunktie schatten voor −4N < l < 4N . Hieruitkunnen we dan weer een spectrale dichtheid schatten. Het frequentiegebied is nogsteeds [0, ωs

2], maar de extra informatie is tot uiting gekomen in een toename van het


Figuur 10.2: Linksboven: twee signalen gemeten over 128 en 512 s. Rechtsboven: deechte covariantiefunkties. Onder: geschatte covariantiefunkties en spectrale dichthe-den over T=128 en over T=512s.

scheidend vermogen langs de frequentieas. Er zijn nu namelijk 4N frequentieband-jes ter breedte ∆ω = π

4N∆t= π

4T. De variantie van de schatter is niet veranderd

(Fig. 10.2).

Verkleinen van de variantie m.b.v. een vensterOm de variantie te verkleinen gaan we terug naar de covariantiefunktie. We gaan erhierbij van uit dat deze geen periodieke componenten bevat, dus dat het stochastischproces alleen ruis bevat. De informatie zit dan bij de kleine waarden van de tijdver-


Figuur 10.3: Links een afgebroken covariantiefunktie, gezien als produkt van eenniet afgebroken funktie met een venster als weegfunktie. Rechts een schatting vanspectrale dichtheden via de afgebroken covariantiefunktie voor T=128 (onveranderd)en T=512.

schuiving. De staarten gaan altijd naar 0. De staarten dragen dan ook voornamelijkbij in de vorm van variantie, maar leveren weinig informatie. Om die redenen wordtde schatting van de covariantie dan ook beperkt tot een gebied |l| < M net M � N .Fouriertransformatie levert nu M frequentiebandjes ter breedte ∆ω = π

M∆t= π

T1met

T1 = M∆t � T . Het scheidend vermogen langs de frequentieas is afgenomen, om-dat de breedte van een frequentiebandje met een factor N

Mis toegenomen, maar de

variantie is nu sterk verkleind. Wiskundig gezien is deze operatie op te vatten als detransformatie van het produkt van de over de volle lengte geschatte covariantie eneen z.g. venster. Dit venster w(l) is een funktie met de eigenschap: w(l) = 0 voor|l| > M en w(l) 6= 0 voor |l| ≤M .

Het vergroten van de observatietijd bij gelijkblijvende vensterbreedte heeft nuwel tot gevolg dat de variantie van de schatter van de spectrale dichtheid verkleindwordt. Vergroting van de observatietijd van de signalen van N naar 4N , betekendnu dat de variantie van de schatter van de covariantiefunktie binnen het vensterook met een factor 4 omlaag gaat. In het frequentiedomein blijft de breedte vande frequentiebandjes hetzelfde, maar de variantie wordt ook hier met een factor 4verkleind, en de standaarddeviatie dus met een factor 2. Fig. 10.2 tot 10.3 geeft eenillustratie van de hier besproken effecten.

10.2.2 Transformatievensters (windowing)

Zoals in het voorgaande is opgemerkt, betekent het toepassen van een venster datde schatter in het frequentiedomein op te vatten is als de fouriergetransformeerdevan het produkt van twee funkties, nl. van een schatter met veel variantie en eenvenster:

S ′xy(ω) = F{CN

xy(l)w(l)} = ∆t∞∑

l=−∞CNxy(l)w(l)e−jωl∆t [10.14]


Hierin is ω nog een continue variabele. Er geldt dan:

S ′xy(ω) = SNxy(ω) ∗W (ω) =

1

2π

∫ ∞

−∞SNxy(ω

′)W (ω − ω′)dω′ [10.15]

Door het bemonsteren in het tijdsdomein is W (ω) een periodieke functie gewordenin het frequentiedomein met periode ωs = 2π

2N∆t= π

N∆t. Zoals in paragraaf 3.2

is afgeleid worden de waarden van W (ω) voor frequenties |ω| > ωs

2als het ware

teruggevouwen naar een lagere frequentie in het gebied |ω| < ωs

2. Dit heeft tot

gevolg dat een andere functie W ′(ω) ontstaat en de convolutieintegraal verandertdaardoor in:

S ′xy(ω) =

1

2π

∫ ωs2

−ωs2

SNxy(ω − ω′)W ′(ω′)dω′ [10.16]

De radiaalfrequentie ω is hier nog een continue variabele. In de praktijk wordtgewerkt met de discrete fouriertransformatie met toepassing van de FFT -routine,zodat de integraal overgaat in een sommatie over discrete frequenties n∆ω met∆ω = 2π

2N∆t= π

N∆t:

S ′xy(n∆ω) =

1

2N∆t

N∑

p=−NSNxy((n− p)∆ω)W ′(p∆ω) [10.17]

Voor de bepaling van S ′xy(n∆ω) worden daardoor ook de bijdragen van SNxy(n∆ω)

meegewogen voor alle andere frequenties. Zoals echter zal blijken is de vorm van deweegfuncties zodanig dat voornamelijk de waarden in de buurt van de frequentiesn∆ω worden meegewogen. Anders gezegd het venster heeft een middelend effect overde frequenties rond de waarde ω = n∆ω. Dit is echter een gewenst uitmiddelendeffect waardoor de variantie wordt verkleind. Als neveneffect kan het venster echterook een vervorming teweeg brengen. Aard en omvang van deze vervorming zullenzowel van de vorm van het venster afhangen als van de vorm van het spectrum.

Om te beginnen zullen enkele vensters worden behandeld. Daarna zal de invloedvan de vorm van het spectrum worden onderzocht.

Het rechthoekig vensterDit is het vensterpaar dat ontstaat door simpelweg afhakken van de staarten van decovariantiefuntie zoals behandeld in de vorige paragraaf. Voor een continu vensterin tijds- en frequentiedomein geldt het volgende transformatiepaar:

ωa(t) = 1 voor |t| < T1

= 0.5 voor |t| = T1

= 0 voor |t| > T1

[10.18]

Wa(ω) = 2T1sin(ωT1)

ωT1

[10.19]

Deze funktie staat bekend als de sinc-functie en bestaat uit een piek met een aantaluitdempende zogenaamde zijlobben.


−10 −5 0 5 10−0.2

0

0.2

0.4

0.6

0.8

1

wa(t)

−10 −5 0 5 10

0

5

10

Wa(om)=F{wa(t)}

T1=M*dt=4 (s)

−10 −5 0 5 10−0.2

0

0.2

0.4

0.6

0.8

1

wa(i)

tijd (s)−10 −5 0 5 10

0

5

10

Wa(om)=F{wa(i)}

frequentie (rad/s)

dt=1 [s], dus oms=2pi (rad/s)

Figuur 10.4: Links: Het rechthoekig venster in tijds- en frequentiedomein, zowelcontinu als discreet. Rechts: verschil tussen continu en discreet.

Voor een in het tijdsdomein bemonsterde rechthoek ontstaat in het frequen-tiedomein een periodieke funktie, waarin de staart van de sinc-funcktie als het warein opgevouwen toestand verpakt zit, waardoor de zijlobben hoger geworden zijn.Het in de tijd bemonsterde venster ziet er als volgt uit:

wa(l) = 1 voor |l| ≤M= 0 voor |l| > M

[10.20]

Fouriertransformatie levert de volgende continue functie in het frequentiedomein:

Wa(ω) =sin((M + 1

2)ω∆t)

sin(12ω∆t)

[10.21]

Zoals te zien is in fig. 10.4 wijkt deze functie in het van belang zijnde frequentiegebiedniet veel af van de sinc-functie. Bij gebruik van de discrete fouriertransformatiewordt deze functie ook in het frequentiedomein bemonsterd, dus met ω = 2πn

2M∆t

wordt dit:

Wa(n) =sin(2M+1

Mπn)

sin(πnM

[10.22]

Het effect in het frequentiedomein van het vergroten van M is te zien in fig. 10.5.De figuur laat zien dat een vergroting van de vensterbreedte tot gevolg heeft dat hetfrequentiegebied dat meegewogen wordt in de convolutieintegraal voor de bereken-ing van SNxy(ω) smaller wordt. In een grove benadering kan men tevens stellen dat

voornamelijk de frequenties in een band ter breedte 14πM

worden meegewogen, zijhet niet overal even zwaar. In principe wordt echter het gehele spectrum meege-wogen door de uitslingerende staarten. Er geldt dat voor M → ∞ het venster W (ω)convergeert naar een diracfunktie. Dit illustreert het feit dat dan een oneindig fijne


Figuur 10.5: Het effect in het frequentiedomein van het vergroten van de venster-breedte in het tijdsdomein voor het rechthoekig venster.

verdeling langs de frequentieas ontstaat.

Het driehoekige vensterVoor dit venster, dat ook bekend staat als het Bartlett window, geldt in hettijdsdomein:

wb(l) = 1 − |l|M

voor |l| ≤M= 0 voor |l| > M

[10.23]

De bijbehorende afbeelding in het frequentiedomein wordt gegeven door:

Wb(n) =1

M

(

sin(π2n)

sin( πn2M

)

)2

[10.24]

In fig. 10.6 is dit venster afgebeeld. Ook hier geldt dat Wb(ω) convergeert naar eendiracpuls als M naar ∞ gaat.

Het cosinusvensterDit venster, dat ook bekend staat onder de namen Hamming window en Tukeywindow, is in het tijdsdomein gedefinieerd als:

wc(l) = 0.5(1 + cos πlM

) voor |l| ≤M= 0 voor |l| > M

[10.25]

In het frequentiedomein wordt het venster beschreven door:

Wc(n) =1

4Wa(n− 1) +

1

2Wa(n) +

1

4Wa(n+ 1) [10.26]


Figuur 10.6: Overzicht van de verschillende vensters in tijds- en freqentie domein.

met Wa(n) zoals gegeven in vergelijking [10.22]. Van deze eigenschap kan gebruikgemaakt worden bij het berekenen van een met behulp van een cosinusvenstergeschat spectrum. Eerst wordt dan getransformeerd met een rechthoekig venster.Vervolgens wordt in het frequentiedomein een gewogen middeling over drie puntenuitgevoerd. Het venster is afgebeeld in fig. 10.6. Evenals bij de twee andere venstersconvergeert W (ω) naar een diracfunktie als M naar oneindig gaat.

Een nadere vergelijking van de vorm toont, dat alle drie vensters in het frequen-tiegebied een hoofdband hebben met uitslingerende zijlobben. Voor het rechthoekigevenster zijn deze zijlobben vrij hoog en dempen maar langzaam uit bij toenemendefrequentie. Uit een nadere beschouwing van de uitdrukkingen voor Wa(ω), Wb(ω) enWc(ω) volgt dat voor hoge frequenties deze zijlobben voor Wa(ω) uitdempen met een

factor 1ω, voor Wb(ω) met

(

1ω

)2en voor Wc(ω) met

(

1ω

)3. Verder weg liggende fre-

quenties hebben dus bij het cosinusvenster de minste invloed en bij het rechthoekigevenster de meeste invloed. Zowel bij het rechthoekige venster als bij het cosinusven-ster treden ook zijlobben op met een negatieve waarde. Bij het driehoekige vensterzijn ze altijd positief.

Door hun eindige breedte hebben de vensters in het frequentiedomein een uit-middelende effect, waardoor de variantie van de spectrale dichtheid verkleind wordtten koste van het scheidend vermogen.

Vervorming. Behalve dit gewenste effect kan het afhakken van de staarten vangeschatte covariantiefunkties m.b.v. vensters echter ook nog een ongewenst effecthebben, namelijk vervorming van de geschatte spectrale dichtheid ten gevolge van


de zijlobben van het venster.Om inzicht te krijgen in het al of niet optreden van vervorming bekijken we twee

uitersten: witte ruis en een zuivere sinus. In het eerste geval Cxx(l) = cδ(l) wordt decovariantiefunktie niet verminkt, welk van de besproken vensters we ook toepassen.Als gevolg hiervan wordt ook de spectrale dichtheidsfunktie niet vervormd. In hettweede geval Cxx(l) = a2 cosωl hebben we een covariantiefunktie die niet nul wordtvoor |l| → ∞. Toepassing van welk venster dan ook geeft dus altijd vervormingvan de spectrale dichtheid, al zal deze vervorming voor het cosinusvenster ook veelgeringer zijn dan voor het rechthoekige venster. We hebben hier echter te makenmet een deterministisch signaal waarvoor de theorie van de spectrale dichtheden inprincipe niet ontworpen is.

Beide gevallen geven dan ook alleen de uitersten weer. De werkelijkheid zit hieraltijd tussen in. De conclusie die hier echter uit getrokken kan worden is dat menbij betrekkelijk vlakke spectra bijna geen vervorming heeft, maar dat men moetoppassen bij spectra met pieken. Deze hebben de neiging te vervormen en wel inde richting van de vorm van de fouriergetransformeerde van het toegepaste venster,waardoor z.g. zijlobben kunnen ontstaan. Pieken in spectra vindt men bijvoorbeeldin het geval van mechanische constructies, waarin resonantieverschijnselen kunnenoptreden bij aanstoten door ruis, die op zichzelf over een goede bandbreedte vrijvlak kan verlopen.

Ideaal vensterVan een ideaal vervormingsvrij venster zou men eigenlijk willen dat het in een fre-quentieband ter breedte ∆ω alle frequenties even zwaar meeweegt en de frequentiesdaarbuiten niet. Een dergelijk venster zou er in het frequentiedomein dan uit moetenzien als:

Wd(ω) = M2π

voor |ω| ≤ 0.5∆ω met ∆ω = 2πM

= 0 voor |ω| > 0.5∆ω

De schaalfaktor M2π

dient er voor om te zorgen dat de totale oppervlakte onder defunctie gelijk is aan 1. Dit venster samen met de bijbehorende functie in het ti-jdsdomein, is afgebeeld in fig. 10.7. Een dergelijk venster impliceert echter datde geschatte autocovariantiefunktie Cxy(l) dan bekend moet zijn over het interval

−∞ ≤ l ≤ ∞. De staarten van Cxy(l) worden dan over dit gehele interval meege-wogen, zij het slechts in geringe mate. Een dergelijk venster is dus op de hiervoorbeschreven wijze praktisch niet te realiseren. Zoals nog zal blijken is dit wel mogelijkvia de methode van transformatie van bemonsterde signalen.

Recapitulatie schatter via transformatie van de covariantiefunctiesDe schatters verkregen op de klassieke manier, d.w.z. via transformatie van een,over beperkte waarden van de verschuiving l, geschatte covariantiefunktie zijn alsregel onzuiver. Deze onzuiverheid wordt veroorzaakt door de zijlobben van hettoegepaste venster in het frequentiedomein. Voor betrekkelijk vlakke spectra is dezeonzuiverheid te verwaarlozen. Alleen smalle pieken zullen een zekere vervormingondergaan. De schatter is in ieder geval asymptotisch zuiver. Verder is af te leiden


Figuur 10.7: Het vervormingsvrije venster in tijdsdomein en frequentiedomein.

dat de variantie naar nul gaat voor T naar oneindig, d.w.z. de schatters zijn behalve(asymptotisch) zuiver ook asymptotisch raak.

In het algemene geval is de schatting onzuiver, alleen voor een specifiek venster(het ideale venster) is de schatting zuiver. Bij deze conclusie moeten echter enkeleopmerkingen gemaakt worden.

• Hoewel alle andere vensters dan wd(l) in principe tot een onzuivere schattingleiden valt dit in de praktijk nogal mee, omdat de grootste bijdrage aan deberekening van de spectrale dichtheid geleverd wordt door de kleine waardenvan l.

• Zoals nog zal blijken bij de behandeling van het schatten van overdrachtsfunk-ties hoeft een onzuiverheid in de geschatte spectrale dichtheden, die nodig zijnvoor het schatten van een overdrachtsfunktie, geen bezwaar te zijn, omdatdeze elkaar kunnen compenseren. Wanneer we niet in de vorm van de spectraals zodanig geınteresseerd zijn, zijn deze onzuiverheden dan ook toelaatbaar.

10.2.3 Schatten van spectrale dichtheden via transformatievan signalen

Uitgaande van de in hoofdstuk 8 behandelde relatie

Sxy(ω) = E{X(−ω)Y(ω)} [10.27]

met X(−ω) en Y(ω) volgens de gemodificeerde fouriertransformatie, kunnen we ookeen schatter baseren op fouriergetransformeerde signalen. Bij deze weg zal wordenuitgegaan van de bemonsterde signalen x(k) en y(k) gemeten over een observatietijd


N∆t. Met behulp van de DFT worden ze getransformeerd tot twee getallenreeksenXN(n) en YN(n) met n = 0, 1, ...N−1 en een bemonsterinterval langs de frequentieasvan ∆ω = 2π

N∆t. Zoals is uiteengezet in hoofdstuk 3, is ten gevolge van het bemon-

steren in het tijdsdomein het signaal periodiek geworden in het frequentiedomein,d.w.z. dat XN(N) = XN(0) en XN(n + N) = XN(n). Uit de reeksen XN(n) enYN(n) kan nu voor het frequentiegebied 0 ≤ n∆ω ≤ (N − 1)∆ω een schattinggemaakt worden voor de spectrale dichtheid volgens:

SNxy(n) =1

N∆tX∗N(n)YN(n) [10.28]

Waarbij XN(−n) = X∗N(n) de toegevoegd complexe van XN(n) is. Een schatting

van de autospectrale dichtheid wordt dan

SNxx(n) =1

N∆t|XN(n)|2 [10.29]

waarbij 1N∆t

|XN(n)|2 het periodogram van x(k) is. De grootheden X∗(n) = X(−n)en Y (n) zijn hier gebaseerd op de Discrete Fourier Transformatie. De op dezewijze verkregen waarden van het gediscretiseerde spectrum zijn op te vatten als degemiddelde waarde van de spectrale dichtheid in een frequentiebandje ter breedte∆ω = 2π

N∆t. Een nauwkeuriger beeld van het verloop van de spectrale dichtheid

tussen twee discrete punten in is niet te verkrijgen.We hebben nu uitgaande van 2 signalen, elk bestaande uit N getallen, een schat-

ter voor de kruispectrale dichtheid verkregen over N frequentiebandjes. Dit is nogeen ruwe schatter met een grote variantie, omdat er nog geen uitmiddeling heeftplaatsgevonden, zoals ook het geval was bij het schatten via de covariantiefunktiezonder toepassing van een venster. Er mag dan ook een zekere relatie tussen dezeschatters worden verwacht die we dan ook nader zullen onderzoeken.

Relatie tussen langs twee verschillende wegen verkregen schatters.Uitgaande van de via de DFT getransformeerde signalen komen we tot de volgendeschatter

SNxy(n) =1

N∆tX(−n)Y (n) [10.30]

=1

N∆t

[

N∑

k=1

x(k)ej2πkn

N ∆t

] [

N∑

m=1

y(m)e−j2πmn

N ∆t

]

=∆t

N

N∑

k=1

N∑

m=1

x(k)y(m)e−j2π(m−k)n

N voor n = 0, 1, . . . , N − 1

Noem m − k = l, dus m = k + l. Voor de grenzen van het tweede sommatietekengeldt dan dat voor m = 1 geldt dat l = 1− k en voor m = N geldt l = N − k, zodat

Sxy(n) =∆t

N

N∑

k=1

N−k∑

l=1−kx(k)y(k + l)e−

j2πln

N [10.31]

Voor het geval k = 1 loopt de sommatie over l = 0, . . . , N −1, voor het geval k = Nloopt de sommatie van l = 1−N, . . . , 0. Door eerst over k te sommeren en dan over


l krijgen we twee reeksen, namelijk een voor de negatieve waarden van l en een voorde positieve waarden van l:

Sxy(n) =∆t

N

−1∑

l=1−N

N∑

k=1−lx(k)y(k + l)e−

j2πln

N +∆t

N

N−1∑

l=0

N−l∑

k=1

x(k)y(k + l)e−j2πln

N

= ∆t−1∑

l=1−N

1

N

N∑

k=1−kx(k)y(k + l)

e−j2πnl

N

+∆tN−1∑

l=0

[

1

N

N−l∑

k=1

x(k)y(k + l)

]

e−j2πnl

N

voor n = 0, 1, . . . , N − 1,∆ω = 2πN∆t

[10.32]

In par. 10.1 is uitgegaan van de volgende schattingsformules voor de covariantiefunk-tie

CNxy(l) =

1

N

N−|l|∑

k=1

x(k)y(k + l) voor |l| < N [10.33]

hetgeen identiek is met de grenzen van l en k in de voorgaande formule, zodatuiteindelijk

Sxy(n) = ∆tN−1∑

l=−(N−1)

Cxy(l)e− j2πnl

N

voor |l| < N , n = 0, 1, . . . , N − 1 en ∆ω1 = 2πN∆t

Wat opvalt is, dat de via transformatie van signalen geschatte kruisspectrale dichtheidbestaat uit N punten met een interval ∆ω1 = 2π

N∆t. De kruiscovariantiefunktie wordt

geschat over 2N − 1 punten. Indien men deze weg volgt, zal men bij toepassing vande FFT -routine hier nog een getal met waarde nul aan toevoegen en aldus 2N pun-ten in het tijdsdomein transformeren naar 2N punten in het frequentiedomein meteen interval ∆ω2 = π

N∆t. Het totale frequentiegebied dat wordt beschouwd is in

beide gevallen gelijk namelijk N∆ω1 = 2π∆t

of 2N∆ω2 = 2π∆t

. De spectrale dichtheidverkregen via transformatie van signalen is daarom ook te beschrijven als

Sxy(n) = DFT{Cxy(l)} voor |l| < N, n = 0, 2, . . . , 2N − 2, ∆ω2 = πN∆t

Omdat we bij het schatten van Cxy(l) gebruik gemaakt hebben van een deling doorN , was deze schatter in feite niet zuiver. Voor een zuivere schatter, die dan echterwel een grotere variantie heeft, hadden we moeten delen door N − |l|. Voor deverwachtingswaarde van de fouriergetransformeerde van deze schatter geldt dan ook:

E{Sxy(n)} = E{DFT{Cxy(l)}} = DFT{E{Cxy(l)}}

= DFT

{

N − |l|N

Cxy(l)

}

= DFT{w1(l)Cxy(l)} [10.34]

met w1(l) = N−|l|N

voor |l| ≤ N . De weegfunktie w1(l) is een diskrete beschrijvings-wijze van het eerder besproken driehoekige venster. De fouriergetransformeerde


van dit venster wordt beschreven door een aantal discrete punten, gelegen op decontinue funktie die de fouriergetransformeerde beschrijft van een in het tijdsdomeinbemonsterde driehoek, zoals afgebeeld in fig. 10.6. Deze wordt beschreven door

W1(n∆ω1) = N∆t voor n = 0 [10.35]

= 0 voor n 6= 0

Voor de verwachtingswaarde van de, m.b.v. dit venster geschatte, spectrale dichtheidvolgt nu:

E{Sxy(n∆ω1)} =∆ω1

2π

∞∑

l=−∞W1(l∆ω1)Sxy((n− l)∆ω1) [10.36]

=∆ω1

2πW1(0)Sxy(n∆ω1) = Sxy(n∆ω1)

Met andere woorden: voor die frequenties die een veelvoud zijn van ∆ω1 = 2πN∆t

wordt de spectrale dichtheid zuiver geschat.In feite heeft men door 2N punten in het frequentiedomein te bepalen niet meer

informatie gekregen dan in het geval van N punten. In het algemeen zal zoiets geenbezwaar zijn. De extra tussenliggende punten zullen nu afhankelijk zijn van de tweenaastliggende waarden. Echter, uit een nadere beschouwing van het venster blijktdan men nu zijlobben introduceert over deze extra tussenliggende frequenties. Ditpleit dus voor het vermijden van dit soort redundanties. Als men de weg volgt viatransformatie van signalen is dit probleem te vermijden.

Het probleem kan echter optreden in die gevallen waarbij men de signalen kunst-matig verlengd met een aantal nullen. Als men een signaal van N monsters uitbreidtmet N nullen, krijgt men namelijk exact dezelfde uitkomst bij fouriertransformatieals wanneer men de weg via schatting van de covariantiefunktie gevolgd had. Somszijn er redenen om deze operatie uit te voeren, vandaar dat aandacht geschonkenwordt aan dit verschijnsel.

De gevonden ruwe schatter gebaseerd op transformatie van signalen over N pun-ten levert gelukkig een zuivere schatting op maar heeft nog wel een grote variantieen is niet asymptotisch raak. De volgende stap is dan ook om hier een praktischbruikbare schatter van te maken.

Een praktisch bruikbare schatter via transformatie van signalenZoals al eerder werd opgemerkt is de zojuist besproken schatter Sxy(n∆ω1) exactgelijk aan die welke werd verkregen via transformatie van een niet afgebroken co-variantiefunktie. Het is een schatter gebaseerd op slechts twee uitkomsten namelijkXN(ω) en YN(ω). Vergroten van N betekent alleen verkleinen van ∆ω1 = 2π

N∆t.

Gaat men echter uit van een gewenste bandbreedte ∆ω = m2πN∆t

, dan kan men doorvergroten van N het aantal bandjes m ter breedte ∆ω1 = 2π

N∆tbinnen ∆ω vergroten.

Aldus ontstaat voor een frequentie nm

∆ω de schatter:

Sxy(n

m∆ω) =

1

m

m−12∑

k=−m−12

Sxy((m+ k)∆ω1) voor m oneven


−2 −1 0 1 2

0

0.5

1

frequentie (rad/s)

Wm voor N=64, m=8, dt=0.5 [s]

Figuur 10.8: Venster dat ontstaat door optellen van onderling verschoven getrans-formeerde driehoekige vensters voor ∆ω = 2π

N∆t.

Sxy(n− 0.5

m∆ω) =

1

m

m2−1∑

k=−( m2−1)

Sxy((m+ k)∆ω1) voor m even

Het uitmiddelen over m bandjes is in feite de tegenhanger van het afbreken van decovariantiefunktie bij een zekere waarde M = N∆t

m. Er is echter een groot verschil,

hetgeen blijkt uit de vorm van het venster dat ontstaat door de middelingsoperatiein het frequentiedomein. Dit nieuwe venster zal zijn ontstaan uit het venster dathoorde bij de ruwe schatter. Deze is gedefinieerd als:

Wm(n

m∆ω) =

1

m

m2∑

k=−m2

W1((n+ k)∆ω1) met m < N [10.37]

Hierin is W1 het venster dat behoort bij een elementair bandje van de ruwe schatteren Wm het venster dat is ontstaan na uitmiddelen over m bandjes. De grenzenwaartussen k verloopt verschillen voor m even en oneven, maar zijn hier niet inge-vuld. Voor elke waarde van k in het bereik tussen −m

2en m

2is er bij de gekozen

nummeringen voor m even en m oneven een waarde van n waarvoor n+k = 0, zodat

Wm(n

m∆ω) =

1

mN∆t binnen het bandje ∆ω [10.38]

= 0 daarbuiten

Anders gezegd: na het middelen is er nog steeds geen vervorming, hetgeen teverwachten was. Het toegepaste venster is in feite de diskrete uitvoering van hetideale venster. Fig. 10.8 is een weergave van dit venster in het frequentiedomein.

Recapitulatie schatten via getransformeerde signalenDe spectrale dichtheid is gedefinieerd als de fouriergetransformeerde van de covari-antiefunktie, zijnde de verwachtingswaarde van het produkt van onderling in detijd verschoven signalen. Uitgaande van een gemodificeerde fouriertransformatievoor stochastische signalen van N = −∞ tot ∞, werd gevonden dat de spectraledichtheid ook te beschrijven is als een produkt van getransformeerde signalen in


het frequentiedomein. Een vergelijkbare uitdrukking is te vinden voor schatters diegebaseerd zijn op, over eindige tijd gemeten, bemonsterde signalen, namelijk

Sxy(n∆ω) =1

NX(−n∆ω)Y (n∆ω) [10.39]

waarbij X(n∆ω) = DFT{x(k∆t)}. Afgeleid is, dat deze schatter gelijk is aan

Sxy(n∆ω) = DFT{C(l∆t)} [10.40]

met Cxy(l∆t) = 1N

∑N−|l|k=1 x(k)y(k+ l). De hier gedefinieerde schatters zijn nog ruwe

schatters, d.w.z. ze hebben nog een grote variantie. Om hiervan een meer bruikbareschatter te krijgen, kan men de variantie verkleinen door het scheidend vermogenlangs de frequentieas te verminderen en wel door uit te middelen over een aantalnaast elkaar gelegen frequentiebandjes ter breedte ∆ω = 2π

N∆t. Deze methode is op

te vatten als de toepassing van een ideaal venster in het frequentiedomein. Het heeftde vorm van een rechthoek en geen zijlobben, zoals dat wel het geval is bij de wegvia fouriertransformatie van geschatte covariantiefunkties.

Het blijkt dat de weg van fouriertransformatie van signalen gevolgd door uitmid-delen over bandjes een schatter oplevert die zuiver is en asymptotisch raak. Doorgebruik te maken van de Fast Fourier Transform vraagt deze schatter aanzienlijkminder rekentijd dan via het schatten van een covariantiefunktie. Overigens vindtmen de klassieke methoden ook nog steeds terug in de beschikbare programma-pakketten voor signaalverwerking.

10.3 Eigenschappen van schatters in het frequen-

tiedomein.

10.3.1 Schatter voor spectrale dichtheid

Zoals in par. 8.1 is vermeld is een spectrale dichtheid te interpreteren als een maatvoor de energie per eenheid van frequentie. Beschouwt men de spectrale dichtheidals een continue functie van ω, dan is de eenheid van frequentie oneindig klein.Bij het schatten van een spectrale dichtheid bepaalt men niet de waarde voor eenbepaalde frequentie, maar een gemiddelde waarde van de spectrale dichtheid in eenfrequentiebandje ∆ω. Uitgaande van deze interpretatie kan aangetoond worden datde schatter gebaseerd op fouriertransformatie van signalen en uitmiddeling over eenaantal frequentiebandjes zuiver is.

Voor normaal verdeelde stochastische processen zijn door Jenkins en Watts(1969) de volgende benaderingen afgeleid voor de variantie van de schatter vande kruispectrale dichtheid:

V ar{|Sxy(ω)|} ≈ I

2T{Sxx(ω)Syy(ω) + |Sxy(ω)|2} [10.41]

V ar{ 6 Sxy(ω)} ≈ I

2T

(

1

Γ2xy(ω)

− 1

)

[rad]

10.3 Eigenschappen van schatters in het frequentiedomein. 163

Hierin is I een vormfactor die afhankelijk is van het toegepaste venster. Dezegrootheid I is the interpreteren als de hoogte van het rechthoekige venster in hetfrequentiedomein dat dezelfde reduktie van de variantie oplevert als het beschouwdevenster. Voor de in de vorige paragraaf besproken vensters wa(t), wb(t) en wc(t) zijndeze waarden respectievelijk: Ia = 2T1, Ib = 2

3T1 en Ic = 3

4T1.

Voor het rechthoekige venster dat ontstaat door uitmiddeling over m bandjes terbreedte ∆ω1 = 2π

N∆twas in par. 10.2.3 afgeleid dat Wm = N∆t

mbinnen het bandje ∆ω

en 0 daarbuiten. Voor dit rechthoekige venster geldt dus I = Wm zodat de factorI

2T= I

2N∆tgelijk wordt aan 1

2m, zodat voor de hier beschouwde schatter geldt:

V ar{|Sxy(ω)|} ≈ 1

2m{Sxx(ω)Syy(ω) + |Sxy(ω)|2} [10.42]

V ar{ 6 Sxy(ω)} ≈ 1

2m

(

1

Γ2xy(ω)

− 1

)

[rad]

Voor het bijzondere geval dat Sxy(ω) = 0 gaan deze uitdrukkingen over in:

V ar{|Sxy(ω)|} ≈ 1

2m{Sxx(ω)Syy(ω)} [10.43]

V ar{ 6 Sxy(ω)} = ∞De uitdrukking voor de variantie van het argument doet in eerste instantie vreemdaan. De interpretatie hiervan luidt, dat de schatting van een vector in het complexevlak die nul moet zijn een vector met een zekere lengte zal opleveren met een argu-ment dat elke hoek kan opleveren in het gebied tussen 0 en 2π± k2π, waarbij k nogelke willekeurige waarde tussen −∞ en ∞ kan krijgen, anders gezegd deze hoek isvolledig onbepaald.

Een ander bijzonder geval is de schatter voor een autospectrum. Hiervoor geldty = x. Een autospectrum is altijd reeel en positief en dit geldt ook voor de schatter.Voor de variantie geldt dan:

V ar{Sxx(ω)} ≈ 1

mS2xx(ω) [10.44]

Invullen in de uitdrukking voor de variantie van het argument levert de waarde nulop, hetgeen juist is omdat het argument per definitie altijd gelijk is aan 0. Uit dezeuitdrukking is overigens ook te zien hoe groot de variantie is van de ruwe schattervan de autospectrale dichtheid, dus het geval dat nog geen middeling is uitgevoerd,dus m = 1. Dan geldt dat de variantie gelijk is aan de waarde van de spectraledichtheid in het kwadraat, dus de standaarddeviatie van de schatter is even grootals de spectrale dichtheid zelf.

Zoals uit de formules voor de variantie van de schatters blijkt, kan deze willekeurigklein gemaakt worden door het aantal bandjes waarover wordt uitgemiddeld maarvoldoende groot te maken. Als we ervan uitgaan dat er bepaalde eisen aan het schei-dend vermogen gesteld wordt, dus dat ∆ω vastligt dan moeten we om het aantalbandjes m te kunnen vergroten dus de observatietijd T = N∆t vergroten. In hetlimietgeval N → ∞, kan ook m → ∞ en de variantie gaat naar 0. De schatter isdus niet alleen zuiver maar ook asymptotisch raak.


Figuur 10.9: Links: Voorbeeld van een ruwe schatter van een autospectraledichtheid. Rechts: Schatter na middeling over 8 frequentiebandjes.

Fig. 10.9 geeft een voorbeeld van een ruwe schatter van een autospectrale dichtheidmet daaronder de schatter die ontstaat na middeling over 8 frequentiebandjes.

Omdat een autospectrum per definitie altijd positief is kan de schatter nooitnormaal verdeeld zijn, zoals ook te zien is in de figuren. Als uitgegaan wordt vannormaal verdeelde signalen zullen na transformatie de reele en imaginaire delen vande signalen nog steeds normaal verdeeld zijn, omdat de fouriertransformatie eenlineaire bewerking is. Ten gevolge van het kwadrateren en sommeren ontstaat nueen chi-kwadraat verdeling voor de schatter van de spectrale dichtheid. Het is welzo dat bij uitmiddelen over een toenemend aantal bandjes de normale verdeling hoelanger hoe meer benaderd wordt, zoals ook volgt uit de centrale limietstelling.

10.3.2 Schatter voor de coherentiefunctie

Een schatter voor de coherentiefunctie kan, uitgaande van de definitie als volgtgeformuleerd worden:

ΓNxy(ω) =

√

√

√

√

√

|SNxy(ω)|2SNxx(ω)SNyy(ω)

[10.45]

met ω = n∆ω1 = 2πnN∆t

Stel dat we een schatter gebruiken, die gebaseerd is op deruwe, dus niet uitgemiddelde, schatters voor de spectrale dichtheid. De vraag is:levert dit de basis voor een bruikbare schatter? Om deze vraag te beantwoordenzullen we dit idee nader uitwerken. Er geldt dan:

ΓNxy(ω) =

√

√

√

√

√

|SNxy(ω)|2SNxx(ω)SNyy(ω)

=

√

√

√

√

| 1N∆t

X(−ω)Y (ω)|2( 1N∆t

)2|X(ω)|2|Y (ω)|2 = 1 [10.46]

Dit geldt altijd, zelfs als Sxy(ω) = 0.Om een betrouwbare schatting te krijgen zal altijd over bandjes moeten wor-

den uitgemiddeld. Dan nog blijft er een afwijking bestaan. De oorzaak ligt in het


0 0.5 10

0.1

0.2

0.3

0.4

0.5

0.6

0.7

0.8

0.9

1

coherentie

onzu

iver

heid

m=1

2

4

8

16

32

0 0.5 10

0.1

0.2

0.3

0.4

0.5

0.6

0.7

0.8

0.9

1

coherentie

stan

daar

ddev

iatie

m=1

2

4

8

1632

Figuur 10.10: Onzuiverheid en standaardeviatie van de schatter van de coheren-tiefunktie als funktie van het aantal bandjes waarover wordt uitgemiddeld.

kwadrateren van de modulus van de schatter van de spectrale dichtheid. Daardoormiddelen positieve en negatieve afwijkingen elkaar niet uit maar worden gesom-meerd. De schatter heeft dus altijd een te hoge waarde. Er kan afgeleid wordendat de verwachtingswaarde van een schatter gebaseerd op het uitmiddelen over mbandjes kan worden benaderd door:

E{Γxy(ω)} ≈√

m− 1

mΓ2xy(ω) +

1

m[10.47]

Voor het geval m = 1 levert dit altijd de waarde 1, ook als Γxy(ω) = 0. Voor hetgeval dat Γxy(ω) = 1 is de verwachtingswaarde ook altijd 1 voor elke waarde van m.

Voor de variantie is door Jenkins and Watts de volgende benadering afgeleid:

V ar{Γxy(ω)} ≈ I

2T

(

1 − Γ2xy(ω)

)2=

1

2m

(

1 − Γ2xy(ω)

)2[10.48]

Voor de standaarddeviatie is dit dus:

Std{Γxy(ω)} ≈ 1√2m

(1 − Γ2xy(ω)) [10.49]

Fig. 10.10 geeft het verloop van onzuiverheid en standaarddeviatie als funktie vanΓxy(ω) voor een aantal waarden van m. Kennis van deze relatie maakt het mogelijkom op grond van een geschatte coherentiefunktie te toetsen of de coherentie vannul verschilt. Voor het geval Γxy(ω) = 0 geldt namelijk: E{Γxy(ω)} ≈ 1√

men

Std{Γxy(ω)} ≈ 1√2m

.In fig.10.11 wordt een voorbeeld gegeven waarin onderzocht wordt of er een

relatie bestaat tussen twee signalen. Behalve een mogelijke overdrachtsfunctie isook de coherentie geschat. Hierbij is aangegeven wat de verwachtingswaarde is metdaaromheen het gebied ± de standaarddeviatie voor het geval dat de coherentie nulis.


Figuur 10.11: Voorbeeld waarbij tussen twee signalen de overdrachtsfunctie en decoherentie is geschat. De uitkomst van de schatter van de coherentie toont dat beidesignalen ongecorreleerd zijn.

10.3.3 Schatter voor de overdrachtsfunktie in open keten.

In hoofdstuk 9 is aangetoond dat de overdrachtsfunktie van een systeem dat ver-stoord wordt door ruis kan worden bepaald uit het quotient van twee spectraledichtheden. Er geldt dan namelijk dat

H(ω) =Szy(ω)

Szu(ω)[10.50]

Hierbij is u(t) het ingangssignaal, y(t) het uitgangssignaal en z(t) een hulpsignaaldat moet voldoen aan twee eisen: z(t) moet gecorreleerd zijn met het ingangssignaalu(t), maar ongecorreleerd met het stoorsignaal n(t). In het meest eenvoudige geval,namelijk van een systeem in een open keten met een storing n(t) die ongecorreleerdis met de ingang u(t) is de optimale keuze z(t) = u(t), zodat de vergelijking over

gaat in H(ω) = Suy(ω)

Suu(ω). We zullen eerst voor dit geval de eigenschappen van de

schatter van H(ω) beschouwen. Deze schatter is gelijk aan H(ω) = Suy(ω)

Suu(ω), waarbij

de schatters voor de spectrale dichtheden gebaseerd zijn op fouriertransformatievan bemonsterde signalen, gevolgd door uitmiddeling over frequentiebandjes. Dezeschatter is dus te schrijven als:

H(ω) = H(n

m∆ω) =

Suy(nm

∆ω)

Suu(nm

∆ω)=

1m

∑

m−12

i=−m−12

SNuy((n+ i)∆ω1)

1m

∑

m−12

i=−m−12

SNuu((n+ i)∆ω1)[10.51]

met ∆ω1 = 2πN∆t

. Gemakshalve is m hier oneven verondersteld. Voor het geval dat

m even is verandert de schatter in H(ω) = H(n−0.5m

∆ω) en de sommatiegrenzenlopen van i = −m

2− 1 tot i = m−1

2− 1.


De ruwe schatter voor de kruisspectrale dichtheid is verder uit te werken tot:

SNuy((n+ i)∆ω1) =1

N∆tU(−(n+ i)∆ω1)Y ((n+ i)∆ω1) [10.52]

=1

N∆tU(−(n+ i)∆ω1)[H((n+ i)∆ω1)U((n+ i)∆ω1)

+N((n+ i)∆ω1)]

= H((n+ i)∆ω1)SNuu((n+ i)∆ω1) + SNun((n+ i)∆ω1)

zodat:

H(n

m∆ω) = [10.53]

1m

∑

m−12

i=−m−12

H((n+ i)∆ω1)SNuu((n+ i)∆ω1) + 1

m

∑

m−12

i=−m−12

SNun((n+ i)∆ω1)

1m

∑

m−12

i=−m−12

SNuu((n+ i)∆ω1)

Wanner geldt dat H((n + i)∆ω1) als constant beschouwd mag worden over eenbrandbreedte ∆ω = m∆ω1 = 2πm

N∆tdan gaat de vergelijking over in

H(n

m∆ω) = H(

n

m∆ω) +

Sun(nm

∆ω)

Suu(nm

∆ω)[10.54]

Wanneer we de schatter voor de spectrale dichtheden beschouwen als de som van deechte waarde plus een afwijking ten gevolge van de variantie is de schatter voor deoverdrachtsfunctie te schrijven als:

H(ω) = H(ω) +Sun(ω) + ∆Sun(ω)

Suu(ω) + ∆Suu(ω)[10.55]

met ω = nm

∆ω = 2πnmN∆t

. In het hier beschouwde geval is uitgegaan van de situatiedat Sun(ω) = 0. Verder gaan we ervan uit dat het aantal frequentiebandjes mvoldoende groot gekozen is zodat ∆Suu(ω) � Suu(ω) waardoor de schatter kanworden benaderd door:

H(ω) ≈ H(ω) +∆Sun(ω)

Suu(ω)[10.56]

Uitgaande van het feit dat de toegepaste schatters voor de spectrale dichthedenzuiver en asymptotisch raak zijn geldt dat

E{H(ω)} ≈ H(ω) +E{∆Sun(ω)}

Suu(ω)= H(ω) [10.57]

m.a.w. de schatter is zuiver. De variantie van de schatter van de modulus is tebenaderen door

V ar{|H(ω)|} ≈ V ar{|Sun(ω)|}S2uu(ω)

[10.58]


Invullen van de uitdrukking voor de variantie van de kruisspectrale dichtheid vantwee ongecorreleerde signalen levert dan:

V ar{|H(ω)|} ≈ 1

2m

Suu(ω)Snn(ω)

S2uu(ω)

=1

2m

Snn(ω)

Suu(ω)[10.59]

Aangezien de hier beschouwde schatter van de overdrachtsfunktie gebaseerd is opdeling van een kruisspectrum door een autospectrum, is de variantie van het ar-gument van de overdrachtsfunctie gelijk aan de variantie van het argument van dekruisspectrale dichtheid van de schatter Suy(ω). Er geldt dan

V ar{ 6 H(ω)} = V ar{ 6 Suy(ω)} ≈ 1

2m

[

1

Γ2uy(ω)

− 1

]

[rad] [10.60]

Uitgaande van de definitie Γ2uy = |Suy(ω)|2

Suu(ω)Syy(ω)en van de relatie |Suy(ω)|2 = |H(ω)|2S2

uu(ω)

volgt dat 1Γ2uy(ω)

− 1 = 1|H(ω)|2

Snn(ω)Suu(ω)

zodat

V ar{ 6 H(ω)|} ≈ 1

2m

1

|H(ω)|2Snn(ω)

Suu(ω)[rad] [10.61]

Hieruit blijkt dat:

V ar{ 6 H(ω)} =1

|H(ω)|2V ar{|H(ω)|} [rad] [10.62]

Bij een toename van de observatietijd bij gelijkblijvende gewenste resolutie ∆ω langsde frequentieas neemt dus het aantal bandjes m waarover kan worden uitgemiddeldtoe. In het limietgeval T = N∆t → ∞ geldt dus m → ∞ en V ar{|H(ω)|} → 0.De schatter voor H(ω) is dus behalve zuiver ook asymptotisch raak. De praktischeinterpretatie van dit theoretische begrip kan als volgt geformuleerd worden. Bij eengegeven waarde van het scheidend vermogen ∆ω langs de frequentieas en een gegeventoelaatbare waarde voor de variantie van de schatter van de overdrachtsfunctie iser altijd een waarde voor de observatietijd T te vinden, zodanig dat aan deze eiswordt voldaan. Wel is het zo dat in de praktijk deze waarde van T niet altijd terealiseren is. In de procesindustrie heeft men vaak te maken met tijdconstantenin de orde van uren. Voor een goede schatting van het gedrag bij lage frequentiesmoet een meting dan dagen duren. Dit lukt vaak niet omdat er bijvoorbeeld ergenseen defect optreedt of omdat er instellingen van het proces gewijzigd worden. Bijmetingen aan het menselijk regelgedrag is de tijd waarover het gedrag als constantte beschouwen is weer beperkt door het optreden van factoren als vermoeidhied enverveling. Overigens heeft men in beide genoemde voorbeelden te maken met teidentificeren systemen in een gesloten keten.

10.3.4 Schatter voor de overdrachtsfunctie in een geslotenketen.

Voor dit geval beschouwen we het servosysteem van fig. 10.12. Hierin is H1(ω) de


-R(ω)

e-

+- H1(ω)

regelaar

-U(ω)

H2(ω)

systeem

-Y(ω)

e+

+ ?

N(ω)

-6

Figuur 10.12: Systeem in gesloten keten

- −H1(ω)

N(ω)

?e+ +- 1

1+H1(ω)H2(ω)-

U(ω)

- 11+H1(ω)H2(ω)

-Y(ω)

- 1

?

- H1(ω)

R(ω)-

- H1(ω)H2(ω) - e+

+

Figuur 10.13: Vertaling van het systeem van vorig figuur naar een systeem met 2ingangen en 2 uitgangen.

regelaar, H2(ω) is het te regelen systeem dat wordt verstoord door ruis N(ω), dieongecorreleerd is met het door de uitgang Y (ω) te volgen referentiesignaal R(ω).

De overdrachtsfunctie H2(ω) wordt geschat uit de relatie H2(ω) = Sry(ω)

Sru(ω), met

ω = nm

∆ω1 = 2πnmN∆t

, voor 0 ≤ n ≤ N .Voor het beoordelen van de eigenschappen van deze schatter beschrijven we de

signalen U(ω) en Y (ω) in het frequentiedomein als funktie van de ongecorreleerdesignalen R(ω) en N(ω) die van buiten de keten komen.

Y (ω) =H1(ω)H2(ω

1 +H1(ω)H2(ω)R(ω) +

1

1 +H1(ω)H2(ω)N(ω) [10.63]

U(ω) =H1(ω)

1 +H1(ω)H2(ω)R(ω) − H1(ω)

1 +H1(ω)H2(ω)N(ω)

Fig. 10.13 geeft het bij deze beschrijving behorende blokschema. Dit levert de vol-gende relaties tussen de schatters van de spectrale dichtheden.

Sry(ω) =H1(ω)H2(ω)

1 +H1(ω)H2(ω)Srr(ω) +

1

1 +H1(ω)H2(ω)Srn(ω)

Sru(ω) =H1(ω)

1 +H1(ω)H2(ω)Srr(ω) − H1(ω)

1 +H1(ω)H2(ω)Srn(ω)

De schatter voor H2(ω) wordt dan gelijk aan

H2(ω) =Sry(ω)

Sru(ω)=H1(ω)H2(ω)Srr(ω) + Srn(ω)

H1(ω)Srr(ω) −H1(ω)Srn(ω)[10.64]

=H2(ω)Srr(ω) −H2(ω)Srn(ω) +H2(ω)Srn(ω) + 1

H1(ω)Srn(ω)

Srr(ω) − Srn(ω)


= H2(ω) +

(

H2(ω) +1

H1(ω)

)

Srn(ω)

Srr(ω) − Srn(ω)

zodat

H2(ω) −H2(ω) =

(

H2(ω) +1

H1(ω)

)

Srn(ω)

Srr(ω) − Srn(ω)[10.65]

Aangezien Srn(ω) = 0 bevat Srn(ω) alleen een variantieterm. Verder nemen we aandat m voldoende groot gekozen is, zodat bij benadering geldt dat Srr(ω)− Srn(ω) ≈Srr(ω). De uitdrukking gaat dan over in:

H2(ω) −H2(ω) ≈(

H2(ω) +1

H1(ω)

)

Srn(ω)

Srr(ω)[10.66]

Voor de verwachtingswaarde hiervan geldt dan:

E{H2(ω) −H2(ω)} ≈(

1 +H1(ω)H2(ω)

H1(ω)

)

E{ Srn(ω)

Srr(ω)} = 0 [10.67]

De schatter is dus als zuiver te beschouwen. Voor de variantie van de modulus vanH2(ω) geldt dan uitgaande van vgl. [10.66]:

V ar{|H2(ω)|} = E{|H2(ω) −H2(ω)|2} ≈∣

∣

∣

∣

∣

1 +H1(ω)H2(ω)

H1(ω)

∣

∣

∣

∣

∣

2V ar{Srn(ω)}

S2rr(ω)

≈∣

∣

∣

∣

∣

1 +H1(ω)H2(ω)

H1(ω)

∣

∣

∣

∣

∣

2 12mSrr(ω)Snn(ω)

S2rr(ω)

≈∣

∣

∣

∣

∣

1 +H1(ω)H2(ω)

H1(ω)

∣

∣

∣

∣

∣

21

2m

Snn(ω)

Srr(ω)

Voor het argument van de schatter vanH2(ω) geldt: 6 H2(ω) = 6 Sry(ω)− 6 Sru(ω)

en de variantie van 6 H2(ω) hangt nu dus af van de varianties van twee kruisspectra.Voor de afzonderlijke varianties geldt:

V ar{ 6 Sry(ω)} ≈ 1

2m

(

1

Γ2ry

− 1

)

=1

2m

Srr(ω)Syy(ω) − |Sry(ω)|2|Sry(ω)|2 [rad]

V ar{ 6 Sru(ω)} ≈ 1

2m

(

1

Γ2ru

− 1

)

=1

2m

Srr(ω)Suu(ω) − |Sru(ω)|2|Sru(ω)|2 [rad]

Aan de hand van het multivariabele open keten blokschema van fig. 10.13 is dit tevertalen naar:

V ar{ 6 Sry(ω)} ≈ 1

2m

∣

∣

∣

11+H1(ω)H2(ω)

∣

∣

∣

2Snn(ω)

∣

∣

∣

H1(ω)H2(ω)1+H1(ω)H2(ω)

∣

∣

∣

2Srr(ω)

=1

|H1(ω)H2(ω)|21

2m

Snn(ω)

Srr(ω)

V ar{ 6 Sru(ω)} ≈ 1

2m

∣

∣

∣

H1(ω)1+H1(ω)H2(ω)

∣

∣

∣

2Snn(ω)

∣

∣

∣

H1(ω)1+H1(ω)H2(ω)

∣

∣

∣

2Srr(ω)

=1

2m

Snn(ω)

Srr(ω)[rad]


10−1 100 101 10210−2

10−1

100

101ns=80 m=16

frequentie [rad/s]

10−1 100 101 102−150

−100

−50

0

50

10−1 100 101 10210−2

10−1

100

101m=16

frequentie [rad/s]

10−1 100 101 102−150

−100

−50

0

50

Figuur 10.14: Bodediagram van een eerste-orde systeem. Links zijn daarin op 2manieren bepaalde grenzen van ± de standaarddeviatie van een schatter getekendvoor het geval van uitmiddeling over 16 bandjes. Manier 1: theoretische waarde;manier 2: geschat aan de hand van 80 simulaties. Rechts zijn de grensen volgens detheorie gegeven met daarin 1 van de 80 uitkomsten van de simulaties.

De variantie van 6 H2(ω) is nu gelijk aan:

V ar{ 6 H2(ω)} = V ar{ 6 Sry(ω)} + V ar{ 6 Sru(ω)} [10.68]

=1 + |H1(ω)H2(ω)|2|H1(ω)H2(ω)|2

1

2m

Snn(ω)

Srr(ω)

Voor het geval dat m → ∞ gaat de variantie naar nul. Dus de schatter voor H(ω)is zuiver en asymptotisch raak.VoorbeeldFig. 10.14 geeft een voorbeeld van de schatting van een overdrachtsfunctie H2(ω)voor het geval dat H1(ω) een PI-regelaar is met H1(ω) = K1 + 1

jωτ1, met K1 = 5

en τ1 = 0.1 en het te regelen systeem een eerste orde systeem is; H2(ω) = K2

1+jωτ2,

met K2 = 3 en τ2 = 0.5. De spectrale dichtheden van het referentiesignaal is gelijkaan Srr = 1

1+0.09ω2 ; de spectrale dichtheid van het ruissignaal is Snn = 0.251+0.04ω2 .

De figuur geeft het bodediagram met daarin aangegeven de echte waarde ± destandaarddeviatie samen met de uitkomst van een schatting. Verder is nog eenschatting gemaakt van de standdaarddeviatie van modulus en argument op grondvan 80 simulaties. Deze zijn op een lineaire schaal weergegeven in fig. 10.15 samenmet de op grond van de formules voorspelde standaarddeviaties.


0 20 40 60 800

0.1

0.2

0.3

0.4

frequentie [rad/s]

Stand.dev. Modulus ns=80, m=16

0 20 40 60 805

10

15

20

25

30Stand.dev. Argument

frequentie [rad/s]

Figuur 10.15: Theoretische waarden van de standaarddeviatie van de schatter vanhet eerste orde systeem uit vorige figuur, bij uitmiddeling over 16 frequentiebandjes,samen met de geschatte waarden hiervan uit 80 simulaties.

SIPE - Syllabus Signaalanalyse

Education

Transcript of SIPE - Syllabus Signaalanalyse