Rami El Haddad rami.haddad@usj.edu · Rami El Haddad (FS - USJ) Monte Carlo, Sudoku et cha^ nes de...

Monte Carlo, Sudoku et chaınes de Markov

Rami El Haddadrami.haddad@usj.edu.lb

1 Methodes de Monte CarloApproche intuitiveFondements mathematiques

2 StratificationAvantages d’une stratificationTypes de stratificationStratification Sudoku

3 Application aux chaınes de Markov

4 Simulations numeriquesEvolution d’un ecosysteme mediterraneenOccurrences dans un brin d’ADN

Rami El Haddad (FS - USJ) Monte Carlo, Sudoku et chaınes de Markov 1 / 5

Methodes de Monte Carlo : approche intuitive

La modelisation mathematique consiste a representer un probleme complexe parun modele abstrait pour ensuite l’analyser sans devoir travailler sur un systemereel couteux.

La simulation designe l’execution d’un programme informatique sur un ordinateuren vue d’imiter artificiellement le phenomene physique.

Une simulation utilisant des nombresaleatoires est dite de Monte Carlo.

Loi des grands nombres : quand le nombre d’essais augmente, la frequenceobservee s’approche de la probabilite theorique.

0 100 200 300 400 500 600 700 800 900 10000

Nombre de répétitions

Frequences d’apparition de Face en lancant une piece de monnaie

Nombres aleatoires

Nombres aleatoires = valeurs reelles ayant les proprietes statistiques de la variablealeatoire et produites par le hasard.

Generation de nombres aleatoires

Procedes physiques⇓

Vrais nombres aleatoires

Calculateurs electroniques⇓

Nombres pseudo-aleatoires

Tous les langages de programmation disposent d’un generateur de nombrespseudo-aleatoires : ran, rand, grand, Random,...

Nombres aleatoires

0 0.1 0.2 0.3 0.4 0.5 0.6 0.7 0.8 0.9 1

1 024 points pseudo-aleatoires dans [0, 1]2.

Estimation de π

I On considere le quart du disque de rayon 1 inscrit dans le carre [0, 1]2 :

Aire(quart du dique)

Aire(carre)=π

I On choisit au hasard N points aleatoires (x , y) dans le carre et on calcule laproportion de ceux qui tombent dans le quart du disque, c.-a-d. tels quex2 + y2 ≤ 1.

Estimation de π

Pour N = 1 000 on obtient π ≈ 3, 2000.

Estimation de π

Methodes de Monte Carlo : fondements mathematiques

I := [0, 1),

s ≥ 2 un entier,

f : I s → R une fonction de carre integrable.

On veut estimer

∫I sf (x)dx .

Si U est une variable aleatoire de loi uniforme sur I s , alors

J = E[f (U)].

Methodes de Monte Carlo : fondements mathematiques

{U1, . . . ,UN} des v. a. independantes et de loi uniforme sur I s ,Loi des grands nombres :

limN→∞

N∑`=1

f ◦ U` = J)

Estimateur de Monte Carlo de J :

XN :=1

N∑`=1

f (U`).

E[XN ] = J et Var(XN) = O(

Effet de la variance d’un estimateur de Monte Carlo

L’esperance (ou moyenne) seule ne suffit pas ! ! ! Il est aussi important que lavariance de l’estimateur soit faible.

0 100 200 300 400 500 600 700 800 900 10000

Nombre de répétitions

Moyenne exacteVariance = 0.25Variance = 4.75

Frequences d’apparition de Face en lancant une piece de monnaie

Avantages d’une stratification

Objectif : construire des ensembles de points aleatoires ayant une meilleurerepartition pour obtenir un estimateur a faible variance.

0 0.1 0.2 0.3 0.4 0.5 0.6 0.7 0.8 0.9 10

A gauche : ensemble de 100 points aleatoires.

A droite : ensemble stratifie de 100 points.

0 0.1 0.2 0.3 0.4 0.5 0.6 0.7 0.8 0.9 10

A gauche : ensemble de 2 500 points aleatoires.

A droite : ensemble stratifie de 2 500 points.

0 0.1 0.2 0.3 0.4 0.5 0.6 0.7 0.8 0.9 10

A gauche : ensemble de 10 000 points aleatoires.

A droite : ensemble stratifie de 10 000 points.

Stratification simple (MCS)

0 0.1 0.2 0.3 0.4 0.5 0.6 0.7 0.8 0.9 10

Echantillon MCS de 25 points.

Stratification par hypercubes latins (LHS)

Carre latin 4 × 4.

Echantillon LHS de 4 points.

Stratification Sudoku

Grille de Sudoku 4 × 4.

Stratification Sudoku

Echantillon Sudoku de 4 points.

Echantillonnage Sudoku

SoitN = ns

W` := (W 1` , . . . ,W

W i` :=

`i − 1

n+σi (i )− 1

N` := (`1, . . . , `s), 1 ≤ ì ≤ ni := (`1, . . . , ì−1, ì+1, . . . , `s)σ1, . . . , σs bijections aleatoiresindependantes

{1, . . . , n}s−1 → {1, . . . , ns−1}

U1, . . . ,Us variables aleatoiresindependantes de loi uniforme surIN .

SoitN = ns

W` := (W 1` , . . . ,W

W i` :=

`i − 1

n+σi (i )− 1

{1, . . . , n}s−1 → {1, . . . , ns−1}

SoitN = ns

W` := (W 1` , . . . ,W

W i` :=

`i − 1

n+σi (i )− 1

{1, . . . , n}s−1 → {1, . . . , ns−1}

SoitN = ns

W` := (W 1` , . . . ,W

W i` :=

`i − 1

n+σi (i )− 1

{1, . . . , n}s−1 → {1, . . . , ns−1}

Amelioration obtenue par la stratification Sudoku

L’estimateur de Monte Carlo classique XN :

I est sans biais, i.e. E[XN ] = J ;

I a une variance de l’ordre

Var(XN) = O(

L’estimateur de Monte Carlo Sudoku Z?

I est sans biais ;

Var(Z?

N) = O(

N1+1/s

En particulier, pour s = 2, Var(Z?

N) = O(

Amelioration obtenue par la stratification Sudoku

L’estimateur de Monte Carlo classique XN :

I est sans biais, i.e. E[XN ] = J ;

Var(XN) = O(

L’estimateur de Monte Carlo Sudoku Z?

I est sans biais ;

Var(Z?

N) = O(

N1+1/s

En particulier, pour s = 2, Var(Z?

N) = O(

Application aux chaınes de Markov

Un processus aleatoire (ou stochastique) est une succession d’epreuves aleatoiresdont les issues (resultats possibles) sont toujours les memes, mais ou la repartitionde probabilite evolue.

Une chaıne de Markov est un proces-sus aleatoire dans lequel l’evolution futuredepend du present, mais pas du passe.Elles sont caracterisees par leurs matricesde transition.

Andreı Markov (1856-1922)

Marche aleatoire sur Z :

Sk+1 = Sk + Wk+1, avec P(Wk+1 = −1) =1

2et P(Wk+1 = +1) =

Sk+1 = Sk + Wk+1, avec P(Wk+1 = −1) =1

2et P(Wk+1 = +1) =

Sk+1 = Sk + Wk+1, avec P(Wk+1 = −1) =1

2et P(Wk+1 = +1) =

Sk+1 = Sk + Wk+1, avec P(Wk+1 = −1) =1

2et P(Wk+1 = +1) =

Sk+1 = Sk + Wk+1, avec P(Wk+1 = −1) =1

2et P(Wk+1 = +1) =

Sk+1 = Sk + Wk+1, avec P(Wk+1 = −1) =1

2et P(Wk+1 = +1) =

Sk+1 = Sk + Wk+1, avec P(Wk+1 = −1) =1

2et P(Wk+1 = +1) =

Sk+1 = Sk + Wk+1, avec P(Wk+1 = −1) =1

2et P(Wk+1 = +1) =

Sk+1 = Sk + Wk+1, avec P(Wk+1 = −1) =1

2et P(Wk+1 = +1) =

Algorithme de Monte Carlo classique :

Sk+1 = Sk + Wk+1, avec P(Wk+1 = −1) =1

2et P(Wk+1 = +1) =

A B C D

Sk+1 = Sk + Wk+1, avec P(Wk+1 = −1) =1

2et P(Wk+1 = +1) =

0 1u2 u4 u1 u3

A B C D

Sk+1 = Sk + Wk+1, avec P(Wk+1 = −1) =1

2et P(Wk+1 = +1) =

0 1u2 u4 u1 u3

A B C D

Sk+1 = Sk + Wk+1, avec P(Wk+1 = −1) =1

2et P(Wk+1 = +1) =

A B D C

Algorithme Sudoku :

Sk+1 = Sk + Wk+1, avec P(Wk+1 = −1) =1

2et P(Wk+1 = +1) =

(u31 ,u32)

(u11 ,u12)

(u41 ,u42)

(u21 ,u22)

A B C D

Algorithme Sudoku :

Sk+1 = Sk + Wk+1, avec P(Wk+1 = −1) =1

2et P(Wk+1 = +1) =

(u31 ,u32)

(u11 ,u12)

(u41 ,u42)

(u21 ,u22)

A B C D

Algorithme Sudoku :

Sk+1 = Sk + Wk+1, avec P(Wk+1 = −1) =1

2et P(Wk+1 = +1) =

A B D C

Evolution d’un ecosysteme mediterraneen

A l’origine la foret mediterraneenne (sur roche calcaire a faible altitude) etait trescertainement dominee par des chenes.

L’action de l’homme a eradique ces forets primitives pour leur substituer desvignes, des vergers...

L’abandon de toute activite agricole, au lieu de conduire a la restaurationnaturelle de ces chenaies, a bien souvent favorise l’implantation d’une autreespece, le pin d’Alep, apres un passage par un etat de garrigue.

Ces forets de substitution, hautement inflammables, subissent de maniererecurrente le passage du feu (incendies volontaires ou non), le sol mis a nu serecouvre pendant un temps de pelouses ; ces forets sont donc condamnees a uneperpetuelle reconstitution.

garrigue (Ga)

pelouse (Pe)vignes, vergers (V)

chênaie (C) pinède (Pi)

défrichage

abandon

incendie

évolutionreconstitution

reconstitution

Suite a un incendie, l’ecosysteme est constitue d’une pelouse a la date t. Quellesera sa composition a la date t + 7 ?

garrigue (Ga)

pelouse (Pe)vignes, vergers (V)

chênaie (C) pinède (Pi)

défrichage

abandon

incendie

évolutionreconstitution

reconstitution

Suite a un incendie, l’ecosysteme est constitue d’une pelouse a la date t. Quellesera sa composition a la date t + 7 ?

Evolution d’un ecosysteme mediterraneenModelisation par chaıne de Markov :

On modelise cette evolution par une chaıne de Markov (Xn)n∈N a cinq etats C, V,Pe, Ga, Pi.

Pour tout n ∈ N, Xn designera l’etat de cet ecosysteme a l’instant n.

La matrice de transition de la chaıne est la suivante :0, 8 0, 2 0 0 00 0, 7 0, 3 0 00 0 0, 4 0, 6 00 0 0 0, 2 0, 8

0, 1 0 0, 25 0 0, 65

Erreurs pour C et V en fonction du nombre de points de simulation N.

Variances pour Pi en fonction du nombre de points de simulation N.

Temps de calcul pour Pi en fonction du nombre de points de simulation N.

Efficacites pour Pi en fonction du nombre de points de simulation N.

C V Pe Ga Pi

Erreurs

Simulation MC Simulation SS

Les pourcentages obtenus sont les suivants :

C V Pe Ga Pi16,31% 6,14% 20,46% 16,01% 41,07%

Occurrences dans un brin d’ADN

Un brin de l’ADN du virus HIV-1 compte 9 717 nucleotides. Le nombred’occurrences des 16 dinucleotides sur ce brin est le suivant :

aa ac ag at ca cc cg ct

1 112 561 1 024 713 795 413 95 470

ga gc gg gt ta tc tg tt

820 457 661 432 684 342 590 548

En considerant un tel brin d’ADN commencant par un a, quelle est la probabiliteque le 500ieme nucleotide soit un g ?

Un brin de l’ADN du virus HIV-1 compte 9 717 nucleotides. Le nombred’occurrences des 16 dinucleotides sur ce brin est le suivant :

aa ac ag at ca cc cg ct

1 112 561 1 024 713 795 413 95 470

ga gc gg gt ta tc tg tt

820 457 661 432 684 342 590 548

En considerant un tel brin d’ADN commencant par un a, quelle est la probabiliteque le 500ieme nucleotide soit un g ?

On propose une modelisation d’une telle sequence d’ADN par une chaıne deMarkov qui rend compte du comptage des dinucleotides.

On considere la suite de nucleotides comme les 9 717 premiers etats d’une chaınede Markov (Xn)n∈N dont les etats sont : a, c, g, et t.

On prend pour matrice de transition :

Erreurs en fonction du nombre de points de simulation N (pourcentage exact = 24,39%).

Merci de votre attention

Rami El Haddad rami.haddad@usj.edu · Rami El Haddad (FS - USJ) Monte Carlo, Sudoku et cha^ nes de...

Documents

Transcript of Rami El Haddad rami.haddad@usj.edu · Rami El Haddad (FS - USJ) Monte Carlo, Sudoku et cha^ nes de...

Monte Carlo Markov Chain methoden - Ghent University · 2011. 2. 19. · Monte Carlo Markov Chain methoden Bregt Savat Masterproef ingediend tot het behalen van de graad van Master

MimiüsltHtfe rami BüiniirDeinillaiilixdIs e Zafap enn …...Hieronder tref ut mijn beslui aant . Wettelijk kader Op grond van artikel 41c tweed, e lid laatst, e volzin va, n de Woningwet

v ¤ ³ ` À È ] ` ¦°® ó ¾ « v ³ Ã¦ ®¦ v p «¦ ² ]¦ À¦ º ¿® ¾ ... · ABSTRACT ³7KH 6WXG\ RI )LJXUHV RI 6SHHFK LQ WKH &ROOHFWLRQ RI 3RHPV RI ,EQ-Al- Haddad Al-Andalousi

Wird Al-Latif - Imam Al Haddad

Joumana Haddad جمانة حدادjoumanahaddad.com/wp-content/uploads/2018/02/Joumana... · 2018. 3. 28. · Pour que la poutique ne soit plus uniquement « une affaire d'hommes

Full page fax print - melenoslindos.com · semplicemcnte, è tn cctca pano- rami, non ha che l'imbarazzo della scel- ta. Il Mediterraneo liberal ofTre paradisi meguagliabili, acqtte

Haddad F. Subatech/ ARRONAXasso-lard.eu/wp-content/uploads/2010/08/LARD.pdf · Target holders We need to irradiate solid target under different forms (powder, foils,…). Two target

オープンソース - IBRAHIM HADDAD, PH.D. · 、動的リンク（Dynamic link）、結 合（Combining）、パッケージング （Packaging）、相互依存性の生成 （Creating

Rami Hamed 3479377 RFID

elandts.cgg.gov.inelandts.cgg.gov.in/downloads/mahabubnagar.pdfMd.Shafiullah Hussain V.Shiva Kumar B.Prabhakar N.Balchander Rao A.Kodanda Rami Reddy N.Sindhuja Omprakash BalajiSapare

Rami Yokota Perslucht gereedschap

10a. Markov Chain Monte Carlo · Prof. Daniel Cremers 10a. Markov Chain Monte Carlo. Dr. Rudolph Triebel Computer Vision Group Machine Learning for Computer Vision Markov Chain Monte

HANDLEIDING PRACTICUM CRANIALE ZENUWEN 1 · Station 1: Hals & trigonum submandibulare 127 1. ... n. ethmoidalis anterior ... rami colli

CHAPITRE 1 : RAPPELS SUR LE MODELE LINEAIRE 1.Définition ... › ckfinder › userfiles › files › pageperso › ... · 1.2.Propriétés 1. Théorème de Gauss-Markov : Sous les

- ۲ + / 0 1 2 . ٰ - ۱+ *# ) ˛˙ ٱ( ٰ˛ ˙ ٱ &ٱ # $ % < 7 ˜ : 0 ; < 7 ˜ - …...Zikir Ratib Al-Haddad داﺪﳊا ﺐﺗار • • Page • • 9 from 12 Arabic Doc. Retyped

CONTEST LIST - judo.gov.tr...010s3/000s1 5:00 delsalle d fra delsalle d gre karagiannopoulou m 000s2/000s3 5:00 delsalle d 000s1/000s3 5:00 alg haddad d moretti e bih sejdinovic s

St. George 07-30...Fadi Chaccour 250 Rami Karsheh 1000 Edward Caroll 30 Dr. Bachar Dergham 1500 Dr. Wael Khoury 3000 St. George Fundraiser 9104 Sub. Sam Elias 200 Hani Nader 3500 Jerry

SRI - VOLUME 1...Abul Hasan Hussain Ahmed and Gibril Fouad Haddad from the ink and words of their own Hanafee elders like Shaikh Zafar Ahmed Uthmanee, Shaikh Abdul Fattah Abu Guddah,

Power rami

Monte Carlo Markov-ketens - UvA · 2020. 9. 3. · om Monte Carlo Markov-ketens toe te kunnen passen. We be-spreken hiervan de twee methodes: de Gibbs sampler en het Metropolis-Hastings.

オープンソース - IBRAHIM HADDAD, PH.D. · 、動的リンク（Dynamic link）、結合（Combining）、パッケージング（Packaging）、相互依存性の生成（Creating