Taaltheorie en Taalverwerking Week 3: Syntax van Natuurlijke Taal.

52
Taaltheorie en Taalverwerking Week 3: Syntax van Natuurlijke Taal

Transcript of Taaltheorie en Taalverwerking Week 3: Syntax van Natuurlijke Taal.

Page 1: Taaltheorie en Taalverwerking Week 3: Syntax van Natuurlijke Taal.

Taaltheorie en Taalverwerking

Week 3:

Syntax van Natuurlijke Taal

Page 2: Taaltheorie en Taalverwerking Week 3: Syntax van Natuurlijke Taal.

Taaltheorie en Taalverwerking

Vorige weken:

Formele Talen & Formele Grammatica's

Page 3: Taaltheorie en Taalverwerking Week 3: Syntax van Natuurlijke Taal.

Taaltheorie en Taalverwerking

Nu:

Toepassing op Natuurlijke Taal

Page 4: Taaltheorie en Taalverwerking Week 3: Syntax van Natuurlijke Taal.

Natuurlijke Taal

B.v.: Engels

Page 5: Taaltheorie en Taalverwerking Week 3: Syntax van Natuurlijke Taal.

Natuurlijke Taal

B.v.: Engels

Opmerking:

– Niet alle talen lijken sprekend op 't Engels.– Sommige zijn “makkelijker”:

Aboriginal-talen (b.v. Warlpiri) ,

Papoea-talen, Amazone-gebied.– Sommige zijn “moeilijker”

(b.v.: Nederlands, Züüritüütsch).

Page 6: Taaltheorie en Taalverwerking Week 3: Syntax van Natuurlijke Taal.

Engels

Tamelijk unieke taal:

• nauwelijks morphologie (verbuigingen, vervoegingen,

e.d.)• vaste woordvolgorde

Page 7: Taaltheorie en Taalverwerking Week 3: Syntax van Natuurlijke Taal.

Woordvolgorde: Engels vs. Nederlands

Jan gaf vanochtend Marie het geld. Jan gaf Marie vanochtend het geld. Jan gaf Marie het geld vanochtend. Vanochtend gaf Jan Marie het geld.

* John gave Mary this morning the money.* John gave this morning Mary the money. John gave Mary the money this morning. This morning, John gave Mary the money.

Page 8: Taaltheorie en Taalverwerking Week 3: Syntax van Natuurlijke Taal.

Woordvolgorde: Engels vs. Nederlands

Op het dak zag Jan een kat zitten. Jan zag op het dak een kat zitten. Jan zag een kat op het dak zitten. Jan zag een kat zitten op het dak.

* On the roof, John saw a cat sitting.* John saw on the roof a cat sitting.* John saw a cat on the roof sitting. John saw a cat sitting on the roof.

Page 9: Taaltheorie en Taalverwerking Week 3: Syntax van Natuurlijke Taal.

Grammatica voor Engels

Contextvrije grammatica's als verantwoording van intuïtieve ideeën over constituentenstructuur.

Page 10: Taaltheorie en Taalverwerking Week 3: Syntax van Natuurlijke Taal.

articlethe

nounwumpus

copulais

S

NP VP

adjectivedead

S NP VP

NP article noun

VP copula adjectiveVP verbverb walks

article thearticle a

noun wumpusnoun boy

copula iscopula was

adjective deadadjective happy

Page 11: Taaltheorie en Taalverwerking Week 3: Syntax van Natuurlijke Taal.

articlethe

nounwumpus

copulais

S

NP VP

adjectivedead

Hoe verzin je zoiets?

Page 12: Taaltheorie en Taalverwerking Week 3: Syntax van Natuurlijke Taal.

articlethe

nounwumpus

copulais

S

NP VP

adjectivedead

Hoe verzin je zoiets?

(1) Teken de intuïtief correcte hiërarchische structuur.

Page 13: Taaltheorie en Taalverwerking Week 3: Syntax van Natuurlijke Taal.

articlethe

nounwumpus

copulais

S

NP VP

adjectivedead

Hoe verzin je zoiets?

(1) Teken de intuïtief correcte hiërarchische structuur.(2) Labelling: Constituenten met dezelfde categorie moeten intersubstitueerbaar zijn.

Page 14: Taaltheorie en Taalverwerking Week 3: Syntax van Natuurlijke Taal.

articlethe

nounwumpus

copulais

S

NP VP

adjectivedead

Hoe verzin je zoiets?

(1) Teken de intuïtief correcte hiërarchische structuur.(2) Labelling: Constituenten met dezelfde categorie moeten intersubstitueerbaar zijn.

Cognitie: Categorie = klasse van intersubstitueerbare woorden.

Page 15: Taaltheorie en Taalverwerking Week 3: Syntax van Natuurlijke Taal.

articlethe

nounwumpus

copulais

S

NP VP

adjectivedead

Hoe verzin je zoiets?

(1) Teken de intuïtief correcte hiërarchische structuur.(2) Labelling: Constituenten met dezelfde categorie moeten intersubstitueerbaar zijn.(3) Linguïstische conventies. [Bestudeer Jurafsky & Martin, Russell & Norvig, ppt-slides van het hoorcollege, uitwerkingen van het werkcollege.]

Page 16: Taaltheorie en Taalverwerking Week 3: Syntax van Natuurlijke Taal.

articlede

nounman

verbziet

S

NP VP

proper-nounMarie

Linguïstische conventies:

NP: analogie tussen "de man" en "Marie"VP: analogie tussen "ziet Marie" en "loopt"

NP

Page 17: Taaltheorie en Taalverwerking Week 3: Syntax van Natuurlijke Taal.

articlede

nounman

verbziet

S

NP VP

proper-nounMarie

Fout.

NP

adverbniet

Page 18: Taaltheorie en Taalverwerking Week 3: Syntax van Natuurlijke Taal.

articlede

nounman

verbziet

S

NP VP

proper-nounMarie

Fout.

Constituenten met hetzelfde label moeten intersubstitueerbaar zijn.

NP

adverbniet

Page 19: Taaltheorie en Taalverwerking Week 3: Syntax van Natuurlijke Taal.

articlede

nounman

verbziet

S

NP VP

proper-nounMarie

Beter.

NP

adverbniet

Page 20: Taaltheorie en Taalverwerking Week 3: Syntax van Natuurlijke Taal.

articlede

nounman

verbziet

S

NPVP

proper-nounMarie

Nog beter.

NP

adverbniet

VP

Page 21: Taaltheorie en Taalverwerking Week 3: Syntax van Natuurlijke Taal.

Martin & Jurafsky 9.4 The Noun Phrase

Lexicale NP's:Eigennamen: NP ProperNounVoornaamwoorden: NP Pronoun

Complexe NP's: bestaat typisch uit een Lidwoord (Determiner) gevolgd door een zelfstandig naamwoord (Noun). Daartussen en daarachter kunnen nog allerlei optionele constituenten staan.

NP DetP (Card) (Ord) (AP) Noun

DetP the | all | all the | many of the | Card 1 | 2 | 3Ord first | second | lastAP Adj | Adv Adj

Voorbeeld: "The 3 first very early flights"

Page 22: Taaltheorie en Taalverwerking Week 3: Syntax van Natuurlijke Taal.

M&J 9.4 The Noun Phrase

Lexicale NP's:Eigennamen: NP ProperNounVoornaamwoorden: NP Pronoun

Complexe NP's: bestaat typisch uit een Lidwoord (Determiner) gevolgd door een zelfstandig naamwoord (Noun). Daartussen en daarachter kunnen nog allerlei optionele constituenten staan.

NP DetP (Card) (Ord) (AP) NominalNominal Noun | Noun Nominal

Voorbeeld: "The 3 first morning flights"

Page 23: Taaltheorie en Taalverwerking Week 3: Syntax van Natuurlijke Taal.

M&J 9.4 The Noun Phrase

Lexicale NP's:Eigennamen: NP ProperNounVoornaamwoorden: NP Pronoun

Complexe NP's: bestaat typisch uit een Lidwoord (Determiner) gevolgd door een zelfstandig naamwoord (Noun). Daartussen en daarachter kunnen nog allerlei optionele constituenten staan.

NP DetP (Card) (Ord) (AP) NominalNominal Noun | Noun Nominal | Nominal PPPP Prep NPPrep on | in | at | to | from

Voorbeeld: "The 3 first morning flights to Dallas"

Page 24: Taaltheorie en Taalverwerking Week 3: Syntax van Natuurlijke Taal.

M&J 9.2 Context-Free Rules and Trees

VP-regels: zie voorbeeldgrammatica L0:

Lexicon: Structurele regels:

Page 25: Taaltheorie en Taalverwerking Week 3: Syntax van Natuurlijke Taal.

M&J 9.3 Sentence-Level Constructions

declarative sentencesS NP VPB.v.: "I prefer a morning flight"

"They list all flights from Burbank to Denver"

imperative sentences (bevelen, opdrachten, suggesties)S VPB.v.: "Show me the lowest fare"

"List all flights from Burbank to Denver"

Page 26: Taaltheorie en Taalverwerking Week 3: Syntax van Natuurlijke Taal.

yes-no questionsS Aux NP VP ?Voorbeelden:

"Do these flights go to Denver?""Can you give me the same information for KLM?"

wh-questionsS WhNP VP ?Voorbeelden:

"What airlines fly from Burbank to Denver?""Which flights serve breakfast?"

S WhNP Aux NP VP ?Voorbeeld:

"What flights to Denver do you have tomorrow?"

M&J 9.3 Sentence-Level Constructions

Page 27: Taaltheorie en Taalverwerking Week 3: Syntax van Natuurlijke Taal.

yes-no questionsS Aux NP VP ?Voorbeelden:

"Do these flights go to Denver?""Can you give me the same information for KLM?"

wh-questionsS WhNP VP ?Voorbeelden:

"What airlines fly from Burbank to Denver?""Which flights serve breakfast?"

S WhNP Aux NP VP ? [Nog niet helemaal goed: incomplete VP!]Voorbeeld:

"What flights to Denver do you have tomorrow?"

M&J 9.3 Sentence-Level Constructions

Page 28: Taaltheorie en Taalverwerking Week 3: Syntax van Natuurlijke Taal.
Page 29: Taaltheorie en Taalverwerking Week 3: Syntax van Natuurlijke Taal.

Uitbreiding op CFG: Features.

Page 30: Taaltheorie en Taalverwerking Week 3: Syntax van Natuurlijke Taal.

S NP VP

NP proper-nounNP article noun

VP verb

verb loopt | lopennoun hond | hondenarticle alle | elke | vier

Jan loopt

de honden lopen

Page 31: Taaltheorie en Taalverwerking Week 3: Syntax van Natuurlijke Taal.

S NP VP

NP proper-nounNP article noun

VP verb

verb loopt | lopennoun hond | hondenarticle alle | elke | vier

Jan loopt

de honden lopen

Jan lopen

de honden loopt

Page 32: Taaltheorie en Taalverwerking Week 3: Syntax van Natuurlijke Taal.

S NP VP

NP proper-nounNP article noun

VP verb

verb loopt | lopennoun hond | hondenarticle alle | elke | vier

Jan loopt

de honden lopen

Jan lopen

de honden loopt

NP's: elke hondenalle hondvier hond

Page 33: Taaltheorie en Taalverwerking Week 3: Syntax van Natuurlijke Taal.

S NPsing VPsing

S NPplur VPplur

NPsing proper-noun

NPsing articlesing nounsing

NPplur articleplur nounplur

VPsing verbsing VPplur verbplur

verbsing loopt verbplur lopennounsing hond nounplur hondenarticlesing elkearticleplur alle | vier

Jan loopt

de honden lopen

Jan lopen

de honden loopt

NP's: elke hondenalle hondvier hond

elke hond looptalle honden lopen

Page 34: Taaltheorie en Taalverwerking Week 3: Syntax van Natuurlijke Taal.

S NPsing VPsing

S NPplur VPplur

NPsing proper-noun

NPsing articlesing nounsing

NPplur articleplur nounplur

VPsing verbsing VPplur verbplur

Jan loopt

de honden lopen

Jan lopen

de honden loopt

NP's: elke hondenalle hondvier hond

elke hond looptalle honden lopen

Nadeel: Duplicatie van regels.

Page 35: Taaltheorie en Taalverwerking Week 3: Syntax van Natuurlijke Taal.

S NPsing VPsing

S NPplur VPplur

NPsing proper-noun

NPsing articlesing nounsing

NPplur articleplur nounplur

VPsing verbsing VPplur verbplur

Nadeel: Duplicatie van regels.

Nog meer zulke syntactische attributen:

1e, 2e, 3e persoon: "ik loop" vs. "Jan loopt"

onzijdig vs. mannelijk/vrouwelijk:"elk kind" vs. "elke hond"

telbaar vs. niet-telbaar:"veel wijn" vs. "veel hond"

Page 36: Taaltheorie en Taalverwerking Week 3: Syntax van Natuurlijke Taal.

S NPsing VPsing

S NPplur VPplur

NPsing proper-noun

NPsing articlesing nounsing

NPplur articleplur nounplur

VPsing verbsing VPplur verbplur

Nadeel: Duplicatie van regels.

Nog meer zulke syntactische attributen:

1e, 2e, 3e persoon: "ik loop" vs. "Jan loopt"

onzijdig vs. mannelijk/vrouwelijk:"elk kind" vs. "elke hond"

telbaar vs. niet-telbaar:"veel wijn" vs. "veel hond"

Naarmate we meer zulke onderscheidenintroduceren, neemt het aantal regels exponentieel toe.

Page 37: Taaltheorie en Taalverwerking Week 3: Syntax van Natuurlijke Taal.

S NPsing VPsing

S NPplur VPplur

NPsing proper-noun

NPsing articlesing nounsing

NPplur articleplur nounplur

VPsing verbsing VPplur verbplur

Daarom: feature-grammatica's (unification grammars, augmented CFG's,Definite Clause Grammars (DCG's))

S NP (x) VP (x)

NP (sing) proper-noun

NP (x) article (x) noun (x)

VP (x) verb (x)

Cf. Prolog-unificatie: Feature-agreement ("congruentie") &feature-percolation (inheritance)

Page 38: Taaltheorie en Taalverwerking Week 3: Syntax van Natuurlijke Taal.

S NP [nr:x, person:y] VP [nr: x, person: y]

NP [nr: sing] proper-noun

NP [nr: x] article [nr: x, count:y] noun [nr: x, count:y]

VP [nr: x, person: y] V1 [nr: x, person: y]

article [nr: sing, count: +] a | one | somearticle [nr: plural, count: +] 3 | manyarticle [nr: x, count: +] somearticle [nr: sing, count: x] somearticle [nr: sing, count: -] mucharticle [nr: plural, count: -] 3 liters of

N [nr: sing, count: +] boyN [nr: plural, count: +] boysN [nr: x, count: -] wine

Page 39: Taaltheorie en Taalverwerking Week 3: Syntax van Natuurlijke Taal.

The Verb Phrase and Subcategorization

Subcategorization frame: list of complements that the verb selects for.

Voorbeelden:

vp --> verb.disappear

* want

vp --> verb, np. prefer a morning flight

* disappear a morning flight

vp --> verb, np, pp. put a book on the table

* disappear a book on the table

vp --> verb, vp. want to fly to Orlando

* find to fly to Orlando

Page 40: Taaltheorie en Taalverwerking Week 3: Syntax van Natuurlijke Taal.

Implementing subcategorization: just like the agreement feature

– encode subcategorization form in non-terminal name (larger grammar)

– encode subcategorization in extra argument (smaller grammar)

Page 41: Taaltheorie en Taalverwerking Week 3: Syntax van Natuurlijke Taal.

Slechts één "regel" voor VP:

VP V[subcat: (X1, ..., Xn)] X1 ... Xn

N.B.: Regelschema!

Page 42: Taaltheorie en Taalverwerking Week 3: Syntax van Natuurlijke Taal.

S NP VP VP V1 V2 NP V3 NP PP

NP DET N PP PREP N

DET every | aN man | table PREP on | under V1 walks | talks V2 loves | seesV3 puts

B.v.:

Page 43: Taaltheorie en Taalverwerking Week 3: Syntax van Natuurlijke Taal.

S NP VP VP V1 V2 NP V3 NP PP

NP DET N PP PREP N

DET every | aN man | table PREP on | under V1 walks | talks V2 loves | seesV3 puts

S NP VP VP V[subcat: (X1, ..., Xn)] X1 ... Xn

NP DET N PP PREP N

DET every | aN man | table PREP on | under V [subcat: ()] walks | talks V [subcat: (NP)] loves | seesV [subcat: (NP PP)] puts

wordt:

Page 44: Taaltheorie en Taalverwerking Week 3: Syntax van Natuurlijke Taal.

Wh-Questions Revisited

Transformationele Grammatica

Page 45: Taaltheorie en Taalverwerking Week 3: Syntax van Natuurlijke Taal.

Wh-Questions

"Which boys does Mary see?"

Page 46: Taaltheorie en Taalverwerking Week 3: Syntax van Natuurlijke Taal.

yes-no questionsS Aux NP VP ?Voorbeelden:

"Do these flights go to Denver?""Can you give me the same information for KLM?"

wh-questionsS WhNP VP ?Voorbeelden:

"What airlines fly from Burbank to Denver?""Which flights serve breakfast?"

S WhNP Aux NP VP ? [Nog niet goed: VP moet incompleet zijn!]Voorbeeld:

”What flights do these flights go to Denver?""What flights to Denver do you have some flights tomorrow?"

M&J 9.3 Sentence-Level Constructions

Page 47: Taaltheorie en Taalverwerking Week 3: Syntax van Natuurlijke Taal.

Which boys does Mary see?

Page 48: Taaltheorie en Taalverwerking Week 3: Syntax van Natuurlijke Taal.

Which boys does Mary see?

Which boys does Mary see [ ]?

Does Mary see John?

Page 49: Taaltheorie en Taalverwerking Week 3: Syntax van Natuurlijke Taal.

Which boys does Mary see?

Which boys does Mary see [ ]?

Which boys does Peter think Mary sees [ ]?

Does Peter think Mary sees John?Does Peter think Mary sees which boys?

Page 50: Taaltheorie en Taalverwerking Week 3: Syntax van Natuurlijke Taal.

Which boys does Mary see [ ]?

Which boys does Peter think Mary sees [ ]?

Noam Chomsky: Transformationele Grammatica.

• CFG genereert “diepte-structuur”:“Does Mary see which boys?”

• Transformatie-regel sleept “which boys” naar voren.

Page 51: Taaltheorie en Taalverwerking Week 3: Syntax van Natuurlijke Taal.

YNQ does NP VP; YNQ[–t] does NP VP[–t]; YNQ[+t] does NP VP[+t];

WHQ WHNP YNQ[+t];

VP[+t] V2 NP[+t];

NP[+t] e;

Noam Chomsky: Transformationele Grammatica.

Kun je nabouwen d.m.v. een contextvrije grammaticamet features (Definite Clause Grammar).

Page 52: Taaltheorie en Taalverwerking Week 3: Syntax van Natuurlijke Taal.