『統辞構造論』の第2〜3章は、「文法的な文の集合をどう定義するか」という問いに、二つの否定形で答える。意味ではない。確率でもない。 では何なのか——その手前で、チョムスキーはまず「文法」という語そのものを厳密に定義し直す。
The fundamental aim in the linguistic analysis of a language L is to separate the grammatical sequences which are the sentences of L from the ungrammatical sequences which are not sentences of L and to study the structure of the grammatical sequences. （ある言語Lの言語分析における根本的な目標は、Lの文である文法的な連鎖を、Lの文ではない非文法的な連鎖から分離し、文法的な連鎖の構造を研究することである。ToL訳）
「意味の通じる連鎖」ではなく「文法的な連鎖」——この言い換えが、本章のすべての議論の出発点になる。
意味でも、頻度でもない
前提として、こんな一対の文がある。
「無色の緑の観念が猛烈に眠る」 「猛烈に眠る観念緑無色」
両方とも意味をなさないが、英語話者（日本語話者も同様に）は前者だけを文として自然に読む。この差は、意味の有無では説明できない。
同じことは、統計にも言える。この二つの言い回しは、どちらもこれまで一度も使われたことがない組み合わせのはずだ。「これまでにどれだけ使われてきたか」で測る限り、両者は同じくらい「英語から遠い」。それでも感じ方はまったく違う——単語の並べ方を丸ごとナンセンスな語の列に対して当てはめても、片方だけが自然なイントネーションで読め、記憶しやすく、もう片方は単語一つひとつが切り離された読み方になる。
一歩ずつ単語をつなぐ機械——有限状態モデル
では、文法的な文をどう生成するか。チョムスキーがまず検討するのは、当時の情報理論に由来する有限状態（マルコフ過程）モデルだ。機械が有限個の「状態」のあいだを移動し、一回の移動（遷移）ごとに一語を出力する。初期状態から出発し、最終状態にたどり着いたところで、出力された語の列が一つの「文」になる。
ループを加えれば、“the old man comes”、“the old old man comes”……と無限に文を生成できる。一見、これで十分に思える。
なぜ、この機械は英語を生成できないのか
チョムスキーは、これが技術的に難しいのではなく、原理的に不可能だと証明する。
English is not a finite state language. （英語は有限状態言語ではない。ToL訳）
理由は、英語に「鏡像的」な依存関係があるからだ。たとえば、こんな構文がある。
- “if S, then S’“（もしSなら、S’）
- “either S, or S’“（Sか、あるいはS’か）
- “the man who said that S is arriving today”（Sと言ったその男は今日到着する）
「もし」は「なら」を、「either」は「or」を要求する——文の離れた二箇所に依存関係がある。そして重要なのは、その依存関係のあいだに、同じ構文をまるごと埋め込めることだ。試しに、具体的な文で組み立ててみよう。
まず単純な文からはじめる。「その猫はマットの上にいる」（S₁）。これを”either”の位置に埋め込む——「その猫はマットの上にいるか、あるいは会議は中止だ」（S₂）。今度はこのS₂を、“the man who said that…”の位置に埋め込む——「その猫はマットの上にいるか、あるいは会議は中止だと言った男は、今日到着する」（S₃）。さらにこのS₃を”if…then”の位置に入れる——「もし、その猫はマットの上にいるか、あるいは会議は中止だと言った男が今日到着するなら、私たちは駅で待つ」。
この入れ子は、理屈のうえではどこまでも深くできる。そして、これは”ab, aabb, aaabbb, …”（aをn個、続けてbをn個並べる）という、ごく単純な人工言語と数学的に同じ構造を持っている。この人工言語が有限状態文法では書けないことは簡単に示せる——状態の数がどれだけ多くても、機械は「aを何個見たか」を無限に覚えておくことができないからだ。同じ理由で、英語の中にあるこの手の構文も、有限状態文法では原理的に生成できない。
「機械」としては最小限、それでも失格
有限状態モデルは、「有限の道具立てで無限の文を生成できる」もっとも単純な種類の文法だ、とチョムスキーは言う。だからこそ、これが失格になるという事実は重い——言語の記述には、これより強い装置が必要だということが、ここで証明されたことになる。次の一手が、単語ではなく句をひとまとまりに扱う「句構造」モデルだ。