この事例演習では,コンパイラやインタプリタ等の言語処理プロセッサ開発において不可欠な字句解析プログラムを作成する.言語処理プロセッサとは,一定の記述規則(すなわち,構文規則)にしたがってプログラムのソースコードとして記述された文字列を入力して,実行あるいは評価可能なマシンコードや疑似命令コードを出力するようなプログラムを指す.多くの言語処理プロセッサでは,プログラムの記述位置は自由であり,また意味をもつ字句間にスペースを置くことも自由にしている. そこで,入力された文字列から意味のある字句を切り出し,あらかじめ定義された字句(例えば,予約語,定義された変数名,特殊記号等)と等しいかどうかを高速に判別する必要がある. 字句解析プログラムは,このような作業を高速に行うためのプログラムである.