recognize: 문법이 직접 읽는 인식기 — 파서와 판정을 대조한다

lib/recognize.ml은 docs/grammar.ebnf를 그대로 해석해 토큰 열을 받아들일지
판정한다. AST를 만들지 않는다 — 판정만 하므로 손 파서의 진단은 그대로
남는다.

문법이 LL(1)임을 이미 검증했으므로 선택이 결정적이다. 다음 토큰이 어느
대안의 FIRST에 있는지만 보고 되돌아가지 않는다.

같은 토큰 열을 손 파서와 인식기 양쪽에 주고 판정이 갈리는지 테스트가
검사한다. 저장소의 .cool 25개 전부에서 일치한다. 갈리면 빌드가 깨진다.

이제 "설명서를 잘 관리하자"에 기대지 않는다. 그 방법은 이미 실패했다 —
설명서가 어긋났고 아무도 몰랐고 나조차 안 읽었다.

확인: 문법에서 한정 이름(named_type의 "." ident)을 빼 보면 즉시
"파서는 받고 문법은 거부"가 두 파일에서 잡힌다.

Co-Authored-By: Claude Opus 5 (1M context) <noreply@anthropic.com>
Claude-Session: https://claude.ai/code/session_019ZVDeU6KLuUVL3gs18Hm3E
This commit is contained in:
2026-08-30 17:06:02 +09:00
co-authored by Claude Opus 5
parent bde940eda3
commit 61b1920909
3 changed files with 209 additions and 0 deletions
+113
View File
@@ -0,0 +1,113 @@
(* 문법 파일이 직접 읽는 인식기.
손으로 쓴 파서(lib/parser.ml)와 같은 토큰 열을 받아 같은 판정을 내야 한다.
갈리면 둘 중 하나가 틀린 것이고, 그 순간 테스트가 깨진다. 이것이 설명서와
구현이 어긋나지 않게 하는 기계적 장치다.
AST를 만들지 않는다. 받아들이는가만 답한다. 그래서 손 파서의 진단은
그대로 남는다 — 대조는 판정만 한다.
문법이 LL(1)임이 이미 검증되었으므로 여기서 선택은 결정적이다.
다음 토큰이 어느 대안의 FIRST에 있는지만 보면 되고 되돌아가지 않는다. *)
module SS = Set.Make (String)
type error = { pos : Token.pos; expected : string; got : string }
(* 토큰을 문법의 단말 이름으로 옮긴다. 이 대응이 문법과 렉서를 잇는 유일한
지점이다 — 여기가 틀리면 대조 전체가 무의미하다. *)
let terminal_of (k : Token.kind) =
match k with
| Token.Ident _ -> "ident"
| Token.Int _ -> "int_lit"
| Token.Str _ -> "string_lit"
| Token.Newline -> "NEWLINE"
| Token.Eof -> "<eof>"
| k -> Token.show_kind k
type state = {
toks : Token.t array;
mutable i : int;
rules : (string, Ebnf.rule) Hashtbl.t;
a : Ebnf.analysis;
tokens : SS.t;
mutable err : error option;
}
exception Fail
let cur st = st.toks.(st.i)
let term st = terminal_of (cur st).Token.kind
let fail st expected =
(* 가장 멀리 간 실패를 남긴다. 그 자리가 사람이 볼 자리다 *)
let keep =
match st.err with
| None -> true
| Some e ->
(e.pos.Token.line, e.pos.Token.col)
<= ((cur st).Token.pos.Token.line, (cur st).Token.pos.Token.col)
in
if keep then st.err <- Some { pos = (cur st).Token.pos; expected; got = term st };
raise Fail
let advance st = if st.i < Array.length st.toks - 1 then st.i <- st.i + 1
let is_tok st n = SS.mem n st.tokens || not (Hashtbl.mem st.rules n)
(* 이 식이 지금 토큰으로 시작할 수 있는가 *)
let starts st e = SS.mem (term st) (Ebnf.first_expr st.a e)
let rec run st (e : Ebnf.expr) =
match e with
| Ebnf.Term s -> if term st = s then advance st else fail st ("\"" ^ s ^ "\"")
| Ebnf.Ref n ->
if is_tok st n then if term st = n then advance st else fail st n
else run st (Hashtbl.find st.rules n).Ebnf.body
| Ebnf.RefArg (n, x) -> run st (Ebnf.Ref (Ebnf.mangle n x))
| Ebnf.Seq xs -> List.iter (run st) xs
| Ebnf.Alt xs -> (
match List.find_opt (starts st) xs with
| Some x -> run st x
| None -> (
(* 비어도 되는 대안이 있으면 그것을 고른다 *)
match List.find_opt (Ebnf.nullable_expr st.a) xs with
| Some x -> run st x
| None ->
fail st
(String.concat " 또는 "
(SS.elements (Ebnf.first_expr st.a e)))))
(* 선택과 반복은 최대한 먹는다 (문법 표기 규약의 greedy 규칙) *)
| Ebnf.Opt x -> if starts st x then run st x
| Ebnf.Rep x ->
while starts st x do
run st x
done
| Ebnf.Except (x, _) -> run st x
let check ?(tokens = []) ?(start = "module") (g : Ebnf.t) (toks : Token.t list) :
(unit, error) result =
let g = Ebnf.expand g in
let rules = Hashtbl.create 128 in
List.iter (fun (r : Ebnf.rule) -> Hashtbl.replace rules r.name r) g;
let st =
{
toks = Array.of_list toks;
i = 0;
rules;
a = Ebnf.analyze ~tokens g;
tokens = SS.of_list tokens;
err = None;
}
in
match run st (Ebnf.Ref start) with
| () ->
if term st = "<eof>" then Ok ()
else (
(match st.err with
| Some _ -> ()
| None ->
st.err <-
Some { pos = (cur st).Token.pos; expected = "파일 끝"; got = term st });
Error (Option.get st.err))
| exception Fail -> Error (Option.get st.err)