렉서 다음은 파서다. 노드는 한 배열에 살고 자식은 그 안의 인덱스다 -- 노드는 ^Node 를 들 수 없고(여럿이며 한 번씩 소유하지 않는다) &Node 도 들 수 없다(R4). 인덱스는 둘 다 아니다. 소스도 필드가 아니라 매 단계에 같이 다닌다. unit demo / fn answer @2 / let n = (+ 1 (* 2 3)) / return n / balanced 전위 표기로 다시 찍는 것이 시험의 요점이다. 1 + 2 * 3 이 어떻게 묶였는지는 그렇게만 보인다. 쓰면서 나온 컴파일러 버그 넷: 1. 다른 유닛의 타입을 필드로 쓰면 그 필드 타입이 영영 UNKNOWN 이었다. 필드 해석이 유닛마다 선언 직후에 돌아서, 아직 선언되지 않은 유닛의 타입을 찾다 실패하고 그 답을 굳혔다. 이제 모든 유닛이 선언을 마친 뒤에 한 번 푼다. 2. 그리고 그 해석은 타입을 선언한 유닛에서 해야 한다. 필드 타입은 그 유닛의 import 로 쓰였는데 아무 유닛에서나 풀고 있었다. 타입 계층에 enter/leave 콜백을 두고 체커가 그 자리로 데려간다. 3. cycle_state 를 재귀 검사와 크기 계산이 같이 썼다. 첫 번째가 보는 중인 구조체 가 두 번째에게는 다 끝난 것으로 보여서, 필드가 하나뿐인 것처럼 1 바이트로 자리를 잡았다 -- Parser 가 그래서 자기 토큰을 밟았다. layout_state 로 나눴다. 4. 다른 유닛의 상수(ast.NONE)를 lowering 이 필드 접근으로 봤다. 체커가 이미 링크 이름을 붙여두었으니 그것이 있으면 전역이다. 그리고 R1 을 실제로 지키게 했다: 소유자를 놓으면 그것이 가진 것도 놓는다. 전에는 자기 drop 이 있거나 자기가 owned 일 때만이어서, drop 을 가진 타입을 필드로 담은 구조체는 그것을 놓을 방법이 없었다(drop 은 손으로 못 부른다). 이제 release_at 이 drop 을 부르고 필드로 내려간다. 그 덕에 List/Arena/Map 의 drop 이 전부 필요 없어져서 지웠다 -- 버퍼가 owned 이니 R1 이 알아서 한다. 221/221, 29/29.
257 lines
8.4 KiB
Plaintext
257 lines
8.4 KiB
Plaintext
unit parse;
|
|
|
|
import std.list;
|
|
import std.str;
|
|
import tok;
|
|
import scan;
|
|
import ast;
|
|
|
|
// Recursive descent over the lexer's tokens.
|
|
//
|
|
// The source is not a field: R4 keeps borrows out of aggregate storage, so
|
|
// `src` is passed to every step, the same way the lexer passes it. What the
|
|
// parser does own is the node array, and every parent points at its children
|
|
// by index into it.
|
|
//
|
|
// One token of lookahead lives in `cur`. That is all this grammar needs.
|
|
|
|
pub struct Parser {
|
|
nodes: list.List(ast.Node),
|
|
at: usize,
|
|
line: usize,
|
|
cur: tok.Token,
|
|
pub errors: usize,
|
|
|
|
pub fn on(src: []u8) -> !Self {
|
|
let nodes: list.List(ast.Node) =
|
|
try list.List(ast.Node).with_capacity(16);
|
|
var p: Self = Self{
|
|
nodes: nodes,
|
|
at: 0,
|
|
line: 1,
|
|
cur: tok.Token{ kind: tok.Kind.End, from: 0, len: 0, line: 1 },
|
|
errors: 0,
|
|
};
|
|
p.bump(src);
|
|
return p;
|
|
}
|
|
|
|
fn bump(self: &mut Self, src: []u8) -> void {
|
|
self.cur = scan.next(src, &mut self.at, &mut self.line);
|
|
return;
|
|
}
|
|
|
|
fn done(self: &Self) -> bool { return self.cur.kind == tok.Kind.End; }
|
|
|
|
/// Is the token in hand this exact spelling?
|
|
fn is(self: &Self, src: []u8, want: []u8) -> bool {
|
|
return str.eq(tok.text(src, self.cur), want);
|
|
}
|
|
|
|
/// Take the token in hand if it is this spelling; say whether it was.
|
|
fn eat(self: &mut Self, src: []u8, want: []u8) -> bool {
|
|
if not self.is(src, want) { return false; }
|
|
self.bump(src);
|
|
return true;
|
|
}
|
|
|
|
/// Demand this spelling. A miss is counted and the token stays put, so the
|
|
/// caller decides how to get back on its feet.
|
|
fn want(self: &mut Self, src: []u8, w: []u8) -> bool {
|
|
if self.eat(src, w) { return true; }
|
|
self.errors = self.errors + 1;
|
|
return false;
|
|
}
|
|
|
|
fn add(self: &mut Self, s: ast.Shape, t: tok.Token, a: usize,
|
|
b: usize) -> !usize {
|
|
let n: ast.Node = ast.Node{
|
|
shape: s, from: t.from, len: t.len, line: t.line,
|
|
a: a, b: b, next: ast.NONE,
|
|
};
|
|
let i: usize = self.nodes.count();
|
|
try self.nodes.push(n);
|
|
return i;
|
|
}
|
|
|
|
// -- reading the tree back ------------------------------------------
|
|
|
|
pub fn count(self: &Self) -> usize { return self.nodes.count(); }
|
|
|
|
pub fn node(self: &Self, i: usize) -> ast.Node {
|
|
return self.nodes.at(i);
|
|
}
|
|
|
|
|
|
// -- the grammar ----------------------------------------------------
|
|
//
|
|
// unit := "unit" NAME ";" item*
|
|
// item := "fn" NAME "(" ")" block
|
|
// block := "{" stmt* "}"
|
|
// stmt := "let" NAME "=" expr ";" | "return" expr? ";"
|
|
// expr := term (("+" | "-") term)*
|
|
// term := factor (("*" | "/") factor)*
|
|
// factor := NUMBER | NAME | TEXT | "(" expr ")"
|
|
|
|
pub fn unit_decl(self: &mut Self, src: []u8) -> !usize {
|
|
let ok: bool = self.want(src, "unit");
|
|
let name: tok.Token = self.cur;
|
|
if ok { self.bump(src); }
|
|
let semi: bool = self.want(src, ";");
|
|
let root: usize = try self.add(ast.Shape.Unit, name, ast.NONE,
|
|
ast.NONE);
|
|
var first: usize = ast.NONE;
|
|
var last: usize = ast.NONE;
|
|
while not self.done() {
|
|
let it: usize = try self.item(src);
|
|
if first == ast.NONE { first = it; }
|
|
else { self.link(last, it); }
|
|
last = it;
|
|
}
|
|
self.set_a(root, first);
|
|
return root;
|
|
}
|
|
|
|
/// Point one statement or item at the one after it.
|
|
fn link(self: &mut Self, from: usize, to: usize) -> void {
|
|
var n: ast.Node = self.nodes.at(from);
|
|
n.next = to;
|
|
self.nodes.set(from, n);
|
|
return;
|
|
}
|
|
|
|
fn set_a(self: &mut Self, at: usize, a: usize) -> void {
|
|
var n: ast.Node = self.nodes.at(at);
|
|
n.a = a;
|
|
self.nodes.set(at, n);
|
|
return;
|
|
}
|
|
|
|
fn item(self: &mut Self, src: []u8) -> !usize {
|
|
if not self.is(src, "fn") {
|
|
let bad: tok.Token = self.cur;
|
|
self.errors = self.errors + 1;
|
|
self.skip_stmt(src);
|
|
return try self.add(ast.Shape.Error, bad, ast.NONE, ast.NONE);
|
|
}
|
|
self.bump(src);
|
|
let name: tok.Token = self.cur;
|
|
self.bump(src);
|
|
let open: bool = self.want(src, "(");
|
|
let close: bool = self.want(src, ")");
|
|
let body: usize = try self.block(src);
|
|
return try self.add(ast.Shape.Fn, name, ast.NONE, body);
|
|
}
|
|
|
|
fn block(self: &mut Self, src: []u8) -> !usize {
|
|
let open: bool = self.want(src, "{");
|
|
var first: usize = ast.NONE;
|
|
var last: usize = ast.NONE;
|
|
while true {
|
|
if self.done() { break; }
|
|
if self.is(src, "}") { break; }
|
|
let s: usize = try self.stmt(src);
|
|
if first == ast.NONE { first = s; }
|
|
else { self.link(last, s); }
|
|
last = s;
|
|
}
|
|
let close: bool = self.want(src, "}");
|
|
return first;
|
|
}
|
|
|
|
fn stmt(self: &mut Self, src: []u8) -> !usize {
|
|
if self.is(src, "let") {
|
|
self.bump(src);
|
|
let name: tok.Token = self.cur;
|
|
self.bump(src);
|
|
let has_eq: bool = self.want(src, "=");
|
|
let value: usize = try self.expr(src);
|
|
let semi: bool = self.want(src, ";");
|
|
return try self.add(ast.Shape.Let, name, ast.NONE, value);
|
|
}
|
|
if self.is(src, "return") {
|
|
let head: tok.Token = self.cur;
|
|
self.bump(src);
|
|
if self.is(src, ";") {
|
|
self.bump(src);
|
|
return try self.add(ast.Shape.Return, head, ast.NONE,
|
|
ast.NONE);
|
|
}
|
|
let value: usize = try self.expr(src);
|
|
let semi: bool = self.want(src, ";");
|
|
return try self.add(ast.Shape.Return, head, value, ast.NONE);
|
|
}
|
|
let bad: tok.Token = self.cur;
|
|
self.errors = self.errors + 1;
|
|
self.skip_stmt(src);
|
|
return try self.add(ast.Shape.Error, bad, ast.NONE, ast.NONE);
|
|
}
|
|
|
|
/// Get back to a statement boundary after something unrecognised. Stopping
|
|
/// at `;` or `}` means one bad statement costs one diagnostic, not a run
|
|
/// of them.
|
|
fn skip_stmt(self: &mut Self, src: []u8) -> void {
|
|
while not self.done() {
|
|
if self.is(src, "}") { return; }
|
|
if self.is(src, ";") { self.bump(src); return; }
|
|
self.bump(src);
|
|
}
|
|
return;
|
|
}
|
|
|
|
fn expr(self: &mut Self, src: []u8) -> !usize {
|
|
var left: usize = try self.term(src);
|
|
while true {
|
|
if self.done() { break; }
|
|
let plus: bool = self.is(src, "+");
|
|
let minus: bool = self.is(src, "-");
|
|
if not plus and not minus { break; }
|
|
let op: tok.Token = self.cur;
|
|
self.bump(src);
|
|
let right: usize = try self.term(src);
|
|
left = try self.add(ast.Shape.Binary, op, left, right);
|
|
}
|
|
return left;
|
|
}
|
|
|
|
fn term(self: &mut Self, src: []u8) -> !usize {
|
|
var left: usize = try self.factor(src);
|
|
while true {
|
|
if self.done() { break; }
|
|
let star: bool = self.is(src, "*");
|
|
let slash: bool = self.is(src, "/");
|
|
if not star and not slash { break; }
|
|
let op: tok.Token = self.cur;
|
|
self.bump(src);
|
|
let right: usize = try self.factor(src);
|
|
left = try self.add(ast.Shape.Binary, op, left, right);
|
|
}
|
|
return left;
|
|
}
|
|
|
|
fn factor(self: &mut Self, src: []u8) -> !usize {
|
|
let t: tok.Token = self.cur;
|
|
if t.kind == tok.Kind.Number {
|
|
self.bump(src);
|
|
return try self.add(ast.Shape.Number, t, ast.NONE, ast.NONE);
|
|
}
|
|
if t.kind == tok.Kind.Name {
|
|
self.bump(src);
|
|
return try self.add(ast.Shape.Name, t, ast.NONE, ast.NONE);
|
|
}
|
|
if t.kind == tok.Kind.Text {
|
|
self.bump(src);
|
|
return try self.add(ast.Shape.Text, t, ast.NONE, ast.NONE);
|
|
}
|
|
if self.is(src, "(") {
|
|
self.bump(src);
|
|
let inner: usize = try self.expr(src);
|
|
let close: bool = self.want(src, ")");
|
|
return inner;
|
|
}
|
|
self.errors = self.errors + 1;
|
|
self.bump(src);
|
|
return try self.add(ast.Shape.Error, t, ast.NONE, ast.NONE);
|
|
}
|
|
}
|