Files
doslang-mirror/fec/tests/exec/lexer/tok.fe
T
coolguy 76cb7e254c lexer: Ferro 의 렉서를 Ferro 로 쓴다
셀프호스팅에 손대기 전의 강제 함수다. 아픈 자리를 전부 건드린다: R4 아래의
토큰 구조체, 태그드 유니온, 진단 출력, 유닛 경계.

토큰은 자기가 나온 글자를 담지 않는다. R4 가 대여를 집합 저장소에서 막으므로,
어디서 시작해 얼마나 긴지를 적고 소스는 옆에서 같이 다닌다. 위치도 &mut usize
로 옆에서 다닌다 -- 슬라이스와 함께 구조체에 들어갈 수 없기 때문이다. 이것이
R11 이 말하는 모양이고, 쓸 수 있다.

  first keyword unit @1 / number 42 @3 / text "hi" @3 / arrow -> @5
  keyword 6 name 7 number 1 text 1 punct 15 / total 30

길에서 고친 것:

- binding.Type.Variant 가 안 풀렸다. 유닛 경계 이름 조회가 심볼만 보고 타입을
  보지 않았다.
- 문자열 const 전역이 빈 슬라이스로 나갔다. 포인터는 링커만 아는 수라서 바이트에
  구멍을 두고 링커가 채우게 한다.
- exec.py 가 OUTPUT 마커를 여러 개 적어도 마지막 하나만 검사했다. 고치자마자
  readfile 의 낡은 기대가 드러났다.

run.py 217/217, exec.py 27/27.
2026-08-17 07:35:21 +09:00

40 lines
840 B
Plaintext

unit tok;
// What the lexer produces. A token does not hold the text it came from: R4
// keeps borrows out of aggregate storage, so it records where in the source it
// starts and how long it is, and the source travels beside it.
pub enum Kind {
End,
Name,
Number,
Text,
Punct,
Keyword,
Bad,
}
pub struct Token {
pub kind: Kind,
pub from: usize,
pub len: usize,
pub line: usize,
}
pub fn text(src: []u8, t: Token) -> []u8 {
return src[t.from..t.from + t.len];
}
pub fn name_of(k: Kind) -> []u8 {
match k {
End => { return "end"; }
Name => { return "name"; }
Number => { return "number"; }
Text => { return "text"; }
Punct => { return "punct"; }
Keyword => { return "keyword"; }
Bad => { return "bad"; }
}
return "?";
}