1. Python技术站首页
  2. 其他
  3. JavaScript

JS 做一个简单的 Parser

• JavaScript

前言

前些天偶然看到以前写的一份代码，注意有一段尘封的代码，被我遗忘了。这段代码是一个简单的解析器，当时是为了解析日志而做的。最初解析日志时，我只是简单的正则加上分割，写着写着，我想，能不能用一个简单的方案做个解析器，这样可以解析多种日志。于是就有了这段代码，后来日志解析完了，没有解析其它日志就给忘了。再次看到这段代码，用非常简单易读的代码就实现了一个解析器，觉得非常值得分享。

通过本文读者将学到如何实现一门领域特定语言（DSL），并使用这种 DSL 完成文本解析任务，例如 JSON 解析、表达式求值等。

思路

言归正传，这个简单的解析器是怎么构思的呢？那要先从模式匹配开始。文本解析与模式匹配有很多相似之处，比如解析一个整数，跟匹配一个整数就是相似的，都需要根据整数的文法 0|[1-9]\d* 把文本中满足文法的部分找出来。不同的是，当说到解析整数的时候，我们希望得到的结果是一个整数，而不是一段文本。更进一步，如果我们已经知道如何解析整数，那么解析加减表达式又可以看到一些相似性。加减表达式的文法可以表示为 num ('+'|'-' num)*，就像文本模式匹配一样，需要对一些“东西”的到达顺序、重复次数、分支进行匹配。

从上面的描述可以看出，我们要做的是某种模式匹配。模式匹配的明星非正则表达式莫数。观察正则表达式，我们基本的需求都有啥？比如有，匹配一个字符或者按顺序出现的字符。好了，就从这两点出发。我们可以设计两个函数，一个 match 函数用来匹配单个字符，一个 seq 函数表示按顺序匹配。显然，多个 match 就可以形成 seq，所以 seq 是一个高阶函数。但是，seq 是直接组合 match 吗？当然不是，因为 match 需要一个参数，表示需要匹配的字符是哪个，所以 match 也是一个高阶函数，而 seq 需要 match 产生的函数组合成新函数，即 seq([match('a'), match('b'), match('c')])。那 match 和 seq 生成的函数是什么？是匹配器。允许我们直接对文本进行匹配：

const match_a = match('a');
match_a('abc');

const match_abc = seq([match('a'), match('b'), match('c')]);
match_abc('abc');

由于我们要组合函数，所以匹配器不是只简单返回 bool 值，这样组合过程中，状态会丢失。我们让匹配器返回两个值：一个是匹配后剩余的字符串；一个是匹配是否成功。于是我们就有了：

declare type Matcher = (src: string) => [string, bool];

function match(ch): Matcher {
    return src => {
        if (src.startsWith(ch)) return [src.substring(1), true];
        return [src, false];
    };
}

// 顺序匹配，其中一个失败则整体失败
function seq(steps: Matcher[]): Matcher {
    return src => {
        for (const step of steps) {
            const [rest, ok] = step(src);
            if (!ok) return [src, false];
            src = rest;
        }
        return [src, true];
    };
}

试试看。

const match_a = match('a');
console.log(...match_a('abc')); // "bc" true
console.log(...match_a('def')); // "def" false 

const match_abc = seq([match('a'), match('b'), match('c')]);
match_abc('abc');
console.log(...match_abc('abc')); // "" true
console.log(...match_abc('abd')); // "abd" false

妙极了！

nice

拥抱正则表达式

接下来，我们可以在这个基础上实现正则表达式的其它模式，比如：

  1. alt。候选列表，列表中有一个匹配成功则成功，全部失败则整体失败。对应正则表达式中是 | 和 []。
  2. opt。可选，对应正则表达的 ? 模式。
  3. many。多次重复，对应正则表达式中的 * 模式。

其它不一一列举，如果继续下去，应该能实现一个自己的正则表达式，但那不是我们的目标，我想先回到“解析”上。

观察 match 函数，它只能匹配一个字符，如果要匹配多个则要使用 seq 进行组合，不是很方便。既然正则表达式可以进行文本匹配，我们没有必要重复正则表达式的工作，直接利用它就好。所以，我们可以把正则表达式作为 match 的参数：

function match(pattern: RegExp): Matcher {
    // ...
}

解析

前面说过，解析整数的结果是整数而不是长得像整数的字符串，因此，Matcher 不能返回 bool，而应该是某个“结果”。所以 Matcher 的签名应该是 (src: string) => [string, any]。怎么把文本变成那个“结果”呢，可以在 match 后面加一个回调，表示匹配到了文本后，应该如何处理这个文本。显然，这个回调的输入参数是匹配到的文本，输出是“结果”，即 (token: string) => any。我们把这个回调函数取名为 Action。

如果现在尝试去改 match 函数，就会发现一个问题，seq 函数也返回 Matcher，但这个匹配器执行后应该返回什么“结果”呢？为解决这个问题，我们也需要给 seq 函数添加 Action，只不过 seq 函数的 Action 的输入参数是一个列表。还有，匹配成功后，我也可以不做任何动作，此时把匹配的文本继续往下传即可。现在我们再修改代码：

declare type Matcher = (src: string) => [string, any];
declare type Action = (val: any) => any;

function noop(tok: any){ return tok; }

// 用 `pattern` 匹配文本的开头
function match(pattern: RegExp, action: Action = noop): Matcher {
    return src => {
        const m = pattern.exec(src);
        if (!m || m.index !== 0) throw new Error(`unexpected token '${src[0]}'`);
        const rest = src.substring(m[0].length);
        return [rest, action(m[0])];
    };
}

// 顺序匹配，其中一个失败则整体失败
function seq(steps: Matcher[], action: Action = noop): Matcher {
    return src => {
        const list: any[] = [];

        for (const step of steps) {
            const [rest, val] = step(src); // `step` 函数会 `throw`，因此一个失败整体就会失败 
            src = rest;
            list.push(val);
        }

        return [src, action(list)];
    };
}

玩玩看：

const match_helloworld = seq([match(/hello/), match(/ /), match(/world/)]);

console.log(...match_helloworld('hello world')); // "" ["hello", " ", "world"]
console.log(...match_helloworld('helloworld'));  // Error: unexpected token 'w'

还是妙，但目前为止还算常规，跟正则表达式差不多。那么，接下来看下面这个例子：

const int = match(/0|[1-9]\d*/, Number); // 用整数的文法匹配文本，并把匹配到的文本直接转成 js 的 `number`

// 根据文法 `int('+'|'-')int` 进行匹配，并根据中间 token 进行计算
const Exp = seq([int, match(/\+|\-/), int], toks => {
    if (toks[1] === '+') return toks[0] + toks[2]; // 因为 `int` 函数返回的是 `number`，所以这里可以直接进行计算！
    if (toks[1] === '-') return toks[0] - toks[2];
    return toks;
});

console.log(...Exp('1+2')); // "" 3
console.log(...Exp('5-3')); // "" 2

现在是不是更妙了。

oooh

完全体

光有 seq 可不能满足解析的全部需求，还得要把其它模式加进来，我就不一一说明其它模式的实现方法了，直接给出全部代码，相信看代码也很好理解：

declare type Matcher = (src: string) => [string, any];
declare type Action = (val: any) => any;

function noop(tok: any){ return tok; }

// 原来的 `match` 函数，改了个名字
function token(pattern: string|RegExp, action: Action = noop): Matcher {
    if (pattern instanceof RegExp) {
        return (src) => {
            if (src.length === 0) throw new SyntaxError("Unexpected EOS");
            const regex = new RegExp(pattern.source[0] === '^' ? pattern.source : '^' + pattern.source);
            const m = regex.exec(src);
            if (!m || m.index !== 0)
                throw new SyntaxError(`Unexpected token '${src[0]}', expected: ${pattern}`);
            const rest = src.substring(m[0].length);
            return [rest, action(m[0])];
        };
    } else if (typeof pattern === "string") {
        return (src) => {
            if (src.length === 0) throw new SyntaxError("Unexpected EOS");
            if (!src.startsWith(pattern))
                throw new SyntaxError(`Unexpected token '${src[0]}', expected: ${pattern}`);
            const rest = src.substring(pattern.length);
            return [rest, action(pattern)];
        };
    }
    throw Error("pattern must be a string or an instance of RegExp");
}

// 顺序匹配，其中一个失败则整体失败
function seq(steps: Matcher[], action: Action = noop): Matcher {
    return src => {
        const list: any[] = [];

        for (const step of steps) {
            const [rest, val] = step(src); // `step` 函数会 `throw`，因此一个失败整体就会失败 
            src = rest;
            list.push(val);
        }

        return [src, action(list)];
    };
}

// 可选匹配
function opt(step: Matcher, action: Action = noop): Matcher {
    return (src) => {
        try {
            const [rest, v] = step(src);
            return [rest, action(v)];
        } catch (err) {
            return [src, undefined]; // 也许这里可以改成 `return [src, action("")]`;
        }
    };
}

// 候选列表匹配，列表中其中一个匹配即可
function alt(steps: Matcher[], action: Action = noop): Matcher {
    return (src) => {
        for (const step of steps) {
            try {
                const [rest, v] = step(src);
                return [rest, action(v)];
            } catch (_) {
                // mute
            } 
        }

        throw new Error(`unknown token ${src[0]}`);
    };
}

// 重复任意次数
function many(item: Matcher, action: (vals: any[]) => any = noop): Matcher {
    return src => {
        let list: any[] = [];
        let val = undefined;

        while (true) {
            try {
                [src, val] = item(src);
                list.push(val);
            } catch (_) {
                break;
            }
        }

        return [src, action(list)];
    };
}

// 带分隔符的重复，即满足 `item (sep item)*` 这种文法的
function many_sep(sep: Matcher, item: Matcher, action: (vals: any[]) => any = noop): Matcher {
    const etc = seq([sep, item], vs => vs[1]);
    return (src) => {
        let list: any[] = [];
        let val = undefined;

        try {
            [src, val] = item(src);
            list.push(val);
        } catch (_) {
            return [src, action(list)];
        }

        // 以下逻辑也可通过调用 `many` 实现
        while (true) {
            try {
                [src, val] = etc(src);
                list.push(val);
            } catch (_) {
                break;
            }
        }

        return [src, action(list)];
    };
}

好了，直接攒个大活儿，咱们用这些东西解析 JSON 看看：

const ws = token(/\s*/);

const Sep = seq([token(','), opt(ws)], v => v[0]); // 也可以简写为 `token(/,\s*/)`

const Str = token(/"([^\\"]|\\[\\\/bfrtn]|\\u[0-9a-fA-F]{4})*"/, JSON.parse); // 这里使用 `JSON.parse` 算是作弊，不过用它让演示代码缩短了不少

const Num = token(/-?(0|[1-9]\d*)(\.\d+)?([eE][\+\-]?\d+)?/, Number);

// Elems = Val (',' Val)*
const Elems = many_sep(Sep, src => Val(src));

// KVs = KV (',' KV)*
const KVs = many_sep(Sep, src => KV(src));

// js 中可以直接使用 `Object.fromEntries`
function objFromKVs(kvs: [string, any][]) {
    return kvs.reduce((obj, [k, v]) => { obj[k] = v; return obj; }, {} as any);
}

// Val = Str | Num | 'true' | 'false' | 'null' | '[' ws Elems ws ']' | '{' ws KVs ws '}'
const Val = alt([
    Str,
    Num,
    token(/true|false/, token => token === 'true'),
    token(/null/, _ => null),
    seq([token('['), ws, Elems, ws, token(']')], v => v[2]),                   // '[' ws Elems ws ']'
    seq([token('{'), ws, KVs, ws, token('}')], v => objFromKVs(v[2] as any[])) // '{' ws KVs ws '}'
]);

// KV = Str ws ':' ws Val
const KV = seq([
    Str,
    ws,
    token(':'),
    ws,
    Val,
], kv => [kv[0], kv[4]]); // 匹配 KV 列表，并转换成 `[[key, val]...]` 的形式

// 演示
console.log(...Val('[1, 2.3e4, true, null, "\\t"]')); // "" [1, 23000, true, null, "        "]
console.log(...Val('{ "k1": 123, "k2": true }'));     // "" {k1: 123, k2: true}

怎么样，相当不错吧!!!

god

接下来再演示下进阶版本的表达式解析与求值，支持加、减、乘、除和括号：

// Factor = '(' ws Exp ws ')' | Num
const Factor = alt([
    seq([token('('), ws, src => Exp(src), ws, token(')')], vals => vals[2]),
    Num,
]);

// Term = Factor (ws '*|/' ws Factor)*
const Term = seq([Factor, many(seq([ws, token(/\*|\//), ws, Factor]))], ([head, tail]) => {
    return (tail as any[]).reduce((acc, x) => {
        if (x[1] === '*') return acc * x[3];
        if (x[1] === '/') return acc / x[3];
        return acc;
    }, head);
});

// Exp = Term (ws '+|-' ws Term)*
const Exp = seq([Term, many(seq([ws, token(/\+|-/), ws, Term]))], ([head, tail]) => {
    return (tail as any[]).reduce((acc, x) => {
        if (x[1] === '+') return acc + x[3];
        if (x[1] === '-') return acc - x[3];
        return acc;
    }, head);
});

console.log(...Exp('( 1 + 2 * 5 ) * 3')); // "" 33

总结

本文使用简单易懂的代码，实现了一组可以构造解析器的函数。相信通过本文的演示，你应该对解析器的基本工作原理有了一个浅浅的了解。实际上，我们实现的这一组函数是一种领域特定语言，即 DSL。虽然实现方式简单，但不妨碍这种 DSL 的实用性，在日常的小脚本中，更加体现它的小巧、易懂、功能强大。不过也要注意的是，我是以小巧、简易为目标实现的，所以性能不是首要目标，将本文的实现用于性能挑剔的场合肯定是不合适的。

原文链接：https://www.cnblogs.com/1bite/p/17252162.html

本站文章如无特殊说明，均为本站原创，如若转载，请注明出处：JS 做一个简单的 Parser - Python技术站

赞 (0)
0 0 打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
上一篇 2023年4月18日
下一篇 2023年4月18日

相关文章

  • 浅谈Javascript 执行顺序

    浅谈JavaScript 执行顺序 在JavaScript中，代码执行的顺序可以影响到程序的执行结果。具体来说，程序在执行时会按照一定的顺序依次执行各个语句。本文将深入讲解JavaScript中的执行顺序。 代码执行阶段 代码执行阶段可以分为两个阶段： 解析阶段 执行阶段 其中，解析阶段是将代码转化成抽象语法树（AST），并进行语义分析，确定变量、函数等的声…

    JavaScript 2023年5月18日
    00

  • 用Javascript实现UTF8编码转换成gb2312编码

    要想用Javascript实现UTF8编码转换成gb2312编码，可以按以下步骤进行： 1. 将UTF8字符串解析为十六进制数组 使用 Javascript 中的 String 类型的 charCodeAt 方法，可以得到UTF8字符串的每个字符的 Unicode 码值。然后将 Unicode 码值转换为十六进制表达形式，下面是示例代码： // UTF8字符…

    JavaScript 2023年5月20日
    00

  • Bootstrap编写一个在当前网页弹出可关闭的对话框 非弹窗

    让我来给你详细讲解一下如何使用Bootstrap编写一个在当前网页弹出可关闭的对话框。以下是具体的步骤： 版本说明 在编写本文时，Bootstrap 的最新版本为 v5.1.0，所以以下过程中的代码也是基于该版本编写的。 准备工作 在使用 Bootstrap 之前，你需要在你的网页中先引入相关的 CSS 和 JavaScript 文件。本文以 CDN 引入为…

    JavaScript 2023年5月19日
    00

  • JavaScript使用indexOf获得子字符串在字符串中位置的方法

    JavaScript中indexOf()方法可以用来查找字符串中一个子字符串的位置。它会在调用它的字符串中搜索指定的子字符串，并返回该子字符串在字符串中的位置。如果没有找到指定的子字符串，则返回-1。 下面是使用indexOf()方法来获得子字符串在字符串中位置的方法： 语法 string.indexOf(searchValue [, fromIndex])…

    JavaScript 2023年5月28日
    00

  • javascript向flash swf文件传递参数值注意细节

    让我们详细讲解“javascript向flash swf文件传递参数值注意细节”的攻略。 1. 基本概念 在传递参数之前，我们需要了解一些关于Flash与JavaScript之间交互的基本概念。 Flash对于JavaScript的支持 Flash支持通过JavaScript调用Flash中的方法（ExternalInterface.call），以及在Fla…

    JavaScript 2023年6月10日
    00

  • 原生js实现日期计算器功能

    非常感谢您对“原生js实现日期计算器功能”的关注。下面是我对这个话题的详细讲解，希望能够帮助到您。 什么是日期计算器功能？ 日期计算器功能指的是在网页上实现日期的计算，如计算两个日期之间相差的天数、周数、月数、年数等等。这个功能在实际的项目中很常见，比如生日计算器、工作日计算器等等。 使用JavaScript实现日期计算器功能 原生JavaScript能够轻…

    JavaScript 2023年5月27日
    00

  • 简介JavaScript中的unshift()方法的使用

    简介JavaScript中的unshift()方法的使用 unshift()方法是JavaScript数组中的一个常用方法，它可以在数组的开头添加一个或多个元素，并返回新的数组长度。下面将详细介绍该方法的使用。 语法 array.unshift(element1[, element2[, …[, elementN]]]) 参数元素element1至ele…

    JavaScript 2023年5月27日
    00

  • JS实现生成由字母与数字组合的随机字符串功能详解

    下面是详细的攻略： 1. 开发思路 生成随机字符串的最基本思路是，在一定的字符集中随机选取一些字符，然后按照一定顺序排列生成字符串。对于字符集的选择，我们可以限定在数字、小写字母、大写字母三类字符中，并且可以根据具体需求自定义字符集。然后利用 JavaScript 中的 Math.random() 函数来实现字符的随机选择，最后将所选的字符组合在一起形成随机…

    JavaScript 2023年5月28日
    00
合作推广
合作推广
分享本页
返回顶部