利用 Python 开发一个 Python 解释器

目录
  • 1.标记(Token)
  • 2.词法分析器(Lexer)
  • 3.巴科斯-诺尔范式(Backus-Naur Form,BNF)
  • 4.解析器(Parser)

前言:

计算机只能理解机器码。归根结底,编程语言只是一串文字,目的是为了让人类更容易编写他们想让计算机做的事情。真正的魔法是由编译器和解释器完成,它们弥合了两者之间的差距。解释器逐行读取代码并将其转换为机器码。

在本文中,我们将设计一个可以执行算术运算的解释器。

我们不会重新造轮子。文章将使用由 David M. Beazley 开发的词法解析器 ——PLY(Python Lex-Yacc(https://github.com/dabeaz/ply))

PLY 可以通过以下方式下载:

$ pip install ply 

我们将粗略地浏览一下创建解释器所需的基础知识。欲了解更多,请参阅这个 GitHub 仓库(https://github.com/dabeaz/ply)

1.标记(Token)

标记是为解释器提供有意义信息的最小字符单位。标记包含一对名称和属性值。

让我们从创建标记名称列表开始。这是一个必要的步骤。

tokens = (  
    # 数据类型  
    "NUM",  
    "FLOAT",  
    # 算术运算  
    "PLUS",  
    "MINUS",  
    "MUL",  
    "DIV",  
    # 括号  
    "LPAREN",  
    "RPAREN",  
) 

2.词法分析器(Lexer)

将语句转换为标记的过程称为标记化或词法分析。执行词法分析的程序是词法分析器。

# 标记的正则表达  
t_PLUS   = r"\+"  
t_MINUS  = r"\-"  
t_MUL    = r"\*"  
t_DIV    = r"/"  
t_LPAREN = r"\("  
t_RPAREN = r"\)"  
t_POW    = r"\^"  
# 忽略空格和制表符  
t_ignore = " \t"  
# 为每个规则添加动作  
def t_FLOAT(t):  
    r"""\d+\.\d+"""  
    t.value = float(t.value)  
    return t  
def t_NUM(t):  
    r"""\d+"""  
    t.value = int(t.value)  
    return t  
# 未定义规则字符的错误处理  
def t_error(t):  
    # 此处的 t.value 包含未标记的其余输入  
    print(f"keyword not found: {t.value[0]}\nline {t.lineno}")  
    t.lexer.skip(1)  
# 如果遇到 \n 则将其设为新的一行  
def t_newline(t):  
    r"""\n+"""  
    t.lexer.lineno += t.value.count("\n") 

为导入词法分析器,我们将使用:

import ply.lex as lex

t_ 是一个特殊的前缀,表示定义标记的规则。每条词法规则都是用正则表达式制作的,与 Python 中的 re 模块兼容。正则表达式能够根据规则扫描输入并搜索符合的符号串。正则表达式定义的文法称为正则文法。正则文法定义的语言则称为正则语言。

定义好了规则,我们将构建词法分析器:

data = 'a = 2 +(10 -8)/1.0'  
lexlexer = lex.lex()  
lexer.input(data)  
while tok := lexer.token():  
    print(tok) 

为了传递输入字符串,我们使用lexer.input(data)lexer.token() 将返回下一个 LexToken 实例,最后返回 None。根据上述规则,代码 2 + ( 10 -8)/1.0 的标记将是:

紫色字符代表的是标记的名称,其后是标记的具体内容。

3.巴科斯-诺尔范式(Backus-Naur Form,BNF)

大多数编程语言都可以用上下文无关文法来编写。它比常规语言更复杂。对于上下文无关文法,我们用上下文无关语法,它是描述语言中所有可能语法的规则集。BNF 是一种定义语法的方式,它描述了编程语言的语法。

让我们看看例子:

symbol : alternative1 | alternative2 …

根据产生式,: 的左侧被替换为右侧的其中一个值替换。右侧的值由 | 分隔(可理解为 symbol 定义为 alternative1 alternative2或…… 等等)。

对于我们的这个算术解释器,语法规格如下:

expression : expression '+' expression  
           | expression '-' expression  
           | expression '/' expression  
           | expression '*' expression  
           | expression '^' expression  
           | +expression  
           | -expression  
           | ( expression )  
           | NUM  
           | FLOAT 

输入的标记是诸如 NUMFLOAT、+、-、*、/ 之类的符号,称作终端(无法继续分解或产生其他符号的字符)。一个表达式由终端和规则集组成,例如 expression 则称为非终端。

4.解析器(Parser)

我们将使用 YACC(Yet Another Compiler Compiler) 作为解析器生成器。导入模块:import ply.yacc as yacc

from operator import (add, sub, mul, truediv, pow)  
# 我们的解释器支持的运算符列表  
ops = {  
    "+": add,  
    "-": sub,  
    "*": mul,  
    "/": truediv,  
    "^": pow,  
} 
def p_expression(p):  
    """expression : expression PLUS expression  
                  | expression MINUS expression  
                  | expression DIV expression  
                  | expression MUL expression  
                  | expression POW expression"""  
    if (p[2], p[3]) == ("/", 0):  
        # 如果除以 0,则将“INF”(无限)作为值  
        p[0] = float("INF")  
    else:  
        p[0] = ops[p[2]](p[1], p[3])  
def p_expression_uplus_or_expr(p):  
    """expression : PLUS expression %prec UPLUS  
                  | LPAREN expression RPAREN"""  
    p[0] = p[2]  
def p_expression_uminus(p):  
    """expression : MINUS expression %prec UMINUS"""  
    p[0] = -p[2]  
def p_expression_num(p):  
    """expression : NUM  
                  | FLOAT"""  
    p[0] = p[1]  
# 语法错误时的规则  
def p_error(p):  
    print(f"Syntax error in {p.value}") 

在文档字符串中,我们将添加适当的语法规范。p 列表中的的元素与语法符号一一对应,如下所示:

expression : expression PLUS expression  
p[0]         p[1]       p[2] p[3] 

在上文中,%prec UPLUS%prec UMINUS 是用来表示自定义运算的。%prec 即是 precedence 的缩写。在符号中本来没有 UPLUS 和 UMINUS 这个说法(在本文中这两个自定义运算表示一元正号和符号,其实 UPLUS 和 UMINUS 只是个名字,想取什么就取什么)。之后,我们可以添加基于表达式的规则。YACC 允许为每个令牌分配优先级。

我们可以使用以下方法设置它:

precedence = (  
    ("left", "PLUS", "MINUS"),  
    ("left", "MUL", "DIV"),  
    ("left", "POW"),  
    ("right", "UPLUS", "UMINUS")  
) 

在优先级声明中,标记按优先级从低到高的顺序排列。PLUS MINUS 优先级相同并且具有左结合性(运算从左至右执行)。MULDIV 的优先级高于 PLUS 和 MINUS,也具有左结合性。POW 亦是如此,不过优先级更高。UPLUS 和 UMINUS 则是具有右结合性(运算从右至左执行)。

要解析输入我们将使用:

parser = yacc.yacc()  
result = parser.parse(data)  
print(result) 

完整代码如下:

#####################################  
# 引入模块                           #  
#####################################  
from logging import (basicConfig, INFO, getLogger)  
from operator import (add, sub, mul, truediv, pow)  
import ply.lex as lex  
import ply.yacc as yacc  
# 我们的解释器支持的运算符列表  
ops = {  
    "+": add,  
    "-": sub,  
    "*": mul,  
    "/": truediv,  
    "^": pow,  
}  
#####################################  
# 标记集                             #  
#####################################  
tokens = (  
    # 数据类型  
    "NUM",  
    "FLOAT",  
    # 算术运算  
    "PLUS",  
    "MINUS",  
    "MUL",  
    "DIV",  
    "POW",  
    # 括号  
    "LPAREN",  
    "RPAREN",  
)  
#####################################  
# 标记的正则表达式                    #  
#####################################  
t_PLUS   = r"\+"  
t_MINUS  = r"\-"  
t_MUL    = r"\*"  
t_DIV    = r"/"  
t_LPAREN = r"\("  
t_RPAREN = r"\)"  
t_POW    = r"\^"  
# 忽略空格和制表符  
t_ignore = " \t"  
# 为每个规则添加动作  
def t_FLOAT(t):  
    r"""\d+\.\d+"""  
    t.value = float(t.value)  
    return t  
def t_NUM(t):  
    r"""\d+"""  
    t.value = int(t.value)  
    return t  
# 未定义规则字符的错误处理  
def t_error(t):  
    # 此处的 t.value 包含未标记的其余输入  
    print(f"keyword not found: {t.value[0]}\nline {t.lineno}")  
    t.lexer.skip(1)  
# 如果看到 \n 则将其设为新的一行 
 def t_newline(t):  
    r"""\n+"""  
    t.lexer.lineno += t.value.count("\n")  
#####################################  
# 设置符号优先级                      #  
#####################################  
precedence = (  
    ("left", "PLUS", "MINUS"),  
    ("left", "MUL", "DIV"),  
    ("left", "POW"),  
    ("right", "UPLUS", "UMINUS")  
)  
#####################################  
# 书写 BNF 规则                      #  
#####################################  
def p_expression(p):  
    """expression : expression PLUS expression  
                  | expression MINUS expression  
                  | expression DIV expression  
                  | expression MUL expression  
                  | expression POW expression"""  
    if (p[2], p[3]) == ("/", 0):  
        # 如果除以 0,则将“INF”(无限)作为值  
        p[0] = float("INF")  
    else:  
        p[0] = ops[p[2]](p[1], p[3])  
def p_expression_uplus_or_expr(p):  
    """expression : PLUS expression %prec UPLUS  
                  | LPAREN expression RPAREN"""  
    p[0] = p[2]  
def p_expression_uminus(p):  
    """expression : MINUS expression %prec UMINUS"""  
    p[0] = -p[2]  
def p_expression_num(p):  
    """expression : NUM  
                  | FLOAT"""  
    p[0] = p[1]  
# 语法错误时的规则  
def p_error(p):  
    print(f"Syntax error in {p.value}") 
 #####################################  
# 主程式                             #  
#####################################  
if __name__ == "__main__":  
    basicConfig(level=INFO, filename="logs.txt") 
    lexlexer = lex.lex()  
    parser = yacc.yacc()  
    while True:  
        try:  
            result = parser.parse(  
                input(">>>"),  
                debug=getLogger())  
            print(result)  
        except AttributeError:  
            print("invalid syntax") 

到此这篇关于利用 Python 开发一个 Python 解释器的文章就介绍到这了,更多相关Python 解释器内容请搜索我们以前的文章或继续浏览下面的相关文章希望大家以后多多支持我们!

(0)

相关推荐

  • 利用 Python 开发一个 Python 解释器

    目录 1.标记(Token) 2.词法分析器(Lexer) 3.巴科斯-诺尔范式(Backus-Naur Form,BNF) 4.解析器(Parser) 前言: 计算机只能理解机器码.归根结底,编程语言只是一串文字,目的是为了让人类更容易编写他们想让计算机做的事情.真正的魔法是由编译器和解释器完成,它们弥合了两者之间的差距.解释器逐行读取代码并将其转换为机器码. 在本文中,我们将设计一个可以执行算术运算的解释器. 我们不会重新造轮子.文章将使用由 David M. Beazley 开发的词法解析

  • Win7下搭建python开发环境图文教程(安装Python、pip、解释器)

    安装Python 1.下载适合系统版本的Python 先到网址(http://www.python.org/getit/)下载适合自己windows的python版本,32位win7下载 Python 3.3.2 Windows x86 MSI installer, 64位win7下载Python 3.3.2 Windows x86-64 MSI installer. (注:右击"计算机"-->"属性",会显示系统信息,如下图,显示我的win7为32位 ) 2

  • 从0到1使用python开发一个半自动答题小程序的实现

    前言 最近每天都有玩微信读书上面的每日一答的答题游戏,完全答对12题后,可以瓜分无限阅读卡.但是从小就不太爱看书的我,很难连续答对12道题,由此,产生了写一个半自动答题小程序的想法.我们先看一张效果图吧(ps 这里主要是我电脑有点卡,点击左边地选项有延迟) 项目GIthub地址:微信读书答题python小程序 觉得对你有帮助的请点个⭐来支持一下吧. 演示图: 做前准备 mumu模拟器 因为手边没有安卓手机,所以只能在模拟器上进行模拟,如果手上有安卓手机地,可以适当地修改一下程序.需要安装微信和微

  • python开发一个解析protobuf文件的简单编译器

    引言 最近刚刚用python写完了一个解析protobuf文件的简单编译器,深感ply实现词法分析和语法分析的简洁方便.乘着余热未过,头脑清醒,记下一点总结和心得,方便各位pythoner参考使用. ply使用 简介 如果你不是从事编译器或者解析器的开发工作,你可能从未听说过ply.ply是基于python的lex和yacc,而它的作者就是大名鼎鼎Python Cookbook, 3rd Edition的作者.可能有些朋友就纳闷了,我一个业务开发怎么需要自己写编译器呢,各位编程大牛说过,中央决定

  • 用 Django 开发一个 Python Web API的方法步骤

    Django 是 Python 编程语言驱动的一个开源模型-视图-控制器(MVC)风格的 Web 应用程序框架.它是Python API开发中最受欢迎的名称之一,自2005年成立以来,其知名度迅速提升. Django由Django软件基金会(Django Software Foundation)维护,并获得了社区的大力支持,在全球拥有11,600多个成员.在Stack Overflow上,Django大约有191,000个带标签的问题.Spotify,YouTube和Instagram等网站都依

  • 教你如何使用Python开发一个钉钉群应答机器人

    前提 搭建钉钉应答机器人,需要先准备或拥有以下权限: 钉钉企业的管理员或子管理员(如果不是企业管理员,可以自己创建一个企业,很方便的) 有公网通信地址(内网穿透也可以): 钉钉群机器人开发文档:https://developers.dingtalk.com/document/app/overview-of-group-robots 创建「机器人」应用 登录「钉钉开发者后台」,选择「应用开发」--「企业内部开发」-- 「机器人」 输入好机器人的基本信息之后,就会生成创建一个「钉钉机器人」 我们的后

  • 如何利用Python开发一个简单的猜数字游戏

    前言 本文介绍如何使用Python制作一个简单的猜数字游戏. 游戏规则 玩家将猜测一个数字.如果猜测是正确的,玩家赢.如果不正确,程序会提示玩家所猜的数字与实际数字相比是"大(high)"还是"小(low)",如此往复直到玩家猜对数字. 准备好Python3 首先,需要在计算机上安装Python.可以从Python官网下载并安装.本教程需要使用最新版的Python 3(版本3.x.x). 确保选中将Python添加到PATH变量的框.如果不这样做,将很难运行该程序.

  • 利用Javascript开发一个二维周视图日历

    前言 本文给大家介绍了Javascript开发二维周视图日历的相关内容,即之前实现了一个月视图日历,我们今天来实现一个二维周视图的日历. 以下进行分析其中的关键部分. 结构准备 不同之处在于其在日历的基础上还有一个分类轴,用于展示不同的类目,主要用于一周内的日程安排.会议安排等. 二维则和之前单独的有所不同,二维日历再切换日期时不用全部重新渲染,分类是不用变的,仅仅改变显示的日期即可. 而且由于是二维的,插入的内容必定是同时属于一个分类和一个时间段的,内容肯定是可以跨越时间(即日期轴)的,因此不

  • 利用vue开发一个所谓的数独方法实例

    1.前言 最近工作中遇到一个问题,因为后台管理系统页面功能暂时没有新的需求,就在想首页放什么东西,最近我想到的就是放个所谓的数独,为什么是所谓的数独,因为规则不同于标准的数独,只要求每一行每一列数字不一样就可以了!这个实例也是基于vue的,代码分享给大家.给大家代码,并不是要让大家直接拷贝代码,而是希望能让大家当做是一个练手的项目,或者学习到知识.如果大家觉得我哪里写得不好,写错了,欢迎指出,让大家交流意见,一起进步. 代码上传到github了:有需要的可以star一下!vue-demos 2.

  • 利用Angular7开发一个Radio组件的全过程

    一.准备工作 Angular7(以下简称ng7),已经跟之前版本大有不同.新建工程后,可方便创建library(简称lib),lib是什么呢?就是一个npm包的源码包.npm作为强大的包管理器,已经成为很多FEer分享智慧成果的法器.本文主要介绍本人写的一个radio组件. 二.开发组件radio过程 1.使用ng cli,新建工程,创建lib // 安装ng cli npm install -g @angular/cli // 新建工程 ng new ng-project // 进入ng-pr

  • Python实现一个自助取数查询工具

    基于底层数据来开发不难,无非是将用户输入变量作为筛选条件,将参数映射到 sql 语句,并生成一个 sql 语句然后再去数据库执行 最后再利用 QT 开发一个 GUI 界面,用户界面的点击和筛选条件,信号触发对应按钮与绑定的传参槽函数执行 具体思路: 一.数据库连接类 此处利用 pandas 读写操作 oracle 数据库 二.主函数模块 1)输入参数模块,外部输入条件参数,建立数据库关键字段映射 --注:读取外部 txt 文件,将筛选字段可能需要进行键值对转换 2)sql 语句集合模块,将待执行

随机推荐