VM Dialect 详解

Dialect 名称: vm C++ 命名空间: ::mlir::iree_compiler::IREE::VM 主要用途: 抽象虚拟机操作，可以序列化为字节码或降低为静态表示

目录

1. 概述
2. 文件结构
3. 核心概念
4. 类型系统
5. Opcode 表
6. 核心 Op 列表
7. 关键 Interface
8. 在编译 Pipeline 中的位置

1. 概述

VM (Virtual Machine) Dialect 是 IREE 编译器的虚拟机抽象层。虚拟机操作设计为可以序列化为字节码表示（在运行时解释），或进一步降低为静态表示（如 LLVM IR、C 等）。

设计哲学

VM Dialect 的类型和操作主要用于编码资源所有权规则和控制流，可以由目标运行时以多种不同方式表示。

设计目标:

1. 可伸缩运行时 - 支持从解释器到完全原生的多种执行模式
2. 最小化假设 - 保持实现简单
3. 资源所有权 - 编码资源所有权规则
4. 多目标支持 - 可降低到多种表示形式

数学限制

由于假设所有实际数学计算都发生在 dispatch regions 内，VM Dialect 仅提供：

• 标量操作 - 用于偏移和形状计算
• 简单流控制 - 固定范围循环

这种设计允许 VM 极其轻量和高效。

引用计数模型

除了整数值之外，唯一的其他存储类型是变体引用，建模抽象的 iree_vm_ref_t。这使得：

• 其他方言可以依赖自动引用计数
• 避免需要更冗长的手动引用计数逻辑（考虑到 VM 的类似协程特性，这可能很难或不可能管理）
• 降低目标可以根据需要插入引用计数

类型设计原则

VM Dialect 中的类型对应于存储类型而不是值类型，类型的解释编码在操作上。

2. 文件结构

3. 核心概念

3.1 声明式编码框架

VM ops 使用声明式编码框架进行序列化，由 iree-tblgen gen-vm-op-encoding-defs 生成器处理。

编码例程签名:

LogicalResult encode(SymbolTable &syms, VMFuncEncoder &e);

• syms - 父模块中的所有符号
• e - 字节码编码器，操作应该被编码到其中

3.2 Op 编码示例

let encoding = [
  VM_EncOpcode<VM_OPC_Return>,
  VM_EncVariadicOperands<"operands">
];

生成的编码函数（伪代码）:

LogicalResult encode(SymbolTable &syms, VMFuncEncoder &e) {
  if (failed(e.encodeI8(234)) ||
      failed(e.encodeOperands(operands()))) {
    return failure();
  }
  return success();
}

3.3 字节码格式

VM 字节码是一种紧凑的二进制格式，包含：

• 模块元数据
• 函数定义
• 常量/只读数据（rodata）
• 全局变量
• 导入/导出表
• 字节码指令流

4. 类型系统

4.1 基本类型

4.2 引用类型

4.3 特殊类型

5. Opcode 表

5.1 核心 Opcode（VMOpcodesCore.td）

5.2 F32 Opcode（VMOpcodesF32.td）

5.3 F64 Opcode（VMOpcodesF64.td）

6. 核心 Op 列表

6.1 控制流操作

6.2 整数运算（i32 / i64）

6.3 比较操作

6.4 常量加载

6.5 全局变量操作

6.6 引用操作

6.7 列表操作

6.8 缓冲区操作

| Op 名称 | 说明 | |---|---|---| | vm.buffer.length | 获取缓冲区长度 | | vm.buffer.subspan | 获取缓冲区子范围 | | vm.buffer.copy | 复制缓冲区 | | vm.buffer.fill | 填充缓冲区 |

6.9 浮点数操作（F32 / F64）

6.10 浮点数比较

6.11 浮点数转换

6.12 调试/追踪操作

7. 关键 Interface

7.1 VMSerializableOpInterface

字节码 VM ops 使用的接口，提供一致的序列化和反序列化信息。

方法:

• encode(SymbolTable &syms, VMFuncEncoder &e) - 将操作编码为字节码
• verify() - 验证操作的合法性

8. 在编译 Pipeline 中的位置

VM Dialect 位于编译 Pipeline 的最后阶段，是最终的 IR 表示：

Input → ... → HAL → **VM** → 字节码 / LLVM IR / C

VM Pipeline 阶段

输出目标

VM Dialect 可以输出到多种目标：

总结

VM Dialect 是 IREE 编译器的最终代码生成层：

• ✅ 抽象虚拟机操作，支持多种降低目标
• ✅ 声明式字节码编码框架
• ✅ 自动引用计数系统
• ✅ 仅限标量操作（所有实计算在 dispatch regions）
• ✅ 可序列化为字节码或降低为 LLVM IR/C 等
• ✅ 设计支持在持久化 Vulkan kernel 内运行整个 VM

VM Dialect 的关键设计决策：

1. 存储类型 vs 值类型 - 类型对应存储而非值
2. 最小数学支持 - 仅提供偏移/形状计算所需的标量操作
3. 自动引用计数 - 内置 ref 类型简化资源管理
4. 多目标设计 - 一次编写，多处运行