OPML:基于乐观主义方法的机器学习新范式

OPML(Optimistic机器学习)是一种新兴的技术,旨在将乐观主义方法应用于区块链系统中的AI模型推理和训练/微调。与ZKML相比,OPML具有成本低、效率高的优势,能够在普通PC上运行大型语言模型,如7B-LLaMA(模型大小约26GB)。

OPML采用验证游戏机制来确保ML服务的去中心化和可验证性。其基本流程如下:

1. 请求者发起ML服务任务
2. 服务器完成任务并将结果提交到链上
3. 验证者对结果进行验证,如有异议则启动验证游戏
4. 通过智能合约进行单步仲裁

单阶段验证游戏

单阶段OPML的核心要素包括:

• 构建用于链下执行和链上仲裁的虚拟机(VM)
• 实现专门的轻量级DNN库,提高AI模型推理效率
• 使用交叉编译技术将AI模型推理代码编译为VM指令
• 采用默克尔树管理VM镜像,只将根哈希上传到链上

通过二分协议定位争议步骤,并将其发送到链上仲裁合约。初步测试表明,在普通PC上可在2秒内完成基本AI模型推理,整个挑战过程约2分钟。

多阶段验证游戏

为克服单阶段方法的局限性,OPML引入了多阶段验证游戏:

• 仅在最后阶段在VM中计算,其他阶段可在本地环境中执行
• 利用CPU、GPU、TPU等硬件加速能力
• 通过减少对VM的依赖,显著提高执行性能

多阶段OPML的核心思想是将DNN计算过程表示为计算图,并在不同阶段进行验证。这种方法可以充分利用硬件加速,提高整体效率。

性能改进

多阶段OPML相比单阶段方法具有显著优势:

• 计算速度提升α倍(α为GPU或并行计算加速比)
• Merkle树大小从O(mn)减小到O(m+n),其中m为VM微指令数,n为计算图节点数

这些改进大幅提升了系统的效率和可扩展性。

一致性与确定性

为确保ML结果的一致性,OPML采用了以下策略:

1. 使用定点算法(量化技术)减少浮点误差影响
2. 采用基于软件的浮点库,保证跨平台一致性

这些方法有效解决了不同硬件平台上浮点计算的差异问题,增强了OPML计算的可靠性。

总的来说,OPML为区块链系统中的AI模型推理和训练提供了一种高效、低成本的解决方案。虽然目前主要聚焦于模型推理,但该框架也支持训练过程,有望成为各类机器学习任务的通用方案。