OPML:基于乐观机制的机器学习新范式

区块链系统中的人工智能模型推理和训练一直是业界关注的焦点。近期,一种名为OPML(Optimistic机器学习)的新方法引起了广泛关注。OPML采用乐观机制,可以在区块链系统上实现低成本、高效率的机器学习服务。

与传统的ZKML相比,OPML具有明显优势。它的参与门槛很低,普通PC无需GPU即可运行大型语言模型,如26GB大小的7B-LLaMA模型。OPML借鉴了Truebit和乐观rollup系统的验证游戏机制,以保证机器学习服务的去中心化和可验证共识。

OPML的工作流程如下:

1. 请求者发起机器学习任务
2. 服务器完成任务并将结果提交到链上
3. 验证者对结果进行验证,如有异议则启动验证游戏
4. 双方通过二分协议精确定位争议步骤
5. 最后在智能合约上进行单步仲裁

为了提高效率,OPML采用了多项创新技术:

• 构建了专用虚拟机,保证链下和链上执行的等效性
• 开发轻量级DNN库,可将主流框架模型转换
• 使用交叉编译技术将AI推理代码编译为VM指令
• VM镜像采用默克尔树管理,只上传根哈希到链上

实验表明,OPML在普通PC上可在2秒内完成基本AI模型推理,整个验证过程2分钟内完成。这远超出了单阶段验证游戏的性能。

为进一步提升性能,OPML还提出了多阶段验证游戏。这使得计算可以充分利用GPU/TPU加速和并行处理,性能接近本地环境。多阶段OPML采用计算图表示推理过程,可灵活利用本地硬件资源。

与单阶段方案相比,两阶段OPML可实现α倍计算加速,默克尔树大小也从O(mn)降至O(m+n)。这显著提升了系统效率和可扩展性。

为确保结果一致性,OPML采用了定点算法和基于软件的浮点库。这有效解决了不同平台浮点计算的差异问题,保证了跨平台的结果一致性。

总的来说,OPML为区块链上的机器学习提供了一种低成本、高效率的新范式。它不仅支持模型推理,还可用于模型训练等多种机器学习任务。随着进一步优化和完善,OPML有望成为未来区块链AI领域的重要技术方向。