oMLX更新强化苹果端侧AI,本地能力直逼云端

05-13 12:35

阅读原文→
oMLX 发布 0.3.9.dev2 预发布版本,面向 Apple Silicon 本地 AI 增强能力。更新包括 Gemma 4 MTP 图文路径支持、DFlash 引擎和 ParoQuant 等内容,使图像加文本请求的解码速度明显提升,并补充了清理与贡献者提交。

原文内容

oMLX更新强化苹果端侧AI,本地能力直逼云端

作者:Berryxia.AI / @berryxia
发布时间:2026-05-13T04:35:04.000Z

最近我鼓吹苹果的端侧模型和统一内存的优势!

前有MLX ,现在不断拓展的格式都出来比如之前也分享过的oMLX又有更新!

Apple Silicon上的本地AI已经把云端大模型的很多优势直接干掉了。

oMLX 0.3.9.dev2直接把Gemma 4的MTP视觉路径、DFlash引擎、ParoQuant全塞了进来,图文解码速度大幅提升; https://t.co/HXX2KCMShb

原文图片