【AI模型】部署-oMLX

oMLX是专为macOS优化的本地大模型推理服务器,深度优化Apple Silicon芯片性能,支持M1/M2/M3处理器。该工具通过创新的SSD分层KV缓存技术实现无限上下文支持,并提供原生菜单栏应...
2天前
50