omlx Web应用 适用于 Apple Silicon 的 LLM 推理服务器,具有连续批处理和 SSD 缓存功能——可从 macOS 菜单栏进行管理 Python Apache Apache-2.0 llm mlx apple-silicon inference-server macos OTO · ID:57 查看 ↗
llmfit 大模型 数百种模型和提供商。只需一个命令即可找到在你的硬件上运行的内容。 MIT-ISC MIT llm Rust gguf localai mlx skill OTO · ID:53 查看 ↗