MCP и вызов инструментов

Rapid-MLX

raullenchai/rapid-mlx

The fastest local AI engine for Apple Silicon. 4.2x faster than Ollama, 0.08s cached TTFT, 100% tool calling. 17 tool parsers, prompt cache, reasoning separation, cloud routing. Drop-in OpenAI replacement. Works with Claude Code, Cursor, Aider.

★ 3,5KЗвёзды
⑂ 401Форки
29Открытые проблемы
PythonЯзык
NOASSERTIONЛицензия
Q96Редакционная оценка

Обзор

The fastest local AI engine for Apple Silicon. 4.2x faster than Ollama, 0.08s cached TTFT, 100% tool calling. 17 tool parsers, prompt cache, reasoning separation, cloud routing. Drop-in OpenAI replacement. Works with Claude Code, Cursor, Aider.

Требования, установка и быстрый старт

В метаданных репозитория требования к установке не указаны.

Использование

В метаданных репозитория сведения об использовании не указаны.

Совместимость моделей и варианты использования

В метаданных репозитория совместимость моделей не указана.

Лицензия и примечания о рисках

NOASSERTION

ToolAI metadata-only listing: repository metadata is public; editorial content and manual verification are still pending.

MemPalace

mempalace/mempalace

★ 58KPython

litellm

berriai/litellm

★ 56,8KPython

QwenPaw

agentscope-ai/qwenpaw

★ 33,9KPython