Mods

Mods ist ein KI-Tool für die Kommandozeile, das für Pipelines entwickelt wurde. Es liest die Standardeingabe, stellt ihr einen als Argument übergebenen Prompt voran, sendet den Text an ein LLM und gibt das Ergebnis auf der Standardausgabe aus. Antworten können optional als Markdown formatiert werden. Mods funktioniert auch nur mit einer Standardeingabe oder einem als Argument übergebenen Prompt.

Wichtige Funktionen

• Mehrere Endpoints: standardmäßig Unterstützung für die offizielle OpenAI-API und eine auf Port 8080 laufende LocalAI-Installation. Außerdem kompatibel mit Cohere, Groq, Azure OpenAI, Ollama, Anthropic und Gemini. Weitere Endpoints lassen sich mit mods --settings konfigurieren.
• Gespeicherte Unterhaltungen: standardmäßig lokale Speicherung mit SHA-1-Kennung und Titel; Unterhaltungen können aufgelistet, fortgesetzt, angezeigt und gelöscht werden.
• Benutzerdefinierte Rollen: System-Prompts lassen sich festlegen, etwa eine shell-Rolle für einzeilige Befehle ohne Erklärung.
• MCP-Unterstützung: Unterstützung für MCP-Server (Model Context Protocol) mit SSE/HTTP-Transport sowie zum Auflisten und Deaktivieren von Servern und Anzeigen verfügbarer Tools.
• Formatierte Ausgabe: Mit --format und --format-as lassen sich Ausgabeformate wie JSON festlegen. Unterstützte Modelle erhalten den passenden Antworttyp; bei anderen Modellen wird die Formatangabe dem Prompt hinzugefügt.
• Pipeline-Integration: Die Standardausgabe von Befehlen kann als Eingabe für die KI-Verarbeitung dienen.

Installation und Vorteile

Installierbar über Homebrew (macOS/Linux), Winget (Windows), yay (Arch Linux), Nix, Debian/RPM-Pakete, Binärdateien oder go install github.com/charmbracelet/mods@latest. Vorab generierte Shell-Vervollständigungen sind für Bash, ZSH, Fish und PowerShell verfügbar.

Mods ist kostenlos und als Open Source unter der MIT-Lizenz verfügbar. Es unterstützt verschiedene LLM-Anbieter, einschließlich lokal ausgeführter Modelle, sowie Einstellungen für die Modellauswahl (--model), interaktive Modellabfrage (--ask-model), Sampling-Temperatur (--temp), Top-P/K-Werte, HTTP-Proxy, maximale Wiederholungen und Token-Limits.

Preise

Das Tool selbst ist kostenlos und Open Source. Für externe APIs wie OpenAI, Cohere, Groq, Azure OpenAI und Gemini werden jedoch die jeweiligen API-Schlüssel benötigt. Die Kosten richten sich nach den Preisen des jeweiligen Anbieters.