Mods

Mods là công cụ AI cho dòng lệnh, được xây dựng cho pipeline. Công cụ đọc đầu vào tiêu chuẩn, thêm prompt được cung cấp trong tham số, gửi văn bản đến LLM và in kết quả ra đầu ra tiêu chuẩn. Người dùng có thể yêu cầu LLM định dạng phản hồi bằng Markdown. Mods cũng hoạt động riêng với đầu vào tiêu chuẩn hoặc prompt được cung cấp qua tham số.

Tính năng chính

• Nhiều endpoint: mặc định hỗ trợ API chính thức của OpenAI và một cài đặt LocalAI chạy trên cổng 8080. Công cụ cũng hỗ trợ Cohere, Groq, Azure OpenAI, Ollama, Anthropic và Gemini. Có thể cấu hình endpoint bổ sung bằng mods --settings.
• Lưu cuộc trò chuyện: cuộc trò chuyện được lưu cục bộ theo mặc định với mã định danh SHA-1 và tiêu đề; có thể liệt kê, tiếp tục, hiển thị hoặc xóa.
• Vai trò tùy chỉnh: cho phép đặt system prompt, chẳng hạn vai trò shell yêu cầu mô hình xuất lệnh một dòng không kèm giải thích.
• Hỗ trợ MCP: hỗ trợ máy chủ MCP (Model Context Protocol) với kiểu truyền SSE/HTTP, cùng các tùy chọn liệt kê, vô hiệu hóa máy chủ và liệt kê công cụ khả dụng.
• Đầu ra có định dạng: cờ --format và --format-as dùng để chỉ định định dạng như JSON. Với mô hình hỗ trợ định dạng phản hồi JSON, công cụ đặt loại phản hồi; với mô hình khác, thông tin định dạng được thêm vào prompt.
• Tích hợp pipeline: có thể dùng đầu ra tiêu chuẩn của lệnh làm đầu vào cho xử lý AI.

Cài đặt và ưu điểm

Có thể cài đặt qua Homebrew (macOS/Linux), Winget (Windows), yay (Arch Linux), Nix, gói Debian/RPM, tệp nhị phân hoặc go install github.com/charmbracelet/mods@latest. Có sẵn phần tự động hoàn thành lệnh cho Bash, ZSH, Fish và PowerShell.

Mods miễn phí và mã nguồn mở theo giấy phép MIT. Công cụ hỗ trợ nhiều nhà cung cấp LLM, bao gồm các mô hình chạy cục bộ, cùng các tùy chọn chọn mô hình (--model), hỏi mô hình tương tác (--ask-model), nhiệt độ lấy mẫu (--temp), điều chỉnh Top P/K, proxy HTTP, số lần thử lại tối đa và giới hạn token.

Giá

Bản thân công cụ miễn phí và mã nguồn mở. Tuy nhiên, việc dùng API bên ngoài như OpenAI, Cohere, Groq, Azure OpenAI và Gemini cần khóa API tương ứng; chi phí phụ thuộc vào bảng giá của từng nhà cung cấp.