LlamaChat

LlamaChat cho phép người dùng trò chuyện với các mô hình LLaMA, Alpaca và GPT4All chạy cục bộ trên máy Mac. Hỗ trợ Vicuna sẽ sớm được bổ sung.

Alpaca là mô hình LLaMA 7B tham số của Stanford, được tinh chỉnh bằng 52K bản mẫu làm theo hướng dẫn do text-davinci-003 của OpenAI tạo ra. Việc tinh chỉnh này mang lại trải nghiệm giống chatbot hơn so với mô hình LLaMA gốc.

LlamaChat hỗ trợ nhập mô hình dễ dàng, bao gồm nhập trực tiếp checkpoint mô hình PyTorch thô đã được công bố hoặc các tệp mô hình .ggml đã chuyển đổi.

Được hỗ trợ bởi các thư viện mã nguồn mở như llama.cpp và llama.swift, LlamaChat miễn phí 100%, hoàn toàn mã nguồn mở và sẽ luôn như vậy.

Để sử dụng, hãy tải xuống từ trang web chính thức hoặc cài đặt qua Homebrew bằng lệnh brew install --cask llamachat.

Yêu cầu hệ thống: cần macOS 13, được xây dựng cho bộ xử lý Intel và Apple Silicon.

LlamaChat không được phân phối kèm tệp mô hình. Người dùng chịu trách nhiệm tự lấy và tích hợp các tệp mô hình phù hợp theo điều khoản do nhà cung cấp tương ứng đặt ra.