LlamaChat

LlamaChat позволяет общаться с моделями LLaMA, Alpaca и GPT4All, работающими локально на Mac; поддержка Vicuna появится скоро. Alpaca — это модель LLaMA со 7 млрд параметров от Stanford, дообученная на 52K примерах следования инструкциям, сгенерированных с помощью OpenAI text-davinci-003. Дообучение LLaMA на этих инструкциях обеспечивает подобный чат-боту опыт по сравнению с исходной моделью LLaMA.

LlamaChat упрощает импорт моделей и поддерживает прямой импорт опубликованных необработанных контрольных точек моделей PyTorch или предварительно преобразованных файлов моделей .ggml. LlamaChat работает на базе библиотек с открытым исходным кодом, включая llama.cpp и llama.swift, является на 100% бесплатным и полностью открытым и всегда будет таким.

Инструкции по использованию: скачайте приложение с официального сайта или установите его через Homebrew с помощью команды brew install --cask llamachat. Системные требования: macOS 13; приложение создано для процессоров Intel и Apple Silicon. LlamaChat не распространяется с файлами моделей. Пользователи сами отвечают за получение и интеграцию подходящих файлов моделей в соответствии с условиями, установленными их поставщиками.