LlamaChat

LlamaChat ermöglicht das lokale Chatten auf dem Mac mit LLaMA-, Alpaca- und GPT4All-Modellen. Die Unterstützung für Vicuna folgt demnächst.

Alpaca ist das 7B-Parameter-LLaMA-Modell der Stanford University, das mit 52K Anweisungsbefolgungs-Demonstrationen feinabgestimmt wurde, die aus OpenAIs text-davinci-003 generiert wurden. Dadurch entsteht im Vergleich zum ursprünglichen LLaMA-Modell eine chatbotähnliche Erfahrung.

LlamaChat erleichtert den Modellimport und unterstützt den direkten Import veröffentlichter roher PyTorch-Modell-Checkpoints sowie vorab konvertierter .ggml-Modelldateien.

LlamaChat basiert auf Open-Source-Bibliotheken wie llama.cpp und llama.swift, ist 100 % kostenlos, vollständig quelloffen und wird es immer bleiben.

Zum Einstieg kannst du die Anwendung von der offiziellen Website herunterladen oder über Homebrew mit dem Befehl brew install --cask llamachat installieren.

Systemanforderungen: macOS 13 erforderlich; entwickelt für Intel-Prozessoren und Apple Silicon.

LlamaChat wird ohne Modelldateien vertrieben. Nutzer sind dafür verantwortlich, die passenden Modelldateien gemäß den jeweiligen Bedingungen ihrer Anbieter zu beschaffen und zu integrieren.