LlamaChat

Met LlamaChat kunnen gebruikers chatten met LLaMA-, Alpaca- en GPT4All-modellen die lokaal op een Mac draaien; ondersteuning voor Vicuna volgt binnenkort. Alpaca is het LLaMA-model van Stanford met 7 miljard parameters, dat is gefinetuned op 52K voorbeelden van het volgen van instructies, gegenereerd met OpenAI text-davinci-003. Door het LLaMA-model met deze instructies te finetunen, ontstaat een chatbotachtige ervaring in vergelijking met het oorspronkelijke LLaMA-model.

LlamaChat maakt het eenvoudig om modellen te importeren en ondersteunt directe import van onbewerkte, gepubliceerde PyTorch-modelcheckpoints of vooraf geconverteerde .ggml-modellen. LlamaChat wordt aangedreven door opensourcelibraries zoals llama.cpp en llama.swift, is 100% gratis en volledig opensource en zal dat altijd blijven.

Gebruiksinstructies: download de app via de officiële website of installeer deze met Homebrew via de opdracht brew install --cask llamachat. Systeemvereisten: macOS 13; gebouwd voor Intel-processors en Apple Silicon. LlamaChat wordt niet geleverd met modelbestanden. Gebruikers zijn zelf verantwoordelijk voor het verkrijgen en integreren van geschikte modelbestanden volgens de voorwaarden van de betreffende aanbieders.