LlamaChat

LlamaChat을 사용하면 LLaMA, Alpaca, GPT4All 모델을 Mac에서 로컬로 실행하며 대화할 수 있습니다. Vicuna도 곧 지원될 예정입니다. Alpaca는 OpenAI의 text-davinci-003으로 생성된 52K개의 지시 따르기 시연 데이터를 사용해 미세 조정한 Stanford의 70억 매개변수 LLaMA 모델입니다. 이러한 미세 조정을 통해 원래 LLaMA 모델보다 챗봇에 가까운 경험을 제공합니다.

LlamaChat은 공개된 원본 PyTorch 모델 체크포인트와 사전 변환된 .ggml 모델 파일을 직접 가져올 수 있어 모델을 쉽게 import할 수 있습니다. llama.cpp와 llama.swift를 비롯한 오픈 소스 라이브러리를 기반으로 하며, 100% 무료이고 완전한 오픈 소스 소프트웨어로 계속 제공됩니다.

공식 사이트에서 다운로드하거나 Homebrew에서 brew install --cask llamachat 명령을 실행해 설치할 수 있습니다.

시스템 요구 사항은 macOS 13입니다. Intel 프로세서와 Apple Silicon용으로 제작되었습니다. LlamaChat에는 모델 파일이 함께 배포되지 않으므로, 사용자는 각 제공업체가 정한 약관에 따라 적절한 모델 파일을 직접 구해 통합해야 합니다.