推理、部署与运行时

jan

janhq/jan

支持在个人电脑上运行模型的本地 AI 对话应用。

★ 44.3K星级
⑂ 3KFork 数
508未解决的问题
TypeScript语言
许可证
Q80编辑评分

概览

支持在个人电脑上运行模型的本地 AI 对话应用。 项目由 janhq 在 GitHub 维护,主要语言为 TypeScript。具体功能和支持范围请参阅[项目 README](https://github.com/janhq/jan#readme)。

主要功能

  • 支持在个人电脑上运行模型的本地 AI 对话应用。

要求、安装和快速入门

按照上游说明下载或安装适合操作系统的版本,并核对目标工作负载需要的模型、内存和加速器条件。

[查看上游安装与快速开始文档](https://github.com/janhq/jan#readme)

用法

先运行文档中的本地示例,确认资源配置可用,再通过支持的接口接入应用。

[使用示例与配置说明](https://github.com/janhq/jan#readme)

模型兼容性与使用场景

仓库元数据未说明模型兼容性。

许可证与风险说明

README 标注 Apache 2.0;GitHub 自动识别字段未给出明确的 SPDX 匹配,请以仓库许可证文件为准。

Source review 2026-09-05: GitHub search metadata and repository README. No runtime benchmark performed. License metadata: NOASSERTION.

发布与维护

[查看版本发布记录](https://github.com/janhq/jan/releases)。

vllm

vllm-project/vllm

★ 89.5KPython

sglang

sgl-project/sglang

★ 32.2KPython

OpenVINO

openvinotoolkit/openvino

★ 10.6KC++

GPUStack

gpustack/gpustack

★ 5.4KPython