项目截图
概览
LlamaIndex 旨在用自定义私有数据增强大型语言模型。它提供了从各种来源（API、PDF、SQL 等）摄取数据的工具，将其结构化为供 LLM 使用的索引或图谱，并公开高级检索和查询接口。该框架既支持用于快速原型设计的高级 API，也支持用于深度自定义数据连接器、索引、检索器和查询引擎的低级 API。它以核心包为基础构建，并通过 LlamaHub 提供超过 300 个可选的集成包。
主要功能
- 用于摄取 API、PDF、文档、SQL 等的数据连接器
- 通过索引和图谱为 LLM 使用进行数据结构化
- 高级检索和查询接口
- LlamaHub 上有超过 300 个集成包
- 面向不同用户专业水平的高级和低级 API
- LlamaParse 集成，用于代理式 OCR 和文档解析
- 支持多代理工作流
- 内存和磁盘持久化存储上下文
要求、安装和快速入门
有两种主要的安装方法。入门安装：安装 `llama-index` 包，其中包含核心包和部分集成。自定义安装：安装 `llama-index-core`，然后根据需要添加特定的集成包（例如 `pip install llama-index-core`、`pip install llama-index-llms-openai`、`pip install llama-index-llms-ollama`、`pip install llama-index-embeddings-huggingface`）。
用法
要构建一个简单的向量存储索引，请使用 `SimpleDirectoryReader` 加载文档，使用 `VectorStoreIndex.from_documents(documents)` 创建索引，并使用 `index.as_query_engine()` 进行查询。非 OpenAI LLM 可以通过 `Settings` 对象进行配置，在创建索引之前设置自定义的 LLM、分词器和嵌入模型实例。
模型兼容性与使用场景
开箱即支持 OpenAI 模型。兼容非 OpenAI LLM，例如通过 Ollama 托管的模型（例如 `llama-3.1:latest`）和 HuggingFace 嵌入模型（例如 `BAAI/bge-small-en-v1.5`）。
许可证与风险说明
该仓库在 MIT 许可证下授权。
Editorial verification 2026-08-09: repository URL, owner, description, license and repository statistics were reviewed. License metadata: MIT. README was fetched for the channel draft; re-check repository dependencies, releases and model terms before production use.
发布与维护
Not stated in the repository metadata.