概览
该框架以嵌入数据库为核心，结合稀疏和稠密向量索引、图网络及关系数据库。这一基础可支持搜索应用，或为 LLM 应用提供知识上下文。更高层的管道、工作流和智能体提供提示、问答、标注、转录、翻译和摘要等能力。应用可本地运行，也可使用容器编排进行扩展。
主要功能
- 支持 SQL 集成的稀疏和稠密向量搜索
- 围绕嵌入数据库提供关系型、图和对象存储能力
- 为文本、文档、音频、图像和视频生成嵌入
- 主题建模、图分析和多模态索引
- 用于 LLM 提示、问答、标注、转录、翻译和摘要的管道
- 连接管道并汇集应用逻辑的工作流
- 基于 smolagents 构建、可协调工具、工作流和其他智能体的智能体
- 检索增强生成和知识图谱工作流
- Web 和 Model Context Protocol API
- JavaScript、Java、Rust 和 Go 绑定
- 本地执行及容器编排部署选项
要求、安装和快速入门
可通过 PyPI 使用 `pip install txtai` 安装。需要 Python 3.10+，建议使用虚拟环境。可选依赖、源码安装、conda、最小化安装和容器的详细说明位于 https://neuml.github.io/txtai/install。
用法
最小 Python 快速开始：`import txtai`；创建 `embeddings = txtai.Embeddings()`；使用 `embeddings.index(["Correct", "Not what we hoped"])` 为记录建立索引；然后使用 `embeddings.search("positive", 1)` 查询。可在 YAML 中使用嵌入模型路径配置 API，并通过 `uvicorn "txtai.api:app"` 提供服务；README 展示了对其 `/search` 端点的查询。更多示例位于 https://neuml.github.io/txtai/examples。
模型兼容性与使用场景
模型可从 Hugging Face Hub 路径或本地目录加载；省略路径时将使用默认值。该仓库列出对 Hugging Face 模型、llama.cpp，以及通过 LiteLLM 在智能体场景中使用 OpenAI、Claude 和 AWS Bedrock 的支持。README 中列出的推荐任务模型包括用于嵌入的 all-MiniLM-L6-v2、用于图像描述的 BLIP、用于零样本标签的 DeBERTa v3 Zeroshot、用于 LLM 的 Gemma 4 31B、用于摘要的 DistilBART、用于文本转语音的 ESPnet JETS、用于转录的 Whisper，以及用于翻译的 OPUS 模型系列。
许可证与风险说明
仓库元数据将许可证标识为 Apache-2.0，README 也说明 txtai 在 Apache 2.0 许可证下开源。请审查仓库许可证，以及应用所选模型、数据集和外部服务各自的许可证或使用条款。
发布与维护
所提供的 README 链接至涵盖 txtai 9.0、8.0、7.0、6.0、5.0 和 4.0 的文章，以及 GitHub releases 页面。当前发布版本和发布日期未在仓库元数据中说明。Releases: https://github.com/neuml/txtai/releases