Haystack 是一个开源的 AI 编排框架，用于在 Python 中构建可投入生产的 LLM 应用。

设计模块化管道和代理工作流程，并对检索、路由、记忆和生成进行明确控制。构建可扩展的 RAG 系统、多模态应用、语义搜索、问答系统和自主代理，所有这些都在一个透明的架构中，让您可以进行实验、深度定制并自信部署。

安装

获取 Haystack 的最简单方法是通过 pip：

pip install haystack-ai

安装夜间预发布版本以尝试最新功能：

pip install --pre haystack-ai

Haystack 支持多种安装方式，包括 Docker 镜像。有关详细指南，请参阅 文档。

文档

如果你是这个项目的新手，请查看 "Haystack 是什么？"，然后浏览 "入门指南"，并在几分钟内构建你的第一个 LLM 应用程序。继续通过 教程 学习。对于更高级的使用场景，或者仅仅是为了获取一些灵感，你可以在 Cookbook 中浏览我们的 Haystack 配方。

在任何时候，点击 文档 以了解更多关于 Haystack 的信息，它能为你做什么，以及背后的技术。

功能

为生产环境构建的智能代理 通过生命周期钩子（before_llm、before_tool、on_exit 等）扩展代理行为以实现安全控制和自定义逻辑，并开箱即用地跟踪 step_count、token_usage 和工具调用，用于监控和成本控制。通过 Agent Pack 现成代理快速上手（例如，一个深度研究代理，或一个高级 RAG 代理），或者通过 SkillToolset 给你的代理渐进式技能发现，使技能描述仅在需要时进入上下文。

为上下文工程而构建 设计灵活的系统，明确控制信息在达到模型之前如何被检索、排序、过滤、组合、结构化和路由。定义管道和代理工作流，使检索、记忆、工具和生成过程透明且可追踪。

原生异步支持 一个 Pipeline 可以同步或异步运行，并逐个令牌流式处理。Agent 可以并行运行工具调用。

模块化且可定制 使用内置组件进行检索、索引、工具调用、记忆及评估，或者创建自己的组件。添加循环、分支和条件逻辑，以精确控制上下文在管道和代理工作流中的流动方式。

模型和供应商无关 与 OpenAI、Mistral、Anthropic、Cohere、Hugging Face、Google、Azure OpenAI、AWS Bedrock、本地模型及其他众多平台集成。无需重写系统即可更换模型或基础设施组件。

可扩展的生态系统 通过一致的接口构建并共享自定义组件，使社区和第三方能够轻松扩展 Haystack 并为开放生态系统做出贡献。

[!提示]

您想将 Haystack 流水线部署并作为 REST API 还是 MCP 服务器 提供服务？Hayhooks 为您提供了一种简单的方法，可以将流水线和代理与自定义逻辑结合，并通过 HTTP 端点或 MCP 进行暴露。它还支持兼容 OpenAI 的聊天完成端点，并可与 open-webui 等聊天界面一起使用。

Haystack Enterprise：支持与平台

通过 Haystack Enterprise Starter 获得 Haystack 团队的专家支持，使用企业级模板更快地构建，并通过云端和本地环境的部署指南安全地扩展。在公告文章中了解更多信息。

👉 获取 Haystack 企业入门版

需要Haystack托管生产配置吗？Haystack企业平台帮助您构建、测试、部署和运营Haystack流水线，并具备内置的可观察性、协作、治理和访问控制功能。它可作为托管云服务或自托管解决方案提供。

👉 了解更多关于 Haystack 企业平台 的信息，或 免费试用

遥测

Haystack 收集管道组件的匿名使用统计数据。每次这些组件初始化时，我们都会收到事件。这样，我们就能知道哪些组件对我们的社区最相关。

阅读更多关于 Haystack 中遥测的信息，或了解如何在 Haystack 文档 中选择退出。

🖖 社区

如果您有功能请求或错误报告，请随时在 GitHub 上提交 issue。我们会定期查看这些，因此您可以期待快速的回复。如果您想讨论某个主题或获得有关如何使 Haystack 在您的项目中发挥作用的一般建议，您可以在 GitHub Discussions 或我们的 Discord 频道 中发起一个讨论。我们也会查看 𝕏 (Twitter) 和 Stack Overflow。

为《干草堆》贡献

我们非常欢迎社区的贡献——无论是快速修正一个拼写错误，还是添加一个全新的功能！你不需要成为 Haystack 专家也能提供有意义的改进。想了解如何开始，请先查看我们的贡献者指南。

您可以通过以下几种方式为Haystack做出贡献：

• 为主干草堆项目贡献力量
• 在 haystack-core-integrations 上贡献一个集成
• 为 haystack/docs-website 的文档做贡献

[!提示]
👉 查看所有开放贡献的问题列表

使用 Haystack 的组织

Haystack 被成千上万的团队用于在各行业构建生产级 AI 系统，包括：

• 技术与 AI 基础设施: 苹果、Meta、Databricks、NVIDIA、英特尔
• 公共部门 AI 项目: 欧盟委员会、德国联邦研究技术与空间部 (BMFTR)、巴登-符腾堡州 PD
• 企业与工业 AI 应用: 空客、汉莎工业解决方案、英飞凌、乐高、康卡斯特、埃森哲、TELUS 农业与消费品
• 知识与内容平台: Netflix、ZEIT Online、乐天、牛津大学出版社、曼兹、YPulse

你也在使用 Haystack 吗？开一个 PR 或 告诉我们你的故事