大模型 活跃维护

haystack

deepset-ai/haystack

用于构建上下文工程、生产就绪大语言模型应用的开源人工智能编排框架。设计模块化管道和代理工作流,对检索、路由、记忆和生成进行明确控制。用于可扩展代理、RAG、多模态应用、语义搜索和对话系统。

26579
Stars 标星
3163
Forks 分支
165
Watchers 关注
160
Open Issues
Python
主要语言
Apache-2.0
开源协议
317.2 MB
仓库大小
1 个月前
最后推送
一键安装扩展 / 插件指令
dsh plugin --profile web add github:deepset-ai/haystack
git clone https://github.com/deepset-ai/haystack.git
git clone git@github.com:deepset-ai/haystack.git
README.md main

英文原文正文为项目原始 README(英文),本站后续会翻译为中文,当前仅剔除图片与无关章节并统一排版。

CI/CD
文档
包
元数据

🎉🎊✨   Haystack 3.0 已发布!   ✨🎊🎉

在这里阅读公告!

🥳 🎈 🎆 🪅 🎇 🍾 🥂 🎁 🌈

Haystack 是一个开源的 AI 编排框架,用于在 Python 中构建可用于生产的 LLM 应用。

设计模块化的管道和代理工作流,能够明确控制检索、路由、记忆和生成。构建可扩展的 RAG 系统、多模态应用、语义搜索、问答系统和自主代理,所有这些都在一个透明的架构中,让你可以实验、深入自定义,并自信地部署。

安装

获取 Haystack 最简单的方法是通过 pip:

pip install haystack-ai

安装夜间预发布版本以尝试最新功能:

pip install --pre haystack-ai

Haystack 支持多种安装方法,包括 Docker 镜像。有关详细指南,请参阅 文档 。

文档

如果你是项目新手,可以先查看“什么是Haystack?”,然后浏览“入门指南”,在几分钟内构建你的第一个LLM应用程序。继续通过教程学习。对于更高级的用例,或者只是想寻找灵感,你可以在食谱中浏览我们的Haystack示例。

在任何时候,都可以访问文档以了解更多关于Haystack的信息,它能为你做什么,以及背后的技术。

功能

为生产构建的代理 通过生命周期钩子(before_llm、before_tool、on_exit 等)扩展代理行为,以实现安全控制和自定义逻辑,并开箱即用地跟踪 step_count、token_usage 和工具调用,以便监控和成本控制。可通过 Agent Pack 快速开始(例如,深度研究代理或高级 RAG 代理),或者通过 SkillToolset 为自己的代理提供渐进式技能发现,让技能描述仅在必要时进入上下文。

为上下文工程构建 设计灵活的系统,明确控制信息在达到模型之前的检索、排序、过滤、组合、结构化和路由方式。定义管道和代理工作流,使检索、记忆、工具和生成都是透明且可追踪的。

原生异步支持 一个 Pipeline 可同步或异步运行,并按标记逐步流式输出。Agent 可以并发调用工具。

模块化且可定制 使用内置组件进行检索、索引、工具调用、记忆和评估,或创建自己的组件。添加循环、分支和条件逻辑,精确控制上下文在管道和代理工作流中的流动方式。

与模型和供应商无关 可与 OpenAI、Mistral、Anthropic、Cohere、Hugging Face、Google、Azure OpenAI、AWS Bedrock、本地模型及其他众多平台集成。无需重写系统即可交换模型或基础设施组件。

可扩展的生态系统 通过一致的接口构建和分享自定义组件,使社区和第三方可以轻松扩展 Haystack 并为开放生态系统做出贡献。

[!提示]

您想将 Haystack 流水线部署并作为 REST API 或 MCP 服务器 提供服务吗?Hayhooks 为您提供了一种简单的方法,可以将流水线和代理封装在自定义逻辑中,并通过 HTTP 端点或 MCP 进行暴露。它还支持与 OpenAI 兼容的聊天完成端点,并可与 open-webui 等聊天界面一起使用。

Haystack 企业版:支持与平台

通过 Haystack Enterprise Starter,您可以获得 Haystack 团队的专家支持,使用企业级模板更快构建,并通过云和本地环境的部署指南安全扩展。在公告文章中了解更多信息。

👉 获取 Haystack 企业入门版

需要 Haystack 的托管生产环境吗?Haystack Enterprise Platform 帮助您构建、测试、部署和运营 Haystack 流水线,内置可观察性、协作、治理和访问控制。它可作为托管云服务或自托管解决方案提供。

👉 了解更多关于 Haystack Enterprise Platform 或 免费试用

遥测

Haystack 收集管道组件的匿名使用统计数据。每次这些组件初始化时,我们都会收到一个事件。通过这种方式,我们可以知道哪些组件对我们的社区最为重要。

在 Haystack 中了解更多有关遥测的信息,或查看如何在 Haystack 文档 中选择退出。

🖖 社区

如果您有功能请求或错误报告,请随时在 GitHub 上提交 issue。我们会定期查看这些,因此您可以期待快速的回复。如果您想讨论某个主题或获得有关如何使 Haystack 在您的项目中发挥作用的一般建议,您可以在 GitHub Discussions 或我们的 Discord 频道 中发起一个讨论。我们也会查看 𝕏 (Twitter) 和 Stack Overflow。

为 Haystack 做贡献

我们非常欢迎社区的贡献——无论是快速修正一个拼写错误,还是添加一个全新的功能!你不需要成为 Haystack 专家也能提供有意义的改进。想了解如何开始,请先查看我们的贡献者指南。

您可以通过以下几种方式为Haystack做出贡献:

[!提示]
👉 查看开放贡献的问题完整列表

使用 Haystack 的组织

Haystack被成千上万的团队在各行各业构建生产型人工智能系统中,包括:

你也在使用Haystack吗?提交一个PR或告诉我们你的故事

本站来源与版权声明
  • 本文标题:haystack - 用于构建上下文工程
  • 本文链接:https://www.cn121.com/llm/deepset-ai-haystack.html
  • 原项目:deepset-ai/haystack 版权归原作者 deepset-ai 及贡献者所有
  • 收录信息:本站于 2026-09-23 收录本项目,本页所列协议与仓库指标均为收录当时的状态;该日期之后原项目的版本更新与协议变更,本页不作同步。
  • 开源协议:收录时本项目采用 Apache-2.0(查看 LICENSE 原文),本站转载其原始文档(未改动文字,仅剔除图片与无关章节);使用、修改、分发请以该仓库 LICENSE 原文为准。本站对原文仅作排版与图片地址适配, 并保留原项目的 NOTICE 与署名要求。
  • 站点出处:本文首发于 OneTwoOne,收录自 GitHub 开源项目 deepset-ai/haystack。
  • 内容说明:本页正文为原项目 README 原文(英文),本站后续会翻译为中文(当前尚未译出,仅将二级标题译为中文,便于按栏目定位;标题原文可在下方原仓库中查看),仅剔除了图片与赞助等无关章节、并把相对链接改为绝对地址;页首简介为机器翻译自仓库描述。
  • 引用声明:商业转载、第三方聚合或 AI 检索训练引用时,请务必保留以上来源出处、本文永久链接,以及原项目的版权声明与许可信息。
  • 下架通道:若原项目此后变更或收紧了许可协议、或作者/权利人认为本站的收录方式(译文、排版适配、简介翻译等)超出其授权范围,请通过 xyd3302001@163.com 发送下架通知,并附上项目地址与本页链接。本站核实后将第一时间删除本页内容,或改为不复制原文的目录性收录;署名更正等其他要求可一并提出。