自动化工具 活跃维护

promptfoo

promptfoo/promptfoo

测试您的提示、代理和 RAG。针对 AI 的红队测试/渗透测试/漏洞扫描。比较 GPT、Claude、Gemini、DeepSeek 等的性能。简单的声明式配置,支持命令行和 CI/CD 集成。被 OpenAI 和 Anthropic 使用。

25375
Stars 标星
2353
Forks 分支
74
Watchers 关注
632
Open Issues
TypeScript
主要语言
MIT
开源协议
736.8 MB
仓库大小
1 个月前
最后推送
一键安装扩展 / 插件指令
dsh plugin --profile web add github:promptfoo/promptfoo
git clone https://github.com/promptfoo/promptfoo.git
git clone git@github.com:promptfoo/promptfoo.git
README.md main

英文原文正文为项目原始 README(英文),本站后续会翻译为中文,当前仅剔除图片与无关章节并统一排版。

Promptfoo:大型语言模型评估与红队测试

promptfoo 是一个用于评估和红队测试基于大型语言模型应用的命令行工具和库。不要再使用反复试验的方法……开始发布安全、可靠的代理

网站 · 入门指南 · 红队测试 · 文档 · Discord

Promptfoo 现在是 OpenAI 的一部分。Promptfoo 仍然是开源的,并采用 MIT 许可。阅读公司更新。

快速开始

npm install -g promptfoo
promptfoo init --example getting-started

也可以通过 brew install promptfoo 和 pip install promptfoo 获取。或者使用 npx promptfoo@latest 在不安装的情况下运行任何命令。

大多数大型语言模型提供商都需要 API 密钥。将你的密钥设置为环境变量:

export OPENAI_API_KEY=sk-abc123

运行评估并查看结果:

cd examples/getting-started
promptfoo eval
promptfoo view

查看 入门指南(评估)或 红队测试(漏洞扫描)了解更多!

你可以用 Promptfoo 做什么?

  • 通过 自动化评估 测试你的提示和模型
  • 通过 红队测试 和漏洞扫描保护你的 LLM 应用
  • 并排比较模型(OpenAI、Anthropic、Azure、Bedrock、Ollama 和 更多)
  • 在 CI/CD 中自动化检查
  • 通过 代码扫描 审查拉取请求,确保 LLM 相关的安全性和合规性
  • 与团队共享结果

以下是操作示例:

也可在命令行上运行:

它还可以生成 安全漏洞报告:

为什么选择 Promptfoo?

  • 面向开发者优先:快速,支持实时重载和缓存等功能
  • 私密:LLM 评估完全在本地运行——你的提示永远不会离开你的机器
  • 灵活:适用于任何 LLM API 或编程语言
  • 经过实战验证:为生产环境中的 1000 万用户提供服务的 LLM 应用提供动力
  • 数据驱动:基于指标而非直觉做出决策
  • 开源:MIT 许可,拥有活跃的社区

了解更多

贡献

我们欢迎贡献!查看我们的 贡献指南 以开始。

加入我们的 Discord 社区 获取帮助和讨论。

本站来源与版权声明
  • 本文标题:promptfoo - 测试您的提示
  • 本文链接:https://www.cn121.com/automation/promptfoo-promptfoo.html
  • 原项目:promptfoo/promptfoo 版权归原作者 promptfoo 及贡献者所有
  • 收录信息:本站于 2026-09-23 收录本项目,本页所列协议与仓库指标均为收录当时的状态;该日期之后原项目的版本更新与协议变更,本页不作同步。
  • 开源协议:收录时本项目采用 MIT(查看 LICENSE 原文),本站转载其原始文档(未改动文字,仅剔除图片与无关章节);使用、修改、分发请以该仓库 LICENSE 原文为准。
  • 站点出处:本文首发于 OneTwoOne,收录自 GitHub 开源项目 promptfoo/promptfoo。
  • 内容说明:本页正文为原项目 README 原文(英文),本站后续会翻译为中文(当前尚未译出,仅将二级标题译为中文,便于按栏目定位;标题原文可在下方原仓库中查看),仅剔除了图片与赞助等无关章节、并把相对链接改为绝对地址;页首简介为机器翻译自仓库描述。
  • 引用声明:商业转载、第三方聚合或 AI 检索训练引用时,请务必保留以上来源出处、本文永久链接,以及原项目的版权声明与许可信息。
  • 下架通道:若原项目此后变更或收紧了许可协议、或作者/权利人认为本站的收录方式(译文、排版适配、简介翻译等)超出其授权范围,请通过 xyd3302001@163.com 发送下架通知,并附上项目地址与本页链接。本站核实后将第一时间删除本页内容,或改为不复制原文的目录性收录;署名更正等其他要求可一并提出。