用 NeMo Guardrails 为你的智能体抵御 prompt injection
你的 AI 应用已经不只是生成文本:它读邮件、执行工具、碰钱。这意味着攻击者不再攻击你的代码——他直接对你的模型说话。NVIDIA 的 NeMo Guardrails 在用户和 LLM 之间架起可编程护栏:过滤“进入”的内容(越狱、注入),审核“输出”的内容(幻觉、密钥)。我来告诉你,如何不发疯地装上第一道护栏。
Step-by-step guides, copy-paste prompts and open-source projects. Learn from what the community has built — and build what comes next.
你的 AI 应用已经不只是生成文本:它读邮件、执行工具、碰钱。这意味着攻击者不再攻击你的代码——他直接对你的模型说话。NVIDIA 的 NeMo Guardrails 在用户和 LLM 之间架起可编程护栏:过滤“进入”的内容(越狱、注入),审核“输出”的内容(幻觉、密钥)。我来告诉你,如何不发疯地装上第一道护栏。
你的 prompt "看起来能用"——但那只是一种感觉,不是数据。Promptfoo(OpenAI 和 Anthropic 都在用的 evals 框架)给质量打上数字:你写测试用例,把 Claude/GPT/Gemini 并排比较,衡量任务+成本+延迟,还能每天夜里在 CI 里自动跑。免费、MIT 协议、在 GitHub 上。
从消费别人的 MCP,走到发布你自己的。用 FastMCP 你能搭起一个 Claude 真正会调用的服务器——从 15 分钟一个 'add' 工具,到带 Zod、resources、prompts、OAuth 和 edge 部署的工具。
你已经连着好几周对着 AI 重复同样的话:\"格式化\"、\"别碰 .env\"、\"跑测试\"。可它有时还是忘了——因为 LLM 每一轮都重新决定。hooks 就是从\"我请它记住\"跃迁到\"总是会发生,哪怕谁都没记住\"的那一步:Claude Code 在其生命周期确定性节点上执行的 shell 命令。三段复制粘贴的块,自动格式化、阻止一个 rm -rf、并在 AI 需要你时提醒你。这是从\"写合同\"升级到\"让合同自己执行\"。
你用了不止一个 AI 来搭建——或者打算换个模型来省钱?每个新智能体上手时都是瞎的:它不知道你的项目怎么测试、哪些文件夹是神圣的、你想让 commit 怎么写。AGENTS.md 就是一份\"给智能体看的 README\":一个放在项目根目录的纯文本文件,如今被 25 种以上工具读取(Codex、Cursor、Copilot、Gemini CLI、Claude Code……)。你把规则写一次,所有工具都遵守。我来告诉你怎么把它做好,附上现成模板和能生成你完美 AGENTS.md 的 prompt。
vibe coding 在第 1 天感觉像魔法,到第 20 天却让人绝望:AI 跑得飞快,却没有一个固定方向,而且每次改动都会弄坏远处的某个东西。原因在于 AI 没有意图的记忆——每次都猜得不一样。解决办法是把顺序反过来:先编写规格(应用应该做什么),然后由智能体从规格生成计划 → 任务 → 代码。用 GitHub Spec Kit(122k★,出自 GitHub,MIT 许可)你可以把它作为一串命令级联安装进你自己的智能体里。
AI 构建得快,却留下脏代码:孤儿文件、重复的逻辑、到处的 `any`、烧 GPU 的动画。外表看着完美;内部却在腐烂。这是一个 agent 会应用到你项目上的 7 阶段协议,在**不改一个像素、不改一处行为**的前提下把它清理干净、加固到底——纯粹是手术。这正是一位精于调试的外科医生所做的:进去,清理,缝合,而你的应用外表一模一样、内部却干干净净。
你用 AI 构建,在你屏幕上一切都「能用」,你上传改动……结果不小心塞进了一把密钥,或在数据库里开了个漏洞,或弄坏了原本能用的东西。在这里你会搭起一个自动守卫:7 个检查员在每一次改动到达你用户之前审查它,如果有 1 个失败,就当场拦下改动。它花 ~$0,复制进 4 个文件,给你一家正经公司的话语权。附有已验证的仓库和一个主提示词,让你的 AI 替你安装。
测试通过了,部署也是绿灯……可登录在生产环境里偏偏坏了。Watch 是一个机器人用户,它会用真实浏览器走一遍你的关键流程,在有东西出问题或变慢的那一刻就提醒你——附上出错步骤、截图和修复方案。免费,就在 GitHub 上。
你的 AI 构建得很快,但它是以"乐观模式"在写代码,看不见自己留下的漏洞。Sentinel 会把它们抓出来,而且和任何扫描器都不同:它不只告诉你哪里错了,还把修复方案连同它的测试一起带给你。免费,在 GitHub 上。
你已经好几周一条一条地给 AI 下指令:「做这个」,等待,检查,「现在做这个」。你就是那台发动机——你一累,一切就停。loop engineering 是最后一跃:不再一步一步地聊天,而是搭一个循环,让 AI 行动、看结果、推理、重复,自己一直做到目标达成。它是把 memoria、RAG、skills、C-A-R 和 agent-browser 拧成一个能不靠你往前跑的系统的那样东西。
你的 AI 做出一个页面,告诉你「搞定了」……但它从没真正打开看过它到底能不能用。它在盲目开发。agent-browser 给它装上眼睛:打开你的应用、观察、点击、检查,再告诉你哪里坏了。顺带,它还能替你浏览网页、自动化网络操作。开源,出自 Vercel。
你的应用看起来像是五个不同的人做的吗?每个页面都是不同的配色、不同的按钮、不同的间距。问题不在 AI——而在于你在向它要设计系统之前就先要了页面。你首先应该向它要的就是这个,用一个能把成品提升到硅谷产品水准的提示词。
项目大了、想更快推进?与其用一个 AI 一次只做一件事,不如让多个会话并行工作——每个都在自己独立隔离的版本里——同时在三条战线上推进。互不干扰,也不会弄坏那个好用的版本。我们就是这样干活的。这些叫 worktree,在 VS Code 里配合 Claude 只需一条命令。
厌倦了在每次聊天里给 AI 粘贴同一个超长 prompt?Skill Creator 是 Anthropic 官方用来制造你自己「skill」的工具——你把你的流程教它一次,它就永久保留。最棒的是:你靠对话就能完成,不用写代码。这里就是方法,连现成的 prompt 都给你备好了。
如果你的 app 允许创建账户却不能从内部删除账户,Apple 就会拒审——而"停用"不算数。网上流传的建议(藏起用户数据)违反 GDPR,照样被打回。这里是唯一正确的做法,附现成的 prompt,以及怎样在这个过程中不把生意搞砸。
没有什么是坚不可摧的——Google 不是,银行也不是——谁跟你说相反,谁就在骗你。目标不是刀枪不入:而是让攻击的代价高到让小偷转身去邻居家。这就是正经公司用的 8 层\"纵深防御\",翻译成人话,并配上一个把每一层交给你的 AI 的 prompt。
用 AI 搭应用很神奇——直到你把它发布到网上却没做任何安全防护,于是任何人只要改一改 URL 里的一个数字,就能看到你用户的数据。这里是最常被遗忘的 3 把锁(RLS、CORS、headers),配上简单的比喻和现成的提示词——还包括那个能让你的安全措施不至于把应用拖到超级慢的小技巧。
这套方法把「构建」和「审计」分开,让你的 AI 不再交给你藏着隐蔽 bug 的代码。附完整的主提示词,即拿即用。
记忆负责记住,RAG 靠相似度检索……但两者都不理解你的整个项目是怎么"连接"起来的。当 AI 开始迷路、把东西改坏、盲目读文件浪费 token 时,你就该给它一张图:一张标明谁依赖谁的地图。开源、免费,一个命令就能装好的 skill。
一个会遗忘每个用户、对你的业务一无所知的 AI 应用,就是一只昂贵的鹦鹉。而一个 "brain" 能把它变成一名了解你运营、记得每位客户的员工。它是记忆 + RAG + 图谱的合体,在产品层面协同工作。这里讲清楚它是什么、你什么时候真的需要它,以及如何在不过度工程化的前提下把它搭起来。
当你的信息量很大时,用对了 RAG 能帮你省下海量 token(也就是省钱)——但 Anthropic 自己都说,如果内容能装进约 500 页以内,搭建 RAG 就是在烧钱。这里给你判断该不该用的规则,以及从最简单(零代码)到超级应用级别的三种实现方式——也包括我们自己的 RAG 是怎么跑的。
AI 动了 40 个文件,现在什么都打不开了。并不总是会全部丢失……但一条错误的命令或一次误删,确实能让你没法回头。GitHub 是你自己的保险:一键退回到它还能跑的那一刻。而最重要的是:每天该在什么时候、怎么用它。
Andrej Karpathy(OpenAI 联合创始人)发布了一个风靡全球的模式:与其一遍又一遍地给你的 AI 解释所有事情,不如让它构建并维护属于自己的 wiki——一个会自己生长的知识库。这里是完整的方法,说人话讲清楚,还附上搭建它的提示词。
没错,ChatGPT 和 Claude 已经能在对话之间\"记住\"一些东西了。问题在于:你不知道它们存了什么,你既读不了也带不到别的模型上。这里给你一整套 AI 记忆的真实工具阶梯——让你的 AI 拥有一份真正属于你的记忆,从最简单到最强大。
你的 AI 能帮你做出 PowerPoint、清理 Excel、填好 PDF、还能测试你的应用——全都自己搞定。这是 Anthropic 官方的 5 个 skills,一条命令就能装好。每个都附带命令和现成的 prompt。
Join 4,200+ builders. No credit card. Build your first app with AI in minutes.