AI 应用安全边界入门:识别 Prompt Injection 与数据泄露
从信任边界出发,用 Python 最小示例理解 Prompt Injection、敏感信息泄露,以及为什么模型输出不能直接获得执行权限。
从标题、正文、标签与分类中查找内容
从信任边界出发,用 Python 最小示例理解 Prompt Injection、敏感信息泄露,以及为什么模型输出不能直接获得执行权限。
从可重复的测试集、检查规则和通过率开始,构建一个不依赖真实模型调用的 AI 应用评估最小闭环。
用 Python 标准库为一次模型调用建立请求级日志和 Trace,掌握 AI 应用排错所需的最小可观测性。
用纯 Python 为 Agent 增加风险分级、人工审批和拒绝默认机制,理解高风险工具为什么不能由模型直接执行。
用纯 Python 区分 Agent 状态、短期记忆与持久化,并实现一个可恢复的最小任务示例。
用纯 Python 实现一个单 Agent 的最小决策循环,理解状态迁移、工具执行和硬停止条件。
从一个纯 Python 的最小示例认识 Agent 的四个基本组成,并理解它与普通单次模型调用的区别。
在一次模型请求和工具执行之间加入状态、白名单与停止条件,使用 Python 实现一个可验证的最小 AI 工作流。
了解 Model Context Protocol 的主机、客户端与服务器边界,并用官方 Python SDK 写出可被 Inspector 调试的最小工具服务器。
在多个 Python 工具并存时实现白名单分发、逐个执行和错误回传,掌握 Tool Calling 应用侧的基本控制流程。