最新文章
检索流水线的数据驻留：那些跨境而去的 Embedding，以及并未跨境的 LLM 调用
你的推理端点固定在法兰克福，但你的 Embedding API、向量控制平面、重排序（Rerank）服务、Prompt 缓存和追踪存储却并非如此。本文将深入探讨 RAG 请求中的六个数据驻留层面，以及每个环节在不知不觉间跨境传输时所存在的组织架构差距。
当候选人说“我会直接用提示词解决”时，面试官之间出现的 40 分分歧
针对同一位候选人产生的 40 分评价差异，并不是候选人的问题，而是评分标准的问题。本文将探讨当你的团队尚未达成共识时，如何校准 AI 工程师的招聘环节。
以 Token 数量而非结果驱动的 A/B 测试
当实验平台让统计 Token 数量变得容易而衡量用户结果变得困难时，提示词 A/B 测试往往会发布一些团队无法将其与性能倒退区分开来的局部最优解。
那个批准了“单次调用成本”却从未衡量“单次解决任务成本”的智能体预算
一个使单次调用成本下降了 25% 但单次解决任务成本却上升了 40% 的智能体，是智能体部署中最常见的单位经济失效案例。本文将探讨为什么供应商的 SKU 并不是工作单元，以及如何建立正确的衡量指标。
那个基于已被你的上下文剪枝器丢弃的事实进行分支的智能体计划
当上下文剪枝器驱逐了后续计划步骤隐式依赖的工具结果时，智能体会继续针对已不存在的证据进行分支处理——而其追踪记录看起来就像是幻觉。
你的客户成功团队无法消化的智能体发布节奏
当 AI 团队通过功能标志每周发布行为变更，而客户成功团队每月才进行一次培训时，这种差距会导致客户信任悄然崩塌。解决方法是建立协调契约，而不是增加更多会议。
你的故障指挥官无法执行的智能体运行手册
大多数智能体运行手册在白天读起来很顺畅，但在凌晨 2:17 运行时却会被阻塞，因为作者拥有值班 SRE 所不具备的访问权限。联邦化、声明式范围、紧急访问端点和演练才是解决之道。
CTO 已拨款但安全团队拒绝让你上线的 AI 功能
能够按时上线的 AI 功能会将安全威胁模型视为需求阶段的“形态约束”，而不是发布前的核对清单。这是一份面向工程领导者的安全左移指南。
那些你团队的人员已悄然停止阅读的标注队列
标注者吞吐量是每个 LLM 评估计划的无声天花板，而队列排序则是无人设计的采样器。本文探讨如何将“为评分而采样”视为一等公民的工程界面。
用户习以为常的“你确定吗？”确认步骤
AI 智能体中统一的确认提示会导致习惯化：用户会以处理低风险操作的反射动作来点击高风险操作。具备风险意识的摩擦预算、制品预览和量化的点击响应时间可以重建安全层。
那些被你的智能体“触发并遗忘”的异步工具调用
函数调用将同步和异步工具视为相同的形式。智能体触发了一个任务，收到了一个 ID，随后标记该步骤已完成 —— 而实际工作却从未落地。
那个在行动已发出后才生效的预算上限
当紧急停机开关正确触发，但智能体已经订好了机票、发送了邮件并关闭了工单时——为什么以 Token 衡量的预算上限忽略了以“行动”衡量的损失，以及如何将支出与不可逆性解耦。
关于 Tian Pan
我是 Tian Pan，一名工程师型创始人，专注于智能体工程——构建自主 AI 系统并扩展工程团队。我撰写关于系统设计、技术领导力和 AI 智能体实战的实用指南。曾在 Uber、Brex 和 IoTeX 担任早期工程师。
