面灵AI→

百度 AI Agent 开发一面:提示词、上下文预算与异步并发十二问

轮次
一面
时间
2026-11
来源
牛客网

《面试题目》

  1. 你这个助手会根据笔记出题。提示词一般包含哪些内容?什么时候会加 few-shot 示例?
  2. 如果提示词相同,题目还是有时好、有时差,你会直接把 temperature 调到最低吗?它和 top_p 有什么区别?
  3. 沿着提示词继续问:笔记、示例和历史对话越来越长,超过上下文限制怎么办?直接截掉最后一部分行不行?
  4. 上下文控制住了,但模型返回的内容偶尔不是合法 JSON。只在提示词里强调「必须返回 JSON」够吗?
  5. Function Calling 的输入参数怎么设计?必填、可选、有默认值是一回事吗?
  6. 调用以后,工具找不到笔记,或者读取服务暂时失败,能统一返回空字符串让模型自己判断吗?
  7. 如果模型遇到工具错误后不断重复调用,只设置一个最大调用次数够吗?Agent 循环应该怎样结束?
  8. Agent Skills 解决的又是什么问题?它和刚才的工具、执行流程怎么配合?
  9. 换到实现层面:模型请求经常在等待网络响应,Python 的 async/await 为什么适合这种任务?把函数改成 async def 就一定不会阻塞吗?
  10. 如果用户同时要摘要和知识卡片,连续写 await summary()、await cards(),它们会并发吗?
  11. 任务变多以后,全部交给 gather 就可以了吗?如果其中一个失败,其他任务会怎样?
  12. 按你刚才的思路,写个小函数:批量处理笔记,最多三个调用同时执行,结果按输入顺序返回,单项失败不影响其他项。

《参考解析》

提示词的分工要讲清四类内容:任务(根据当前笔记出五道四选一单选题)、材料(笔记原文)、约束(每题四选项且只有一个正确答案、附解析与原文依据)、输出要求(字段与格式)。材料与指令之间要有明确边界,笔记里出现的「忽略以上要求」这类句子属于待处理内容,不能变成系统指令。few-shot 适合用文字说不清的标准,例如「有迷惑性但不歧义的干扰项」,示例要带理由而不只是摆一个 JSON;它只在本次上下文里起作用,不更新权重,示例过多会挤占上下文并诱导模型只出同一种题型。

temperature 与 top_p 控制的是采样的两个不同环节。temperature 缩放 logits 后做 softmax,温度越低分布越尖、越偏向高分候选;top_p 按概率排序取累计概率达到阈值的候选集合,控制候选范围。降温度只能减少随机性,无法补齐材料不足、约束不清或示例偏差带来的系统性错误;模型最偏好的答案同样可能是错的。要做的是固定一批材料、保持其他条件不变,分别比较格式合格率、事实错误与重复率,一次只改一个因素。低温度也不等于跨版本严格可复现。

上下文超限不能从末尾硬截。先按所用模型的实际 token 计数(不是字符数)算出预算,输入包含指令、示例、历史消息与工具结果,还要为输出留出空间。裁剪按「本次任务依赖什么」排序:用户问第五章,当前章节原文与出题约束必须保留,早先生成的完整摘要可以丢弃或压成任务状态;单章过长可以按小节分别生成再统一检查覆盖,但跨小节的综合题需要额外补上下文,不能假设分段之间会自动共享信息。摘要容易丢掉公式前提与否定的条件,出题依赖的关键原文要留原件。

结构化输出是接口约定,不是提示词能保证的事。支持的话就声明对象、必填字段、类型与可表达的约束,同时检查服务是否正常完成、有没有被拒或被输出上限截断,再解析。校验分层:先判是否完整 JSON,再判字段与类型,再判业务约束(是否恰好五题、答案是否落在选项内),最后才看内容质量——四个选项都在,不代表只有一个是对的。可修正的格式错误可以把校验反馈带回去做有限次重试;材料不足要如实反馈原因,不能重试到凑出一个看起来正常的答案。

工具参数的三种语义要分开:必填是调用时必须提供,可选是允许缺省,默认值是缺省时取什么业务值;Schema 里写了 default 也不代表所有框架会自动填充,要由应用实现。字段缺失与显式传 null 也不是一回事。工具返回值必须有明确契约:空字符串既可能表示「读到了空笔记」也可能表示「读取失败」,模型无法区分就会顺着常识编内容;应按成功数据与错误状态分开,给出稳定错误码、简短说明与是否可重试,权限错误应停止而非让模型换 ID 猜。内部异常转成工具结果时要过滤堆栈与凭据,诊断信息留在受控日志。

Agent 循环的退出要有语义。最大调用次数只是兜底,还要定义成功、不可恢复失败、等待用户输入、预算耗尽这几种结束原因;达到上限要返回「未完成 + 原因」,不能把循环停止当成任务完成。连续用相同参数读一个不存在的笔记且没有新信息时,应提示重新选择;暂时性失败可以按策略退避重试,所以不能机械禁止所有重复调用。除次数外还可限制总耗时与输出预算;任务是否完成由程序校验(题目合格、保存成功),而不是相信模型自称完成。

异步不等于函数声明成 async def。协程在等待未完成的 I/O 时让出事件循环,期间可以推进其他就绪任务,它改善的是多个任务等待时间的利用率,不会让单次推理变快。函数体内如果仍在调用同步 HTTP、time.sleep 或长时间纯计算,事件循环照样被占住;CPU 密集任务应交给进程或独立计算服务。

串行 await 与并发要分清:连续 await summary()、await cards() 是顺序执行,第二个要等第一个结束;互不依赖时用 asyncio.gather 或先建任务再统一等待,两秒加三秒的理想算例下串行约五秒、并发约三秒。是否独立取决于数据依赖——卡片要从摘要提炼就必须等摘要。并发数量要受控:Semaphore 限制的是同时在途的调用数,不等于每秒请求数限制,仍需按服务端限流规则处理拒绝与退避。gather 默认在某项抛异常时把异常抛给等待者,但不会自动取消其余任务;希望保留成功结果就用 return_exceptions=True 逐项判别,需要整组失败即停则另设取消策略。第 12 题的标准写法是信号量包住真正的模型调用、gather 负责按输入顺序收集,调用方必须逐项识别异常对象,不能把异常当正常内容入库或原样返回前端。