01
CHAPTER
6 节 · 按顺序完成
函数与代码组织
把重复的逻辑包起来 — 推理服务里到处是"接收请求 → 算 → 返回"的函数
01
1.1 定义和调用函数
推理服务的每个 HTTP handler 本质都是一个函数
→
02
1.2 参数:位置、关键字、默认
推理请求有 prompt、max_tokens、temperature... 怎么整齐地传给函数?
→
03
1.3 返回值与多返回值
推理函数经常需要一次返回多个东西:生成的文本 + token 数 + 耗时
→
04
1.4 *args 与 **kwargs
框架转发参数时经常出现 *args, **kwargs,搞不懂就看不懂源码
→
05
1.5 lambda 表达式
推理服务里很多"一次性小函数"——按长度截断、按规则过滤、给 key 排序
→
06
1.6 装饰器入门
推理服务每个 handler 都套着日志 / 计时 / 鉴权 / 限流的装饰器
→