上下文窗口预算
按模型上下文窗口给系统提示、检索片段、历史对话与输出预留分配额度,算出每轮还能塞多少内容。
一轮请求的内容构成
按字数估算 token
占用与余量
超出窗口的会被截断
逐项占用
| 项目 | token | 占窗口 | 说明 |
|---|
反推建议配额
先定额度,再填内容
| 用途 | 建议 token | 大约放得下 |
|---|
配比按经验值切分:系统提示 15%、检索片段 35%、历史对话 50%,输出额度单独预留。
按模型上下文窗口给系统提示、检索片段、历史对话与输出预留分配额度,算出每轮还能塞多少内容。
逐项占用
| 项目 | token | 占窗口 | 说明 |
|---|
| 用途 | 建议 token | 大约放得下 |
|---|
配比按经验值切分:系统提示 15%、检索片段 35%、历史对话 50%,输出额度单独预留。