高级设置
深度自定义AI的生成行为,获得最佳的角色扮演体验。
🎛️ 采样参数
采样参数决定了 AI 如何从众多可能的输出中选择最终的回复。
Temperature(温度)
控制随机性,值越高输出越随机、越有创意;值越低输出越确定、越保守。
| 值 | 效果 | 适用场景 |
|---|---|---|
| 0.1-0.3 | 非常确定 | 事实性回答、翻译 |
| 0.5-0.7 | 平衡 | 日常对话 |
| 0.8-1.2 | 创意模式 | 角色扮演、创作 |
| 1.5+ | 高度随机 | 实验性输出 |
推荐值: 角色扮演通常使用 0.8-1.0
使用示例
低温度 (0.3):
``` 用户: 你好 AI: 你好。有什么可以帮助你的吗? ```
高温度 (1.2):
``` 用户: 你好 AI: 眨了眨眼睛,嘴角微微上扬 哦?今天是什么风把你吹来了呢~ ```
Top-P(核采样)
只考虑累积概率达到 P 的 Token,过滤掉概率极低的选项。
| 值 | 效果 |
|---|---|
| 0.1 | 只选最可能的选项,非常保守 |
| 0.5 | 中等多样性 |
| 0.9 | 高多样性,推荐 |
| 1.0 | 考虑所有选项 |
推荐值: 0.9-0.95
与 Temperature 的关系
Top-P 和 Temperature 可以同时使用。通常建议固定其中一个,调整另一个。
Top-K
只考虑概率最高的 K 个 Token。
| 值 | 效果 |
|---|---|
| 1 | 贪婪解码,完全确定 |
| 10-40 | 中等多样性 |
| 100+ | 高多样性 |
| 0 | 禁用(考虑所有) |
推荐值: 40-100 或 0(禁用)
Min-P
动态过滤:过滤掉概率低于最高概率乘以 min_p 的 Token。
工作原理:
- 如果最可能的 Token 概率是 80%
- min_p 设为 0.1
- 则概率低于 8% 的 Token 会被过滤
推荐值: 0.05-0.1
推荐
Min-P 是较新的采样方法,通常比 Top-K 和 Top-P 效果更好,推荐尝试。
Typical-P
基于熵的采样,保留"典型"的 Token,排除过于意外或过于平凡的选项。
推荐值: 0.95-1.0
🔁 重复惩罚
Repetition Penalty(重复惩罚)
惩罚重复使用相同的 Token,减少输出中的重复内容。
| 值 | 效果 |
|---|---|
| 1.0 | 不惩罚 |
| 1.05-1.15 | 轻度惩罚,推荐 |
| 1.2-1.3 | 中度惩罚 |
| 1.5+ | 强惩罚,可能影响流畅度 |
推荐值: 1.1-1.15
Repetition Penalty Range(惩罚范围)
向后检查多少个 Token 来判断是否重复。
| 值 | 效果 |
|---|---|
| 0 | 检查所有历史 |
| 512 | 检查最近 512 个 Token |
| 1024 | 检查最近 1024 个 Token |
| 2048 | 推荐值 |
Frequency Penalty(频率惩罚)
基于 Token 出现次数的惩罚,出现越多惩罚越大。
推荐值: 0.0-0.5
Presence Penalty(存在惩罚)
只要 Token 出现过就施加固定惩罚,鼓励使用新词汇。
推荐值: 0.0-0.5
🎲 Mirostat
自适应采样算法,自动调整参数以保持一致的输出困惑度。
| 参数 | 说明 | 推荐值 |
|---|---|---|
| Mode | 0=关闭, 1=Mirostat 1, 2=Mirostat 2 | 2 |
| Tau | 目标困惑度 | 5.0 |
| Eta | 学习率 | 0.1 |
使用建议:
- Mirostat 2 效果通常优于 Mirostat 1
- 启用 Mirostat 时,Temperature 设为 1.0 即可
- 适合需要稳定输出质量的场景
✂️ 其他采样方法
Tail-Free Sampling (TFS)
移除概率分布尾部的低概率 Token,保留核心选项。
推荐值: 0.95-0.99
Top-A
基于最高概率的动态截断。当最高概率很高时减少候选,当最高概率较低时增加候选。
推荐值: 0.0(禁用)或 0.1-0.5
🛑 停止序列
设置让模型停止生成的字符串。当模型生成这些内容时会立即停止。
常用停止序列
- Human:
- User:
- :
使用场景
设置 : 作为停止序列,防止 AI 替用户说话。
🔧 推荐预设
平衡型(推荐新手)
| 参数 | 值 |
|---|---|
| Temperature | 0.9 |
| Top-P | 0.95 |
| Top-K | 0 |
| Min-P | 0.05 |
| Rep Penalty | 1.1 |
| Rep Range | 2048 |
创意型
| 参数 | 值 |
|---|---|
| Temperature | 1.1 |
| Top-P | 0.98 |
| Top-K | 0 |
| Min-P | 0.02 |
| Rep Penalty | 1.05 |
稳定型
| 参数 | 值 |
|---|---|
| Temperature | 0.7 |
| Top-P | 0.9 |
| Top-K | 40 |
| Min-P | 0.1 |
| Rep Penalty | 1.15 |
💡 调参技巧
一次只调一个
每次只调整一个参数,观察效果,避免混淆。
从推荐值开始
使用推荐预设作为起点,逐步微调。
记录对比
保存不同配置,对比输出效果。
模型差异
不同模型对参数的敏感度不同,需要分别调整。
---
⚠️ 注意事项
参数冲突
某些参数组合可能产生冲突:
- Mirostat 启用时,建议关闭其他采样方法
- Top-P 和 Top-K 同时使用时,两者取交集
模型兼容性
| 参数 | OpenAI | Claude | 本地模型 |
|---|---|---|---|
| Temperature | ✅ | ✅ | ✅ |
| Top-P | ✅ | ✅ | ✅ |
| Top-K | ❌ | ✅ | ✅ |
| Min-P | ❌ | ❌ | ✅ |
| Mirostat | ❌ | ❌ | ✅ |
| TFS | ❌ | ❌ | ✅ |
🔗 相关功能
- CFG Scale - 使用引导提示词
- Logit Bias - 直接调整 Token 概率
- Token概率 - 查看生成概率