Skip to content

高级设置

深度自定义AI的生成行为,获得最佳的角色扮演体验。


🎛️ 采样参数

采样参数决定了 AI 如何从众多可能的输出中选择最终的回复。

Temperature(温度)

控制随机性,值越高输出越随机、越有创意;值越低输出越确定、越保守。

效果适用场景
0.1-0.3非常确定事实性回答、翻译
0.5-0.7平衡日常对话
0.8-1.2创意模式角色扮演、创作
1.5+高度随机实验性输出

推荐值: 角色扮演通常使用 0.8-1.0

使用示例

低温度 (0.3):

``` 用户: 你好 AI: 你好。有什么可以帮助你的吗? ```

高温度 (1.2):

``` 用户: 你好 AI: 眨了眨眼睛,嘴角微微上扬 哦?今天是什么风把你吹来了呢~ ```


Top-P(核采样)

只考虑累积概率达到 P 的 Token,过滤掉概率极低的选项。

效果
0.1只选最可能的选项,非常保守
0.5中等多样性
0.9高多样性,推荐
1.0考虑所有选项

推荐值: 0.9-0.95

与 Temperature 的关系

Top-P 和 Temperature 可以同时使用。通常建议固定其中一个,调整另一个。

Top-K

只考虑概率最高的 K 个 Token。

效果
1贪婪解码,完全确定
10-40中等多样性
100+高多样性
0禁用(考虑所有)

推荐值: 40-1000(禁用)


Min-P

动态过滤:过滤掉概率低于最高概率乘以 min_p 的 Token。

工作原理:

  • 如果最可能的 Token 概率是 80%
  • min_p 设为 0.1
  • 则概率低于 8% 的 Token 会被过滤

推荐值: 0.05-0.1

推荐

Min-P 是较新的采样方法,通常比 Top-K 和 Top-P 效果更好,推荐尝试。

Typical-P

基于熵的采样,保留"典型"的 Token,排除过于意外或过于平凡的选项。

推荐值: 0.95-1.0


🔁 重复惩罚

Repetition Penalty(重复惩罚)

惩罚重复使用相同的 Token,减少输出中的重复内容。

效果
1.0不惩罚
1.05-1.15轻度惩罚,推荐
1.2-1.3中度惩罚
1.5+强惩罚,可能影响流畅度

推荐值: 1.1-1.15

Repetition Penalty Range(惩罚范围)

向后检查多少个 Token 来判断是否重复。

效果
0检查所有历史
512检查最近 512 个 Token
1024检查最近 1024 个 Token
2048推荐值

Frequency Penalty(频率惩罚)

基于 Token 出现次数的惩罚,出现越多惩罚越大。

推荐值: 0.0-0.5

Presence Penalty(存在惩罚)

只要 Token 出现过就施加固定惩罚,鼓励使用新词汇。

推荐值: 0.0-0.5


🎲 Mirostat

自适应采样算法,自动调整参数以保持一致的输出困惑度。

参数说明推荐值
Mode0=关闭, 1=Mirostat 1, 2=Mirostat 22
Tau目标困惑度5.0
Eta学习率0.1

使用建议:

  • Mirostat 2 效果通常优于 Mirostat 1
  • 启用 Mirostat 时,Temperature 设为 1.0 即可
  • 适合需要稳定输出质量的场景

✂️ 其他采样方法

Tail-Free Sampling (TFS)

移除概率分布尾部的低概率 Token,保留核心选项。

推荐值: 0.95-0.99

Top-A

基于最高概率的动态截断。当最高概率很高时减少候选,当最高概率较低时增加候选。

推荐值: 0.0(禁用)或 0.1-0.5


🛑 停止序列

设置让模型停止生成的字符串。当模型生成这些内容时会立即停止。

常用停止序列

  • Human:
  • User:
  • :

使用场景

设置 : 作为停止序列,防止 AI 替用户说话。


🔧 推荐预设

平衡型(推荐新手)

参数
Temperature0.9
Top-P0.95
Top-K0
Min-P0.05
Rep Penalty1.1
Rep Range2048

创意型

参数
Temperature1.1
Top-P0.98
Top-K0
Min-P0.02
Rep Penalty1.05

稳定型

参数
Temperature0.7
Top-P0.9
Top-K40
Min-P0.1
Rep Penalty1.15

💡 调参技巧

一次只调一个

每次只调整一个参数,观察效果,避免混淆。

从推荐值开始

使用推荐预设作为起点,逐步微调。

记录对比

保存不同配置,对比输出效果。

模型差异

不同模型对参数的敏感度不同,需要分别调整。

---

⚠️ 注意事项

参数冲突

某些参数组合可能产生冲突:

  • Mirostat 启用时,建议关闭其他采样方法
  • Top-P 和 Top-K 同时使用时,两者取交集

模型兼容性

参数OpenAIClaude本地模型
Temperature
Top-P
Top-K
Min-P
Mirostat
TFS

🔗 相关功能


返回功能列表

Released under the MIT License.