Skip to content

高级设置 ​

深度自定义AI的生成行为,获得最佳的角色扮演体验。


🎛️ 采样参数 ​

采样参数决定了 AI 如何从众多可能的输出中选择最终的回复。

Temperature(温度) ​

控制随机性,值越高输出越随机、越有创意;值越低输出越确定、越保守。

值效果适用场景
0.1-0.3非常确定事实性回答、翻译
0.5-0.7平衡日常对话
0.8-1.2创意模式角色扮演、创作
1.5+高度随机实验性输出

推荐值: 角色扮演通常使用 0.8-1.0

使用示例 ​

低温度 (0.3):

``` 用户: 你好 AI: 你好。有什么可以帮助你的吗? ```

高温度 (1.2):

``` 用户: 你好 AI: 眨了眨眼睛,嘴角微微上扬 哦?今天是什么风把你吹来了呢~ ```


Top-P(核采样) ​

只考虑累积概率达到 P 的 Token,过滤掉概率极低的选项。

值效果
0.1只选最可能的选项,非常保守
0.5中等多样性
0.9高多样性,推荐
1.0考虑所有选项

推荐值: 0.9-0.95

与 Temperature 的关系

Top-P 和 Temperature 可以同时使用。通常建议固定其中一个,调整另一个。

Top-K ​

只考虑概率最高的 K 个 Token。

值效果
1贪婪解码,完全确定
10-40中等多样性
100+高多样性
0禁用(考虑所有)

推荐值: 40-100 或 0(禁用)


Min-P ​

动态过滤:过滤掉概率低于最高概率乘以 min_p 的 Token。

工作原理:

  • 如果最可能的 Token 概率是 80%
  • min_p 设为 0.1
  • 则概率低于 8% 的 Token 会被过滤

推荐值: 0.05-0.1

推荐

Min-P 是较新的采样方法,通常比 Top-K 和 Top-P 效果更好,推荐尝试。

Typical-P ​

基于熵的采样,保留"典型"的 Token,排除过于意外或过于平凡的选项。

推荐值: 0.95-1.0


🔁 重复惩罚 ​

Repetition Penalty(重复惩罚) ​

惩罚重复使用相同的 Token,减少输出中的重复内容。

值效果
1.0不惩罚
1.05-1.15轻度惩罚,推荐
1.2-1.3中度惩罚
1.5+强惩罚,可能影响流畅度

推荐值: 1.1-1.15

Repetition Penalty Range(惩罚范围) ​

向后检查多少个 Token 来判断是否重复。

值效果
0检查所有历史
512检查最近 512 个 Token
1024检查最近 1024 个 Token
2048推荐值

Frequency Penalty(频率惩罚) ​

基于 Token 出现次数的惩罚,出现越多惩罚越大。

推荐值: 0.0-0.5

Presence Penalty(存在惩罚) ​

只要 Token 出现过就施加固定惩罚,鼓励使用新词汇。

推荐值: 0.0-0.5


🎲 Mirostat ​

自适应采样算法,自动调整参数以保持一致的输出困惑度。

参数说明推荐值
Mode0=关闭, 1=Mirostat 1, 2=Mirostat 22
Tau目标困惑度5.0
Eta学习率0.1

使用建议:

  • Mirostat 2 效果通常优于 Mirostat 1
  • 启用 Mirostat 时,Temperature 设为 1.0 即可
  • 适合需要稳定输出质量的场景

✂️ 其他采样方法 ​

Tail-Free Sampling (TFS) ​

移除概率分布尾部的低概率 Token,保留核心选项。

推荐值: 0.95-0.99

Top-A ​

基于最高概率的动态截断。当最高概率很高时减少候选,当最高概率较低时增加候选。

推荐值: 0.0(禁用)或 0.1-0.5


🛑 停止序列 ​

设置让模型停止生成的字符串。当模型生成这些内容时会立即停止。

常用停止序列 ​

  • Human:
  • User:
  • :

使用场景 ​

设置 : 作为停止序列,防止 AI 替用户说话。


🔧 推荐预设 ​

平衡型(推荐新手) ​

参数值
Temperature0.9
Top-P0.95
Top-K0
Min-P0.05
Rep Penalty1.1
Rep Range2048

创意型 ​

参数值
Temperature1.1
Top-P0.98
Top-K0
Min-P0.02
Rep Penalty1.05

稳定型 ​

参数值
Temperature0.7
Top-P0.9
Top-K40
Min-P0.1
Rep Penalty1.15

💡 调参技巧 ​

一次只调一个 ​

每次只调整一个参数,观察效果,避免混淆。

从推荐值开始 ​

使用推荐预设作为起点,逐步微调。

记录对比 ​

保存不同配置,对比输出效果。

模型差异 ​

不同模型对参数的敏感度不同,需要分别调整。

--- ​

⚠️ 注意事项 ​

参数冲突 ​

某些参数组合可能产生冲突:

  • Mirostat 启用时,建议关闭其他采样方法
  • Top-P 和 Top-K 同时使用时,两者取交集

模型兼容性 ​

参数OpenAIClaude本地模型
Temperature✅✅✅
Top-P✅✅✅
Top-K❌✅✅
Min-P❌❌✅
Mirostat❌❌✅
TFS❌❌✅

🔗 相关功能 ​


返回功能列表

Released under the MIT License.